RAG nedir?
RAG (Retrieval-Augmented Generation), yapay zekâ modelinin bir soruya cevap vermeden önce ilgili bilgiyi sizin belgelerinizden bulup okuması yöntemidir. Model genel bilgisine göre değil, o anda bulduğu belge parçalarına dayanarak yanıt üretir ve hangi kaynağı kullandığını gösterir.
Bu yöntemin iki önemli avantajı vardır: model şirketinize özgü bilgileri bilir hale gelir ve verdiği cevap kontrol edilebilir olur. Çalışan cevabı okuduktan sonra kaynak belgeyi açıp doğrulayabilir.
Nerelerde kullanılır?
Kalite ve üretim prosedürlerinde "bu ürünün kontrol adımları neler?" sorusunun yanıtı; satış ekibinde ürün teknik özellikleri ve geçmiş tekliflerin bulunması; insan kaynaklarında izin, masraf ve yan haklar gibi politikaların sorulması; teknik serviste arıza kayıtları ve kullanım kılavuzlarından çözüm aranması; hukuk ve finans ekiplerinde sözleşme maddelerinin karşılaştırılması.
Ortak nokta şudur: bilgi şirkette vardır ama dağınıktır ve onu bulmak zaman alır. Asistan bu arama süresini kısaltır ve bilginin belirli kişilerin hafızasına bağlı kalmasını önler.
Gizlilik ve güvenlik
Kurumsal belgeler hassastır. Sistemi kurarken üç konuyu baştan ele alıyoruz: Birincisi barındırma; belgeleriniz ve model kurumsal bulut servislerinde veriyi eğitimde kullanmayan ayarlarla ya da tamamen kendi sunucunuzda çalıştırılabilir. İkincisi yetki; asistan, kullanıcının zaten erişim izni olmayan bir belgeden bilgi vermez. Üçüncüsü kayıt; kimin ne sorduğu ve hangi belgelerin kullanıldığı kayıt altına alınır.
Hangi verinin nerede işlendiğini proje başında yazılı olarak netleştiriyoruz.
Başarılı bir proje için belgeler
Asistanın kalitesi belgelerin kalitesine bağlıdır. Güncelliğini yitirmiş, birbiriyle çelişen veya taranmış ama okunamayan belgeler hatalı cevaplara yol açabilir. Projenin ilk adımında belgelerinizi inceliyor, eski sürümleri ayıklıyor ve okunamayan belgeleri metne çeviriyoruz. Kullanım raporları zamanla hangi konularda doküman eksik olduğunu da gösterir.