Blog
Ajanınız neyi hatırlasın, neyi unutsun
Kısaca: Ajana hafıza eklemek bir ayar değil, bir karardır. Neyin kalıcı tutulacağı yazılmadan açılan hafıza, birkaç ay içinde bir kereye mahsus istisnayı kurum kuralı gibi tekrar etmeye başlar. Önce üç kovaya ayırın, yazma kuralını ajandan önce yazın, saklama süresini ve silmeyi aynı gün kararlaştırın.
Ajan ilk hafta işini iyi yapar. Üçüncü ayda, kimsenin hatırlamadığı bir bilgiye dayanarak cevap verir.
Kaynağını ararsınız. Bir kullanıcı bir kere bir şey söylemiştir, ajan onu kalıcı bir gerçek sayıp kaydetmiştir. O kural çoktan değişmiştir, ajanın hafızasında değişmemiştir.
Burada bozulan model değil. Hafıza açılırken neyin kalıcı olacağına kimse karar vermemiştir.
Hafıza bir özellik değil, bir karar
Çoğu ajan aracında hafıza bir anahtardır: açarsınız, çalışır. Açıldığı anda ajan kendi kendine ne tutacağına karar vermeye başlar.
Bu karar sessizdir. Kimse onay vermez, kimse görmez, kayıt büyür. Altı ay sonra ajanın cevabı iki kaynaktan beslenir: bağladığınız belgeler ve kimsenin okumadığı bir not yığını.
İkincisi zamanla ağır basar, çünkü ajan kendi notunu hem taze hem de size özel sayar.
Üç kova: kalıcı, görev süresince, hiç tutulmaz
Ayrımı üç kovayla yapmak yeterli.
Kalıcı: nadiren değişen ve değiştiğinde haberi olan şeyler. Şirketin adı, ürün listesi, onay basamakları. Görev süresince: sadece o işin içinde anlamı olanlar. Hangi dosyayla çalışıldığı, hangi müşteri için taslak hazırlandığı. İş bitince gider. Hiç tutulmaz: kişisel veri, fiyat ve sözleşme rakamı, bir kereye mahsus istisna, şimdilik böyle yapalım cümleleri.
Üçüncü kova en çok atlanan ve en pahalıya patlayan kovadır. Bir kereye mahsus istisna hafızaya girerse, ajan onu kural sanır ve bir daha sormaz.
Bir yapay zeka ajani kuruyorum ve hafizasini siniflandiracagim.
Ajanin isi: [ornegin teklif hazirlama, musteri yanitlari,
rapor derleme, satinalma talebi on degerlendirmesi]
Kullanan roller: [roller]
Ajanin eristigi kaynaklar: [sistemler ve klasorler]
Bana su listeyi uret:
1) KALICI tutulmasi gereken bilgi turleri (nadiren degisir,
degistiginde haber verilir)
2) GOREV SURESINCE tutulup is bitince silinecekler
3) HIC TUTULMAYACAKLAR (kisisel veri, tek seferlik istisna,
fiyat ve sozlesme rakami)
4) Yanlis kovaya dusme riski en yuksek uc bilgi turu ve nedeni
Emin olmadigin satiri tahmin etme, SORU olarak isaretle.Bu listeyi ajanı kurmadan önce çıkarmak zor değil, kurduktan sonra çıkarmak zor. Çıktıdaki dördüncü madde en çok işinize yarayacak olanı: riskli bilgi türlerini önceden görmek, sonradan temizlemekten ucuz.
Yazma kuralını ajandan önce yazın
Hafızaya ne zaman yazılacağı, ajan kurulduktan sonra düzeltilmez. Düzeltmeye karar verdiğinizde kayıt çoktan birikmiştir.
İşe yarayan kural kısadır: kullanıcı açıkça hatırla demedikçe kalıcı kovaya yazma. Araç çıktısı, arama sonucu ve modelin kendi çıkarımı kalıcı olmaz. Bunlar her seferinde yeniden üretilir, çünkü dün doğru olan bugün yanlış olabilir.
Bir de ters yön var: kullanıcı bir bilgiyi düzeltirse eski kayıt kalmaz, silinir. Yoksa ajan iki rakamı birden hatırlar ve hangisini kullanacağına kendi karar verir.
Ajanimin hafizaya yazma kuralini yazacagim.
Hafiza kovalari: [kalici / gorev / tutulmaz listesini yapistir]
Bana en fazla 10 maddelik bir yazma kurali uret. Su sorulari
acikca cevaplasin:
- Hangi durumda KALICI kovaya yazilir, hangi durumda yazilmaz
- Kullanicinin tek seferlik istisnasi nasil ayirt edilir
- Arac ciktisi ve modelin kendi cikarimi kalici olur mu
- Kullanici bir bilgiyi duzeltirse eski kayit ne olur
- Celisen iki kayit varsa hangisi gecerli sayilir
Her maddeyi ajana dogrudan verilecek talimat cumlesi olarak yaz,
aciklama ekleme.Çıkan metni ajanın talimatına olduğu gibi koyun. On maddeyi geçmesin: uzun kuralı model de uygulamaz, siz de okumazsınız.
Yanlış hatırlanan bilgi kendini tekrar eder
Hafızanın asıl riski burada. Yanlış bir kayıt bir kere cevaba girer, cevabı okuyan kişi doğru kabul eder, aynı bilgi ikinci cevapta daha emin bir dille geri gelir.
Kimse araya girmezse o kayıt kurum içinde gerçeğe dönüşür. Modelin uydurduğu bir şey değildir; sizin ekibinizin bir kere söylediği, bağlamını kaybetmiş bir cümledir.
Önüne geçmenin yolu denetim. Ayda bir, yirmi dakika: çelişen kayıtlar, tarihi geçmiş kayıtlar, kaynağı belli olmayan kayıtlar.
Ajanimin hafiza kayitlarini denetleyecegim.
Kayitlar: [kayitlari yapistir ya da dosya adini ver]
Bugunun tarihi: [tarih]
Her kayit icin su bes satiri uret:
1) Kovasi dogru mu (kalici / gorev / hic tutulmamaliydi)
2) Tarihi gecmis mi, hangi belirtiden anladin
3) Baska bir kayitla CELISIYOR mu, hangisiyle
4) Kaynagi belli mi, belli degilse isaretle
5) Onerilen islem: KALSIN / GUNCELLENSIN / SILINSIN
Sonunda en riskli bes kaydi ayri bir listede topla.
Kayitta kisi adi geciyorsa kimin yazdigini degerlendirme,
sadece bilginin dogrulugunu degerlendir.Son satır önemli. Denetimin amacı yanlış tutulan bilgiyi bulmak, kimin ne yazdığını çıkarmak değil.
Unutmak da bir iş
Saklama süresi olmayan hafıza büyümeye devam eder. Büyüdükçe iki sorun çıkar: ajan ilgisiz bir kaydı çekip cevaba koyar, ve her çağrıda daha fazla metin taşıdığınız için maliyet sessizce artar.
Her kovaya bir süre yazın. Görev kaydı iş biter bitmez gider. Proje kaydı proje kapanınca gider. Kalıcı kayıt yılda bir gözden geçirilir ve yenilenmeyen satır düşer.
Silmeyi kimin yapacağını da yazın. Yazılmazsa kimse yapmaz, çünkü silmek kimsenin işi değildir.
Ajan hafizasi icin saklama suresi tablosu yazacagim.
Kovalar ve ornek kayitlar: [liste]
Tabi oldugumuz saklama kurallari: [varsa yaz, yoksa YOK yaz]
Tablo sutunlari:
Kayit turu | Saklama suresi | Sureyi baslatan olay |
Silmeyi kim yapar | Silinmezse olusacak risk
Kurallarimizla celisen bir satir gorursen ayrica uyar.
Belirsiz sureleri -gerektigi kadar- diye yazma, SORU isaretle.Süreyi başlatan olay sütunu genelde atlanır ve tabloyu işe yaramaz hale getirir. Proje kapandı ile son kullanım üzerinden bir ay geçti aynı şey değildir.
Hafızadaki bilgi kimin
Ajan bir ekibe hizmet ediyorsa hafıza da ekibe aittir. Kulağa basit gelir, uygulamada değildir: bir kullanıcının söylediği şey başka bir kullanıcıya cevap olarak döner.
Üç satırlık bir sınır yeter. Kişiye özel kayıt kişinin oturumunda kalır. Ekip kaydı ekibe açıktır ve ekip onu görebilir. Üçüncü taraf bilgisi, sözleşme rakamı ve kişisel veri hiç girmez.
Burada bir sınır daha var: hafıza kayıtları çalışan izlemek için kullanılmaz. Kimin ne sorduğuna değil, hangi bilginin yanlış tutulduğuna bakılır. Kayıtlara kişi bazında bakıldığı gün ekip ajanla açık konuşmayı keser, araç da biter.
Şunu da unutmayın: hafızadaki her satır, modelin üzerine cümle kurabileceği bir zemindir. Kayıt kısa ve kaynaklı tutulursa uydurma payı azalır; serbest, yorumlu cümlelerle tutulursa artar.
Tek sayfalık hafıza notu
Hepsi tek sayfaya sığar ve ajan açılmadan önce yazılır: üç kova, yazma kuralı, saklama süreleri, denetim tarihi, erişim ve silme yetkisi.
Bu sayfa olmadan kurulan ajan çalışmaz demiyorum. Çalışır. Sadece altıncı ayda neden öyle cevap verdiğini kimse açıklayamaz.
Ajan hafiza notunu tek sayfaya yazacagim.
Girdiler: [uc kova listesi] [yazma kurali] [saklama tablosu]
Sayfa su basliklari tasisin, her biri en fazla uc cumle:
1) Bu ajan neyi hatirlar
2) Neyi hatirlamaz
3) Hafizaya ne zaman yazilir
4) Kayitlar ne zaman silinir
5) Denetim ne zaman yapilir ve kim yapar
6) Hafiza kayitlarina kim erisebilir
7) Bu notu kim guncelleyebilir
Sonuna tek satir ekle: bu sayfa guncellenmezse hangi tarihten
sonra gecersiz sayilacak.Son satırı atlamayın. Tarihsiz not, ilk altı ayda doğru, sonraki iki yılda yanlış olur.
Ajanınız sizin söylediklerinizi değil, kaydetmesine izin verdiklerinizi hatırlar.