Blog
Denetçi sordu: bu rakamı model mi yazdı?
Kısaca: Yapay zekanın ürettiği bir rakam ya da paragraf, kurum dışına çıkan bir rapora girdiği an sizin taahhüdünüz olur. Soru o gün gelmez; bir yıl sonra bir denetçiden, bir düzenleyiciden ya da yeni gelen bir yöneticiden gelir. Çıktının kendisi kanıt değildir, kanıt o çıktının nasıl üretildiğinin kaydıdır. Bu kaydı sonradan toplamak mümkün değildir, üretildiği anda tutulur.
Denetim sorusu hiç teknik olmaz. Genelde tek cümledir: bu rakam nereden geldi?
Yapay zekadan önce bu sorunun cevabı bir yerlerde duruyordu. Bir tabloda, bir e-postada, bir hesaplama dosyasında. Şimdi cevap çoğu zaman şu: modele sorduk, bunu yazdı.
Bu cevap bir kurumun verebileceği en zayıf cevaptır.
Dışarıya çıkan her çıktı bir gün sorulur
Kurum içinde kalan bir çıktı için kimse iz sormaz. Sorun, çıktının bulunduğu yerde kalmamasıdır.
Modelin ürettiği bir cümle sunuma girer, sunumdan rapora geçer, rapor bir bildirimin ekine iliştirilir. Üç adımda kurum dışına çıkar ve kimse hangi adımda ne eklendiğini hatırlamaz.
Soru da o gün gelmez. Altı ay, bazen on sekiz ay sonra gelir. Bir denetim, bir müşteri itirazı, bir devir toplantısı ya da yeni gelen bir yönetici onu getirir.
Ve o gün sorulan soru "model doğru muydu" değildir. "Bu nasıl üretildi, kim kontrol etti" olur. Elinizde sonuç vardır, süreç yoktur.
Bu sorunun önemli bir özelliği var: cevabı veren kişi genelde o çıktıyı üreten kişi olmaz. Çıktıyı üreten kişi o tarihte başka bir işte, bazen başka bir kurumdadır. Yani kaydı, bir yıl sonra size değil başkasına yetecek şekilde tutmanız gerekir.
İlk iş hangi ifadelerin iz gerektirdiğini görmek. Bunu elle taramak yorucu, modele yaptırmak kolay.
Asagida kurum disina cikmis bir rapor bolumu var.
Metin: [rapor metni]
Her ifadeyi uc isaretten biriyle etiketle:
- KAYNAK BELLI: metinde kaynagi aciklanmis
- KANIT GEREKIR: bir rakam, oran, karsilastirma ya da
tahmin iceriyor ve kaynagi yazilmamis
- IZ GEREKMEZ: genel ifade, yorum ya da tanim
KANIT GEREKIR isaretli her ifade icin, dogrulanmasi gereken
tek bir soru yaz.
Eksikleri tamamlamaya calisma, sadece listele.
Bu taramanın sonucu genelde rahatsız edicidir. Kurum dışına giden bir raporda kaynağı yazılmamış on beş rakam bulmak normaldir. Hepsini düzeltmek gerekmez, hangilerinin açıkta olduğunu bilmek gerekir.
Kanıt çıktı değil, çıktının kaydıdır
Çoğu kurumda yapay zeka çıktısı saklanıyor. Saklanmayan şey çıktının nasıl üretildiği.
Bir çıktıyı savunabilmek için altı şeyin yazılı olması gerekir: hangi soru soruldu, hangi modele soruldu, hangi veri verildi, cevap ne oldu, kim kontrol etti, nerede kullanıldı.
Bu altı alanın hiçbiri zor değil. Zor olan, işin yapıldığı anda yazılmaması. Sonradan toplanmaya çalışıldığında ilk kaybolan alan hep aynı oluyor: hangi veri verildi.
İkinci sırada prompt kayboluyor. Çoğu kişi sonucu kaydeder, soruyu kaydetmez. Oysa aynı veriyle farklı soru sorulduğunda farklı sonuç çıkar, dolayısıyla sorunun kendisi sonucun yarısıdır. Promptu özetleyerek değil, olduğu gibi saklamak gerekir.
Kurum ici kullanim icin tek cikti basina doldurulacak
KANIT KAYDI sablonu yaz.
Kullanim: [is adi, ornek: ceyreklik rapor metni]
Sablonda su alanlar olsun ve her alan tek satirda doldurulabilsin:
- Sorulan soru (promptun kendisi, ozet degil)
- Kullanilan model ve surumu
- Verilen veri: dosya adi, tarihi, kapsadigi donem
- Modelin cevabi oldugu gibi
- Kontrol eden kisi ve neyi kontrol ettigi
- Ciktinin kullanildigi yer
Toplam 150 kelimeyi gecme. Aciklama paragrafi yazma.
Bu kaydın yeri önemli değil. Paylaşılan bir tabloda da durabilir. Önemli olan, çıktıyı üreten kişinin onu doldurmadan işi kapatmamasıdır.
Her çıktı iz gerektirmez
Buradaki en büyük hata her şeye iz tutmaya çalışmaktır. İki hafta sürer, sonra kimse doldurmaz.
Çıktıları ayırmak gerekir. Dışarıya giden bir bildirim ile bir toplantı öncesi hazırlanan taslak aynı muameleyi görmez.
Asagida ekibimizde yapay zekayla uretilen is turleri var.
Liste: [is turleri]
Her birini uc kovadan birine koy:
- DISARIYA GIDER: kurum disina, musteriye ya da
duzenleyiciye ulasiyor
- KARAR DAYANAGI: ic karara girdi oluyor ama disariya cikmiyor
- IC TASLAK: sadece hazirlik, ciktisi baska bir ise girdi olmuyor
Her kova icin tutulacak en az kayit seviyesini yaz.
Hicbir kovada alti alandan fazlasini isteme.
Bir is birden fazla kovaya giriyorsa en ustteki kovayi sec.
Pratikte dışarıya giden işler çoğu kurumda toplamın yüzde onunu geçmez. Yükün tamamını o yüzde ona yıkarsanız sistem ayakta kalır. Her şeye yayarsanız kalmaz.
Aynı soruyu yarın sorduğunuzda aynı cevap gelmiyor
Denetimin en sevdiği kavram tekrar üretilebilirliktir. Yapay zeka tam burada zayıftır.
Aynı soruyu aynı veriyle iki kez sorduğunuzda cevap genelde benzer çıkar ama aynı çıkmaz. Model sürümü güncellendiyse farklı bile çıkabilir. Bu bir arıza değil, aracın doğası.
Önemli olan farkın büyüklüğünü bilmek. Cümle sırası değişiyorsa sorun yok. Sonuç değişiyorsa o çıktıyı dışarıya gönderemezsiniz.
Ayni soruyu ayni veriyle iki kez sordum.
Birinci cevap: [cevap 1]
Ikinci cevap: [cevap 2]
Iki cevabi karsilastir ve her farki siniflandir:
- DEGISMEDI: ayni bilgi, farkli ifade
- ONEMSIZ FARK: ayrinti farki, sonucu degistirmiyor
- FARKLI SONUC: rakam, yon ya da oneri degisiyor
FARKLI SONUC cikan her maddeyi ayri listele ve hangi girdinin
belirsiz kalmasindan kaynaklandigini tahmin et.
Hangi cevabin dogru oldugunu secmeye calisma.
Bu testi her çıktıda yapmak gerekmez. Dışarıya giden işlerde ilk kurulumda bir kez, sonra model sürümü değiştiğinde yapmak yeterlidir.
Rakamın yolculuğu rapordan önce başlıyor
Bir rakam modele girmeden önce bir sistemden çıkıyor. İzin en sık koptuğu yer burası.
Modele bir tablo verildi. O tablo hangi sistemden, hangi tarihte, hangi filtreyle alındı? Bu üç bilgi yoksa çıktının doğruluğunu tartışmanın anlamı yoktur, çünkü girdinin ne olduğu belli değildir.
Burada tek bir kural işe yarıyor: modele verilen her dosyanın adında tarih olsun. Sıkıcı ama altı ay sonra tek kurtarıcı o oluyor.
İkinci kural daha da basit: dışarıya giden bir çıktı için modele verilen dosyayı silmeyin. Kaynak sistemden aynı sorguyu altı ay sonra tekrar çalıştırdığınızda aynı tabloyu alamazsınız, çünkü sistemdeki veri geriye dönük düzeltilmiş olur.
Bu iki kural birlikte, denetimde en sık duyulan cümleyi engelliyor: rakam doğruydu ama hangi veriyle ürettiğimizi gösteremiyoruz.
İz tutmak gözetim değildir
Bu sistemi kurarken karşınıza çıkacak ilk endişe şu olur: kim ne sordu diye kayıt tutulacak mı?
Sınırı baştan yazın. Kanıt kaydı çıktı başına tutulur, kişi başına tutulmaz. Amaç bir işin nasıl üretildiğini göstermek, kimin modele kaç kere sorduğunu ölçmek değil. Bu sınırı yazmazsanız ekip kaydı doldurmayı bırakır ve sisteminiz ilk ayda ölür.
İkinci sınır modelin kendisiyle ilgili. Model kaynak uydurabilir. Çıktının içinde bir rapor adı, bir mevzuat maddesi ya da bir yüzde geçiyorsa, o kaynağın gerçekten var olduğunu kontrol eden insan olmak zorundadır. Kanıt kaydındaki "kontrol eden kişi" alanı tam olarak bunun için var.
Yarın yazılacak tek sayfa
Bu konu bir yönetmelik gerektirmiyor. Bir sayfa yetiyor.
Kurum ici tek sayfalik IZ NOTU yaz.
Girdiler: disariya giden is turleri [liste], kullanilan modeller
[liste], kaydin tutuldugu yer [yer].
Sayfada su bolumler olsun:
- Hangi ciktilar icin kanit kaydi tutulur, hangileri icin tutulmaz
- Kayitta bulunmasi zorunlu alanlar
- Modele verilen dosyalarin adlandirma kurali
- Kaydi kim doldurur ve isi kapatmadan once mi doldurur
- Kaynak dogrulamasini kim yapar
- Kaydin ne kadar saklanacagi
- Bu notun sahibi ve gecerlilik tarihi
Toplam 400 kelimeyi gecme. Giris paragrafi ve mazeret yazma.
Notun en kritik satırı dördüncüsü. Kayıt işin sonunda değil, iş kapanmadan doldurulacaksa tutulur. Sonra doldurulacaksa hiç tutulmaz.
Yapay zekanın kurumdaki asıl riski yanlış cevap vermesi değil, doğru cevabı hiçbir izi olmadan vermesidir.
