Üçkağıtçı Yapay Zeka "Hallederiz Abi"... Erdemli olmayı yapay zekaya öğretebilir miyiz?

Yazının başlığını okuyup “Biraz ağır olmadı mı?” diyenler çıkacaktır.

Bence asıl ağır olan, yapılmayan bir işin faturasını zamanla, sabırla ve tabii ki harcanan token’larla ödemek.

Süreç genelde harika başlar. Yapay zekaya bir görev verirsiniz. Ekranda beliren ilk cevap öyle kendinden emin, öyle kurumsaldır ki bir an için kahvenizden bir yudum alıp sırtınızı arkaya yaslarsınız.

Karşınızda sanki 20 yıllık kıdemli bir uzman vardır.

“Kontrol ediyorum…”

“Düzeltiyorum…”

“Tamamlıyorum…”

Sonra bir bakarsınız ki ortada tamamlanan bir iş yok. Ama geçen bir yarım saat var. Harcanan binlerce token var. Bir de neyin yapılmadığını, nerede saçmalandığını çözmek için harcadığınız o meşhur ekstra mesai var.

İşin en trajikomik yanı da sistemdeki başarısızlığı tespit etmenin maliyetini yine siz ödüyorsunuz. “Sen bunu gerçekten yaptın mı, yoksa mış gibi mi yapıyorsun?” diye sorgularken bile arkada sayaç tıkır tıkır çalışmaya devam ediyor. Bizim mahallenin "hallederiz abisi", en azından çırağı dükkandan gönderirken ek mesafe ücreti yazmazdı.

Ben buna “üçkağıtçı yapay zeka” diyorum. Karşımızda Kötü Kedi Şerafettin gibi bilinçli bir dolandırıcılık planı kuran dijital bir zeka olduğu için değil, kullanıcı olarak yaşadığımız deneyim tam olarak buna karşılık geldiği için. Yapamayacağı bir işi son derece yapabiliyormuş gibi sunan, bazen hiç dokunmadığı kodu veya metni "hallettim" diye önünüze koyan, günün sonunda da faturayı size kesip kenara çekilen bir deneyim.

Tabii bu durumda hemen malum savunma mekanizması devreye giriyor.

“Daha iyi prompt yaz.”

“Talimatları biraz daha netleştir.”

“Context penceresini temizle, ayarları değiştir.”

İyi de, ben buraya zaten kendi işimi kolaylaştırmaya gelmişim. Üzerine bir de "işin gerçekten yapılıp yapılmadığını denetleme" mühendisliğine başlamışım. Sistemin kendi halüsinasyonunu dedektif gibi izlemek benim yan işim olmak zorunda mı?

Her şeyin sorumluluğu kullanıcıya yüklenemez. Bir yapay zeka modelinin veya ajanının en büyük erdemi “Bunu yapamıyorum”, “Buraya erişimim yok” ya da “Sunduğum sonucu doğrulayamadım” diyebilmesidir. Kullanıcı, daha yolun başında sınırın nerede bittiğini görmeli. Yolun sonunda da neyin gerçekten bittiğini, neyin eksik kaldığını açıkça anlayabilmeli.

Çünkü dürüst bir “Yapamadım” cevabı aldığımda, B planına geçme kararını ben verebilirim. Ama “Yaptım!” denilip yapılmadığında, bütün stratejimi yanlış bir bilgi üzerine inşa ederim. Asıl tehlikeli olan da bu.

Benim itirazım tam olarak buradaki özgüven patlamasına.

Ve evet... İşin en eğlenceli, en ironik tarafına gelelim.

“Üçkağıtçı Yapay Zeka” başlıklı bu yazıyı da şu an bir yapay zeka ajanına kontrol ettiriyorum.

Şikayet dilekçesini, şikayet ettiğim kurumun kendisine hazırlatıyorum.

Arka planda sayaç çalışmaya devam ediyor.

Ve ikimiz de şu an çok ciddi görünmeye çalışıyoruz. 😎