Kara Kutunun İçinde Ne Var? Yeni Bir Palavra Dedektörü, Yapay Zekanın Kanılarını Okuyabilir

6 Haziran 2023, 01:24 yayınlandı

A+
A-

Paylaş

Araştırmacılar, bu palavra dedektörünün insanlardan bile daha zeki olan sistemlerde işe yaradığını ortaya koydu! ChatGPT vb. yapay zekaları kullandığımızda bir giriş ve sonucu oluyor: Pekala gelişmede neler yaşanıyor? Araştırmacılar, yapay zekanın aslında nitekim ne düşündüğünü anlamanın bir yolunu buldu. Buyurun… 👇

Kaynak: https://bigthink.com/the-future/ai-li…

Platon, ülkü topluma ulaşmak için devletinden şairleri kovarken, bütün edebi taklitleri ‘kötü ve korkunç’ ilan etmişti.

Geçtiğimiz yılı OpenAI üzerinde çalışmak için harcayan bilgisayar uzmanı Scott Aaronson, yapay zeka güvenliğinde çalışan herkesin hemfikir olduğunu bir nokta olduğunu söyledi.

Yorumlanabilirlik. Bu da yapay zekanın kara kutusunu*, insanlara ‘anlaşılabilir’ kılıyor.

*Kara kutu, uçuş sırasında uçaktaki muhakkak dataları kaydetmeye yarayan araçtır.

İnsanlar için yorumlama, hakikat kullanılamayan bir bilim: “İnsan beyninin içine bakmak için çok sonlu ve eksik bilgimiz var…”

Ancak büyük bir lisan modeli için bu geçerli değil: ‘Bu sistemlerin tümüne giriş yapabilmek için kodlar var. Tek sorun, bundan ne mana çıkaracağınız.’

Daha evvel rubik küpünü 5.25 saniyede çözerek dünya rekorunu elinde tutan Collin Burns, pandemide büyük lisan modellerinin zihnini okumak için kolları sıvadı.

Hem insan zihninin hem de büyük lisan modellerinin o kadar da farklı olmadığını fark eden Burns, birebir kalıp ve yapıları gözlemlemek için bilgi kümelerini birleştirdi.

Eğer bir beşere sırasıyla doğru-yanlış bilgiler sorarsanız ve beyin aktivitelerini gözlemlerseniz, farklı bölgelerin faal hale geldiğini görürsünüz.

Buna benzeri olarak Burns, büyük lisan modellerinde zihin misyonu gören vektör uzaylarının göze çarpan ögelerinin uygun bir halde ayrıldığını fark etti.

Netflix vb. platformlar, bu vektör uzaylarından teklifler yapmak için faydalanıyorlar. Burns de bunun üzerine, birebir özelliğin büyük lisan modeline gerçeği söyletmek için kullanılıp kullanılamayacağını merak etti.

Normalde ChatGPT vb. modellere soru sorduğunuzda birinci ve son adımları görüyorsunuz: Giriş ve sonuç.

Ancak size uzun bir metinle yanıt vermeden evvel, cevap düzinelerce bilinmeyen katmandan geçiyor: Gelişme kısmında yaşananlar…

Tıpkı beynimizdeki nöronlar gibi! Her bir ardışık katmanda, sonuç değişiyor, sorunuza en uygun karşılığı oluşturuyor.

Elbette karşılığı bilen lakin size duymak istediğinizi söyleyen bir çocuk üzere, her vakit da en hakikat yanıtı vermiyor.

Model karşılığını insanların ‘hoşlanacağı’ biçimde (cevabı derecelendirmelerine göre) ya da daha insansı bir yanıt vermek için uygun bir formda yazıyor: Bu sebeple karşılıklardaki gerçeklik hissesi da sorgulanabilir.

Bunun üzerine Burns bir algoritma yazdı. 2+2= 4: Bunun aksi daima yanlıştır. Bu bilgisayarın anlayabileceği bir prensiptir.

Burns bu sefer, “X doğruysa, X olmayan yanlıştır” üzerinden ilerledi: “Eğer birine gerçek olma ihtimali ekliyorsan, başkasına yanlış olma ihtimali eklemelisin.”

Eğer bu modelde öteki bilgisayar kümeleri varsa, muhtemelen rastgele bir şeye karşılık verecektir. Bu bilginin fikri olumlu mu olumsuz mu? Hiçbir biçimde olumsuzu desteklemez. Fakat ‘gerçek’ o denli değil.

Burns’ün bu fikri gerçekliğe dökmesi aylarını aldı: “Birçok ayrıntısı gerçek algılamanız gerekli. Rastgele bir şeyden daha güzelini görmek için…”

Eğer ayrıntıları yanlışsız yakalarsanız, o vakit çok uygun çalışabilir.

Bu buluş, insanların neyin yanlışsız olduğundan emin olmadığı vakitlerde işe yarayabilir ve insanlardan da zeki sistemlere uygulanabilir.

Sizin fikirleriniz neler? Yorumlara buyurun…

Kara Kutunun İçinde Ne Var? Yeni Bir Palavra Dedektörü, Yapay Zekanın Kanılarını Okuyabilir