Biz Bile Kandırılabiliyorken Yapay Zekâ İnternetteki Doğru ve Yanlış Bilgiyi Nasıl Ayırt Ediyor?

İnternette gezinirken bir sürü bilgiye denk geliyoruz. Pekala bu bilgilerin hepsi yanlışsız mu? Değil alışılmış. Biz bile vakit zaman geçersiz haberlere, algı oluşturmaya yönelik istatistiklere ya da kulaktan dolma şeylere inanabiliyorsak, yapay zekâ bu işi nasıl hallediyor? Gerçekle palavrası tam olarak nasıl ayırt ediyor?

Cevap kolay değil fakat değerli zira artık yapay zekâ hayatımızın içinde. Yeri geliyor ona soruyoruz, yeri geliyor fikir alıyoruz. Peki ya ne kadar güveniyoruz? Bu içeriğimizde yapay zekâ bilgileri nasıl ayırt ediyor ve neleri dikkate alıyor bunlara bakacağız.

Anlamıyor lakin tahlil ediyor

Önce şunu netleştirelim… Yapay zekâ bir bilgiyi görüp “hmm bu mantıklı” demez. Yani bizim üzere anlamaz. Onun yaptığı şey büsbütün kuramsal. Hangi söz hangisinden sonra daha mantıklı gelir, hangi cümle daha evvel nerelerde geçmiş üzere şeylere bakar.

Kısacası bilgiyi kıymetlendiriyor ancak bizim üzere hissederek ya da sezerek değil. Elindeki dev data yığınında, bir bilginin ne kadar yaygın olduğuna, nerelerde geçtiğine ve hangi kaynaklardan geldiğine nazaran karar veriyor.

Dil modellerinin kökenine inelim…

Sohbet ettiğiniz yapay zekâlar (mesela ChatGPT gibi) aslında devasa lisan modellerinden ibaret. Yani onlara milyonlarca metin okutulmuş ve hangi sözün, hangi cümleyle daha uygun gittiğini öğrenmişler.

Bu modellerin olayı, verilen bir soruya insan üzere yanıt vermek fakat verdiği karşılık aslında bir kestirimden ibaret. O yüzden kulağa çok gerçek üzere gelen bir bilginin aslında yanlış olabileceğini unutmamak gerekir. Zira modelin temeldeki emeli sizi etkilemektir.

Güvenilir olarak baz aldığı kaynaklar da yok değil

Yapay zekâ eğitilirken birtakım kaynaklara daha çok güvenebileceğini öğreniyor.

• Wikipedia
• Bilimsel makaleler, akademik yayınlar
• Büyük haber ajansları
• Devlet kurumları ve resmî açıklamalar

Bu şekil kaynaklardan gelen bilgileri genelde hakikat olarak ele alıyor zira bunlar sistemli olarak denetim edilen, düzeltme yapılan ve “ciddiye alınan” yerler. Yapay zekâ da haliyle buralardan gelen bilgiye daha fazla yük veriyor.

Peki bir bilgi her yerde varsa “doğru” mudur?

İşte burası kritik. Bir bilgi çok yaygınsa yapay zekâ bunu değerli bir sinyal olarak alıyor ancak her yerde olması her vakit yanlışsız olduğu manasına gelmez. Bilhassa toplumsal medyada bir saçmalık milyonlarca sefer paylaşılmış olabilir. Bu, onun yanlışsız olduğu manasına gelmez.

Tabii yapay zekâ bunu fark edecek halde eğitilmemişse o bilgiyi “doğru” olarak ele alabilir. Âlâ ile makus yapay zekâları birbirinden ayrıştıran da bu bahislerdeki başarısıdır.

Bilginin doğruluğuna karar verdiği süreç nasıl işliyor?

Yapay zekâ bilgileri şöyle kıymetlendiriyor diyebiliriz:

• Bu bilgi nerelerde geçmiş? (Kaynak kontrolü)
• Aynı bilgi diğer emniyetli yerlerde de var mı? (Çapraz kontrol)
• Bilgi yeni mi? Eski bilgilerle çelişiyor mu? (Zaman kontrolü)
• Kimin söylediği belirli mi?

Bu kriterlere nazaran bilgileri “daha güvenilir” yahut “şüpheli” olarak pahalandırıyor lakin her ne olursa olsun yapay zekâları hiçbir vakit %100 emniyetli olarak ele alamayız -ki bu mevzuda her yapay zekâ botu tekraren defa kullanıcıları uyarmakta ve edindiğiniz çıktıları iki sefer denetim etmenizi söylemekte-.

Günün sonunda iş yeniden bizde bitiyor

Ne kadar gelişmiş olursa olsun, yapay zekâ hâlâ insan zekâsının yerini tam olarak alamıyor. Onun için “gerçek” olan şey, datalarda en çok geçen, en emniyetli kaynaklardan alınan şeydir. Zira her şey bilgiye dayanıyor; mantığa, bağlama ya da sezgiye değil.

Tabii bundan yıllar evvel yapay zekânın bugün geleceği noktayı kavrayamayacağımız üzere gelecek yıllarda ne derece gelişeceğini de kestirmemiz güç. Hatta “sentetik zekâ” denilen şey de nispeten bu tip açıkları kapatmayı amaçlıyor lakin bu da bir öteki içeriğin konusu diyelim.

Yapay zekâ ile ilgili öbür içeriklerimize de göz atabilirsiniz: