ChatGPT’nin yeni modelleri, oluşturulan metne filigran ekliyor
Yapay zeka devi OpenAI’nin tanınan sohbet robotu ChatGPT’nin yeni sürümlerinin, oluşturdukları metinlere eşsiz bir filigran yerleştirdiği ortaya çıktı.
Rumi Technologies araştırma takımı, bu filigranların bilhassa ChatGPT’den makale üzere daha uzun metinler üretmesi istendiğinde ortaya çıktığını keşfetti.
Bu filigranlama süreci, olağan boşluklara benzeyen lakin farklı ASCII kodlarına sahip olan Dar Kesintisiz Boşluk (NNBSP) üzere özel Unicode karakterleri kullanılarak gerçekleştiriliyor. Bu karakterler, metnin yapay zeka tarafından üretildiğine dair kapalı bir işaret bırakıyor.
GİZLİ KARAKTERLER NASIL TESPİT EDİLİR
Araştırmacılar, GPT-4o üzere daha eski ChatGPT modellerinde bu tıp filigranların bulunmadığını belirtiyor.
Kullanıcılar, bu zımnî karakterleri çeşitli çevrimiçi araçlar yahut Sublime Text üzere gelişmiş metin düzenleyiciler kullanarak tespit edebilirler.
Bu özel karakterlerin metin içindeki dağılımının rastgele olmadığı, sistematik bir desene sahip olduğu gözlemlendi.
Bu durum, filigranlama özelliğinin OpenAI geliştiricileri tarafından kasıtlı olarak uygulandığını düşündürüyor.
Bu gelişme, OpenAI’nin yapay zeka ile üretilen görsellere filigran eklemeyi test etmeye başlamasından kısa bir mühlet sonra geldi.
FİLİGRAN NE İŞE YARIYOR
Metinlere eklenen bu filigran özelliğinin temel maksadı, içeriğin yapay zeka tarafından üretilip üretilmediğini belirlemeye yardımcı olmak.
Ancak, bu formülün kimi sınırlamaları bulunuyor; kullanıcılar bu filigranların varlığını öğrendikten sonra bunları kolay kolay kaldırabilirler.
Basit bir bul ve değiştir süreciyle, metindeki özel Unicode karakterleri standart karakterlerle değiştirmek mümkün.
Bu durum, bilhassa ChatGPT’nin 31 Mayıs’a kadar öğrenciler için fiyatsız olduğu ve final projeleri ile ödevlerin ağırlaştığı bu devirde değer kazanıyor.
