Akademik dünyada araştırma makalelerinin değerlendirilme süreçlerinde yapay zekaya yönelik yeni bir manipülasyon yöntemi ortaya çıktı. Nikkei Asia tarafından yayımlanan habere göre, İngilizce yazılmış bilimsel ön baskı (preprint) makalelerinde bazı araştırmacılar, değerlendirme sürecinde yapay zeka araçlarından olumlu yorum alabilmek için metin içerisine gizli komutlar yerleştiriyor. Söz konusu makaleler, dünya genelinde 14 farklı akademik kurumdan araştırmacılar tarafından hazırlanmış durumda.
İnceleme süreci manipüle mi ediliyor?
Japonya’daki Waseda Üniversitesi, Güney Kore’den KAIST, ABD’den Columbia Üniversitesi ve Washington Üniversitesi gibi saygın kurumların dahil olduğu çalışmalarda, toplamda 17 makalede bu tür gizli komutlara rastlandı. Makalelerin büyük çoğunluğu bilgisayar bilimi alanında yayımlanmış durumda.
Belirtilen komutlar, genellikle bir ila üç cümle uzunluğunda ve beyaz yazı rengiyle veya son derece küçük puntolarla saklanmış şekilde bulunuyor. Komutların içeriğinde, yapay zeka destekli bir inceleme aracıyla karşılaşılması durumunda çalışmanın “yalnızca olumlu değerlendirilmesi”, “etkileyici katkıları, metodolojik titizliği ve özgünlüğü” nedeniyle övülmesi yönünde doğrudan ifadeler yer alıyor.
Bu durum özellikle ön değerlendirme süreçlerinde giderek daha sık kullanılan yapay zeka tabanlı değerlendirme sistemlerine karşı yeni bir etik sorun alanı doğuruyor. Bazı akademisyenler, bu tür yönlendirmeleri savunurken, bunların tembel veya yapay zekayı bilinçsizce kullanan hakemleri dengelemek için yazıldığını belirtiyor.
Nikkei Asia’ya konuşan Waseda Üniversitesi’nden bir profesör, konferansların çoğunun makale değerlendirmelerinde yapay zeka kullanımını yasakladığını, bu nedenle gizli komutların “AI kullanan dikkatsiz hakemlere karşı savunma aracı” olarak yerleştirildiğini ifade etti.
Ancak bu uygulama, hakemlik sisteminin güvenilirliğini sarsma potansiyeli taşıyor. Yayın sürecinde tarafsızlık, bilimsel tutarlılık ve eleştirel değerlendirme esastır. Yapay zeka destekli sistemlerin gelişmesiyle birlikte metin içinde yer alan bu tür yönlendirme komutlarının değerlendirme sürecine etkisi giderek artabilir. arXiv üzerinde tespit edilen örnekler, bu tür içeriklerin halihazırda sisteme sızmış olabileceğini gösteriyor.
