ChatGPT üzere büyük lisan modellerinin (LLM’ler) kullanımı süratle artıyor. Bunun nedeni de işlerini çok âlâ yapıyor olmaları. Aslında, o kadar güzel ki, üniversite dersleri için açık ve ikna edici makaleler bile oluşturabiliyor. Bu nedenle artık, makine tarafından oluşturulan metinleri algılayan sistemlere gereksinim duyuluyor.
Kısa bir müddet evvel Stanford’daki bir küme araştırmacı DetectGPT isminde yeni bir metot önerdi ve bu usulün yükseköğretimde üretilen metinlerle çabada kullanılacak birinci araçlardan biri olmasını hedefliyor. Prosedür, LLM’ler tarafından üretilen metinlerin tipik olarak modelin mümkünlük işlevinin negatif eğrilik bölgelerinin belli bölgeleri etrafında dolaştığı fikrine dayanıyor. Bu içgörü sayesinde takım, metnin makine tarafından üretilip üretilmediğini kıymetlendirmek için bir yapay zekayı eğitmeye yahut metni karşılaştırmak için büyük data kümeleri toplamaya dayanmayan yeni bir formül geliştirdi.
- Son günlerin en tanınan konusu: ChatGPT nedir? ChatGPT nasıl kullanılır?
“Sıfır atış” olarak isimlendirilen bu yol, DetectGPT’nin makine tarafından yazılmış metni, onu üretmek için kullanılan yapay zeka hakkında rastgele bir bilgi olmadan tespit etmesini sağlıyor. Eğitim ‘sınıflandırıcıları’ ve gerçek ve üretilmiş pasajlardan oluşan bilgi kümeleri gerektiren öteki tekniklerin tam tersine çalışıyor.
Ekip DetectGPT sistemini bir dizi düzmece haber makalesinde kullandı ve sistem sahteleri ayıklamak açısından öteki tanımlama prosedürlerinden çok daha güzel bir iş çıkardı. DetectGPT makineler tarafından üretilmiş olan metinleri en yeterli tespit edecek sistem olabilir.
Özetle, DetectGPT, LLM’ler tarafından oluşturulan metni tespit etmek için yeni bir sistem. Rastgele bir ek bilgi yahut eğitim gerektirmiyor, bu da onu makine tarafından oluşturulan metni tanımlamak için verimli ve tesirli bir araç haline getiriyor. LLM’lerin kullanımı artmaya devam ettikçe, makine tarafından oluşturulan metinleri tespit etmek için ilgili sistemlerin değeri giderek daha kritik hale gelecek üzere görünüyor.
DetectGPT, birçok alanda değerli bir tesire sahip olabilecek umut verici bir yaklaşım ve daha da geliştirilmesi birçok alan için yararlı olabilir.
