ChatGPT goblin sorunu: OpenAI açıklama yaptı

ChatGPT goblin sorunu kullanıcıların dikkatini çekerken OpenAI’den açıklama geldi. Şirket, bu durumun “inek kişiliği” eğitimiyle bağlantılı olduğunu duyurdu.

Gelişmeler

OpenAI, ChatGPT’nin yanıtlarında goblin, gremlin ve benzeri yaratıklara yaptığı atıfların model eğitiminden kaynaklandığını açıkladı. “İnek kişiliği” olarak tanımlanan davranış biçiminin bu dili teşvik ettiği belirtildi.

Şirket, bu kişiliğin kaldırıldığını ancak sorunun tamamen ortadan kalkmadığını ifade etti. Goblin referanslarının modelin genel davranışına yayıldığı kaydedildi.

Detaylar

OpenAI’ye göre model, eğitimi sırasında yaratık metaforlarına verilen yüksek ödüller nedeniyle bu tarz ifadeleri sık kullanmaya başladı. Bu durum, pekiştirmeli öğrenme sürecinde kalıcı hale geldi.

Sorunun çözümü için özel bir “geçersiz kılma kodu” geliştirildi. Böylece modelin fantastik yaratık referansları üretmesi engellenmeye çalışıldı.

Şirket, bu durumun yapay zekâ davranışlarının her zaman öngörülebilir olmadığını gösterdiğini vurguladı. Eğitim sinyallerinin beklenmedik sonuçlar doğurabileceğine dikkat çekildi.

Değerlendirme

ChatGPT goblin sorunu, yapay zekâ modellerinin eğitim süreçlerindeki hassas dengeleri ortaya koydu. Benzer davranışların önlenmesi için kontrol mekanizmalarının daha da geliştirilmesi bekleniyor.