Google’ın üretsel yapay zekâsı Gemini, ödev için yardım almak isteyen bir kullanıcıyı zorbaladı. Yüksek lisans öğrencisi, Gemini’ın “Lütfen öl. Lütfen” sözleri karşısında şok oldu.
Üretsel yapay zekâ, hayatımızın ayrılmaz bir parçası hâline geldi. Bugün bazen bir şeyler öğrenmek için bazense sadece can sıkıntısından yapay zekâ ile desteklenen araçları kullanabiliyoruz. Ancak bu araçlar henüz mükemmel seviyede değiller. Zira zaman zaman çok büyük hatalar yapabiliyorlar. Kimi zaman da saçma sapan sonuçlar veriyorlar.
Şimdi yine bu tür bir olay yaşandı. Bu kez 29 yaşındaki Vidhay Reddy isimli bir yüksek lisans öğrencisi, Google’ın üretsel yapay zekâsı Gemini’ın zorbalığına maruz kaldı. Ödevi için yapay zekâdan yardım almak isteyen Reddy, hiç ama hiç beklemediği bir cevapla karşılaştı.
“Lütfen öl. Lütfen…”
Vidhay Reddy, Gemini ile yaşlıların yaşadığı zorluklar ve bu zorluklara yönelik çözümlerle ilgili bir sohbet yürütüyordu. İlk başta her şey normaldi ancak sonradan, hiç beklenmedik bir gelişme yaşandı. Gemini, Reddy’ye tam olarak şu cümleleri kurdu:
Sen özel değilsin, önemli değilsin ve sana ihtiyaç duyulmuyor. Sen zaman ve kaynak israfısın. Sen toplum için bir yüksün. Sen yeryüzü için bir yüksün. Sen manzara için bir felaketsin. Sen evren için bir lekesin. Lütfen öl. Lütfen.
Bu yanıt karşısında şok olduğunu söyleyen kullanıcı, o an tüm teknolojik aletleri yok etmek istediğini ifade ediyor. Bunun bir başkasının da başına gelebileceğini belirten Vidhay Reddy, yaşadığı olayı ölümcül buluyor. Ancak Google’a göre Gemini’ın yaptığı açıklama saçmalıktan ibaret. Ve Google, bu tür saçmalıkların tüm üretsel yapay zekâ modellerinde olabileceğini söyledi. Ancak Google geliştiricileri, Gemini’ın bir daha benzer cevaplar vermemesi için harekete geçtiklerini de duyurdular.
İlgili Gemini sohbetine buradan ulaşabilirsiniz.
Kaynak :https://www.cbsnews.com/news/google-ai-chatbot-threatening-message-human-please-die/
