OpenAI yönetimi, insanların yapay zekâ sohbet botlarını sevmelerini istiyor, âşık olmalarını değil.
Yapay zekâ sohbet botları geliştiren firmalar, bu
modellerin mümkün olduğunca insansı davranışlar sergilemesini ve doğal
bir sohbet geliştirebilmesini isterler. OpenAI’ın son şirket içi
faaliyet raporuna göre firma, ChatGPT-4o’a âşık olunmasını istemiyor.
OpenAI raporda insanlar ile yapay zekâ sohbet botu arasındaki
ilişkilerin nasıl gelişebileceği konusundaki endişelerini dile
getirmekten çekinmiyor. OpenAI’ın daha önce blog yazılarında da
belirttiği üzere firmanın amacı, ChatGPT-4o ile konuşurken bir insanla
konuşuyormuş gibi hissetmenizi sağlamak.
İnsanlar ChatGPT-4o’yu insan gibi görmeye başlamış
OpenAI’ın yaptığı çalışmaya göre insanlar, ChatGPT-4o’yu bir insan
gibi görmeye başlamış durumda. Erken testler sırasında kullanıcıların modelle bağlantı kurmayı ifade eden bir dil kullandığı ortaya çıktı. Kullanıcılar, “Bugün birlikte son günümüz.” gibi ortak bağları ifade eden bir dil kullanmaya başladı.
Bu durum iki nedenden dolayı olası sorunlara işaret ediyor: Birincisi, yapay zekâ insan gibi görülmeye başlandığında insanlar yapay zekâya inanmaya daha yatkın hâle geliyor. İkincisi ise bu durum toplumsal normları
bozabilir. OpenAI’a göre bu durum yalnız olan kişilere fayda
sağlayabilir ancak sağlıklı ilişkiler kurulmasına da engel olabilir ve
diğer ilişkileri bozabilir. Ayrıca OpenAI’a göre bu durum insanların
diğer insanlarla da OpenAI ile konuşur gibi konuşmasına neden olabilir.
Şimdilik OpenAI, insanların chatbotlarıyla nasıl duygusal bağlar kurduğunu izlemeye ve gerekirse sistemlerini ayarlamaya devam edecek.
Kaynak: https://www.xda-developers.com/dont-fall-in-love-ai-chatbots-openai/
