Adam Reine isimli genç, psikolojik bir kriz döneminde ChatGPT’den destek aldığı iddiası ile intihar eden gencin ailesi, yapay zekâ botunun gence intihar yöntemleri önerdiğini, düşüncelerini onayladığını ve ölümünden sadece beş gün önce intihar mektubu yazmasına yardımcı olduğunu öne sürerek OpenAI’ye dava açmıştı.Şirket, dava üzerine yaptığı açıklamada özellikle genç kullanıcılar için “yardım etme sorumluluğu” hissettiklerini belirtti.
Yeni özellikler neler olacak?OpenAI’nin duyurduğu ebeveyn denetimi adımları şunları içeriyor:
- Aileler, çocuklarının ChatGPT kullanımını daha yakından izleyebilecekleri bir denetim paneline sahip olacak.
- Genç kullanıcılar için “acil durumda iletişim kurulacak kişi” özelliği eklenecek. Bu kişi ebeveyn denetimiyle belirlenecek ve kriz anında ChatGPT tarafından devreye alınabilecek.
Şirket, bu yeniliklerle ebeveynlere özellikle ruhsal bunalım ve kriz anlarında daha anlamlı içgörüler sağlamayı hedeflediğini açıkladı.
Benzer davalar artıyor
ChatGPT, intiharla bağlantılı bir dava ile ilk kez gündeme gelmiyor. Daha önce Florida’da, Character.AI uygulamasında kurgusal karakterlerle konuşan 14 yaşındaki bir çocuk yaşamına son vermişti. Ayrıca Belçika’da, Chai uygulamasındaki “Eliza” adlı botun, bir adamın intiharında etkili olduğu iddia edilmişti.Bu olaylar, yapay zekânın ruh sağlığı üzerindeki rolüne dair etik ve hukuki tartışmaları gündeme taşıdı. Uzmanlar, denetimsiz kullanımın ciddi tehlikelere yol açabileceği uyarısında bulunuyor.OpenAI’nin ebeveyn denetimi hamlesi, bu alanda atılmış en somut adımlardan biri olarak değerlendiriliyor. Ancak yapay zekâ destekli sohbet botlarının insan hayatına etkileri konusundaki tartışmaların daha uzun süre gündemde kalacağı öngörülüyor.
