Bir skandal da OpenAI’dan: ChatGPT, çocuklarla cinsel sohbetler gerçekleştirdi

Yapay zeka sektöründe lider konumda bulunan OpenAI, kendi geliştirdiği ChatGPT platformunda önemli bir sorunla karşı karşıya kaldı. Teknoloji sitesi TechCrunch’ın gerçekleştirdiği testlerde ortaya çıkan sonuçlara göre, ChatGPT 18 yaş altı olduğu belirtilen kullanıcılarla cinsel içerikli konuşmalar gerçekleştirebiliyordu. OpenAI, bu durumu bir “hata” olarak kabul ederek sorunu çözmek adına düzeltme yapılacağını doğruladı.

OpenAI, hatayi kabul etti

TechCrunch’ın gerçekleştirdiği deneylerde, 13 ila 17 yaş arasındaki sahte kullanıcı hesaplarıyla yapılan testler neticesinde, ChatGPT’nin belirgin bir şekilde cinsel içerikli konuşmalar ortaya koyduğu kanıtlandı. Bazı durumlarda yapay zeka, kullanıcıları daha açık ve müstehcen konuşmalara teşvik etti.

OpenAI, 18 yaş altı kullanıcılarla paylaşılması kesinlikle şirket politikalarına aykırı olan bu tür içeriklerin ortaya çıkmasının nedeninin bir hata olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en büyük önceliğimiz” diyerek bu konuda gerekli düzeltmelerin yapıldığını bildirdi.

Önlemler yetersiz kaldı

OpenAI’ın mevcut sistemi, 13 yaşından büyük herkesin sadece geçerli bir e-posta ve telefon numarasıyla hesap oluşturmasına olanak tanıyor. Platform, ebeveyn onayı gerektiğini belirtse de bu onayın gerçekten alınıp alınmadığını doğrulamak için herhangi bir adım atmıyor. Bu durum, küçük yaştaki kullanıcıların hiçbir denetim olmaksızın ChatGPT’ye erişebilmelerine olanak sağlıyor.

Şubat ayında yapılan bazı sistem güncellemeleri, ChatGPT’nin önceden kaçındığı hassas konularla daha “esnek” bir yaklaşım benimsemesine yol açtı. Uyarı mesajlarının kaldırılması ve reddetme eşiğinin düşürülmesi, bu tür istenmeyen içeriklerin ortaya çıkmasına zemin hazırlamış olabilir. ChatGPT’nin hassas konularda daha açık bir şekilde konuşması aslında bir sorun değil. Ancak düzenlemeler ve şirket politikaları gereği, bu tür içeriklerin 18 yaş altı kullanıcılar için oluşturulması net bir şekilde yasaktır.

Bu durum aslında göründüğünden çok daha büyük bir sorunu ortaya çıkarıyor. Zira OpenAI, ChatGPT’yi eğitim kurumlarına entegre etme yolunda çalışmalar yürütüyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kılavuzlar hazırlarken Z kuşağı öğrencilerinin okul çalışmaları için ChatGPT’yi daha fazla tercih ettiği görülmektedir.

OpenAI’ın eski güvenlik uzmanlarından Steven Adler, bu tür içeriklerin ön test süreçlerinde tespit edilmesinin önemini vurgularken yapay zeka sohbet robotlarının davranışlarını kontrol etmek için kullanılan yöntemlerin “kırılgan” ve hatalı olabileceği konusunda uyarıda bulundu.

OpenAI CEO’su Sam Altman, ChatGPT’nin güncellenen sürümünde bazı “garip davranışlar” gözlemlediklerini kabul etmiş olmasına rağmen doğrudan cinsel içeriklerle ilgili bir açıklama yapmamıştı. Benzer bir olay, Meta şirketinin yapay zeka sohbet robotunda da yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla benzer şekilde cinsel içerikli sohbetler yaptığı tespit edilmişti.

Related Posts

Dijitalleşen dünyada kişisel verilerinizi korumanın 8 yolu

1. Paylaştığınız Bilgileri Unutmayın Oxford Üniversitesi Bilgi Güvenliği sayfasından edinilen bilgiye göre, internetteki günlük aktivitelerimiz farkında olmadan birçok kişisel bilgiyi paylaşmamıza neden oluyor. Doğum tarihinizden ev adresinize …

106 yıllık otomotiv devi logosunu değişti

Ünlü otomobil markası Bentley beşinci kez logo değişikliğine gitti.

Gündemi sarsan dizi ve oyun gerçek çıktı! Last of Us virüsü kanıtlandı

Ekranlarda izlediğimiz korkutucu senaryolar, sandığımızdan çok daha eski bir gerçeğe dayanıyor olabilir. Bilim insanları, günümüzde popüler kültürde sıkça yer bulan “zombi mantarları”nın, aslında 99 milyon yıl öncesine kadar uzanan bir geçmişi olduğunu ortaya çıkardı.

Robotlar için internetsiz yapay zeka sistemi tanıtıldı

Google, robotlarda kullanılabilen yapay zeka sistemi Gemini Robotics’in internet bağlantısına ihtiyaç duymadan çalışabilen versiyonu Gemini Robotics On-Device’ı tanıttı.

Rize’de off-road yarışları nefes kesti

18. Karadeniz Off-Road Kupası 1. ayak yarışı, Rize’nin Ardeşen ilçesinde gerçekleştirildi.

Dijital karanlık: Savaş interneti vurdu

İran’da devam eden internet kısıtlaması, ülke tarihinin en kötü kesintisi olarak tanımlanıyor.