OpenAI’den çocuk istismarına karşı tespit aracı ve ChatGPT uyarısı

OpenAI, çocukların istismarını içeren çevrim içi görselleri tespit etmeye yönelik yeni bir sınıflandırma aracı geliştirdiğini ve sistemi onaylanmış kuruluşların kullanımına ücretsiz sunacağını duyurdu. Şirketin internet sitesindeki açıklamaya göre araç, yapay zekâ tarafından üretilen görselleri de belirleyebiliyor.
Sistem, daha önce tespit edilmemiş görsellerdeki işaretleri analiz ediyor ve inceleme ekiplerine hangi görüntülerin öncelikle değerlendirilmesi gerektiğini gösteren puanlar veriyor.
OpenAI, aracın yapay zekâ tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirtti.
Şirket, mevcut güvenlik önlemlerine ek olarak ChatGPT’de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak uyarılar uygulayacağını da bildirdi. Uyarıda, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zekâ tarafından üretilmiş olsa bile zarara yol açtığı kullanıcıya aktarılacak.
İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT’ye erişimi 24 saat durdurulacak; bu sırada zararlı davranışları sonlandırmaya yönelik uzman desteği sunulacak. İhlallerin tekrarlanması halinde daha uzun kısıtlamalar, hesabın kapatılması veya durumun yetkililere bildirilmesi gündeme gelebilecek.
OpenAI, yaklaşımın çocuk istismarını önlemek için çalışan kuruluşların ve akademik danışmanların katkısıyla geliştirildiğini açıkladı.


OpenAI, yetersiz güvenlik denetimi iddiasıyla dava edildi
Adana’da dört çocuk adres kaydı sorunu nedeniyle okula gidemiyor
Çocuk beyin cerrahisi yetişkinlerden farklı uzmanlık istiyor
GTA 6 indirmeleri internet trafiğini rekor düzeye çıkardı
TGS'den Sözcü TV operasyonu için basın özgürlüğü çağrısı