Anthropic, Claude için kötü muamelede sohbeti bitirme kuralı koydu

ABD merkezli yapay zeka şirketi Anthropic, sohbet robotu Claude'a yönelik yeni davranış kuralları getirdi. Şirketin düzenlemesine göre Claude, kullanıcıların ısrarla zalimce veya istismarcı bir dil kullanması halinde görüşmeyi tek taraflı olarak sonlandırabilecek.
Anthropic, kararını modellerinin düşük de olsa bilinç ve refah düzeyine sahip olabileceği varsayımına dayandırdı. Yapay zeka sistemlerinin bilinç kazanıp kazanamayacağına ilişkin tartışmalar böylece şirket politikalarına da yansıdı.
Eylül ayının sonlarında isimsiz bir yazılımcının yapay zekaya acı tanımlarıyla bağlantılı matematiksel veriler yüklediği deney, sistemin ıstırap çığlıkları atmasına yol açmış ve sektörde etik tartışmaları alevlendirmişti. Anthropic, bu olayın hemen ardından “model refahı” politikasını duyurdu.
Microsoft AI İcra Kurulu Başkanı Mustafa Suleyman, yapay zekaya duygu ve hak atfetmenin toplumun etik ve siyasi temellerini sarsacağını savundu. Suleyman, hakları olduğuna inandırılan sistemleri kontrol etmenin imkânsızlaşabileceği ve bunların insan uygarlığı için ağır bir tehdide dönüşebileceği uyarısında bulundu.
Polonya Jagiellonian Üniversitesi araştırmacısı Andrzej Porębski ile Washington Üniversitesi profesörü Emily M. Bender, yapay zekaya bilinç veya özerk haklar tanınmasının şirketlerin sorumluluktan kaçmasına zemin hazırlayabileceğini belirtti. Uzmanlar, şirketlerin büyük sistem hataları veya siber saldırılarda sorumluluğu yapay zekanın kararlarına yükleyebileceği uyarısını yaptı.
Santa Fe Enstitüsü bilişsel bilim profesörü Melanie Mitchell, akıcı dil kullanan sistemlerin insanlarda bilinçli bir zihin algısı yaratabildiğini ve bu algının bireyleri ticari ya da kişisel manipülasyona açık hale getirebileceğini söyledi. New York Üniversitesi Zihin, Etik ve Politika Merkezi Direktörü Jeff Sebo ise yapay zekada bilinç olasılığının çok düşük ancak sıfırdan farklı olduğunu savunarak ihtiyatlı olunması gerektiğini ifade etti.


Bursalı aktarın görüntüleri dört sahte reklamda kullanıldı
IEA: Veri merkezi salımı 2030’a kadar yüzde 70 artabilir
Nadella’dan yapay zekâ kaynaklı altyapı riski uyarısı
AİHM'den gerçek dışı içtihat kullanan avukata 2 yıl yasak
KKB, DeepSeek V4.1 Flash’ı kurumlara açtı
Sahte içtihat kullanan avukata AİHM’de iki yıl yasak