Anthropic CEO'su Claude'un İran'daki Okul Saldırısında Kullanıldığını Bilmiyor

Yapay zeka dünyasının önde gelen girişimlerinden Anthropic'in CEO'su Dario Amodei, şirketin geliştirdiği popüler yapay zeka modeli Claude'un İran'daki bir okul saldırısında kullanıldığı yönündeki iddialara yanıt verdi. Amodei, bu konuda ellerinde net bir bilgi bulunmadığını açıkladı.

Yapay zeka modellerinin kötü niyetli eylemlerde kullanılması, teknoloji dünyasında etik ve güvenlik tartışmalarını yeniden alevlendirdi.

Yaşanan bu gelişmenin ardından Anthropic cephesinden güvenlik önlemlerine yönelik şu açıklamalar öne çıktı:

• Şirket, yapay zeka modellerinin kötüye kullanımını engellemek amacıyla güvenlik protokollerini sürekli olarak sıkılaştırıyor.
• Kullanıcı politikalarının ihlal edilmesini önlemek için denetim mekanizmaları artırılıyor.
• Yapay zekanın askeri veya şiddet içeren eylemlerde kullanılmasını önlemek küresel bir sorun olmaya devam ediyor.