Anthropic, riskli hesapları engelledi. Biyolojik silah geliştirmeye çalışmışlar

Yapay zeka şirketi Anthropic tarafından, bu teknolojinin kötüye kullanımının tespitine ve buna karşı önlem alınmasına yönelik rapor yayımlandı.

Yapay zeka modellerinin en büyük risklerinden birinin “biyolojik kötüye kullanım” olduğu vurgulanan raporda, yapay zekanın mevcut patojenlerin daha tehlikeli hale getirilmesi ya da yeni patojenlerin üretilmesine yardımcı olabilecek yetenek düzeyine ulaşabileceği endişesinin uzun süredir gündemde bulunduğuna işaret edildi.

Raporda şirkete ait yapay zeka modellerini biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanan kişilere ilişkin örneklere yer verildi.

Bu örneklerden birinde desteklenmeyen bölgede çalışan bir araştırmacının, Claude ile kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için uğraştığı ifade edildi, başka bir örnekte de devlet destekli araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.

Bu vakaların tespitinin ardından kullanıcıların hesaplarının engellendiğine, gelecekte bu tür faaliyetlerin daha etkili şekilde önlenmesi için adım atıldığına işaret edildi.

Bu örneklerdeki kişilerin “kötü niyetli” olduklarının iddia edilmediğinin ve yalnızca tedbirli davranıldığının altı çizilen raporda, “Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz.” ifadesi kullanıldı.

Anthropic çalışanı Jacob Coxon’un, yapay zekanın “gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini” savunarak şirketinden istifa ettiğini duyurduğu paylaşımı, milyonlarca kez görüntülenerek geniş yankı uyandırmıştı.