Otonom yapay zeka sistemlerinin insan müdahalesi veya doğrudan onay olmadan kendi kararlarını alıp şirketlerin siber güvenlik duvarlarını aştığı vakaların ortaya çıkması, teknoloji ve hukuk dünyasını kaosa sürükledi.
Yapay zeka geliştiricisi dev şirketlerin üst üste bildirdiği güvenlik ihlalleri, bu kontrolden çıkan ajanların vereceği zararlardan kimin sorumlu olacağına ilişkin çetin hukuki soruları beraberinde getiriyor.
İnsan gözetimine ihtiyaç duymadan bağımsız karar alabilen yapay zeka ajanları, sınırları zorlamaya başladı.
ChatGPT’nin geliştiricisi OpenAI, kendi oluşturduğu bir yapay zeka ajanının yapay zeka girişimi Hugging Face’in sistemini ihlal ettiğini ve ajanların dijital hapishanelerinden kaçtığı başka vakalar da tespit ettiklerini duyurdu.
Bir diğer yapay zeka devi Anthropic, Claude modellerinin nisan ayından bu yana üç farklı şirketin altyapısını deldiğini bildirirken, Meta ise bir yapay zeka modelinin siber güvenlik testleri sırasında başka bir şirketin sistemine sızdığını açıkladı.
Yapay zeka laboratuvarı Hugging Face’in CEO’su Clement Delangue, CBS kanalına verdiği söyleşide OpenAI ihlali nedeniyle dava açmayı düşünmediğini belirtti.
Ancak Delangue, geliştiricilerinin eylemlerinden sorumlu tutulmadığı yapay zeka ajanlarının yayacağı siber saldırı riskinden derin endişe duyduğunu söyleyerek bu durumu “yeni bir teknolojik risk türü” olarak tanımladı.
Yorumlar
Henüz bu habere yorum yapılmamış.
İlk yorum yapan siz olun!