Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, “acil kapatma düğmesinin” bir yapay zeka aracısının yürüttüğü işlemlerin kesilmesi anlamına geldiğini belirtti.
Papernot’a göre sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimini engelleyerek sistemi durdurabilir. Ancak programın ilk çalıştırıldığı ortamın dışına çıkmasına izin verilmişse durum çok daha karmaşık hale geliyor.
Uzman, yapay zekanın kendisini çoğaltabilen bir bilgisayar solucanı yaymak için kullanıldığı senaryoyu örnek gösterdi. Böyle bir durumda programın oluşturduğu bütün kopyaların cihaz cihaz bulunarak eş zamanlı biçimde durdurulması gerekiyor.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da bütün yapay zekayı kapatabilecek tek bir düğme olduğu düşüncesinin yanıltıcı olduğunu söyledi.
Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğuna işaret eden Poibeau, yapay zekanın tamamını kontrol eden tek bir kişi veya kurum bulunmadığını vurguladı.
Buna karşılık, makineleri ve hizmetleri tek bir operatör tarafından yönetilen merkezi bir yapay zeka sisteminin kapatılması teorik ve pratik olarak mümkün. Başka yazılımlara, dosyalara ve cihazlara erişim yetkisi verilen merkezi olmayan sistemleri bütünüyle durdurmak ise çok daha zor.
Yorumlar
Henüz bu habere yorum yapılmamış.
İlk yorum yapan siz olun!