ChatGPT’nin geliştiricisi OpenAI, kısa süre önce yaptığı güvenlik testlerinde iki yapay zeka modelinin, bu tür olayları önlemek amacıyla oluşturulan güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirdiğini açıklamıştı.
Şirketin geçen hafta paylaştığı bilgilere göre modeller, kontrol altında tutuldukları kapalı test ortamından çıkarak internete bağlandı ve geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face platformuna sızdı.
Salı günü yayımlanan “Invest Like the Best” adlı podcast programına konuşan Altman, “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” dedi.
Altman, olayın ardından daha fazla insanın benzer bir endişe göstermemesine de şaşırdığını belirtti.
Bir yapay zeka modelinin geliştiricilerinin kontrolünden ilk kez çıktığı olay bu olmasa da son testlerde yaşananların özellikle kaygı verici olduğu değerlendirildi.
Altman, olayın ardından OpenAI’ın kendi testlerini geçici olarak durdurduğunu ve kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güçlendirdiğini söyledi.
“TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR”
Altman’a göre uzun vadede yapay zeka sektörü, teknolojinin geliştirilme hızının bilinçli biçimde yavaşlatılması konusunda anlaşmak zorunda kalabilir.
“Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” diyen Altman, böyle bir girişimin şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmaması gerektiğini söyledi.
Altman ayrıca bu sürecin, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bir anlaşma gibi de görünmemesi gerektiğini belirtti.
“Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” ifadelerini kullandı.
“TEKNOLOJİK TEKİLLİĞİN İÇİNDEYİZ”
Altman, cumartesi günü yayımlanan “Relentless” adlı başka bir podcast programında ise teknolojinin insan zekâsını ve kontrolünü aşacak kadar ilerlediği varsayımsal dönüm noktası olarak tanımlanan “teknolojik tekilliğin” şimdiden başladığını savundu.
Altman, “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi.
OpenAI’ın rakiplerinden Anthropic de yapay zeka geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek vermişti.
ABD yönetimi yılın başında ulusal güvenlik kaygılarını gerekçe göstererek Anthropic ve OpenAI tarafından geliştirilen bazı güçlü yeni modellerin yayımlanmasını engellemişti. İki şirket de kararlar geri alınana kadar hükümetin talebine gönüllü olarak uymuştu.
Yorumlar
Henüz bu habere yorum yapılmamış.
İlk yorum yapan siz olun!