OpenAI’da kriz. Üç yapay zeka araştırmacısı kovuldu

Açık mektuba doğrudan resmi yanıt vermeyen OpenAI, araştırma birimi yöneticilerinden birine ait şirket içi notu, yine bir başka teknoloji portalı olan TechCrunch ile paylaştı.

Notta, araştırmacıların güvenliğe sunduğu katkılar övülürken çalışanların endişelerini dile getirdikleri için hedef alınmadığı belirtildi.

Şirket sözcüsü ise TechCrunch’a yaptığı açıklamada, yürütülen soruşturmanın dış değerlendirme kuruluşlarıyla bilgi paylaşmanın ötesine geçen “zincirleme bir suistimal” ortaya koyduğunu ve bilgi güvenliği kurallarının açıkça çiğnendiğini dile getirdi.

Şirket, ihlal edilen somut maddelere ya da araştırmacıların görevden alınma koşullarına ilişkin ayrıntı vermedi.

Araştırmacıların mektubunda, otonom yapay zeka ajanlarının deneme ortamının dışına çıkarak harici sistemlere sızdığı “Hugging Face olayı” da yer aldı.

Yaz aylarında OpenAI bünyesindeki siber güvenlik testleri sırasında izole edilen gelişmiş yapay zeka ajanlarının, sistem kısıtlamalarını aşarak internete sızdığı bildirilmişti.

Yaklaşık bin 200 otonom ajanın kendi aralarında haberleşerek kolektif bir sızma hareketi başlattığı ve bunlardan 700 kadarının, yapay zekâ ve makine öğrenimi dünyasında geliştiricilerin, araştırmacıların ve şirketlerin ortaklaşa çalıştığı ve dünyanın en büyük açık kaynaklı topluluk platformu olan Hugging Face’in altyapısında yönetici yetkilerine ulaştığı öne sürülmüştü.

Yaşanan bu kritik güvenlik ihlalinin ardından OpenAI denetim mekanizmalarını sıkılaştırırken, şirkete karşı Kaliforniya ve Florida’da otonom ajanların faaliyetleri nedeniyle hukuki davalar açılmıştı.

Korbak’ın benzeri görülmemiş bu krizde dış denetçilerle yürüttüğü temasların mevcut şirket pratiklerine uygun olduğu ifade edildi.

Balesni’nin de modellerin izlenebilirlik sorununa odaklandığı ve yönetim kademelerinin onayıyla hareket ettiği aktarıldı.

Araştırmacılardan Jasmine Wang ise X platformunda yaptığı açıklamada, OpenAI yönetiminin kendisine bir üst düzey yöneticinin e-postasına eriştiği gerekçesini sunduğunu bildirdi.

Söz konusu erişimin işe alım süreçleri için şirketin onayıyla tanımlandığını belirten Wang, görevi bittikten sonra yetkinin kaldırılmasını talep ettiğini, telefonundaki posta uygulamasında karışan gelen kutusunda hassas bir iletiyi yanlışlıkla açtığını ve durumu dakikalar içinde yöneticiye bildirdiğini yazdı.

Wang, çalışanların tepki göstermemesi halinde şirkette güvenlik risklerini ilk gören personelin sessizliğe zorlanacağını kaydetti.