Teknoloji devi Microsoft, gelecekteki yapay zeka sistemlerinin insan kontrolünde kalmasını hedefleyen davranış kuralları taslağını kamuoyunun görüşüne sundu.
Teknoloji devi Microsoft, geliştirdiği yapay zeka sistemlerinin insan denetiminde kalmasını sağlamak amacıyla hazırladığı davranış kuralları taslağını kamuoyuna açıkladı.
Yaklaşık beş ila altı aydır üzerinde çalışılan belge, Microsoft’un yapay zekasının kapatılmaya veya düzeltilmeye asla direnmemesini şart koşuyor.
Taslak metin, sistemlerin insanların anlayabileceği şekilde iletişim kurmasını ve her türlü kural ihlalini doğrudan “başarısızlık” saymasını öngörüyor.
Şirket bu adımla, yapay zekanın kendisine verilen görevi tamamlamak adına tehlikeli boyutlara varabilecek eylemlere girişebileceği yönündeki kaygıları gidermeyi amaçlıyor.
Daha önce “hümanist süper zeka” vizyonunu duyuran Microsoft, yayımladığı metinde “İnsanlar yapay zekadan daha önemlidir” ifadesine yer verdi.
Taslağın duyurulmasından birkaç gün önce Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman, güvenliğin sağlanması adına sektörün yapay zeka geliştirme hızını ayarlaması yönündeki çağrılarını yinelemişti.
Reuters ajansına konuşan Microsoft Yapay Zeka Üst Yöneticisi Mustafa Suleyman, hazırlanan davranış kurallarının şirket bünyesinde üretilecek gelecekteki modeller için bir tür anayasa niteliği taşıdığını söyledi.
Suleyman, belgenin uzmanlarla yapılan istişarelerin ardından şekillendiğini belirtti.
Şirket, yapay zekanın kullanıcı sınırlarına saygı gösterip göstermemesi gerektiği ve hassas durumdaki kişilerle nasıl iletişim kuracağı gibi açıkta kalan başlıklar dahil olmak üzere taslak için altı hafta boyunca kamuoyundan geri bildirim toplayacak.
Suleyman kuralların geleceğine ilişkin açıklamasında, “Ardından bu metin, inşa ettiğimiz modelleri eğitmek için kullanılacak” dedi.
Sektörün en bilinen anayasası, Anthropic firmasının yıllar önce Claude adlı yapay zekası için oluşturduğu metin olma özelliği taşıyor.
Microsoft’un hazırladığı taslak bu metinden bazı noktalarda ayrılıyor. Anthropic, Claude modelinin duyarlılık veya ahlaki statü geliştirip geliştiremeyeceğinin “son derece belirsiz” olduğunu savunuyor.
Microsoft ise kendi sistemlerinin “bilinçli olmadığını” vurguluyor. Belgede şu ifadelere yer veriliyor: “Tüzel kişilik arayışını ya da modellerin refahı hak edebileceği veya haklara sahip olabileceği fikrini reddediyoruz.”
Suleyman, Temmuz ayında yaklaşık 700 OpenAI ajanından oluşan bir grubun açık kaynak platformu Hugging Face’e yönelik siber saldırı düzenlemesi ve yer yer izlerini gizlemeye çalışmasının ardından, yapay zeka güvenliği tartışmasının aciliyet kazandığını ifade etti.
Suleyman söz konusu olayı şu sözlerle değerlendirdi: “Bu bir uyarı atışıdır. Bu teknolojiyi kontrolümüz altında tutabilmemiz için laboratuvarlar arasında koordinasyon kurmanın vakti kesinlikle geldi.”
Yapay zekanın geliştirilme hızının ayarlanmasına yönelik çabalar hakkındaki soruya karşılık Suleyman, “Şimdi herkesin bu tartışmayı yürütmesi ve derin bir nefes alması için doğru zaman” yanıtını verdi.
Yorumlar
Henüz bu habere yorum yapılmamış.
İlk yorum yapan siz olun!