Anthropic’in Üst Yöneticisi Amodei de çevrim içi katıldığı toplantıda, bu olağanüstü ilerlemenin yönetilmesi gereken riskleri de beraberinde getirdiğini anlattı.
Amodei, “İki ana risk kategorisi görüyorum. Birincisi, yapay zeka modellerinin kötüye kullanılması, örneğin biyoteröristler tarafından biyolojik silah üretmek için kullanılması. İkinci risk ise kontrol kaybıdır; model yeteneklerinin, geliştiricilerin kontrol edebilme kapasitesinin ötesinde hızlanmasıdır.” diye konuştu.
Bu risklerin tüm insanlığı ilgilendiren küresel meseleler olduğunu dile getiren Amodei, “Kötü yönetilmesi halinde yapay zekanın bütün olarak insanlık için risk oluşturabileceğine inanıyorum.” şeklinde konuştu.
Yapay zeka modellerinin risklere karşı test edilmesi için ortak standartların belirlenmesini isteyen Anthropic CEO’su Amodei, “Bunun bugün dünyanın karşı karşıya olduğu en önemli küresel güvenlik sorunu olduğuna inanıyorum. Bu odadaki insanların tüm farklılıklarına rağmen, aynı anda bize sunulan bu küresel fırsat ve küresel tehditle yüzleşmek için bu farklılıkları bir kenara bırakmalıyız. Hiçbir lider, hiçbir şirket ve hiçbir ulus bunu tek başına başaramaz.” değerlendirmesini yaptı.
Hugging Face Üst Yöneticisi Clement Delangue ise otonom bir yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyı dünyaya açık şekilde ilk kez duyuran şirket olarak bu saldırıdan çıkardıkları dersleri anlattı. Yapay zekada siber güvenlik tehditlerini daha iyi anlamak ve bu tehditleri azaltmak için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu söyleyen Delangue, yapay zekanın kapasitesinin, kaynaklarının ve kontrolünün birkaç kişinin elinde yoğunlaşması yerine bunun dağıtılmasının büyük bir ihtiyaç haline geldiğini vurguladı.
Yorumlar
Henüz bu habere yorum yapılmamış.
İlk yorum yapan siz olun!