Grok artık insanları soyamayacak

Elon Musk’ın sahibi olduğu sosyal medya platformu X, yapay zeka botu Grok’un insanların görüntülerini soyarak cinselleştiren görseller üretmesini engelleyecek önlemler açıkladı. Karar, kadınlar ve çocuklara ait cinsel içerikli görsellerin üretilmesine yönelik küresel tepkinin ardından geldi.

Açıklama, birçok ülkenin Grok’a erişimi engellemesi ya da isoruşturma açmasının ardından yapıldı.

X, bazı ülkelerde Grok ve X kullanıcılarının “bikini, iç çamaşırı ve benzeri kıyafetlerle” kişilere ait görseller oluşturmasını coğrafi olarak engelleyeceğini duyurdu.

ÜCRETLİ ABONELER DAHİL HERKES İÇİN KISITLAMALAR

Platformun güvenlik ekibi, “Grok hesabının, bikini gibi açık kıyafetlerle gerçek kişilerin görüntülerini düzenlemesine izin vermeyen teknolojik önlemler uyguladık.” açıklamasını yaptı. Bu kısıtlamanın ücretli aboneler dahil tüm kullanıcılar için geçerli olduğu belirtildi.

Ayrıca “ek bir koruma katmanı” olarak, X üzerinden Grok’la görsel oluşturma ve fotoğraf düzenleme yetkisinin yalnızca ücretli abonelere açıldığı kaydedildi.

AB’nin dijital denetçisi olan Avrupa Komisyonu, X’in Grok’un kadınlar ve çocuklara yönelik cinselleştirilmiş görseller üretmesini yasaklamak için attığı “ek adımları” not ettiklerini bildirdi. Komisyon Sözcüsü Thomas Regnier, bu değişikliklerin AB’deki vatandaşları etkili biçimde koruyup korumadığının yakından değerlendirileceğini söyledi.

PEŞ PEŞE GELEN KORUYUCU ADIMLAR

Baskı, Grok’un “Spicy Mode” adlı özelliğinin, “onu bikiniyle göster” ya da “kıyafetlerini çıkar” gibi basit metin komutlarıyla kadınlar ve çocuklar hakkında cinsel içerikli deepfake’ler üretmeye imkan tanımasının ardından artmıştı. 

Baskı artarken, 28 sivil toplum kuruluşundan oluşan bir koalisyon, Apple ve Google CEO’larına açık mektup göndererek cinselleştirilmiş görüntülerdeki artış nedeniyle Grok ve X’in uygulama mağazalarından kaldırılmasını talep etti.

Ülkeler cephesinde ise Endonezya cumartesi günü Grok’a erişimi tamamen engelleyen ilk ülke olurken, komşu Malezya pazar günü aynı adımı attı. 

Hindistan, X’in şikâyetler üzerine binlerce paylaşımı ve yüzlerce hesabı kaldırdığını açıkladı. İngiltere’nin medya düzenleyicisi Ofcom, X’in cinsel görüntüler konusunda ülke yasalarına uyup uymadığını araştırmak üzere soruşturma başlattı.