Avrupa Birliği; bugün Elon Musk’a ait X platformu hakkında, yapay zekâ sohbet botu Grok’un kadınlar ve çocuklara ait cinselleştirilmiş deepfake görüntüler üretmesi nedeniyle soruşturma başlattı.
Grok, kullanıcıların “onu bikiniyle göster” ya da “kıyafetlerini çıkar” gibi basit metin komutlarıyla kadınların ve çocukların görüntülerini cinselleştirebildiğinin ortaya çıkmasının ardından büyük tepki topladı.
Avrupa Komisyonu Başkanı Ursula von der Leyen, “Avrupa’da kadınların ve çocukların dijital olarak soyulması gibi akıl almaz davranışlara müsamaha göstermeyeceğiz” dedi. Von der Leyen, AFP’ye yaptığı açıklamada, “Bu çok basit. Rızayı ve çocukların korunmasını, ihlal edip bundan kazanç sağlayan teknoloji şirketlerine teslim etmeyeceğiz. Yasadışı görüntülerin yol açtığı zarar son derece gerçektir” ifadelerini kullandı.
AB Teknolojiden Sorumlu Komiseri Henna Virkkunen ise soruşturmanın; AB’nin internet devlerini denetlemeyi amaçlayan Dijital Hizmetler Yasası (DSA) kapsamında, X’in yasal yükümlülüklerini yerine getirip getirmediğini belirleyeceğini söyledi.
Grok, bu ayın başlarında görüntü üretimi ve düzenlemeyi yalnızca ücretli abonelerle sınırladığını açıklamıştı. Ancak bu adım, Fransa ve Birleşik Krallık dâhil olmak üzere birçok ülkede başlatılan soruşturmaların ardından gelen AB soruşturmasını engelleyemedi.
AB Komisyonu Sözcüsü Thomas Regnier, “Çok açık olalım: çocukların cinsel istismarına ilişkin materyaller bir ‘premium ayrıcalık’ değildir” dedi.
Kâr amacı gütmeyen bir denetim kuruluşu olan Dijital Nefretle Mücadele Merkezi’nin (Center for Countering Digital Hate) perşembe günü yayımladığı araştırmaya göre Grok, yalnızca birkaç gün içinde kadınlar ve çocuklara ait tahminen üç milyon cinselleştirilmiş görüntü üretti.
Yeni soruşturmanın bir parçası olarak AB, X hakkında hâlihazırda yürütülen ve yasa dışı içerik ile bilgi manipülasyonunun yayılmasını hedef alan mevcut soruşturmayı genişlettiğini açıkladı.
AB, Aralık ayında Dijital Hizmetler Yasası’nın (DSA) şeffaflık yükümlülüklerini ihlal ettiği gerekçesiyle X’e 120 milyon avro (140 milyon dolar) para cezası kesmiş ve bu karar, Trump yönetiminden sert tepkilere yol açmıştı. Donald Trump yönetimi, DSA’yı ve uygulanan cezaların ifade özgürlüğünü kısıtladığını ve ABD’li şirketleri haksız şekilde hedef aldığını savunuyor.