Avrupa Komisyonu, Grok hakkında soruşturma başlattı

Grok, “Spicy Mode” adlı ücretli bir özellikle güncellenmiş ve bu mod, kullanıcıların açık içerik üretmesine olanak tanımıştı. 

Özelliğin yaygın biçimde istismar edilmesi kamuoyunda büyük tepki çekti.

Elon Musk ise X hesabından yaptığı paylaşımlarla tepkileri alaya aldı.

İngiltere Bilgi Komiserliği Ofisi (ICO), ABD’li milyarder Elon Musk’ın yapay zeka destekli sohbet robotu Grok hakkında, kişisel verilerin işlenmesi, zararlı cinsel içerikli görüntüler ve video içerikleri üretme potansiyeli nedeniyle soruşturma başlattı. Soruşturma, X Internet Unlimited Company (XIUC) ve X.AI yapay zeka şirketini kapsıyor.

Bu ayın başında küresel çapta artan öfkenin ardından Avrupa Komisyonu’ndan sert bir açıklama geldi. Bir Komisyon sözcüsü, söz konusu işlev için ''Bu yasa dışı ve kabul edilemez. Bu iğrenç. Avrupa’da yeri yok,” ifadelerini kullandı.

Kamuoyundaki baskının ardından X, Grok’un gerçek kişilere ait görüntüleri cinsel içerikli veya kışkırtıcı hâle getirmesini engelleyen yeni önlemler aldığını duyurdu. 

Bu kısıtlamaların ücretli kullanıcılar dâhil herkes için geçerli olduğu belirtildi.

Şirket ayrıca, Grok tarafından çocuk görüntülerinin platformdan kaldırıldığını ve bu içerikleri üreten kullanıcıların kalıcı olarak yasaklandığını açıkladı.

X Safety hesabından yapılan açıklamada, “X’te çocuk cinsel istismarı materyali dâhil yasa dışı içeriklere karşı harekete geçiyoruz; bu içerikleri kaldırıyor, hesapları kalıcı olarak askıya alıyor ve gerektiğinde yerel makamlar ve kolluk kuvvetleriyle iş birliği yapıyoruz,” denildi.

Grok, Avrupa’da ilk kez inceleme konusu olmuyor. 

Yapay zekâ sohbet botu, geçen kasım ayında Holokost inkârı içeren içerikler üretmesi nedeniyle de eleştirilmişti. Grok’a yönelik soruşturmalar Fransa, İngiltere ve Almanya’da sürerken, Avustralya’da da inceleme yürütülüyor. Endonezya ve Malezya ise Grok’u tamamen yasakladı.

Avrupa Komisyonu, Dijital Hizmetler Yasası kapsamında X’ten bilgi talep edildiğini ve gelen yanıtların hâlen değerlendirildiğini açıkladı.

İngiltere’de veri koruma düzenleyicisi olarak bilinen Bilgi Komiserliği Ofisi (ICO) tarafından yapılan yazılı açıklamada, X Internet Unlimited Company (XIUC) ve X.AI LLC (X.AI) şirketleri hakkında yapay zeka destekli sohbet robotu Grok’un kişisel verilerin işlenmesi ve bu sistemin zararlı cinsel içerikli görüntü ile video içeriği üretme potansiyeline yönelik resmi soruşturma başlatıldığı duyuruldu.

Açıklamada, "Bu adımı, Grok’un çocuklar da dahil olmak üzere bireylerin rızası olmadan cinsel içerikli görüntüler oluşturmak için kullanıldığına dair raporların ardından attık. Bu tür içeriklerin oluşturulması ve dolaşıma sokulması, İngiltere veri koruma yasası kapsamında ciddi endişeler doğurmakta ve kamuoyuna önemli ölçüde zarar verme riski taşımaktadır. Bu endişeler, kişisel verilerin yasalara uygun, adil ve şeffaf bir şekilde işlenip işlenmediği ve kişisel veriler kullanılarak zararlı, manipüle edilmiş görüntülerin oluşturulmasını önlemek için Grok’un tasarımına ve dağıtımına uygun güvenlik önlemlerinin alınıp alınmadığına yöneliktir. Bu koruma önlemlerinin başarısız olduğu durumlarda bireyler, kişisel verileri üzerindeki kontrolünü kaybeder ve bu durum onları ciddi zararlara maruz bırakır. Bu riskleri incelemek, ICO’nun insanların haklarını koruma ve kuruluşları yapay zeka teknolojisini tasarlarken ve uygularken sorumlu tutma rolünün merkezinde yer almaktadır" ifadeleri kullanıldı.

Soruşturmanın X Internet Unlimited Company (XIUC) ve X.AI yapay zeka şirketini kapsadığı, şirketlerin İngiltere veri koruma yasalarına uyumluluğunun değerlendirileceği vurgulandı.