İngiltere’nin medya düzenleyicisi Ofcom, Elon Musk‘ın sahibi olduğu sosyal medya platformu X’in yapay zeka sohbet botu Grok’un, kullanıcıları yasa dışı içeriklerden koruma yükümlülüğünü ihlal edip etmediğini belirlemek üzere inceleme başlattı. Grok’un kişilerin rızası olmadan oluşturulan cinsel içerikli görüntüler ile çocuklara yönelik cinsel istismar materyali üretiminde kullanıldığına dair ciddi iddialar bulunduğu belirtildi.
İngiltere Başbakanı Keir Starmer, Grok tarafından üretilen görüntüleri “iğrenç” ve “hukuka aykırı” olarak nitelendirdi. Starmer, X yönetiminin Grok üzerindeki denetimi artırması gerektiğini belirterek, Ofcom’un atacağı adımlara hükümetin tam destek verdiğini açıkladı.
X, daha önce yaptığı açıklamalarda platformda yer alan tüm yasa dışı içeriklerin kaldırıldığını ve bu içeriklerle bağlantılı hesapların kalıcı olarak askıya alındığını duyurdu. Şirket, Grok’u yasa dışı içerik üretmeye yönlendiren kullanıcıların da aynı yaptırımlarla karşılaşacağını bildirdi.
Grok’un söz konusu özelliği, Fransa ve Hindistan başta olmak üzere birçok ülkede tepkiyle karşılandı. Fransa’da yetkililer, içeriği “açıkça yasa dışı” olarak nitelendirerek savcılığa başvururken, Hindistan’da da X’ten resmi açıklama talep edildi.
Ofcom, soruşturma kapsamında X’in yasa dışı içerik risklerini ve çocuklara yönelik tehditleri yeterince değerlendirip değerlendirmediğini inceleyecek. En ağır yaptırımlar arasında, reklam ve ödeme sağlayıcıların platformdan çekilmesi ya da İngiltere’den erişimin engellenmesi yer alıyor.