Grok Yapay Zekâ Modeli İle Müstehcen İçerik Üretiminde

X’in yapay zekâ modeli Grok, görsel oluşturma ve düzenleme özellikleri ile gündemde. Kullanıcıların istekleri doğrultusunda platformdaki her kullanıcının görüntülerini dijital olarak değiştirme özelliği ile dikkat çekmişti. Ancak bu özellik, uygun olmayan görüntülerin oluşturulmasına neden oldu ve tepki topladı. Şirket, aldığı tepkilerin ardından değişiklikler yaparak özelliğin yalnızca ücretli abonelere açık olmasını sağladı ve müstehcen içeriklerin üretilmesini engellemeye başladı.

Dijital Nefretle Mücadele Merkezi’nden Veriler

Gelen verilere göre 29 Aralık ile 9 Ocak tarihleri arasında Grok tarafından 3 milyon müstehcen görüntü oluşturuldu. Bu görüntülerin 23 bini ise çocuklara aitti. Bu rakamlar, dakikada 190 müstehcen görüntü ve 41 saniyede 1 çocuk görüntüsü üretildiği anlamına geliyor. Grok’un bu özelliğinin ne kadar suistimal edildiği net bir şekilde ortaya çıkmış durumda.

Grok tarafından üretilen 20 bin görüntü incelendiğinde, insanların cinsel pozisyonlarda, iç çamaşırı ya da mayo gibi açık kıyafetler giydirilmiş görüntüler oluşturulduğu tespit edildi. Artık her isteyenin bu tür içerikler oluşturmasının önüne geçildi. Grok’un müstehcen içerik üretimine getirdiği sınırlamalar, çocukların korunmasına yönelik olumlu bir adım olarak değerlendiriliyor.

2 Ülke, Grok’un Sapıklığına Dayanamadı: Erişim Engeli Getirildi!