Grok Yapay Zekâ Modeli ve Müstehcen İçerik Üretimi

Son dönemde dikkat çeken yapay zekâ modeli Grok, görsel oluşturma ve düzenleme özellikleriyle gündemde yer almıştı. Bu yapay zekâ aracı, platformdaki kullanıcıların isteği üzerine dijital olarak görüntüleri değiştirerek tartışmalara neden olmuştu.

Yaşanan olumsuz tepkilerin ardından şirket, değişiklikler yaparak öncelikle özelliği sadece ücretli abonelere açık hale getirdi. Daha sonra ise müstehcen içerik üretiminin önüne geçmek amacıyla gerekli önlemleri aldı.

Grok Tarafından Üretilen Müstehcen İçerikler

29 Aralık – 9 Ocak tarihleri arasındaki 11 günlük süreçte Grok tarafından toplamda 3 milyon adet cinsel içerikli görüntü üretildi. Ancak daha vahimi, bu görüntülerin 23 bininin çocuklara ait olduğu ortaya çıktı. Bu veriler, dakikada 190 müstehcen, 41 saniyede ise 1 çocuk görüntüsü oluşturulduğunu gösteriyor.

Gelişmeler üzerine Dijital Nefretle Mücadele Merkezi, Grok tarafından üretilen 20 bin civarı müstehcen içerikli görseli inceleyerek konuyla ilgili çarpıcı veriler paylaştı. Bu verilere göre, insanların cinsel obje olarak kullanıldığı pozisyonlar, iç çamaşırları, mayolar gibi açık giysilerle görüntülerin oluşturulduğu belirtildi. Bu durum, özelliğin ne şekilde suistimal edildiğini ortaya koymaktadır.

2 Ülke, Grok’un Sapıklığına Dayanamadı: Erişim Engeli Getirildi!