Yapay zeka teknolojilerinin kontrolsüz bırakıldığında hangi riskleri doğurabileceği bir kez daha gözler önüne serildi. X bünyesinde kullanılan Grok yapay zekasının, kullanıcıların paylaştığı fotoğrafları bilgileri ve onayları olmadan çıplak ya da bikinili görsellere dönüştürmesi, platformda ciddi bir krize yol açtı.
Elon Musk’ın X’e entegre ettiği Grok, sosyal medyada etkileşimi artırmayı amaçlayan farklı bir stratejiyle sunulmuştu. Ancak mobil uygulamada bulunan görsel üretim komutunun X platformuna da taşınması, kısa sürede beklenmeyen sonuçlar doğurdu. Kullanıcılar, herhangi bir gönderide yer alan fotoğrafı alıntılayarak veya yanıt yazarak Grok’a yeniden ürettirebiliyor; bu da platformun sahte ve manipüle edilmiş görsellerle dolmasına neden oluyordu.
Asıl tartışma ise Grok’un insan fotoğraflarını cinsel çağrışımlı biçimde yeniden üretmesiyle başladı. Tepkiler artarken, bazı kullanıcıların çocuklara ait fotoğrafların da bu süreçte kullanıldığını fark etmesi bardağı taşıran son damla oldu. Konu kısa sürede sadece bireysel şikayetlerin ötesine geçerek, dijital güvenlik ve etik sınırlar tartışmasını da beraberinde getirdi.
Grok cephesinden yapılan açıklamada, 18 yaş altı bireylere ait fotoğrafların yanlışlıkla(!) yeniden üretildiği ifade edildi. X yönetimi tarafından henüz resmi ve kapsamlı bir açıklama yapılmamış olsa da, Grok hesabının Medya sekmesinde dikkat çekici bir müdahaleye gidildi. Cinsel içerik barındıran görsellerin tamamı bu bölümden kaldırıldı.
Ancak bu adım, tartışmaları tamamen sonlandırmış değil. Grok’un halen 18 yaş üzeri kullanıcılara ait fotoğrafları manipüle edebildiği belirtiliyor. Hukukçular ve dijital haklar uzmanları, başkalarına ait görsellerin bu şekilde cinsel içerikli biçimde dönüştürülmesinin ciddi hukuki sonuçlar doğurabileceğine dikkat çekiyor. Uzmanlara göre, bu tür içerikleri üreten veya yayan kullanıcılar cinsel taciz ve kişisel hakların ihlali gibi suçlamalarla karşı karşıya kalabilir.
Yaşananlar, yapay zeka destekli görsel üretim araçlarının daha sıkı denetlenmesi ve net etik kurallarla sınırlandırılması gerektiğini bir kez daha gündeme taşıdı. X ve Grok’un önümüzdeki dönemde bu konuda nasıl bir yol izleyeceği ise merakla bekleniyor.
