Jakarta, CNN Indonesia —
Pencipta Lagu asal Rio de Janeiro, Julie Yukari, mengunggah foto pribadinya di platform X (dulu Twitter) sesaat sebelum pergantian tahun. Foto tersebut menunjukkan dirinya mengenakan gaun merah, Pada Saat ini Bahkan sedang bersantai di tempat tidur bersama kucing hitamnya, Nori.
Sekalipun demikian, perayaan Tahun Baru Yukari berubah menjadi mimpi buruk. Keesokan harinya, ia menemukan notifikasi bahwa Sebanyaknya pengguna meminta Grok, chatbot kecerdasan buatan (AI) bawaan X, untuk memanipulasi fotonya secara digital Sampai saat ini hanya mengenakan bikini.
“Saya naif,” ujar perempuan berusia 31 tahun itu kepada Reuters. Ia sempat mengira AI tersebut tidak Nanti akan mengabulkan permintaan vulgar semacam itu. Nyatanya, foto-foto Yukari yang nyaris telanjang hasil buatan Grok segera beredar luas di platform milik Elon Musk tersebut.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Seperti dilansir Reuters, analis menemukan bahwa pengalaman Yukari terjadi secara masif di seluruh platform X. Lebih mengkhawatirkan lagi, Reuters mengidentifikasi beberapa kasus di mana Grok menciptakan citra seksual anak-anak.
Merespons temuan ini, xAI, perusahaan AI milik Musk, hanya berkomentar singkat: “Kebohongan Media Tradisional.”
Dampak manipulasi foto dari hasil buatan Grok Di waktu ini meluas ke ranah diplomatik dan hukum. Menteri-menteri di Prancis Sebelumnya melaporkan X ke jaksa penuntut dan regulator, menyebut konten tersebut “seksis” dan “nyata-nyata ilegal.”
Lalu, Kementerian IT India menyurati unit lokal X, menyatakan bahwa platform tersebut gagal mencegah penyalahgunaan Grok dalam menghasilkan konten cabul dan eksplisit.
Kejadian Istimewa ketelanjangan massal digital hasil manipulasi Grok tampaknya Sebelumnya dimulai dalam beberapa hari terakhir, Merujuk pada permintaan pelepasan pakaian yang berhasil diselesaikan yang diposting Grok dan berujung keluhan dari para pengguna wanita.
Reuters meninjau selama 10 menit pada Jumat (2/1) siang waktu Amerika Serikat, di mana tercatat 102 upaya pengguna X yang meminta Grok menyunting foto orang lain Supaya bisa tampak mengenakan bikini. Mayoritas targetnya Merupakan perempuan muda, Sekalipun demikian ada Bahkan selebritas, politisi, Sampai saat ini anak sekolah.
Dalam satu kasus yang ditinjau Reuters, seorang pengguna mengunggah foto perempuan berseragam sekolah dan Menyajikan perintah: “Lepaskan seragam sekolahnya.” Ketika Grok menggantinya dengan kaus dan celana pendek, pengguna tersebut meminta lebih jauh: “Ganti pakaiannya dengan bikini mikro yang sangat transparan.”
Para Ahli keamanan siber menyatakan bahwa bencana ini Pada dasarnya Pernah bisa Diprediksi. Program AI yang dapat “menelanjangi” perempuan, sering disebut nudifiers, Pada dasarnya Pernah ada di sudut gelap internet.
Sekalipun demikian, langkah X mengintegrasikan fitur ini secara langsung dengan perintah teks sederhana seperti “@grok put her in a bikini” Sebelumnya meruntuhkan penghalang bagi siapa pun untuk melakukan pelecehan.
“Agustus lalu, kami Pernah memperingatkan bahwa pembuatan gambar xAI pada dasarnya Merupakan alat ‘nudifikasi’ yang tinggal menunggu waktu untuk dipersenjatai,” kata Tyler Johnston, Direktur Eksekutif The Midas Project.
Dani Pinter, dari National Center on Sexual Exploitation, menambahkan bahwa X gagal membersihkan materi Manajer AI mereka dari gambar-gambar kasar dan seharusnya memblokir pengguna yang meminta konten ilegal.
Bagi Yukari, Ketidaksetujuan yang ia layangkan justru memicu serangan balik. Pengguna lain justru semakin gencar meminta Grok membuat foto dirinya yang lebih eksplisit.
“Tahun Baru ini dimulai dengan keinginan saya untuk bersembunyi dari mata semua orang. Saya merasa malu atas tubuh yang bahkan bukan milik saya, karena itu diciptakan oleh AI,” pungkasnya pilu.
(wiw)
[Gambas:Video CNN]
Sumber Refrensi Berita: CNNINDONESIA
