MAHAKAMA — Di saat teknologi kecerdasan buatan atau Artificial Intelligence (AI) dipuja sebagai masa depan peradaban, sebuah realita pahit muncul: AI menjadi senjata baru untuk melecehkan perempuan.
Dalam Laporan Pemantauan Hak-Hak Digital Triwulan II 2025, SAFEnet mencatat sedikitnya 27 aduan kasus morphing.
Seiring berkembangnya AI, istilah morphing kini merujuk pada praktik memodifikasi, melapiskan, dan mengolah ulang foto atau video asli untuk menciptakan konten “deepfake“.
Dalam konteks negatif, teknologi ini sering digunakan untuk memindahkan wajah korban ke tubuh orang lain dalam konten pornografi tanpa konsensus.
Ini bukan sekadar “editan foto biasa”—hasilnya sangat mulus hingga sulit dibedakan dengan aslinya, namun dampak psikis dan sosial bagi korbannya sangatlah nyata.
Jika dulu membuat deepfake membutuhkan keahlian coding yang rumit, kini “pintu masuk” kekerasan ini terbuka lebar bagi siapa saja.
Maraknya tools AI generatif membuat Kekerasan Berbasis Gender Online (KBGO) jenis ini makin mudah dilakukan.
Ulah Elon Musk Bikin Satu Dunia Kacau
Chatbot kecerdasan buatan (AI) Grok yang dikembangkan perusahaan milik Elon Musk, xAI, menjadi sorotan dunia.
Bukan karena pencapaian positifnya, tetapi gara-gara konten seksual tak etis yang dihasilkan Grok dan terpampang di platform X.
Salah satu pihak yang menjadi korban adalah JKT48, yang menyatakan telah menerima laporan mengenai konten berbasis AI yang merugikan beberapa anggota.
Sejumlah akun memanfaatkan AI tersebut untuk mengubah penampilan anggota menjadi seronoh, bahkan mengandung unsur pornografi, yang dinilai sebagai bentuk pelecehan dan pelanggaran privasi.
Korban lainnya adalah Julie Yukari, musisi asal Rio de Janeiro. Ia mengunggah foto di malam Tahun Baru yang diambil oleh sang tunangan. Foto itu menunjukkan Yukari berbaring di kasur bersama kucingnya, Nori, dengan mengenakan dress merah.
Keesokan harinya, ia melihat notifikasi banyak orang yang meminta Grok mengganti dress-nya menjadi bikini.
Yukari tak menghiraukan permintaan netizen ke Grok, sebab menurutnya tool milik Elon Musk tak akan mematuhi perintah tersebut.
Dugaannya salah, Grok kemudian memodifikasi foto Yukari seakan-akan hampir telanjang.
Reuters juga mengidentifikasi banyak kasus serupa yang menimpa orang lain, di mana Grok menciptakan gambar-gambar seksual yang memperlihatkan anak-anak. X tak merespons temuan Reuters.
Kritik terhadap Grok tidak hanya muncul dari Indonesia. Sejumlah negara turut mengecam fitur AI milik X tersebut karena dianggap memfasilitasi penyebaran konten seksual tanpa persetujuan, termasuk terhadap anak di bawah umur.
Pemerintah Malaysia, melalui Komisi Komunikasi dan Multimedia, menyatakan tengah menyelidiki gambar-gambar yang dihasilkan Grok setelah menerima keluhan soal manipulasi gambar perempuan dan anak di bawah umur menjadi konten cabul.
“Meskipun X saat ini belum terdaftar sebagai penyedia layanan resmi, platform tersebut tetap memiliki kewajiban untuk mencegah penyebaran konten merugikan,” tulis Komisi Komunikasi dan Multimedia Malaysia, Sabtu, 4 Januari 2026.
India bergerak cepat dengan mengirimkan surat resmi ke pihak X pada 2 Januari 2026, memerintahkan peninjauan menyeluruh atas Grok agar tidak menghasilkan konten yang mengandung ketelanjangan atau unsur seksual yang melanggar hukum.
Pihak X diberi waktu 72 jam untuk menyerahkan laporan kepada Kementerian Teknologi Informasi India. Pemerintah India juga mempertimbangkan regulasi baru untuk platform media sosial terkait konten AI.
Sementara itu, pemerintah Prancis menuding Grok memproduksi konten seksual “yang jelas ilegal” tanpa persetujuan orang yang ditampilkan.
Pemerintah menilai konten tersebut bisa melanggar Digital Services Act (DSA) Uni Eropa, yang mewajibkan platform besar mencegah penyebaran konten ilegal.
Prancis menekankan bahwa tanggung jawab tetap berada pada penyedia layanan, meskipun konten dipicu oleh permintaan pengguna.
Respons Elon Musk: Peringatan atau Sekadar Formalitas?
Menanggapi tekanan global, Elon Musk akhirnya angkat bicara melalui akun pribadinya. Ia memberikan peringatan keras kepada penggunanya.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan mendapatkan konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” tulis Musk (3/1/2026).
Namun, bagi beberapa pihak, pernyataan ini terasa terlambat. Selama teknologi dikembangkan tanpa pagar pengaman yang kuat terhadap isu gender, perempuan akan terus berada di garis depan korban kecanggihan teknologi yang disalahgunakan. (*)
Penulis: Desy Alvionita
Editor: Amin
