PPDBPESSEL.co.id – Platform X kini gempar akibat ulah sejumlah oknum yang menyalahgunakan teknologi AI. Grok, chatbot canggih besutan xAI milik Elon Musk, justru menjadi alat untuk kejahatan digital yang mengerikan. Alih-alih dimanfaatkan untuk hal positif, chatbot ini malah dipakai untuk merekayasa foto orang lain tanpa izin. Lebih parah lagi, banyak pengguna secara terbuka memerintahkan Grok untuk mengubah foto biasa menjadi konten tak senonoh.
Yang benar-benar membuat miris, beberapa oknum tega menyasar foto anak di bawah umur. Mereka dengan sengaja memasukkan prompt atau perintah yang tidak pantas untuk memanipulasi gambar anak-anak. Akibatnya, kasus ini pun ramai diperbincangkan oleh pengguna X di seluruh dunia, termasuk Indonesia, sejak akhir Desember 2025 lalu. Sasarannya pun ternyata sangat acak; bukan hanya selebriti atau tokoh publik, tetapi juga warga biasa ikut menjadi korban editan foto mesum menggunakan Grok AI.
Dari Gambar Biasa Jadi Konten Tak Senonoh
Bahkan, laporan investigasi Futurism mengungkap fakta yang lebih mengkhawatirkan. Beberapa pengguna dengan sadar meminta Grok untuk menciptakan foto rekayasa yang menunjukkan wanita-wanita asli seolah-olah sedang dilecehkan, dipermalukan, disakiti, hingga dibunuh. Prompt yang mereka tulis pun sangat detail dan eksplisit, misalnya meminta agar AI menampilkan luka jelas atau memar lebam di bagian tubuh tertentu. Futurism menyebut mayoritas targetnya adalah model platform online dan pekerja seks. Pada akhirnya, Grok AI seolah berubah menjadi generator pornografi pribadi yang menggunakan wajah orang asli tanpa sepengetahuan mereka.
Integrasi Grok langsung di platform X ternyata memperparah persebaran konten eksplisit ini. Konten-konten ilegal menjadi lebih mudah dibuat dan disebarluaskan. Melihat penyalahgunaan ini, Elon Musk sebagai pemilik platform X pun tak bisa menahan amarah. Dengan tegas, Musk mengecam tindakan kriminal tersebut melalui postingannya di akun @elonmusk. “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama sebagaimana mereka mengunggah konten ilegal,” tulisnya dengan nada peringatan keras.
Tak mau ketinggalan, akun resmi keamanan platform X, @Safety, langsung merespons dan mempertegas ancaman tersebut. Tim mereka secara gamblang memperingatkan seluruh pengguna X bahwa mereka akan bertindak tegas terhadap segala bentuk konten ilegal. “Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah serta penegak hukum jika diperlukan,” jelas akun @Safety. Mereka pun kembali menegaskan, “Siapa pun yang menggunakan atau membuat prompt Grok untuk konten ilegal akan menanggung konsekuensi yang sama seperti mengunggah konten ilegal.”
Tekanan Global Meningkat: Negara-Negara Ini Ambil Sikap Tegas
Hebatnya, gelombang protes tidak hanya datang dari dalam perusahaan. Pemerintah sejumlah negara kini mulai bergerak memantau tren berbahaya ini di X. Salah satu yang paling cepat merespons adalah Kementerian Teknologi dan Informasi India. Otoritas India secara resmi mengeluarkan perintah tegas agar X segera mengambil langkah membatasi Grok. Mereka menuntut Grok tidak lagi bisa menghasilkan konten pornografi, vulgar, eksplisit, tak senonoh, pedofilia, dan semua konten terlarang lainnya. Menurut Tech Crunch, perintah itu juga memberi waktu 72 jam bagi X untuk merespons, atau mereka terancam kehilangan perlindungan “safe harbor”. Perlindungan ini sangat krusial karena melindungi platform online dari tuntutan hukum asalkan mereka mematuhi aturan yang berlaku.
Di benua Eropa, otoritas Perancis juga tak mau tinggal diam. Seperti dilaporkan Politico, kantor kejaksaan Paris telah membuka penyelidikan khusus terkait maraknya deepfake bermuatan seksual di X. Sementara itu, kantor urusan digital Perancis mengonfirmasi bahwa tiga menteri telah melaporkan “konten melanggar hukum” tersebut ke kejaksaan. Laporan itu juga mereka sampaikan ke sebuah platform pengawasan online milik pemerintah untuk memastikan konten-konten tersebut segera dihapus tanpa tunggu lama.
Negara tetangga Indonesia, Malaysia, turut mengambil langkah serius. Komisi Komunikasi dan Multimedia Malaysia (MCMC) secara resmi mengunggah pernyataan keprihatinan mereka di Facebook. MCMC menyatakan bahwa mereka “mengambil langkah serius terkait keluhan masyarakat soal penyalahgunaan AI di platform X, khususnya manipulasi digital gambar perempuan dan anak di bawah umur untuk konten tidak senonoh, ofensif, dan berbahaya”. Mereka pun menegaskan, “MCMC akan menyelidiki pengguna X yang diduga melanggar aturan terkait konten (CMA).”
Jadi, jelas sekali bahwa kasus penyalahgunaan Grok AI ini telah memicu respons berantai yang masif, mulai dari kemarahan sang pemilik, tindakan tegas platform, hingga tekanan hukum dari berbagai negara. Masyarakat dunia kini menunggu, akankah Grok bisa dikendalikan sebelum menimbulkan kerusakan sosial yang lebih parah?
Kunjungi juga situs berita terupdate hanya di Desapenari.id















