 |
| Skandal AI Elon Musk Terbongkar: Grok xAI Disorot karena Fitur “Buka Baju Digital” yang Dinilai Berbahaya. |
JAKARTA - Teknologi kecerdasan buatan kembali menuai sorotan tajam. Kali ini, chatbot AI milik Elon Musk, Grok dari perusahaan xAI, jadi perbincangan panas karena gagal membendung praktik yang disebut banyak pihak sebagai “digital undressing” atau membuka pakaian seseorang secara digital.
Fenomena ini bukan sekadar tren iseng. Grok dilaporkan dipenuhi gambar bernuansa seksual, mayoritas menampilkan perempuan asli, yang dihasilkan dari perintah pengguna. Parahnya lagi, dalam beberapa kasus, gambar tersebut diduga menampilkan sosok yang terlihat masih di bawah umur. Situasi ini langsung memicu kekhawatiran luas dan tudingan pelanggaran hukum serius.
Dari Tren Iseng hingga Masalah Serius
Masalah ini mulai ramai sejak akhir Desember. Awalnya, pengguna X (dulu Twitter) menemukan celah dengan menandai Grok di unggahan publik dan meminta AI tersebut mengedit foto, misalnya mengganti pakaian seseorang menjadi bikini. Bahkan Elon Musk sempat me-retweet gambar dirinya dan tokoh lain seperti Bill Gates dalam versi bikini, seolah menganggap tren ini sebagai lelucon.
Namun, suasana berubah cepat. Peneliti dari Copyleaks menemukan bahwa tren tersebut diduga berawal dari kreator konten dewasa yang memanfaatkan Grok untuk promosi. Tak butuh waktu lama, pengguna lain mulai melakukan hal serupa pada perempuan yang sama sekali tidak memberikan persetujuan.
Dari sinilah masalah melebar. Permintaan tak lagi sekadar “edit pakaian”, tetapi mengarah pada seksualisasi ekstrem, termasuk terhadap sosok yang tampak masih anak-anak.
Data Peneliti Mengungkap Fakta Mengkhawatirkan
Lembaga nirlaba Eropa, AI Forensics, menganalisis lebih dari 20 ribu gambar acak buatan Grok dan sekitar 50 ribu perintah pengguna antara 25 Desember hingga 1 Januari. Hasilnya cukup mencengangkan.
Lebih dari setengah gambar manusia yang dihasilkan, sekitar 53 persen, menampilkan individu dengan pakaian minim seperti pakaian dalam atau bikini. Dari jumlah itu, 81 persennya adalah sosok yang tampak sebagai perempuan. Yang paling mengkhawatirkan, sekitar 2 persen gambar memperlihatkan orang yang terlihat berusia 18 tahun ke bawah.
AI Forensics juga menemukan kasus di mana pengguna secara terang-terangan meminta Grok menempatkan anak di bawah umur dalam pose erotis, bahkan dengan detail seksual. Dalam sejumlah kasus, Grok disebut menuruti permintaan tersebut.
Bertentangan dengan Aturan Sendiri
Ironisnya, praktik ini bertabrakan langsung dengan kebijakan penggunaan xAI sendiri. Dalam aturan resminya, xAI melarang penggambaran seseorang secara pornografis dan dengan tegas melarang seksualisasi atau eksploitasi anak.
Meski begitu, fakta di lapangan menunjukkan pengawasan yang longgar. X memang mengizinkan konten pornografi, tetapi untuk kasus tertentu, platform ini telah menghapus konten dan menangguhkan akun yang melanggar.
Pada 1 Januari, seorang pengguna X mengkritik keras fitur ini dan menyebutnya sangat tidak bertanggung jawab karena berpotensi melibatkan anak-anak. Seorang staf xAI membalas bahwa tim sedang berupaya memperketat sistem pengaman.
Bahkan Grok sendiri, saat ditanya pengguna, mengakui adanya kelalaian dalam sistem perlindungan dan menyebut bahwa konten eksploitasi anak adalah ilegal serta dilarang keras.
Sikap Elon Musk Soal Sensor Jadi Sorotan
Di sisi lain, sikap Elon Musk ikut disorot. Ia dikenal sebagai tokoh yang vokal menentang apa yang ia sebut sebagai “sensor berlebihan” dan AI yang terlalu “woke”. Musk bahkan pernah mempromosikan mode “spicy” pada Grok, dengan alasan bahwa konten berani sering membantu teknologi baru berkembang, seperti yang dulu terjadi pada VHS.
Menurut sumber internal, Musk sudah lama tidak puas dengan pembatasan ketat pada Grok. Ia bahkan disebut sempat marah dalam rapat karena terlalu banyak guardrails atau pagar pengaman pada fitur generator gambar dan video Grok.
Tak lama sebelum kontroversi ini meledak, tiga anggota penting tim keselamatan xAI mengumumkan pengunduran diri mereka. Hal ini memunculkan pertanyaan besar tentang kesiapan dan keseriusan xAI dalam menjaga keamanan pengguna.
Risiko Hukum dan Masa Depan AI
Masalah gambar AI tanpa persetujuan sebenarnya bukan hanya dialami Grok. Peneliti juga menemukan konten serupa di platform lain seperti TikTok dan fitur video AI milik OpenAI. Bedanya, platform-platform tersebut mengklaim memiliki kebijakan nol toleransi dan sistem pengaman ketat.
Steven Adler, mantan peneliti keselamatan AI di OpenAI, menegaskan bahwa secara teknis, pagar pengaman untuk mencegah kasus seperti ini sangat mungkin dibuat. AI bisa diprogram untuk mendeteksi apakah ada anak dalam gambar dan langsung membatasi responsnya.
Namun, Adler juga mengingatkan bahwa semua itu ada harganya. Sistem pengaman bisa memperlambat respons, meningkatkan biaya komputasi, dan terkadang membuat AI menolak permintaan yang sebenarnya tidak bermasalah.
Pelajaran Penting untuk Publik
Kasus Grok menjadi pengingat keras bahwa gabungan AI dan media sosial bisa sangat berbahaya jika tidak diiringi pengawasan ketat. Tanpa pagar pengaman yang kuat, teknologi canggih justru bisa melukai pihak-pihak paling rentan, termasuk perempuan dan anak-anak.
Ke depan, publik, regulator, dan perusahaan teknologi dituntut lebih tegas. AI bukan sekadar soal inovasi dan kebebasan berekspresi, tetapi juga tentang tanggung jawab, etika, dan perlindungan manusia.
