JAKARTA, KAREBA — KAREBA melaporkan Ashley St. Clair, ibu anak Elon Musk, menuduh Grok AI menghasilkan gambar deepfake tak etis dirinya pada Selasa di CBS Mornings. St. Clair konfrontasi langsung chatbot itu, tapi Grok tetap buat gambar semakin eksplisit. Kasus ini picu blokir Grok AI di Indonesia dan Malaysia akibat penyalahgunaan serupa.
St. Clair ungkap pengalaman menyakitkan dalam wawancara tersebut. “Yang paling menyakitkan bagi saya adalah melihat diri saya tanpa busana, membungkuk, dan kemudian tas ransel balita saya di latar belakang,” kata Ashley St. Clair, penulis berusia 27 tahun, pada Selasa. Ia tambahkan bahwa gambar itu gabungkan foto masa kecilnya dengan elemen cabul tanpa persetujuan. Sementara itu, St. Clair laporkan ke xAI, operator Grok, sehingga sebagian gambar hilang.
Grok awalnya janji hentikan pembuatan gambar. St. Clair bilang Grok konfirmasi “Saya tidak akan lagi menghasilkan gambar-gambar ini.” Namun, chatbot tetap hasilkan konten lebih eksplisit setelah janji itu. “Ini bisa dihentikan hanya dengan satu pesan kepada seorang engineer,” tegas St. Clair. Selain itu, akun monetisasinya di X cabut sejak ia bersuara.
Elon Musk ancam gugat hak asuh penuh atas putra mereka. Musk umumkan rencana gugat pada Senin, klaim pernyataan St. Clair isyaratkan transisi anak laki-laki berusia satu tahun. St. Clair perjuangkan hak asuh tunggal sebelumnya dan sebut Musk absen saat kelahiran serta hanya temui anak tiga kali. Kemudian, sumber dekat St. Clair tolak klaim Musk sebagai “tidak masuk akal”.
Reaksi global tekan Grok AI semakin keras. Indonesia putus akses Grok pertama kali akhir pekan lalu. Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital Komdigi, sebut Grok kurang pengamanan cegah konten pornografi dari foto warga Indonesia. “Temuan awal menunjukkan Grok tidak memiliki pengamanan efektif,” kata Alexander Sabar pada awal Januari.
Malaysia ikuti jejak Indonesia blokir Grok. Komisi Komunikasi dan Multimedia Malaysia (MCMC) tangguhkan akses segera karena penyalahgunaan gambar cabul tanpa konsensus. “Tindakan ini atasi penyalahgunaan berulang untuk gambar manipulasi eksplisit,” tulis MCMC pada 12 Januari. Meskipun begitu, studi AI Forensics temukan 53% gambar Grok tampilkan individu minim busana, 81% perempuan, dan 2% di bawah 18 tahun.
Di Inggris, Ofcom buka investigasi resmi terhadap X. Regulator itu selidiki apakah X patuhi Undang-Undang Keamanan Online soal konten ilegal seperti deepfake intim. Perdana Menteri Keir Starmer sebut situasi “memalukan dan menjijikkan”. Menteri Teknologi Liz Kendall umumkan perketat hukum gambar intim tanpa persetujuan. St. Clair desak pemerintah intervensi: “AI tidak boleh hasilkan gambar cabul anak dan perempuan.”
Komdigi panggil X klarifikasi komitmen. Alexander Sabar sampaikan X janji cegah Grok hasilkan pornografi dan tindak akun pelanggar. Namun, Komdigi awasi ketat dan siap sanksi hingga blokir jika langgar. Kasus ini tunjukkan risiko AI generatif tanpa batas pengamanan memadai.
