JAKARTA, (ERAKINI) – Model AI milik Elon Musk, Grok, tidak lagi dapat mengedit foto orang nyata agar terlihat mengenakan pakaian terbuka atau vulgar. Pemblokiran ini dilakukan X setelah muncul kekhawatiran luas terkait deepfake seksual AI di beberapa negara.
“Kami telah menerapkan langkah teknologi untuk mencegah akun Grok mengedit gambar orang nyata dengan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar,” tulis pengumuman di X, yang mengoperasikan alat Grok AI, dilansir BBC, Kamis (15/1/2026).
Perubahan ini diumumkan beberapa jam setelah Jaksa Agung California menyatakan bahwa negara bagian tersebut sedang menyelidiki penyebaran deepfake seksual AI, termasuk yang menampilkan anak-anak, yang dihasilkan oleh model AI tersebut.
Pembaruan ini memperluas langkah yang menghentikan semua pengguna, termasuk pelanggan berbayar, dari mengedit foto orang nyata dengan pakaian terbuka.
X, yang sebelumnya dikenal sebagai Twitter, juga menegaskan dalam pernyataan bahwa hanya pengguna berbayar yang dapat mengedit gambar menggunakan Grok di platformnya.
Langkah ini menambah lapisan perlindungan ekstra dengan membantu memastikan bahwa mereka yang mencoba menyalahgunakan Grok untuk melanggar hukum atau kebijakan X akan dimintai pertanggungjawaban, menurut pernyataan tersebut.
Pengguna yang mencoba menghasilkan gambar orang nyata dengan bikini, pakaian dalam, atau pakaian serupa menggunakan Grok akan dihentikan sesuai hukum di yurisdiksi mereka, kata pernyataan X.
Dalam pernyataan, Jaksa Agung California, Rob Bonta, mengatakan, “Materi ini, yang menampilkan wanita dan anak-anak dalam situasi telanjang dan seksual, telah digunakan untuk melecehkan orang di seluruh internet.”
Malaysia dan Indonesia telah memblokir akses ke chatbot ini karena masalah gambar tersebut, dan Perdana Menteri Inggris, Sir Keir Starmer, memperingatkan X bisa kehilangan “hak untuk mengatur dirinya sendiri” di tengah kemarahan terkait gambar AI.
Regulator media Inggris, Ofcom, menyebut mereka akan menyelidiki apakah X gagal mematuhi hukum Inggris terkait gambar seksual tersebut.
