Denpasar (Baliwananews.com) – Polri menyatakan penyalahgunaan Grok AI di platform X untuk membuat deepfake asusila merupakan tindak pidana, seiring ancaman sanksi dan pemblokiran dari pemerintah jika X tidak memperbaiki sistem pengamanannya.
Fenomena penyalahgunaan teknologi kecerdasan buatan (AI) Grok di platform X (sebelumnya Twitter) untuk memproduksi dan menyebarkan konten asusila berupa manipulasi foto pribadi (deepfake) kini telah masuk dalam radar penyelidikan kepolisian. Polri menyatakan bahwa aksi tersebut memenuhi unsur tindak pidana.
Brigadir Jenderal Polisi Himawan Bayu Aji, Direktur Tindak Pidana Siber Bareskrim Polri, dalam konferensi pers pada Rabu (7/1/2026) menegaskan bahwa pengeditan foto pribadi tanpa izin untuk konten cabul merupakan bentuk kejahatan siber berupa deepfake. “Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” tegas Himawan.
Pernyataan kepolisian ini menindaklanjuti peringatan keras dari Kementerian Komunikasi dan Informatika (Kemkominfo) sehari sebelumnya. Kemkominfo mengancam akan memberikan sanksi administratif hingga memblokir akses platform X dan fitur Grok AI di Indonesia jika tidak segera berkooperatif memperbaiki sistem moderasi dan keamanannya.
Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, dalam keterangan resmi menyoroti temuan awal yang menunjukkan bahwa Grok AI belum memiliki pengaturan spesifik untuk mencegah pemanfaatannya dalam pembuatan konten pornografi berbasis foto pribadi. Ia menekankan bahwa setiap Penyelenggara Sistem Elektronik (PSE), termasuk X, wajib memastikan teknologinya tidak menjadi sarana pelanggaran privasi dan eksploitasi seksual.
Ancaman hukum pidana kini semakin konkret seiring berlakunya Kitab Undang-Undang Hukum Pidana (KUHP) baru mulai 2 Januari 2026. Pasal 172 KUHP mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengancam pelaku dengan pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda.
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto atau deepfake asusila dapat menempuh upaya hukum melalui pelaporan ke aparat penegak hukum atau pengaduan ke Kemkominfo.
Di sisi lain, pakar keamanan siber menyoroti respons Indonesia yang dinilai telat. Ardi Sutedja, Ketua Indonesia Cyber Security Forum (ICSF), menyebut polemik Grok AI sebenarnya adalah persoalan lama yang kembali memperlihatkan lemahnya antisipasi negara.
“Negara lain sudah bereaksi sejak awal, kita baru sekarang ribut. Dari dulu polanya begitu, selalu telat,” ujar Ardi saat dihubungi terpisah.
Ia juga mengkritik rendahnya literasi digital masyarakat terhadap risiko teknologi seperti AI. Menurutnya, edukasi kepada publik tentang etika berdigital dan dampak penyalahgunaan teknologi masih sangat kurang. Ancaman pemblokiran, kata Ardi, tidak akan efektif jika hanya bersifat reaktif dan tidak diiringi dengan pembangunan kesadaran dan regulasi yang komprehensif.
Indonesia bukanlah negara pertama yang mempersoalkan Grok AI. Sejumlah negara seperti Prancis, India, dan Malaysia juga telah menyampaikan kekhawatiran serupa kepada perusahaan pemilik X, milik Elon Musk.
Dengan langkah penyelidikan Polri dan tekanan regulasi dari pemerintah, kasus ini menjadi ujian bagi penegakan hukum di ruang digital Indonesia serta keseriusan platform teknologi global dalam mematuhi hukum dan melindungi pengguna di setiap yurisdiksi. (pukulenam.id)
