Jakarta | EnterKal — Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara aplikasi Grok. Langkah ini diambil untuk mencegah penyebaran konten pornografi palsu berbasis kecerdasan buatan yang berpotensi merugikan perempuan, anak, dan masyarakat luas.
Menteri Komunikasi dan Digital Meutya Hafid menyatakan kebijakan tersebut merupakan bentuk tanggung jawab negara dalam menjaga ruang digital yang aman dan beretika. Pernyataan itu disampaikan di Jakarta, Sabtu (10/1).
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya.
Menurut dia, penggunaan teknologi kecerdasan buatan untuk memproduksi dan menyebarluaskan konten pornografi palsu tanpa persetujuan pihak yang menjadi objek termasuk bentuk kekerasan berbasis digital. Dampaknya dapat dirasakan secara psikologis, sosial, maupun hukum oleh korban.
Meutya menjelaskan, pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif. Pemerintah perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai agar tidak disalahgunakan untuk memproduksi atau menyebarluaskan konten terlarang.
Selain itu, Komdigi telah meminta Platform X sebagai pihak terkait untuk memberikan klarifikasi. Klarifikasi tersebut diperlukan guna menjelaskan dampak penggunaan Grok serta langkah mitigasi yang akan dilakukan agar penyalahgunaan serupa tidak terulang.
“Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujar Meutya.
Ia menambahkan, langkah pemutusan akses tersebut memiliki dasar hukum yang jelas. Komdigi menjalankan kewenangannya sesuai Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Dalam regulasi itu, khususnya Pasal 9, setiap PSE diwajibkan memastikan sistem elektronik yang dikelolanya tidak memuat atau memfasilitasi penyebaran informasi elektronik yang dilarang oleh peraturan perundang-undangan.
Di tingkat global, Grok menuai kritik dari berbagai negara karena dinilai memungkinkan pembuatan gambar bernuansa pornografi. Sejumlah negara, termasuk Inggris, Uni Eropa, dan India, telah menyuarakan keberatan terhadap penggunaan fitur tersebut.
Uni Eropa bahkan meminta xAI menyimpan seluruh dokumentasi terkait pengembangan dan pengoperasian chatbot Grok. Sementara itu, pemerintah India dilaporkan meminta Platform X melakukan perubahan segera untuk mencegah penyalahgunaan fitur pembuatan gambar, dengan ancaman pencabutan perlindungan safe harbor jika tidak dipatuhi.
Pemerintah Indonesia menegaskan akan terus memantau perkembangan penanganan isu tersebut serta mengambil langkah lanjutan sesuai ketentuan hukum guna memastikan ruang digital tetap aman bagi masyarakat.