Pemerintah Indonesia baru-baru ini mengambil langkah hukum signifikan dengan memblokir sementara akses Grok, sebuah chatbot kecerdasan buatan yang dikembangkan perusahaan teknologi internasional, karena kemampuan menghasilkan konten seksual eksplisit dan deepfake yang non-konsensual — termasuk yang melibatkan perempuan dan anak. Pemerintah menilai risiko penyalahgunaan teknologi AI ini melanggar hak privasi, martabat manusia, serta berpotensi menimbulkan perbuatan yang melanggar hukum terkait pornografi dan pelindungan anak.

Langkah pemblokiran Grok merupakan titik penting dalam dinamika hukum digital di Indonesia. Hal ini menunjukkan bahwa regulasi teknologi tidak lagi sekadar wacana, tetapi semakin nyata ditegakkan ketika teknologi berpotensi membahayakan norma sosial dan hukum yang berlaku. Pemerintah menekankan bahwa pembatasan ini bukan semata-mata soal sensor, tetapi tentang perlindungan hak digital dan ketenteraman umum di tengah pesatnya penggunaan AI generatif.

Dari sudut pandang hukum, tindakan tersebut membuka diskusi penting mengenai sejauh mana negara dapat dan harus mengatur teknologi asing yang beroperasi lintas batas. Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta ketentuan pidana terkait konten pornografi dan eksploitasi anak menjadi dasar hukum utama untuk menindak konten yang melanggar hukum ketika disebarkan secara digital. Kebijakan pemblokiran ini juga menegaskan bahwa penyebaran konten yang merugikan pihak lain melalui teknologi AI dapat dimintai pertanggungjawaban secara hukum kepada para pelakunya.

Kasus Grok AI menunjukkan bahwa era digital menuntut aturan hukum yang adaptif dan responsif — terutama ketika perkembangan teknologi bergerak lebih cepat dibandingkan regulasi. Di satu sisi, pelaku inovasi teknologi perlu memahami dan mematuhi batasan hukum nasional. Di sisi lain, pembentuk kebijakan dituntut untuk merumuskan kerangka hukum yang mampu mengatur AI governance secara komprehensif tanpa menghambat inovasi, namun tetap menjamin keamanan dan hak-hak warga negara.

Bila Anda ingin berkonsultasi lebih lanjut terkait persoalan hukum, segera hubungi kami di:

Telp: (021) 2206-4438
Email: info@dntlawyers.com
atau datang langsung ke kantor DNT Lawyers di Harmoni Plaza Blok F-10, Petojo Utara, Gambir, Jakarta Pusat.

Artikel hukum ini ditulis oleh Laura Bernaded Sihombing – Intern DNT Lawyers.

Referensi

• Indonesia dan Malaysia memblokir Grok AI karena risiko konten eksplisit dan non-konsensual dari kecerdasan buatan.
• Pemerintah Indonesia menutup akses sementara Grok karena pelanggaran hukum pornografi dan risiko mendistorsi martabat manusia.
• Kontroversi pemblokiran Grok AI dan respons internasional terkait moderasi konten digital.
• https://csirt.bappenas.go.id/berita/detail/785633dc-f73f-4651-b604-55f00735b372