JAKARTA — Polemik kecerdasan buatan Grok AI di platform X terus memanas dan menjelma menjadi isu besar yang melibatkan teknologi, hukum, dan etika digital. Pembatasan fitur pembuatan dan penyuntingan gambar yang diberlakukan pemilik X, Elon Musk, belum mampu meredam kritik publik. Sebaliknya, langkah tersebut justru memperkuat sorotan global terhadap tanggung jawab platform digital dalam mengelola teknologi AI generatif.
Kebijakan pembatasan mulai diterapkan pada 9 Januari 2026 waktu Amerika Serikat. Sejak saat itu, fitur pembuatan dan edit gambar Grok melalui perintah di lini masa X hanya dapat diakses oleh pelanggan X Premium. Pengguna gratis yang mencoba memanggil Grok dengan menyertakan tagar @Grok akan menerima pesan otomatis bahwa fitur tersebut terkunci dan hanya tersedia bagi pelanggan berbayar, lengkap dengan tautan berlangganan.
Langkah ini diambil menyusul maraknya laporan penyalahgunaan Grok AI untuk membuat konten asusila dan pornografi berbasis manipulasi foto atau deepfake. Dalam berbagai kasus, foto individu nyata dimodifikasi sedemikian rupa hingga tampak terlibat dalam adegan asusila. Konten tersebut kemudian beredar luas di ruang digital tanpa persetujuan pihak yang menjadi korban.
Masalahnya, pembatasan ini dinilai belum menyentuh akar persoalan. Sejumlah pengguna masih dapat membuat gambar melalui tab Grok yang tersedia langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari platform X juga belum sepenuhnya menerapkan pembatasan serupa. Fakta ini memicu kritik bahwa kebijakan xAI bersifat parsial dan belum menyeluruh.
Pengamat keamanan digital menilai pembatasan berbasis langganan lebih menyerupai penghalang akses daripada solusi teknis. Selama sistem AI masih mampu menghasilkan konten ilegal, risiko penyalahgunaan tetap terbuka. Dalam konteks ini, status berbayar atau gratis pengguna dinilai tidak relevan jika teknologi di baliknya belum dilengkapi sistem pencegahan yang kuat.
Kritik keras datang dari berbagai negara. Pemerintah Inggris menilai kebijakan tersebut tidak menyelesaikan persoalan mendasar. Menurut pernyataan pejabat setempat, memindahkan fitur bermasalah ke layanan berbayar tidak otomatis menghentikan produksi konten ilegal. Uni Eropa melalui Komisi Eropa juga menyampaikan pandangan serupa. Otoritas Eropa menegaskan bahwa konten asusila tidak dapat diterima dalam kondisi apa pun, baik diakses oleh pengguna gratis maupun berbayar.
Di Amerika Serikat, polemik Grok AI berkembang ke ranah politik dan bisnis. Sejumlah senator dilaporkan melayangkan surat kepada Apple dan Google untuk meminta evaluasi terhadap keberadaan aplikasi X di toko aplikasi. Para legislator menilai platform tersebut berpotensi melanggar standar distribusi aplikasi jika gagal melindungi pengguna dari konten berbahaya.
Di Indonesia, isu Grok AI juga mendapat perhatian serius. Kementerian Komunikasi dan Digital atau Komdigi menyatakan telah melakukan penyelidikan awal terhadap layanan Grok AI. Pemerintah menilai praktik manipulasi foto menjadi konten asusila berpotensi melanggar privasi dan hak atas citra diri warga negara.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli. Menurutnya, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran norma kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya.
Alexander menegaskan bahwa dampak pelanggaran hak citra diri dapat sangat luas. Korban berpotensi mengalami tekanan psikologis, stigma sosial, hingga kerusakan reputasi yang memengaruhi kehidupan pribadi dan profesional. Dalam ekosistem digital, konten semacam ini juga sulit dihapus sepenuhnya karena dapat disalin dan disebarkan ulang dalam waktu singkat.
Komdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memastikan tersedianya mekanisme perlindungan yang efektif. Pemerintah mendorong penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri. Seluruh platform digital diingatkan untuk bertanggung jawab atas teknologi yang mereka sediakan.
Pemerintah juga menegaskan bahwa kepatuhan terhadap hukum nasional bersifat wajib. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat diterapkan. Opsi pemblokiran terhadap layanan Grok AI maupun platform X dinyatakan terbuka apabila pelanggaran dinilai serius dan berulang.
Ancaman sanksi tersebut diperkuat oleh berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi dan manipulasi citra pribadi tanpa hak diatur secara tegas, termasuk ancaman pidana penjara dan denda. Ketentuan ini berlaku tidak hanya bagi individu yang memproduksi atau menyebarkan konten, tetapi juga membuka ruang tanggung jawab bagi penyedia layanan yang lalai melakukan pencegahan.
Kasus Grok AI memperlihatkan tantangan besar dalam tata kelola kecerdasan buatan generatif. Di satu sisi, AI menawarkan kemudahan dan efisiensi luar biasa. Di sisi lain, tanpa pengamanan dan regulasi yang memadai, teknologi yang sama dapat menjadi alat pelanggaran privasi dan martabat manusia.
Tekanan global terhadap X menunjukkan perubahan sikap publik terhadap platform digital. Inovasi teknologi kini tidak lagi cukup tanpa akuntabilitas. Grok AI menjadi contoh nyata bahwa kecanggihan kecerdasan buatan harus berjalan seiring dengan tanggung jawab hukum, etika, dan perlindungan hak dasar masyarakat di ruang digital.