NARASINETWORK.COM - Kementerian Komunikasi dan Digital (Kemkomdigi) telah mengambil langkah tegas untuk menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X. Teknologi ini diduga dimanfaatkan oleh beberapa pihak untuk memproduksi serta menyebarkan konten asusila, termasuk praktik manipulasi foto pribadi yang bersifat sensitif tanpa memperoleh persetujuan tertulis dari pemilik foto tersebut.
Siaran pers resmi yang diterbitkan pada 7 Januari 2026 menyatakan bahwa pemeriksaan awal terhadap sistem Grok AI menunjukkan adanya kekurangan dalam pengaturan yang eksplisit dan memadai untuk mencegah terjadinya produksi serta distribusi konten pornografi yang berbasis pada foto nyata milik warga Indonesia. Kondisi ini menimbulkan potensi besar bagi pelanggaran hak privasi dan hak atas citra diri (right to one’s image), terutama ketika foto seseorang dimanipulasi atau disebarluaskan secara luas tanpa izin yang sah.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menjelaskan hasil penelusuran yang telah dilakukan oleh tim teknis terkait. "Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dalam konferensi pers yang diadakan di Jakarta, Rabu (07/01/2026).
Kemkomdigi menilai bahwa praktik manipulasi digital terhadap foto pribadi tidak dapat dianggap hanya sebagai persoalan kesusilaan semata. Lebih dari itu, tindakan tersebut merupakan bentuk perampasan kendali yang seharusnya dimiliki oleh setiap individu atas identitas visualnya. Dampak yang ditimbulkan dapat mencakup kerugian psikologis bagi korban, gangguan pada kehidupan sosial, serta kerusakan pada reputasi yang telah dibangun selama bertahun-tahun.
"Setiap orang memiliki hak untuk mengontrol bagaimana citra dirinya digunakan dan disebarkan. Manipulasi foto untuk tujuan asusila bukan hanya merusak norma kesusilaan, tetapi juga menghancurkan martabat seseorang dan dapat menyebabkan dampak jangka panjang yang serius," tambah Alexander.
Alexander menegaskan bahwa pihak Kemkomdigi saat ini sedang melakukan koordinasi intensif dengan seluruh Penyelenggara Sistem Elektronik (PSE) yang terkait dengan penyediaan layanan Grok AI dan platform X di Indonesia. Tujuan utama dari koordinasi ini adalah untuk memastikan tersedianya mekanisme pelindungan yang efektif bagi seluruh pengguna layanan digital di negara ini.
Langkah-langkah yang akan diambil mencakup beberapa aspek penting, antara lain penguatan sistem moderasi konten yang beroperasi secara real-time, pengembangan teknologi untuk pencegahan pembuatan deepfake dengan muatan asusila, serta penyempurnaan prosedur penanganan cepat atas setiap laporan yang masuk terkait pelanggaran privasi dan pelanggaran hak citra diri.
"Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana untuk melakukan pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang. Tanggung jawab ini tidak dapat diabaikan atau ditunda-tunda," tegasnya.
Kemkomdigi juga mengingatkan secara tegas bahwa kewajiban untuk mematuhi seluruh peraturan perundang-undangan yang berlaku di Indonesia melekat pada setiap PSE yang beroperasi di wilayah negara kesatuan Republik Indonesia. Apabila dalam proses pemeriksaan ditemukan bukti ketidakpatuhan atau sikap tidak kooperatif dari pihak PSE terkait, Kemkomdigi memiliki kewenangan untuk menjatuhkan sanksi administratif yang sesuai dengan peraturan yang berlaku. Sanksi tersebut dapat berupa pemberitahuan perbaikan dalam jangka waktu tertentu, pemberian denda administratif, hingga langkah ekstrem berupa pemutusan akses layanan Grok AI dan platform X bagi pengguna di Indonesia.
Kemkomdigi menegaskan bahwa tidak hanya penyedia layanan kecerdasan buatan yang akan dikenai konsekuensi hukum apabila terbukti melakukan pelanggaran. Pengguna yang terbukti secara sengaja memproduksi dan/atau menyebarkan konten pornografi, maupun melakukan manipulasi citra pribadi tanpa hak yang sah, juga dapat dikenai sanksi administratif dan/atau pidana sesuai dengan ketentuan hukum yang berlaku di Indonesia.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada tanggal 2 Januari 2026, peraturan terkait konten pornografi telah diatur secara jelas dalam beberapa pasal. Pasal 172 KUHP baru mendefinisikan pornografi sebagai segala bentuk media yang memuat unsur kecabulan atau eksploitasi seksual yang secara jelas melanggar norma kesusilaan yang dianut oleh masyarakat Indonesia. Sementara itu, Pasal 407 KUHP baru mengatur ancaman pidana yang cukup berat bagi pelaku, yaitu penjara dengan masa yang paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun, atau dikenakan pidana denda dengan jumlah yang sesuai dengan ketentuan yang tercantum dalam peraturan tersebut.
"Peraturan hukum yang baru berlaku memberikan dasar yang kuat bagi kita untuk menindak setiap bentuk pelanggaran terkait konten asusila dan manipulasi citra pribadi. Tidak ada ruang bagi mereka yang ingin menggunakan teknologi untuk melakukan tindakan yang merugikan orang lain," jelas Alexander.
Alexander menambahkan bahwa masyarakat yang menjadi korban manipulasi foto pribadi, korban deepfake dengan muatan asusila, atau mengalami pelanggaran hak citra diri tidak perlu tinggal diam. Korban dapat menempuh berbagai upaya hukum melalui mekanisme yang telah disediakan dalam peraturan perundang-undangan yang berlaku, termasuk melakukan pelaporan langsung kepada aparat penegak hukum seperti Kepolisian Negara Republik Indonesia (Polri) dan mengajukan pengaduan resmi kepada Kemkomdigi melalui fasilitas yang telah disediakan.
"Kami telah menyediakan saluran pengaduan yang dapat diakses oleh seluruh masyarakat. Fasilitas pengaduan konten negatif yang kami kelola dapat menerima laporan terkait penyalahgunaan teknologi untuk membuat konten asusila, manipulasi foto pribadi, serta berbagai bentuk pelanggaran hak digital lainnya," ujarnya.
Alexander mengimbau seluruh pihak yang menggunakan layanan digital dan teknologi kecerdasan buatan untuk selalu bertindak secara bertanggung jawab. "Ruang digital bukanlah ruang yang bebas dari hukum atau norma. Di dalamnya terdapat hak privasi dan hak atas citra diri setiap warga negara yang harus selalu dihormati dan dilindungi. Mari kita bersama-sama menjaga ruang digital agar tetap aman, nyaman, dan bermanfaat bagi seluruh lapisan masyarakat," pungkasnya.