KALBARAYA – Kementerian Komunikasi dan Digital (Kemkomdigi) bergerak cepat merespons dugaan penyalahgunaan fitur kecerdasan buatan (AI) milik platform X, Grok AI. Teknologi tersebut disinyalir dimanfaatkan oleh pihak tidak bertanggung jawab untuk memproduksi konten pornografi, termasuk manipulasi foto pribadi (deepfake) tanpa izin pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa sistem pengamanan pada Grok AI saat ini dinilai masih sangat lemah dalam menyaring konten sensitif.
Minim Proteksi pada Teknologi Grok AI Hasil investigasi awal Kemkomdigi menunjukkan belum adanya batasan atau filter yang memadai dalam algoritma Grok AI untuk mencegah distribusi konten pornografi berbasis citra nyata warga Indonesia.
“Temuan kami mengindikasikan Grok AI belum memiliki regulasi internal yang spesifik guna memproteksi hak citra diri warga. Hal ini berpotensi memicu pelanggaran privasi yang sangat fatal,” ujar Alexander dalam keterangan resminya di Jakarta, Rabu (7/1/2026).
Manipulasi digital ini dipandang bukan sekadar pelanggaran asusila, melainkan serangan terhadap kendali identitas visual individu yang berdampak luas pada reputasi serta kondisi psikologis korban.
Peringatan Keras bagi Penyelenggara Sistem Elektronik (PSE)
Kemkomdigi menegaskan bahwa seluruh platform digital yang beroperasi di tanah air wajib mematuhi koridor hukum nasional. Saat ini, koordinasi intensif dengan para PSE tengah dilakukan untuk memperkuat moderasi konten dan sistem penanganan laporan pelanggaran privasi secara cepat.
“Teknologi tidak boleh menjadi sarana eksploitasi seksual maupun perusakan martabat manusia. Jika ditemukan sikap tidak kooperatif, kami tidak ragu untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI maupun platform X secara keseluruhan,” tegas Alexander.
Payung Hukum Baru di Tahun 2026 Tindakan tegas ini didasarkan pada Undang-Undang Nomor 1 Tahun 2023 tentang KUHP yang baru saja berlaku efektif pada 2 Januari 2026. Berdasarkan Pasal 172 dan Pasal 407, penyebaran konten pornografi kini diancam pidana penjara minimal enam bulan hingga maksimal 10 tahun.
Kemkomdigi juga mengimbau masyarakat yang menjadi korban manipulasi foto atau deepfake untuk segera menempuh jalur hukum melalui aparat kepolisian atau kanal aduan resmi kementerian.
“Dunia digital bukan area tanpa aturan. Ada hak atas citra diri setiap warga yang wajib dihormati. Gunakanlah kecerdasan buatan secara etis dan bertanggung jawab,” tutupnya.
