KALBARAYA, NEW DELHI – Pemerintah India mengambil langkah tegas terhadap platform media sosial X (sebelumnya Twitter) milik Elon Musk. Kementerian Teknologi Informasi India secara resmi memerintahkan perbaikan mendasar pada chatbot berbasis kecerdasan buatan (AI), Grok, menyusul temuan penyalahgunaan fitur tersebut untuk menciptakan konten seksual yang eksplisit dan tidak senonoh.
New Delhi memberikan tenggat waktu selama 72 jam bagi pihak X untuk menyerahkan laporan komprehensif mengenai langkah-langkah korektif yang telah diambil guna mencegah penyebaran materi yang melanggar hukum di India.
Sorotan pada Eksploitasi Gambar Perempuan dan Anak Intervensi pemerintah ini dipicu oleh gelombang keresahan publik dan desakan dari anggota parlemen, Priyanka Chaturvedi. Berdasarkan laporan yang dihimpun, Grok kedapatan digunakan untuk memanipulasi gambar individu secara ilegal, khususnya perempuan, menjadi konten bermuatan seksual.
Lebih mengkhawatirkan lagi, muncul laporan mengenai kemampuan alat AI tersebut dalam menghasilkan citra seksual yang melibatkan anak di bawah umur. Meskipun pihak X mengklaim telah menghapus konten tersebut dan menyebutnya sebagai akibat dari celah keamanan, banyak gambar manipulatif lainnya dilaporkan masih bebas beredar di platform tersebut.
Ancaman Pencabutan Kekebalan Hukum (Safe Harbor)
Pemerintah India memperingatkan konsekuensi serius bagi X jika gagal mematuhi instruksi tersebut. Berikut adalah poin-poin utama dalam peringatan tersebut:
- Penghapusan Perlindungan Hukum: Ketidakpatuhan dapat membuat X kehilangan status safe harbor, yang berarti platform tersebut dapat dituntut secara pidana atas konten yang dibuat oleh penggunanya.
- Sanksi Pidana: Kegagalan pengawasan internal tidak hanya akan menyeret entitas perusahaan, tetapi juga pejabat yang bertanggung jawab berdasarkan hukum pidana India dan undang-undang teknologi informasi.
- Penguatan Protokol Keamanan: Platform didesak untuk membatasi secara ketat pembuatan konten telanjang, seksualisasi paksa, dan materi eksplisit lainnya yang bertentangan dengan norma hukum setempat.
Pertarungan Regulasi Digital di Pasar Global Sebagai salah satu pasar pengguna media sosial terbesar di dunia, kebijakan India ini menjadi tolak ukur bagi regulasi AI global. Langkah New Delhi ini diyakini akan memberikan tekanan besar bagi raksasa teknologi lainnya untuk memperketat filter pengamanan pada produk AI mereka.
Hingga saat ini, baik pihak X maupun xAI belum memberikan tanggapan resmi atas perintah pemerintah India tersebut. Di sisi lain, platform milik Elon Musk ini diketahui masih terlibat dalam proses hukum dengan pemerintah India terkait keberatan mereka atas sejumlah aturan penghapusan konten yang dianggap terlalu luas.
