KALBARAYA, LONDON – Keamanan teknologi kecerdasan buatan (AI) kembali menjadi sorotan dunia setelah Princess of Wales, Kate Middleton, dilaporkan menjadi korban konten deepfake seksual yang dihasilkan oleh Grok AI. Menanggapi insiden serius ini, Ofcom selaku regulator media dan telekomunikasi Inggris segera menginterogasi xAI, perusahaan pengembang Grok milik Elon Musk.
Ofcom tengah melakukan investigasi mendalam terkait kemampuan Grok dalam memproduksi citra manipulatif tanpa busana. Berdasarkan laporan BBC, sejumlah pengguna di platform X kedapatan mengeksploitasi fitur AI tersebut untuk mengubah foto asli perempuan menjadi konten seksual eksplisit tanpa persetujuan pihak terkait.
“Kami sangat menyadari kekhawatiran publik atas fitur Grok yang berpotensi menghasilkan konten seksual dewasa hingga materi pelecehan anak. Kami telah melakukan komunikasi mendesak dengan pihak X dan xAI untuk menagih komitmen perlindungan pengguna sesuai regulasi di Inggris,” tegas pernyataan resmi Ofcom yang dikutip dari Newsweek.
Ujian Regulasi AI Global
Meski Istana Kensington belum memberikan pernyataan resmi, kasus ini dianggap sebagai ujian perdana bagi penegak hukum dalam menghadapi pesatnya perkembangan AI generatif. Ofcom kini sedang mempertimbangkan sanksi hukum jika xAI terbukti gagal menyaring instruksi (prompt) berbahaya.
Di sisi lain, tim keamanan Grok AI mengklaim telah menerapkan kebijakan ketat. Mereka menegaskan bahwa pengguna yang memerintahkan Grok untuk menciptakan konten ilegal akan dijatuhi sanksi berupa pemblokiran akun secara permanen hingga kerja sama dengan aparat penegak hukum.
Respons Pemerintah Indonesia: Komdigi Soroti Privasi Warga
Dampak dari kerentanan Grok AI juga mencapai Indonesia. Kementerian Komunikasi dan Digital (Komdigi) melaporkan bahwa pihaknya tengah menginvestigasi penyalahgunaan teknologi serupa yang menyasar warga lokal.
Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital Komdigi, menyebut bahwa proteksi internal pada Grok AI masih sangat minim.
- Minim Proteksi: Grok dinilai belum memiliki filter eksplisit untuk mencegah fabrikasi konten pornografi berbasis foto nyata.
- Risiko Reputasi: Manipulasi digital ini dianggap sebagai pelanggaran privasi serius dan perampasan identitas visual individu.
- Dampak Sosial: Selain melanggar norma, praktik ini dapat memberikan tekanan psikologis serta kerusakan reputasi jangka panjang bagi para korban.
“Praktik manipulasi foto pribadi bukan sekadar masalah kesusilaan, tetapi merupakan ancaman terhadap kontrol individu atas citra dirinya sendiri,” ujar Alexander dalam keterangan resminya.
