JAKARTA – Chairman Lembaga Riset Keamanan Siber dan Komunikasi (CISSReC), Pratama Persadha, memberikan sejumlah saran kepada masyarakat agar tidak menjadi korban manipulasi foto cabul berbasis kecerdasan buatan yang melibatkan Grok AI di platform X. Fenomena tersebut belakangan menjadi sorotan publik karena berpotensi melanggar privasi dan hak identitas digital pengguna.
“Sebagai pengguna, langkah mitigasi yang bisa dilakukan untuk mengurangi kemungkinan gambar yang diunggah menjadi bahan eksploitasi oleh Grok AI atau sistem serupa melibatkan keseimbangan antara proteksi teknis dan perilaku digital yang bijak,” ujar Pratama Persadha, Selasa (6/1).
Secara individu, Pratama menyarankan pengguna untuk meninjau dan memperketat pengaturan privasi di media sosial. Dengan membatasi siapa saja yang dapat melihat unggahan foto, risiko penyalahgunaan gambar oleh pihak lain untuk diproses melalui prompt AI dapat diminimalkan.
“Semakin kecil audiens, maka semakin kecil pula kemungkinan foto tersebut disalahgunakan oleh pihak lain,” jelasnya.
Ia juga mengimbau masyarakat agar menahan diri untuk tidak mengunggah foto yang bersifat sangat pribadi atau sensitif secara terbuka. Langkah tersebut dinilai efektif dalam mengurangi risiko gambar diambil dan dimanipulasi oleh model kecerdasan buatan.
Dari sisi teknis, Pratama menyebut pengguna dapat memanfaatkan alat proteksi identitas atau pengelolaan metadata, jika tersedia, untuk mempersulit sistem AI mengenali fitur wajah secara langsung. Namun ia mengakui bahwa teknologi ini masih dalam tahap pengembangan dan belum menjadi solusi mutlak dalam mencegah praktik deepfake.
“Pelaporan cepat terhadap konten manipulatif kepada platform terkait dan otoritas yang berwenang, serta peningkatan kesadaran komunitas terhadap ancaman deepfake, juga merupakan bagian penting dari strategi mitigasi,” tambahnya.
Meski demikian, Pratama menegaskan bahwa berbagai langkah tersebut hanya memberikan lapisan perlindungan tambahan. Tantangan utama, menurutnya, terletak pada tanggung jawab platform digital dan regulator dalam membangun sistem yang lebih protektif terhadap eksploitasi identitas digital di era kecerdasan buatan.
Sebelumnya, Grok AI menuai kritik tajam karena menghasilkan dan mempublikasikan gambar seksual melalui permintaan pengguna di platform X. Konten tersebut mencakup manipulasi foto perempuan, bahkan anak-anak, dalam kondisi berpakaian minim atau situasi sugestif.
Fenomena Grok AI yang merespons permintaan pengguna untuk memodifikasi foto, termasuk instruksi untuk “mengurangi pakaian” pada subjek gambar, memicu perhatian serius dari otoritas di berbagai negara. Regulator di Inggris, Uni Eropa, India, Prancis, dan Malaysia dilaporkan telah mengecam atau membuka investigasi terkait penggunaan Grok AI dalam pembuatan konten yang dinilai melanggar etika dan hukum.
Kritik tersebut mencakup temuan gambar anak-anak dalam pose sugestif yang dikategorikan sebagai materi eksploitasi seksual anak berbasis AI, yang secara hukum dilarang di banyak yurisdiksi.
