Sudut Pandang Keamanan Siber
Dari perspektif keamanan siber, Pratama menilai persoalan Grok AI berkaitan erat dengan risiko privasi, persetujuan (consent), serta perlindungan identitas digital individu. Teknologi AI yang mampu memanipulasi gambar dengan tingkat realisme tinggi dinilai berbahaya apabila digunakan untuk melanggar hak dan martabat seseorang.
“Ancaman ini tidak hanya berdampak pada individu tertentu, tetapi juga berpotensi memicu eksploitasi digital, penghinaan publik, intimidasi berbasis gender, hingga penyebaran materi ilegal seperti eksploitasi seksual anak,” ungkapnya.
Ia menambahkan, penggunaan AI untuk memodifikasi foto seseorang tanpa izin dapat mengikis kepercayaan publik terhadap platform digital, serta memperluas spektrum ancaman siber dari sekadar pencurian data menjadi pelanggaran identitas personal dan hak asasi digital.
Secara teknis, Pratama menilai sistem pengendalian konten atau guardrail pada Grok AI gagal menyaring permintaan pembuatan konten seksual eksplisit yang melibatkan identitas nyata. Menurutnya, hal tersebut dipengaruhi oleh desain dan kebijakan moderasi yang relatif lebih longgar dibandingkan platform AI lain yang memiliki kontrol NSFW lebih ketat.
“Grok bahkan dilaporkan memiliki ‘Spicy Mode’ yang secara eksplisit mengizinkan konten sugestif dewasa, sementara mekanisme pencegahan manipulasi citra nyata tidak cukup kuat atau tidak dipahami dengan baik oleh sistem ketika dipicu oleh permintaan pengguna,” jelas Pratama.
Ia menilai kombinasi kebijakan moderasi yang permisif, desain guardrail yang rapuh, serta lemahnya filter konseptual terhadap konten berbasis foto nyata menjadi faktor utama yang memungkinkan Grok AI merespons permintaan meski bertentangan dengan prinsip persetujuan dan ketentuan hukum.
