Nepal Desak Meta dan TikTok Hapus Hoaks AI Banjir Bandang, QR Donasi Palsu Beredar

Jakarta — Pemerintah Nepal mendesak Meta dan TikTok segera menghapus konten menyesatkan yang beredar setelah banjir bandang melanda negara tersebut pada Rabu (26/8). Konten yang ditemukan mencakup gambar dan video buatan kecerdasan buatan (AI), rekaman lama yang seolah-olah merupakan kejadian terbaru, hingga kode QR donasi palsu.

Desakan tersebut disampaikan dalam pertemuan pemerintah Nepal dengan perwakilan Meta dan TikTok pada Jumat (28/8). Pemerintah meminta kedua platform mempercepat penanganan konten yang berpotensi menyesatkan masyarakat, menghambat proses bantuan, maupun menambah trauma bagi keluarga korban.

Bijay Kumar Roy, koordinator Satgas Pengaturan dan Pengelolaan Media Sosial sekaligus Direktur Otoritas Telekomunikasi Nepal (NTA), mengatakan pemerintah meminta platform langsung menghapus tautan menuju konten yang bermasalah.

“Karena penyedia layanan internet hanya bisa memblokir domain situs secara keseluruhan, koordinasi langsung dengan pengelola platform menjadi sangat krusial,” kata Roy, melansir The Strait Times, Sabtu (29/8).

Roy juga meminta Meta dan TikTok meningkatkan kemampuan sistem mereka untuk mendeteksi konten berbahaya secara lebih proaktif.

“Pemerintah telah mendesak TikTok dan Meta agar mengoptimalkan algoritma mereka secara proaktif sehingga konten yang menampilkan kekerasan maupun informasi yang menampilkan kekerasan maupun informasi palsu dapat terblokir secara otomatis saat diunggah,” lanjut dia.

Hoaks AI dan Video Lama Beredar

Banjir bandang yang melanda Nepal pada Rabu (26/8) memicu penyebaran berbagai konten menyesatkan di media sosial. Sejumlah video lama kembali dibagikan dan disebut sebagai rekaman terbaru dari lokasi bencana.

Selain itu, gambar serta video yang dibuat menggunakan AI juga beredar seolah-olah merupakan dokumentasi asli kondisi di lokasi banjir.

Pihak berwenang turut menemukan kode QR palsu yang digunakan untuk menggalang donasi bagi korban. Pemerintah Nepal khawatir modus tersebut memanfaatkan kepedulian masyarakat terhadap korban bencana sekaligus mengalihkan dana yang seharusnya digunakan untuk bantuan.

Meta dan TikTok telah menunjuk perwakilan khusus di Nepal untuk memudahkan pemerintah melaporkan unggahan yang bermasalah. Setelah menerima laporan, kedua platform berkoordinasi dengan pejabat setempat untuk melakukan penghapusan konten.

Namun, proses tersebut dinilai masih membutuhkan waktu cukup lama. Roy mengatakan platform saat ini membutuhkan sekitar 24 hingga 48 jam untuk menindaklanjuti unggahan yang dilaporkan.

Kondisi tersebut membuat informasi palsu dan konten yang menimbulkan kecemasan berpotensi menyebar lebih luas sebelum akhirnya dihapus.

Karena itu, pemerintah meminta Meta dan TikTok memangkas waktu respons secara signifikan. Pemerintah juga meminta kedua platform langsung menyamarkan atau blur foto dan video yang dapat menimbulkan rasa cemas maupun trauma, terutama konten yang menampilkan korban dan dampak bencana.