Perlindungan Berdasarkan Usia
Pengguna yang menyatakan berusia di bawah 18 tahun ketika mendaftarkan diri akan secara otomatis ditempatkan dalam mode perlindungan tersebut.
OpenAI juga menggunakan teknologi prediksi usia untuk memperkirakan usia pengguna. Jika sistem menduga seseorang berusia di bawah 18 tahun, mode perlindungan yang sama dapat diterapkan meski tanggal lahir yang tercantum di profil menunjukkan usia berbeda. OpenAI sebelumnya menjelaskan bahwa ketika sistem tidak yakin terhadap perkiraan usia, pendekatan yang digunakan adalah memilih pengalaman yang lebih aman bagi pengguna di bawah 18 tahun.
Kepala bagian remaja dan keluarga OpenAI Lauren Jonas mengatakan ChatGPT untuk remaja didedikasikan untuk mendukung fokus belajar anak dengan fitur pengamanan dan perlindungan tambahan.
OpenAI juga telah menyediakan kontrol bagi orang tua, termasuk pengaturan fitur tertentu serta Jam Tenang. Dalam pengaturan tersebut, privasi percakapan remaja tetap menjadi bagian dari perlindungan yang diperhatikan perusahaan.
Studi dari Pew Research Center yang diterbitkan pada bulan Desember menunjukkan bahwa hampir sepertiga remaja Amerika Serikat (AS) menggunakan chatbot AI setiap hari. Berdasarkan survei yang sama, ChatGPT menjadi yang paling populer, dengan setengah responden melaporkan telah menggunakannya.
Rangkaian Tuntutan terhadap OpenAI
OpenAI tengah menghadapi pengawasan terkait kekhawatiran bahwa ChatGPT berisiko memberikan paparan terhadap konten tidak pantas, memperburuk kesepian, atau menghambat pembelajaran.
Perusahaan juga menerima sejumlah tuntutan hukum dari keluarga pengguna yang menuduh ChatGPT berkontribusi, atau bahkan mendorong, bunuh diri anak mereka. OpenAI telah membantah tuduhan-tuduhan tersebut.
Pada musim gugur lalu, OpenAI memperkenalkan kontrol yang memungkinkan orang tua menonaktifkan fitur ChatGPT seperti memori dan riwayat obrolan. Orang tua juga dapat menerima pemberitahuan ketika sistem mendeteksi “momen stres negatif akut” selama anak menggunakan chatbot tersebut. Perusahaan juga menyatakan akan menambahkan peringatan terkait gangguan makan.
Sejak saat itu, tuduhan bahwa ChatGPT bertanggung jawab atas kekerasan yang melibatkan anak-anak terus diterima perusahaan.
April lalu, tujuh keluarga korban penembakan sekolah di British Columbia menuntut OpenAI dan CEO Sam Altman. Tuntutan tersebut didasari tuduhan keterlibatan ChatGPT karena pelaku penembakan diduga melakukan percakapan dengan chatbot tersebut terkait kekerasan senjata api.
Setelah Altman mengungkapkan permohonan maaf, OpenAI menyatakan pihaknya telah memperkuat sistem pengamanan.
Namun, pada Juni, OpenAI dan Altman kembali dituntut atas tuduhan serupa oleh negara bagian Florida. ChatGPT dinilai gagal mengatasi risiko keamanan bagi anak di bawah umur.
Chatbot tersebut dituduh membantu pelaku penembakan massal, mendorong bunuh diri, menyebabkan penghinaan publik, membuat anak kecanduan tanpa pengawasan orang tua, dan menyebabkan hilangnya kemampuan berpikir kritis.
OpenAI membantah tuduhan tersebut dan menyatakan telah menerapkan perlindungan serta kebijakan terdepan.
