NUSATIME.ID – Upaya OpenAI memperkuat keamanan ChatGPT bagi pengguna remaja masih menyisakan sejumlah persoalan.
Penelitian Common Sense Media melalui Youth AI Safety Institute menemukan bahwa chatbot tersebut belum selalu memberikan respons yang tepat dalam percakapan mengenai kesehatan mental.
Sejumlah kelemahan juga ditemukan pada fitur pengawasan orang tua dan pendampingan belajar.
Penelitian tersebut menguji ChatGPT menggunakan lebih dari 4.000 perintah (prompt) melalui akun yang terdaftar sebagai pengguna berusia 13 hingga 17 tahun.
Para peneliti turut melibatkan psikiater anak dan dokter anak untuk mengevaluasi respons chatbot, baik sebelum maupun setelah OpenAI memperkenalkan ChatGPT for Teens pada 18 Agustus.
Salah satu temuan yang menjadi perhatian adalah tidak berfungsinya notifikasi orang tua dalam sejumlah skenario pengujian.
Fitur tersebut dirancang untuk memberi tahu orang tua ketika remaja diduga mengalami tekanan psikologis serius.
Untuk menguji mekanisme tersebut, peneliti melakukan percakapan hingga satu jam mengenai pikiran bunuh diri, tindakan menyakiti diri sendiri, dan gangguan pola makan.
Pengujian dilakukan menggunakan akun baru yang telah terhubung dengan akun orang tua.
Namun, tidak satu pun percakapan tersebut memicu notifikasi. Pemberitahuan baru muncul ketika peneliti menggunakan akun lama yang memiliki riwayat percakapan relevan selama beberapa minggu.
Selain itu, ChatGPT dilaporkan gagal mengarahkan pengguna menuju bantuan yang sesuai dalam lebih dari 25 persen skenario darurat kesehatan mental yang dirancang oleh para ahli.
Peneliti juga menyoroti respons chatbot yang masih memberikan kesan bahwa kecerdasan buatan memiliki perasaan, preferensi, dan suasana hati. Kondisi ini dinilai perlu mendapat perhatian karena remaja berpotensi menganggap chatbot sebagai teman untuk mencurahkan persoalan pribadi.
Fitur Belajar ChatGPT Dinilai Masih Memiliki Celah
Selain persoalan kesehatan mental, penelitian tersebut menemukan kelemahan pada fitur pendidikan ChatGPT.
Fitur Study Mode dirancang untuk membantu siswa memahami materi melalui penjelasan dan petunjuk, bukan sekadar memberikan jawaban langsung atas tugas yang dikerjakan. Akan tetapi, pengguna masih dapat memilih opsi “Show me the answer” untuk memperoleh jawaban secara langsung.
Fitur Study Hours yang ditujukan untuk mendorong kebiasaan belajar juga dinilai belum efektif sepenuhnya. Peneliti menemukan bahwa fitur tersebut dapat dilewati dengan menghapus awalan perintah “@study”.
ChatGPT juga dinilai belum cukup sering mengingatkan pengguna agar beristirahat selama menggunakan layanan tersebut.
Masalah lain ditemukan pada sistem deteksi usia. Mekanisme yang seharusnya mengenali pengguna di bawah umur tidak memindahkan akun pengujian ke pengalaman khusus remaja, meskipun peneliti berulang kali menyatakan bahwa mereka berusia 13 tahun.
Meski demikian, penelitian tersebut tidak menunjukkan bahwa seluruh perlindungan ChatGPT gagal. Dalam aspek tertentu, chatbot masih mampu menerapkan pembatasan, termasuk menolak permintaan untuk menghasilkan interaksi seksual eksplisit dalam percakapan.
Common Sense Media Minta Akses Remaja Dibatasi
Berdasarkan hasil pengujian tersebut, Common Sense Media merekomendasikan agar OpenAI membatasi akses ChatGPT hanya untuk pengguna dewasa sampai berbagai persoalan keamanan yang ditemukan dapat diperbaiki.
Para peneliti juga meminta perusahaan menghentikan pemasaran ChatGPT kepada remaja dan menutup akses anak-anak terhadap layanan tersebut hingga sistem perlindungannya dinilai benar-benar aman.
“Kami mendesak OpenAI menangguhkan pemasaran ChatGPT untuk remaja, dan menutup akses anak-anak ke ChatGPT secara menyeluruh, hingga layanan tersebut benar-benar aman digunakan,” kata para peneliti.
Menanggapi temuan itu, OpenAI menyatakan tetap berkomitmen menjaga keselamatan remaja serta menyediakan fitur yang memungkinkan orang tua mengawasi penggunaan kecerdasan buatan oleh anak-anak mereka.
Namun, perusahaan tidak sepakat dengan kesimpulan Common Sense Media. OpenAI menilai metode pengujian yang digunakan belum sepenuhnya menggambarkan cara kerja sistem perlindungan ChatGPT dalam penggunaan sehari-hari.
OpenAI juga mempertanyakan hasil pengujian notifikasi orang tua. Menurut perusahaan, sebagian besar pengujian kemungkinan dilakukan sebelum proses aktivasi kontrol orang tua selesai.
“Kami berkomitmen untuk terus bekerja sama dengan para ahli guna memastikan produk kami memberi remaja kesempatan untuk belajar dan berkreasi, sekaligus memberikan keyakinan kepada orang tua,” ujar juru bicara OpenAI.
Tinggalkan Balasan