Surabaya, Bhirawa
Gim daring Roblox yang menggunakan sistem moderasi berbasis Artificial Intelligence (AI) dinilai belum mampu melindungi anak-anak dari ancaman predator siber dan cyberbullying terselubung. Roblox sendiri merupakan platform gim daring yang sangat populer di kalangan anak-anak dan remaja.
Menurut laporan Sensor Tower, sekitar 67 persen pengguna Roblox pada 2024 berasal dari rentang usia di bawah 16 tahun. Hal ini disampaikan dua akademisi Universitas 17 Agustus 1945 (Untag) Surabaya, yakni dosen Sistem dan Teknologi Informasi (Sistekin) Supangat, Ph.D., dan dosen Psikologi Dr. Rr. Amanda Pascarini, M.Si., Psikolog.
Keduanya menyoroti keterbatasan AI dalam memahami konteks emosional dan niat manipulatif dalam interaksi virtual, terutama yang menyasar anak-anak. “AI memang bisa menyaring kata kasar atau konten eksplisit. Tapi tidak semua ancaman muncul dalam bentuk kalimat frontal. Grooming, misalnya, kerap dibungkus dengan pendekatan emosional yang lembut dan sulit dideteksi mesin,” ujar Supangat, Rabu (9/7).
Grooming digital adalah upaya predator siber mendekati anak secara perlahan, membangun kepercayaan, lalu menyisipkan komunikasi yang berujung pada pelecehan. Modus ini umumnya tidak terdeteksi sistem moderasi otomatis karena tidak mengandung kata-kata kasar atau konten vulgar secara langsung.
“Sebesar apa pun investasi dalam teknologi, tetap harus ada keterlibatan manusia secara aktif untuk menjaga keamanan ruang digital anak-anak,” pungkas Supangat.
Menurut Amanda, AI yang digunakan di platform seperti Roblox belum mampu menangkap dinamika psikologis dalam komunikasi daring. Akibatnya, banyak bentuk kekerasan non-verbal seperti pengucilan, sindiran, hingga tekanan emosional tidak terdeteksi oleh sistem.
“Saat platform menyebut dirinya aman karena dimoderasi AI, anak-anak cenderung menurunkan kewaspadaan. Mereka merasa tidak sedang dalam bahaya, padahal ancaman bisa saja tengah terjadi secara halus dan terselubung,” jelas Amanda.
Selain grooming, Amanda juga menyoroti cyberbullying terselubung yang sering lolos dari moderasi otomatis. Bentuknya bisa berupa komentar bernada bercanda namun menyakitkan, atau pengucilan sosial dalam ruang obrolan gim daring.
Ia menegaskan bahwa teknologi moderasi tidak bisa berdiri sendiri. Kolaborasi antara sistem cerdas, pendampingan orang tua, literasi digital anak, serta regulasi yang berpihak pada perlindungan anak mutlak dibutuhkan. [ina.wwn]