Nesabamedia—Roblox, platform gim daring raksasa, meluncurkan fitur revolusioner berbasis kecerdasan buatan (AI) yang mampu secara otomatis mengubah atau memparafrasekan bahasa tidak pantas dalam percakapan di dalam gim (09/03).
Langkah ini diambil untuk menciptakan lingkungan bermain yang lebih aman dan ramah, terutama bagi pengguna muda.
Dilansir dari Engadget pada Minggu, sebelumnya Roblox telah menggunakan filter AI untuk memblokir kata-kata kasar, namun caranya dengan mengganti pesan yang disensor menjadi tanda pagar (####). Alhasil, percakapan seringkali sulit dipahami dan membingungkan pemain.
Kini, dengan fitur terbaru, kata atau kalimat yang dianggap tidak pantas akan diganti dengan ungkapan yang lebih sopan oleh AI. Contohnya, jika seorang pemain menulis “Hurry TF up”, sistem akan secara otomatis mengubahnya menjadi “Hurry up”. Alur percakapan pun tetap terjaga.
Chief Safety Officer Roblox, Rajiv Bhatia, menjelaskan bahwa setiap pesan yang diubah akan diberi keterangan bahwa kalimat tersebut telah diparafrasekan oleh sistem. Pengirim pesan juga bisa melihat bagian mana yang telah disunting.
“Seiring sistem ini diperluas, hal tersebut dapat menciptakan efek berkelanjutan yang mendorong kesopanan, di mana umpan balik secara real-time membantu pengguna belajar dan menerapkan standar komunitas kami,” ujarnya.
Fitur ini saat ini diterapkan pada percakapan antar pengguna yang telah terverifikasi usianya dan berada dalam kelompok usia serupa. Langkah ini merupakan bagian dari upaya besar Roblox meningkatkan keamanan anak, setelah sebelumnya pada Januari lalu memperkenalkan sistem verifikasi usia dan membatasi fitur obrolan bagi pengguna di bawah 13 tahun.
Upaya ini muncul di tengah kritik dan gugatan hukum yang menimpa Roblox, termasuk dari pemerintah Los Angeles County dan jaksa agung negara bagian Louisiana, yang menilai platform tersebut belum cukup melindungi pengguna anak dari potensi predator seksual.
