Roblox incorporará un sistema de 'estimación de edad' con IA para poder usar el chat
Roblox, la plataforma online que permite a millones de usuarios crear, compartir y jugar experiencias interactivas hechas por la comunidad, ha anunciado una nueva medida de seguridad que obligará a los usuarios a pasar por un sistema de estimación de edad mediante inteligencia artificial antes de poder utilizar cualquier función de chat. La medida, que comenzará a desplegarse en diciembre, afectará primero a Australia, Nueva Zelanda y Países Bajos, y se expandirá al resto del mundo en enero.
El proceso utilizará Persona, una plataforma externa que solicita a los usuarios subir una fotografía para analizarla con IA y asignarles un grupo de edad. Sin esta verificación, ningún jugador podrá enviar mensajes privados ni participar en chats dentro de Roblox.
El anuncio llega tras un año complicado para Roblox Corporation, marcada por acusaciones de falta de protección infantil, múltiples demandas y denuncias mediáticas, incluido un documental que apuntaba a la presencia de depredadores en el ecosistema del juego.
El chat estará restringido por grupos de edad
En su comunicado, la compañía explica: "Estamos desbloqueando funciones de chat y experiencias adecuadas para cada edad exigiendo que los usuarios completen una verificación a través de la estimación facial de edad o la verificación mediante identificación. Una vez completada la verificación, los usuarios solo podrán chatear con otros de grupos de edad similares, a menos que se conviertan en Conexiones de Confianza con personas que conocen".
La plataforma detalla que, tras el análisis, cada usuario será asignado a uno de estos grupos: menores de 9 años, 9-12, 13-15, 16-17, 18-20 o más de 21. A partir de ahí, el chat estará restringido según compatibilidades entre grupos. Roblox lo ejemplifica así:
- Elisa (edad estimada 12): puede chatear con usuarios de 15 años o menos. Nadie de 16 años o más podrá iniciar o participar en un chat con ella.
- Marcus (edad estimada 18): puede chatear con usuarios de 16 años o más y añadir como Conexión de Confianza a un hermano menor, siempre que tenga 13 años o más.
La compañía asegura haber introducido más de 145 innovaciones de seguridad en lo que va de año, aunque la comunidad no ha recibido esta última medida con unanimidad. Numerosos usuarios expresan preocupación por la necesidad de subir imágenes de menores a un sistema basado en IA, temiendo por la privacidad, el almacenamiento de datos y los posibles riesgos asociados.