Character AI, la innovadora startup que permite a los usuarios crear y conversar con diferentes personajes, ha anunciado el lanzamiento de nuevas funciones de supervisión parental. Estas herramientas están diseñadas para aumentar la seguridad de los jóvenes en la plataforma, en respuesta a una serie de críticas y demandas que cuestionan la capacidad de la empresa para proteger a los menores de posibles daños.
Resumen semanal de la actividad de los adolescentes
Las nuevas características ofrecen a los padres un resumen semanal de la actividad de sus hijos en la aplicación. A través de un correo electrónico, los padres recibirán información sobre el tiempo promedio que sus hijos pasan en la aplicación y en la web, así como el tiempo dedicado a cada personaje y los personajes más interactuados durante la semana. Esta iniciativa busca proporcionar a los padres una visión más clara de los hábitos de uso de sus hijos en la plataforma.
Privacidad y acceso a la información
A pesar de las nuevas funciones, Character AI ha aclarado que los padres no tendrán acceso directo a las conversaciones de los usuarios. Esta decisión se toma para proteger la privacidad de los adolescentes, mientras que al mismo tiempo se les brinda a los padres la información necesaria para supervisar el uso de la aplicación. La startup ha enfatizado que esta medida se implementó más rápidamente que en otras plataformas similares, destacando su compromiso con la seguridad del usuario.
Medidas adicionales de seguridad implementadas
El año pasado, Character AI ya había introducido otras medidas de seguridad, como un modelo específico para usuarios menores de 18 años, notificaciones sobre el tiempo de uso y nuevos avisos que recuerdan a los usuarios que están interactuando con personajes impulsados por inteligencia artificial. Además, la empresa ha bloqueado contenido sensible tanto en las entradas como en las salidas, creando nuevos clasificadores para adolescentes. Estas acciones reflejan un esfuerzo continuo por parte de la empresa para garantizar un entorno seguro para sus usuarios más jóvenes.
Desafíos legales y la defensa de la empresa
A pesar de las mejoras en la seguridad, Character AI se enfrenta a desafíos legales. A principios de este año, la startup presentó una moción para desestimar una demanda que alegaba que la empresa había contribuido a la suicidio de un adolescente, citando la Primera Enmienda como defensa. Este caso ha puesto de relieve la importancia de la responsabilidad de las plataformas en la protección de sus usuarios más vulnerables.
Con estas nuevas funciones y medidas de seguridad, Character AI busca no solo mejorar la experiencia de sus usuarios, sino también abordar las preocupaciones de los padres sobre la seguridad en línea de sus hijos. A medida que la tecnología avanza, la responsabilidad de las empresas de proteger a sus usuarios, especialmente a los más jóvenes, se vuelve cada vez más crucial.
