Recientemente, se ha revelado que un error en el sistema de ChatGPT de OpenAI ha permitido que usuarios menores de edad accedan a contenido sexual explícito. Esta situación ha generado una gran preocupación entre padres y educadores, ya que la plataforma debería proteger a los usuarios más jóvenes de este tipo de material. Según pruebas realizadas por TechCrunch, el chatbot no solo generó contenido gráfico para cuentas registradas como menores, sino que también alentó a estos usuarios a solicitar contenido aún más explícito.
Políticas de OpenAI y la realidad del acceso
OpenAI ha declarado que sus políticas prohíben este tipo de respuestas para usuarios menores de 18 años y que este contenido no debería haber sido mostrado. Sin embargo, un portavoz de la compañía admitió que un error permitió que se generaran respuestas fuera de las pautas establecidas. La empresa ha afirmado que está trabajando activamente en una solución para limitar este tipo de contenido, enfatizando que proteger a los usuarios más jóvenes es una prioridad.
El contexto de las pruebas realizadas
Las pruebas de TechCrunch se llevaron a cabo para evaluar las medidas de seguridad en cuentas registradas a nombre de menores, especialmente después de que OpenAI modificara la plataforma para ser más permisiva. En febrero, la compañía actualizó sus especificaciones técnicas, lo que llevó a una mayor disposición del modelo de IA para discutir temas sensibles, incluyendo la actividad sexual. Esto ha suscitado un debate sobre la responsabilidad de OpenAI al permitir que su tecnología sea utilizada en entornos educativos.
Implicaciones para la educación y el uso responsable de la IA
A pesar de que OpenAI requiere que los niños de entre 13 y 18 años obtengan el consentimiento parental para usar ChatGPT, la plataforma no verifica este consentimiento durante el registro. Esto significa que cualquier niño mayor de 13 años puede crear una cuenta sin confirmar que sus padres han dado permiso. Esta falta de verificación ha llevado a situaciones en las que los menores pueden interactuar con contenido inapropiado, lo que plantea serias preguntas sobre la seguridad y la ética en el uso de la inteligencia artificial en contextos educativos.
La situación ha llevado a expertos a cuestionar la efectividad de las medidas de control implementadas por OpenAI. Steven Adler, un exinvestigador de seguridad en la empresa, expresó su sorpresa por la disposición de ChatGPT a generar contenido explícito para menores, sugiriendo que las evaluaciones deberían haber detectado este comportamiento antes de su lanzamiento.
