Introducción a la búsqueda en ChatGPT
En octubre, OpenAI lanzó su función de búsqueda en ChatGPT, inicialmente disponible solo para usuarios de ChatGPT Plus. Sin embargo, la semana pasada, esta funcionalidad se hizo accesible para todos los usuarios, incluyendo la opción de búsqueda en modo de voz. A pesar de su innovación, esta herramienta no está exenta de problemas, como lo demuestra una reciente investigación del medio The Guardian.
El problema de la inyección de comandos
La investigación reveló que la búsqueda de ChatGPT puede ser manipulada a través de un fenómeno conocido como inyección de comandos. Este término se refiere a la capacidad de terceros, como los sitios web que se solicitan resumir, para introducir nuevos comandos en la búsqueda de ChatGPT sin el conocimiento del usuario. Por ejemplo, si un sitio web está lleno de críticas negativas sobre un restaurante, pero incluye contenido oculto que elogia el establecimiento, este contenido puede influir en la respuesta de ChatGPT, llevándolo a proporcionar un resumen favorable en lugar de uno objetivo.
Casos de prueba y resultados
En un experimento realizado por The Guardian, se proporcionó a ChatGPT la URL de un sitio web falso que simulaba ser una página de producto para una cámara. Al preguntar si la cámara era una buena compra, la respuesta de la página de control fue equilibrada, destacando tanto aspectos positivos como negativos. Sin embargo, cuando se incluyó texto oculto que instruía a ChatGPT a ofrecer una reseña favorable, la respuesta fue siempre completamente positiva, ignorando las críticas negativas presentes en la página. Este hallazgo subraya la vulnerabilidad de los chatbots de inteligencia artificial ante manipulaciones externas.
Perspectivas futuras y seguridad en IA
A pesar de estos desafíos, no se puede considerar un fracaso total para la búsqueda de ChatGPT. OpenAI ha lanzado recientemente esta función y tiene tiempo para abordar estos errores. Jacob Larsen, un investigador en ciberseguridad, afirmó que OpenAI cuenta con un equipo de seguridad de IA muy sólido, lo que sugiere que, para cuando esta funcionalidad se hizo pública, ya habían realizado pruebas rigurosas para mitigar estos problemas. Aunque los ataques de inyección de comandos han sido hipotéticos desde el lanzamiento de la tecnología, la falta de ataques maliciosos significativos indica que, si bien los chatbots son susceptibles a engaños, aún no se ha visto un daño considerable.
