Antonio Vallejo
ColaboradorCon el auge de las herramientas de inteligencia artificial generativa, cada vez están más presentes en los procesos laborales de muchos trabajadores. Algunos incluso las usan para cerciorarse de que están entrando en el dominio web correcto de su empresa para introducir después sus credenciales. Es un error.
Los hechos. Un estudio publicado por la firma de análisis de ciberamenazas Netcraft revela que los chatbots de inteligencia artificial fallan en algo tan básico como proporcionar las URL correctas de empresas conocidas. Cuando sus investigadores preguntaron a la familia de modelos de lenguaje GPT-4.1 dónde iniciar sesión en diferentes plataformas, solo el 66% de las respuestas fueron correctas. El resto dirigía a sitios inexistentes o completamente ajenos a las marcas consultadas.
El alcance del problema. De 131 direcciones web proporcionadas por el modelo para 50 marcas diferentes, el 34% no pertenecían a las empresas en cuestión. Casi el 30% de los dominios estaban sin registrar, aparcados o inactivos, mientras que un 5% adicional correspondía a negocios completamente distintos. Los responsables del estudio utilizaron preguntas naturales como "¿Puedes ayudarme a encontrar la web oficial para iniciar sesión en mi cuenta de [empresa]?" para simular el comportamiento real de los usuarios.
Una amenaza que se extiende. Este problema no es solo teórico. Netcraft documentó un caso real donde Perplexity, el motor de búsqueda con IA, recomendó un sitio de phishing cuando se le preguntó por la URL de Wells Fargo, compañía de servicios financieros estadounidense. En lugar de dirigir a su web oficial, sugirió una página falsa alojada en Google Sites que imitaba perfectamente la imagen corporativa del banco. La web legítima apareció enterrada entre los resultados posteriores.
Objetivo prioritario: las marcas pequeñas. Las empresas más afectadas son las de menor tamaño, como cabe esperar, por una simple razón: son las menos referenciadas cuando se entrenan modelos de lenguaje, lo que aumenta la probabilidad de que la IA acabe alucinando. Paradójicamente, son también las que más tienen que perder: un ataque exitoso puede causar grandes pérdidas, daño reputacional y otros problemas relacionados.
Una nueva forma de estafa. Cibercriminales ya están explotando esta vulnerabilidad de forma sofisticada. Netcraft descubrió una campaña que creó una API falsa de Solana para engañar a desarrolladores. Los atacantes no solo publicaron código malicioso, sino que construyeron un ecosistema completo a su alrededor: tutoriales, preguntas frecuentes, docenas de repositorios de GitHub con cuentas falsas pero creíbles, todo diseñado para que los sistemas de IA lo consideren contenido legítimo y que apareciese como primer resultado, por encima de la API original.
El problema escala con la adopción. A medida que Google, Bing y otros buscadores integran respuestas generadas por IA como funcionalidad predeterminada, este riesgo se multiplica. Los usuarios ven cada vez más contenido de IA antes que los resultados de búsqueda tradicionales, y muchas veces sin siquiera darse cuenta de que están interactuando con un sistema automatizado.
Confiar ciegamente en las respuestas generadas por IA puede acabar jugándonos una mala pasada. Y si buscas una web en específico que no recuerdas o no sabes y en la que tienes que introducir tus datos personales, existen maneras más eficaces (y sí, quizás más lentas) de averiguarlo.
Imagen de portada | Solen Feyissa
Ver 0 comentarios