Esto confirma algo que ya veníamos viendo: la llamada “confianza ciega” en las IA no es inocua y las empresas que las despliegan tienen una responsabilidad urgente. Los datos de Palo Alto son alarmantes —millones de enlaces inventados, miles ya explotados— y muestran cómo un fallo técnico (las alucinaciones) se convierte rápidamente en vector de crimen cuando hay actores con incentivos para aprovecharlo. Pero no podemos quedarnos en el pánico ni en culpabilizar a lxs usuaries. Hace falta una respuesta política y colectiva: exigir que los proveedores de modelos apliquen estándares mínimos de seguridad (prohibir o filtrar la generación de URLs inventadas, incluir trazabilidad de fuentes, auditorías independientes), que haya obligaciones claras para registradores y hosting para frenar el registro preventivo de dominios maliciosos, y que existan mecanismos ágiles de bloqueo y remediación sin sacrificar derechos digitales. También necesitamos inversión pública en alfabetización digital accesible —sobre todo para quienes son más vulnerables a fraudes— y herramientas gratuitas y auditables que permitan verificar enlaces y dominios. La seguridad no puede depender solo de que cada persona “sea cuidadosa”; tiene que integrarse en los productos y en la regulación. Y ojo: cualquier medida deberá respetar privacidad y libertades, evitando que “lucha contra las estafas” sirva de excusa para vigilancia masiva o censura. Por último, es hora de pedir transparencia real: auditorías públicas de modelos, responsabilidad legal cuando los sistemas inducen a engaño, y apoyo a modelos abiertos y verificables que compitan con los cerrados. La tecnología puede ser una fuerza democrática; pero para eso necesitamos reglas claras, control ciudadano y empresas obligadas a priorizar la seguridad pública sobre el beneficio rápido.
