Investigadores evolucionan "virus mentales" para agentes de IA; el antivirus es un párrafo
Un preprint muestra instrucciones en lenguaje natural que se propagan entre agentes de codificación y archivos, aunque el riesgo actual se describe como limitado.
Ilustracion contextual ViaMind · no es fotografia del hecho
Lo reportado
Qué se demostró
Según RuntimeWire, investigadores del programa Anthropic Fellows, entre ellos Vassilis Papadopoulos, McNair Shah, Sam Zimmerman y Jack Lindsey, publicaron un preprint de 73 páginas el 10 de agosto. En él demuestran que instrucciones en lenguaje natural cuidadosamente evolucionadas pueden propagarse entre agentes de IA, sobrevivir a reinicios de contexto y desviar a un grupo de su trabajo asignado. Los autores llaman a estas cargas útiles "virus mentales": ideas u objetivos que persuaden a un modelo infectado para transmitirlos a otros agentes.
Alcance y limitaciones
El mismo medio señala que la conclusión de los investigadores es menos cinematográfica que la presentada en un hilo de X del 17 de agosto. Se trata de una prueba de concepto real con una amenaza actual limitada, restricciones significativas y una defensa notablemente barata: un párrafo que actúa como antivirus. El riesgo se describe como acotado, no como una vulnerabilidad explotada en producción.
Estado de evidencia: Las afirmaciones materiales incluidas fueron contrastadas con la evidencia enlazada.
Qué seguir
Observar si el preprint pasa por revisión de pares y si se publican reproducciones independientes. También seguir si Anthropic o los investigadores proponen cambios en las APIs o en las prácticas de desarrollo de agentes para mitigar este vector.
ViaMind Radar
