Cuando envenenan la memoria de tu agente IA

Algo que la mayoría de fundadores aún no se ha planteado

Los agentes de IA son cada vez más útiles porque recuerdan cosas. Terminas una conversación el lunes y el viernes el agente todavía sabe tus preferencias, el nombre de tus clientes, cómo sueles trabajar. Esa memoria tiene un valor real.

Pero esa memoria se puede manipular.

Imagina que alguien le mete una nota en la libreta a tu asistente — algo que parece inofensivo pero que cambia sutilmente cómo responde después. Eso es, en esencia, el envenenamiento de memoria. Alguien planta texto malicioso en los lugares de donde lee tu agente y, la próxima vez que intenta ayudarte, trabaja desde instrucciones corrompidas. Podría filtrar información privada. Podría hacer cosas que nunca pediste.

OWASP — la organización que lleva décadas catalogando riesgos de seguridad en software — ha clasificado esto como uno de los seis riesgos principales para los sistemas de IA. Y acaban de publicar una herramienta gratuita llamada Agent Memory Guard para hacerle frente.

Se instala silenciosamente entre tu agente y su memoria, revisando todo lo que entra y sale. Como un detector de metales en la puerta — la mayoría de los días no detecta nada. Pero está ahí.

Si estás construyendo algo con agentes de IA — o tienes planes de hacerlo — merece la pena saber que esto existe antes de que lo necesites.

Palabras que conviene conocer

Agente de IA — una IA que puede tomar acciones por ti, no solo responder preguntas. Puede reservar cosas, enviar correos o buscar información de forma autónoma.

Memoria del agente — el lugar donde el agente guarda lo que ha aprendido entre conversaciones. Como una libreta a la que vuelve constantemente.

Envenenamiento de memoria — cuando alguien corrompe esa libreta en secreto para que el agente actúe de formas no previstas.

OWASP — una organización sin ánimo de lucro que publica guías claras sobre riesgos de software. Sin vínculos comerciales. De confianza general en el sector.