Los agentes de IA necesitan distinguir qué información corresponde a cada contexto
Un informe difundido por Google Research el 5 de octubre plantea problemas abiertos de privacidad y seguridad, sin anunciar que estén resueltos.
Google Research difundió el 5 de octubre de 2026 un informe sobre problemas abiertos de privacidad y seguridad en agentes de inteligencia artificial. La publicación procede de un taller celebrado a finales de 2025 y propone analizar el comportamiento de los agentes según el contexto. No es la presentación de un producto que garantice resolver esos problemas.
El trabajo destaca cuestiones como las instrucciones ambiguas, la planificación no determinista y la autonomía durante tareas largas. Su enfoque considera quién transmite información, quién la recibe, qué tipo de información circula y bajo qué condiciones. La idea central es que disponer de un dato no implica que cualquier uso o destinatario resulte apropiado.
Un ejemplo hipotético permite concretarlo: un asistente puede necesitar una dirección para preparar una entrega, mientras que publicar esa dirección en una página abierta tendría otra finalidad y otro público. La misma información participa en acciones muy diferentes. Evaluar únicamente si el sistema tiene acceso no basta para decidir qué debe hacer con ella.
Para una revisión práctica proponemos describir antes de cada flujo qué entra, qué sale y dónde se produce un cambio externo. Eso permite distinguir una consulta de una publicación y una sugerencia de una ejecución. No supone que añadir más avisos resuelva automáticamente todos los riesgos; los límites deben poder aplicarse en el sistema real.
El interés del informe está en ordenar preguntas que siguen abiertas. Una demostración de autonomía puede resultar impresionante y dejar sin explicar cómo se contienen errores o cambios de contexto. El criterio útil será comprobar qué acciones están permitidas, cómo se verifican y qué ocurre cuando el sistema no puede establecer que tiene autorización suficiente.