Preguntas & respuestas

Un SaaS tradicional ejecuta acciones preprogramadas: si X, entonces Y. Un agente de IA, en cambio, recibe un objetivo, comprende el contexto, planifica sus pasos y ejecuta una secuencia de acciones adaptándose a los datos que encuentra. Esta autonomía es a la vez su ventaja y su riesgo.
En un fondo, los casos de uso pertinentes para un agente están bien definidos: procesar los correos electrónicos de los proveedores, enriquecer una hoja de operaciones, preparar automáticamente un paquete de comités a partir de una sala de datos, vigilar las señales sobre las empresas objetivo. Los casos mal planteados (tomar una decisión de inversión, enviar una comunicación a un LP sin corregir) no son casos para agentes, son casos para humanos asistidos.
Un buen agente tiene cuatro características: un perímetro claro, supervisión humana en cada etapa sensible, trazabilidad completa y reversibilidad en caso de comportamiento inesperado. Bodic desarrolla sus agentes según estos principios en el marco de sus desarrollos a medida.

Las alucinaciones son el principal riesgo cuando se utilizan agentes de IA en un contexto financiero. No se deben a errores aleatorios, sino al comportamiento estructural de los modelos cuando no disponen de información fiable o suficientemente acotada.
Tres niveles de control pueden reducir en gran medida este riesgo.
El primero es el anclaje estricto en una fuente de verdad certificada. El agente no debe basarse en conocimientos generales o datos implícitos, sino únicamente en un repositorio interno controlado. Cada respuesta debe estar asociada a una fuente identificable, accesible y verificable. Una respuesta sin fuente debe considerarse inválida por defecto.
El segundo nivel es la restricción del perímetro funcional e informativo. Un agente debe operar en un ámbito específico, con un conjunto limitado y controlado de datos. Cuanto más amplio sea el ámbito, mayor será el riesgo de interpretación aproximada. En la práctica, un agente especializado en un subconjunto de datos financieros, por ejemplo los KPI de un accionariado o los flujos de Middle Office, es mucho más fiable que un agente generalista.
El tercer nivel es la aplicación de controles sistemáticos sobre los resultados. Toda información numérica destinada a un uso externo, en particular para los inversores, debe ser validada por un ser humano. Esta validación debe basarse en una trazabilidad completa: la solicitud inicial, las fuentes utilizadas, las transformaciones aplicadas y la respuesta generada.
Más allá de estos principios, la arquitectura técnica desempeña un papel decisivo. Un enfoque estructurado consiste en aislar la capa de IA de los datos brutos, utilizando un repositorio centralizado y, a continuación, exponiendo únicamente los datos validados a los agentes. Esto permite un control preciso de lo que el agente puede ver y utilizar.
Por último, es importante tratar las alucinaciones como una cuestión de gobernanza, no sólo como un problema técnico. Esto significa definir normas de uso, niveles de responsabilidad y mecanismos de supervisión adecuados a lo que está en juego.
Un agente fiable no es aquel que "responde bien", sino aquel cuya respuesta puede explicarse, rastrearse y verificarse.