Agentes de IA en la empresa: quién responde cuando la inteligencia artificial toma decisiones o ejecuta acciones

Agentes de IA en la empresa: quién responde cuando la inteligencia artificial toma decisiones o ejecuta acciones

La inteligencia artificial está dejando de ser una herramienta que se limita a generar textos, clasificar información o formular recomendaciones. Cada vez más empresas incorporan sistemas capaces de ejecutar tareas de forma autónoma: gestionar incidencias, interactuar con clientes, lanzar procesos internos, modificar bases de datos o tomar decisiones dentro de determinados parámetros.

Esta evolución plantea una cuestión jurídica especialmente relevante: cuando la IA deja de limitarse a recomendar y comienza a actuar, ¿quién responde de las consecuencias de sus decisiones?

¿Qué es un agente de IA y en qué se diferencia de un sistema de IA tradicional?

Un agente de inteligencia artificial puede entenderse como un sistema diseñado no solo para generar una respuesta ante una instrucción, sino para perseguir un objetivo y ejecutar de forma autónoma distintas acciones para alcanzarlo.

La diferencia resulta especialmente visible en el entorno empresarial. Un sistema tradicional puede, por ejemplo, analizar una reclamación y recomendar cómo responderla. Un agente podría recibir esa reclamación, consultar diferentes sistemas internos, determinar la respuesta, enviar una comunicación al cliente y actualizar automáticamente su expediente.

Desde el punto de vista jurídico, el Reglamento Europeo de Inteligencia Artificial —el AI Act— define el sistema de IA atendiendo, entre otros elementos, a su capacidad para funcionar con distintos niveles de autonomía y generar resultados, recomendaciones o decisiones capaces de influir en entornos físicos o virtuales.

El AI Act no establece una categoría jurídica independiente para los denominados «agentes de IA». Por tanto, habrá que analizar cada solución concreta, su finalidad, el nivel de autonomía con el que opera y, especialmente, las consecuencias que pueden derivarse de sus actuaciones.

¿Quién responde legalmente cuando un agente de IA toma una decisión errónea o causa un daño?

Una de las ideas más importantes para cualquier empresa que incorpore agentes de IA es que la autonomía tecnológica no implica autonomía jurídica.

El hecho de que un sistema adopte una decisión sin intervención humana inmediata no convierte al agente en responsable de sus consecuencias. El AI Act articula sus obligaciones alrededor de sujetos identificables, como el proveedor que desarrolla o comercializa el sistema y el responsable del despliegue que lo utiliza bajo su autoridad.

Por ello, una empresa no puede considerar que queda liberada de responsabilidad porque «la decisión la tomó la IA». Será necesario analizar quién seleccionó el sistema, cómo se configuró, qué instrucciones recibió, qué controles existían y si la actuación que causó el daño se encontraba dentro de su utilización prevista.

La cuestión será especialmente sensible cuando el agente pueda adoptar decisiones con efectos sobre terceros: aceptar o rechazar operaciones, modificar precios, gestionar pagos, seleccionar candidatos, tomar decisiones laborales o realizar comunicaciones vinculantes en nombre de la empresa.

En estos casos, además del AI Act, deberán tenerse en cuenta las reglas generales de responsabilidad contractual y extracontractual, protección de consumidores, protección de datos o cualquier normativa sectorial aplicable. La utilización de IA no sustituye estas obligaciones.

Obligaciones del AI Act aplicables a los sistemas de IA con capacidad de actuación autónoma

El AI Act adopta un enfoque basado en el riesgo. Esto significa que las obligaciones no dependen únicamente de que un sistema sea autónomo, sino principalmente de para qué se utiliza y qué riesgos genera.

Desde el 2 de agosto de 2026, el Reglamento es aplicable con carácter general, sin perjuicio del calendario específico previsto para determinadas obligaciones. Además, las obligaciones sobre alfabetización en IA son aplicables desde febrero de 2025.

Para las empresas, esto obliga a abandonar la idea de que basta con contratar una herramienta tecnológica y comenzar a utilizarla. Antes de desplegar un agente será necesario determinar qué papel ocupa la empresa bajo el AI Act, evaluar el riesgo del sistema, establecer controles internos y documentar adecuadamente su utilización.

Cuando se trate de sistemas considerados de alto riesgo, adquieren especial relevancia aspectos como la supervisión humana, la conservación de registros, el seguimiento del funcionamiento del sistema y la capacidad de intervenir cuando sus resultados puedan generar riesgos. El propio AI Act exige que las personas encargadas de la supervisión dispongan de la competencia, formación y autoridad necesarias.

La consecuencia práctica es clara: cuanto mayor sea la autonomía que una empresa concede a un agente de IA, más importante será definir previamente qué puede hacer, qué no puede hacer y cuándo debe intervenir una persona.

La implantación de agentes de IA no es, por tanto, únicamente una decisión tecnológica. También exige diseñar un modelo de gobernanza que permita saber quién controla el sistema, quién supervisa sus actuaciones y quién asume las consecuencias cuando algo sale mal.