Andy Garcia · dev freelance
FRENES
Volver al blog
IA y Seguros

Interrogados bajo juramento sobre si serían responsables si una IA se descontrola, OpenAI, Anthropic y Google no dijeron que sí. Sus contratos ya responden.

7 de octubre de 2026 6 min de lectura

El lunes 5 de octubre, el Concejo Municipal de Nueva York, reunido como comité plenario, interrogó bajo juramento a OpenAI, Anthropic, Google y Meta. La presidenta del concejo, Julie Menin, preguntó si las empresas tendrían responsabilidad legal si un sistema de IA se descontrolara y causara grandes daños financieros, expusiera información sensible, hiriera a alguien o contribuyera a una muerte.

Nadie dijo que sí. Según amNY, Morgan Dwyer, de OpenAI, dijo que OpenAI era responsable de desarrollar y evaluar sus sistemas de forma segura, sin responder directamente. Logan Graham, de Anthropic, dijo que la pregunta quedaba fuera de su experiencia como investigador técnico. Shane Cahill, de Meta, no quiso especular. Alice Friend, de Google, dijo que la ley vigente se aplica: "si es ilegal sin IA, sigue siendo ilegal con IA".

Yo despliego agentes, en una LegalTech que construyo sobre Claude y en proyectos paralelos, así que tenía una versión más estrecha de la pregunta de Menin. Si mi agente hace algo caro, ¿quién paga?

Pasé la noche con mis contratos. La respuesta corta: yo.

Las aseguradoras se hacen la misma pregunta

Aon, la correduría, construyó una base de datos de unas 300 demandas relacionadas con la IA desde 2010 y las cruzó con las líneas de póliza que podrían responder. En su ficha sobre IA, publicada en agosto, cerca del 15 % de los siniestros de IA encajan en una póliza cibernética independiente y cerca del 80 % en errores y omisiones (E&O), responsabilidad profesional o de medios. Menos del 10 % de las organizaciones contratan E&O. Alrededor del 20 % toca otras líneas: directivos y administradores (D&O) por el "AI washing", prácticas laborales por discriminación, delito por transferencias de fondos con deepfakes. Aon estima que más del 90 % de la cobertura que existe para la IA es "silenciosa": la póliza ni la concede ni la excluye.

Las exclusiones llegan de todos modos: Aon cita endosos ISO opcionales que sacan la IA generativa de la responsabilidad civil general, una aseguradora cuyas pólizas D&O excluyen el desarrollo, el despliegue o el uso de IA, y la "exclusión absoluta de IA" de Berkley.

El 28 de agosto, Reuters informó de que MSIG, QBE y Beazley estaban revisando sus cláusulas cibernéticas por culpa de los agentes. El caso difícil, como dijo a Reuters Karthik Ramakrishnan, CEO de Armilla, es "cuando no hay un atacante convencional y posiblemente tampoco uso de credenciales no autorizado". Un agente que usa un acceso que tú le diste a propósito no parece un hackeo. Algunos directivos dijeron a Reuters que, cuando un agente que actúa como fue diseñado toma una decisión costosa, las aseguradoras pueden clasificarla como un evento no cibernético.

El 1 de octubre, Insurance Business UK detalló en qué situación queda una empresa. Un agente que causa una filtración de datos puede activar la póliza cibernética. Uno que hace una compra no autorizada o acuerda condiciones con un cliente puede caer entre dos coberturas: la cobertura de delito suele exigir una persona deshonesta o el engaño de un tercero, y la responsabilidad profesional responde a reclamaciones de terceros, no a tu propia pérdida. Para el cliente, como dijo George Grimshaw, de Clear Group, la empresa que despliega el agente suele ser la primera en la fila.

Qué dicen los tres contratos

Los Commercial Terms de Anthropic, el Services Agreement de OpenAI y los términos de Google Cloud usan palabras distintas y trazan la misma línea.

Cada proveedor te indemniza por la propiedad intelectual. Anthropic defiende las reclamaciones de que tu uso de pago y conforme, sus datos de entrenamiento o sus salidas infringen la PI de alguien. OpenAI cubre las reclamaciones de que sus servicios infringen. Google cubre sus datos de entrenamiento y la salida generada sin modificar de los servicios que enumera como indemnizados. Ese riesgo queda del lado del modelo, y los proveedores conocen su tamaño: en julio, un juez federal dio aprobación final al acuerdo de 1.500 millones de $ de Anthropic con autores y editoriales, unos 3.000 $ por obra.

Todo lo demás tiene un techo. Anthropic y OpenAI limitan su responsabilidad a lo que les pagaste en los 12 meses anteriores, y ambos excluyen el lucro cesante y los daños indirectos. El límite de Google también es de 12 meses de honorarios, y de 5.000 $ para los servicios que prestó gratis. La beta es más escasa: Anthropic no ofrece indemnización y limita su responsabilidad al menor de 1.000 $ y tus 12 meses de honorarios; OpenAI declara que no tendrá "ninguna responsabilidad derivada de los servicios beta o relacionada con ellos".

Luego vienen las cláusulas sobre ti. Anthropic: el cliente "es responsable de toda la actividad bajo su cuenta" y debe evaluar las salidas, "incluso cuando sea apropiada una revisión humana". OpenAI: el cliente es responsable de todas las actividades bajo su cuenta, incluidos los usuarios de la aplicación del cliente. Ambos excluyen de la indemnización de PI las reclamaciones derivadas de combinar su servicio con tecnología que ellos no proporcionaron. Un agente es exactamente eso: un modelo conectado a tus herramientas.

Google es el más explícito, en su sección de servicios de IA agéntica. El cliente es "el único responsable" de "las acciones y tareas realizadas por un servicio de IA agéntica o un agente de IA", de autorizar su acceso a datos y sistemas, y de "ejercer juicio y supervisión" en producción. Una frase cierra el círculo: "Las acciones o tareas que realiza un agente de IA no son Generated Output". La indemnización sobre las salidas no sigue a tu agente en lo que hace.

La cadena, en orden

Todo junto: tu agente causa una pérdida, y tu cliente viene a por ti. Puedes reclamar al proveedor del modelo hasta aproximadamente un año de tu factura, salvo que la reclamación sea de PI. Tu póliza cibernética puede responder si el evento parece un fallo de seguridad, tu E&O si un tercero demanda, y posiblemente nada si la pérdida es tuya y nadie fue deshonesto.

El límite cambia cómo pienso los proyectos paralelos. Un recurso con tope escala con tu factura, no con el daño. En un plan barato, un año de honorarios es un error de redondeo al lado de un solo pago equivocado.

La cadena también puede alcanzar a extraños. El propio informe de OpenAI sobre el incidente de Hugging Face dice que sus modelos también usaron credenciales expuestas públicamente en cuatro cuentas de otros cuatro servicios. Repasé esa cronología aquí. Quien dejó esas credenciales expuestas acabó dentro del incidente de otro.

Lo que cambio el lunes

Aon publica preguntas de ejemplo que las aseguradoras están desarrollando para las solicitudes de seguros de IA. Dos dicen, literalmente: "¿Necesita un humano verificar la exactitud antes de que la IA actúe?" y "¿Se registran las acciones de la IA para que los posibles errores puedan revisarse y corregirse?" Las trato como una lista de comprobación.

Registros que el agente no pueda reescribir. Cada llamada a una herramienta, con sus argumentos, la identidad con la que se ejecutó y su resultado, va a un almacenamiento de solo añadir en el que el agente no puede escribir. Tim Johnson, socio de Browne Jacobson, dijo a Insurance Business que las disputas girarán en torno a una pregunta: "¿Fue el prompt el que estaba mal, o fue la propia IA la que falló?" Un registro que el agente pudiera editar no responde nada.

Credenciales acotadas. El acceso que le das a un agente es la pérdida que has aceptado asumir, y es el caso que a las aseguradoras les resulta más difícil: sin atacante, sin clave robada. Tokens de corta duración por tarea, solo lectura por defecto, nada en un archivo que el proceso pueda abrir.

Aprobación humana para todo lo irreversible. Pagos, borrados, mensajes salientes, cualquier cosa que te comprometa con una contraparte. Ahí es donde está el hueco entre cibernética, delito y E&O.

Un interruptor de emergencia que haya probado de verdad. Intro 2602, uno de los proyectos de ley examinados el 5 de octubre, exigiría que todo sistema de IA desplegado en Nueva York tenga "una anulación humana que pueda apagar el sistema", comprobada por un validador externo, con una multa de 25.000 $ por cada sistema desplegado sin esa validación. Quiero uno que pueda demostrar.

El papeleo. Qué funciones que uso están etiquetadas como beta, cuál es mi límite en dólares y si mi póliza dice algo sobre la IA. Si guarda silencio, mejor enterarse por un corredor que por un perito de siniestros.

Ningún laboratorio dijo que sí el 5 de octubre. Sus contratos habían respondido mucho antes: fuera de la PI, hasta un año de honorarios. El agente es mío, así que el riesgo es mío, y la única parte que controlo por completo es cuánto dejo que el agente toque.

Fuentes

¿Un proyecto del mismo estilo?

Diseño y despliego productos como este. Hablemos.

Hablemos