El Soberano Actuarial
Nadie del gobierno visita la empresa de esta historia. Aun así, queda gobernada — por una carta de renovación, una lista de requisitos de compra y una actualización de las condiciones del servicio.
Esta historia pertenece al Explorador de Escenarios de IA, que combina ocho fuerzas que dan forma a la IA, de dos en dos, en 28 mapas — cada mapa con cuatro esquinas, cada esquina una manera distinta en que ese par podría desarrollarse. Una viñeta toma una esquina y la hace concreta: conjetura estructurada, no predicción. Sobre el proyecto →
Nadie del gobierno visita la empresa de esta historia. Aun así, queda gobernada —con rigor, en el plazo de un año— por tres documentos, ninguno de los cuales es ley.
La empresa es mediana y poco glamurosa. Tramita siniestros de garantía para fabricantes de electrodomésticos, y en marzo pone en marcha un sistema que lee cada siniestro, comprueba si procede y liquida los rutinarios de principio a fin. En su primera semana: una bomba de lavavajillas averiada, 118 €, aprobada y pagada en nueve segundos. Una persona solo ve las excepciones.
¿Qué dice la ley al respecto? Un documento de consulta de hace dos años, un proyecto de ley en comisión, unas directrices meramente orientativas, tres jurisdicciones con tres regímenes en fase de borrador que no coinciden entre sí. Esperar a que las normas públicas se asienten supondría esperar años. Como todos los demás, la empresa no espera.
Entonces llega la carta de renovación.
La aseguradora de responsabilidad civil de la empresa ha añadido un endoso de IA. La cobertura se mantiene, sujeta a condiciones: toda liquidación automatizada debe registrarse con la versión del modelo que la generó; los importes por encima de un umbral se derivan a una persona; el modelo queda fijado a las versiones que la aseguradora ha evaluado; los incidentes se notifican en un plazo de setenta y dos horas; hay un límite diario a lo que puede liquidarse sin intervención humana. La carta no es ley. Pero incumplir una condición deja a la empresa sin cobertura — a solo un mal trimestre de la insolvencia. Las condiciones se cuelgan en la pared de la oficina de siniestros, y el departamento de cumplimiento se reorganiza en silencio a su alrededor.
Las condiciones también viajan. En otoño, el mayor cliente de la empresa añade un campo obligatorio a su portal de compras: pruebas de que cuenta con cobertura de responsabilidad civil por IA y de los controles que la respaldan. Las cláusulas de la aseguradora se han convertido en el billete de entrada a la cadena de suministro. Un competidor sin cobertura no pierde en los tribunales: no supera una lista de verificación, se queda fuera de una preselección y nunca llega a saber por qué.
El proveedor del modelo ejerce otro tipo de poder. En sus condiciones actualizadas se reserva el derecho a auditar y a suspender el endpoint, y un martes cualquiera se desactiva aguas arriba una capacidad de la que depende el sistema de siniestros —a nivel mundial, de la noche a la mañana— por algo que hizo un cliente distinto en un sector distinto. Sin ningún plazo de preaviso que reconocería un parlamento; sin nadie ante quien recurrir. Los tres regímenes en fase de borrador no coinciden entre sí; las condiciones del proveedor son idénticas en todos los países donde opera la empresa. La única ley de IA armonizada de esta historia es un contrato.
Para diciembre, el sistema de siniestros está gobernado — gobernado de verdad. Registrado, limitado, con la versión fijada, escalado, notificado, certificado: un régimen más estricto del que habría impuesto el proyecto de ley, aplicado más rápido que cualquier tribunal, porque las sanciones son automáticas. La cobertura caduca; el contrato no se renueva; el endpoint se apaga.
Las reglas las escribieron unos suscriptores que minimizaban un ratio de siniestralidad, un departamento de compras que minimizaba el riesgo de proveedores, un equipo de confianza y seguridad que minimizaba la responsabilidad de la plataforma. Ninguno elegido, ninguno obligado a consultar, ninguno responsable ante las personas sobre las que decide el sistema — y en todas sus cuidadosas cláusulas, el reclamante no se menciona ni una sola vez. Un daño difuso, o lento, o que recae sobre alguien sin seguro, nunca mueve un ratio de siniestralidad, y queda por completo sin gobernar. Una norma puede leerse, impugnarse y recurrirse por cualquiera a quien afecte; un modelo de suscripción, no.
Esta es una viñeta del Explorador de Escenarios de IA — conjetura estructurada, no reportaje: una esquina de Adaptación institucional × Coordinación de la gobernanza, a la que se le da espacio para respirar. Señales de que está llegando: cobertura de IA con nombre propio, o exclusiones de IA explícitas, como condiciones estándar de la póliza; un despliegue cancelado o remodelado por la asegurabilidad, y no por un regulador. Señales de que no: que la ley vincule primero; unas garantías tan baratas que los compradores verifican los sistemas directamente; aseguradoras que se niegan por completo a ponerle precio al riesgo — un muro, no un libro de reglas, y un muro no gobierna tanto como reubica.
Cuando la elaboración de normas públicas avanza demasiado despacio y está demasiado fragmentada para ser vinculante, la gobernanza no se detiene. Migra hacia quien fija el precio del riesgo — y hacia quien puede apagar el sistema. Que esto sea un parche pasajero o se convierta en la norma depende de si las instituciones públicas consiguen ponerse al día, y de quién tiene voz, mientras tanto, en un libro de reglas que nadie votó.