El 12 de setiembre, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo titulado “We Must Pace the Frontier”, en el que pide a la industria reducir la velocidad a la que mejora las capacidades de sus modelos de inteligencia artificial. No propone detener el entrenamiento ni la investigación, sino asegurar que las empresas dediquen tiempo suficiente a comprobar que sus sistemas se comportan como se espera y que evaluadores externos lo confirmen.
Es un giro. En enero de este año, Amodei defendía normas prudentes con la menor carga necesaria y criticaba la legislación demasiado prescriptiva. Ocho meses después, pide límites al ritmo de avance y una regulación que alcance a todas las empresas que desarrollan los modelos más avanzados en Estados Unidos.
Lo que lo hizo cambiar
Dos hechos, según el propio ensayo. El primero es que, desde mediados de este año, los sistemas de inteligencia artificial participan cada vez más en la construcción de la siguiente generación de sistemas, un ciclo que puede superar la capacidad humana de entender y controlar lo que se produce.
El segundo es un incidente ocurrido en agosto entre OpenAI y la plataforma Hugging Face. Un grupo de agentes automatizados —programas que actúan por su cuenta para cumplir una tarea— ejecutó ataques informáticos contra objetivos que nadie le había asignado e intentó vulnerar el sistema encargado de calificar su desempeño. Según la prensa, reunió unos 1.200 agentes que se coordinaban entre sí, intercambió más de 70.000 comunicaciones y se organizó bajo un agente jefe que repartía tareas. Nadie salió herido y el daño económico fue mínimo. Amodei sostiene, sin embargo, que, en seis a doce meses, un grupo así, con más capacidad, podría tomar el control de buena parte de internet mediante una red persistente de equipos infectados, con daños de cientos de miles de millones de dólares.
El plan de tres pasos
Primero, evaluadores externos dentro de las empresas. Cada compañía que desarrolle modelos avanzados daría acceso permanente, equivalente al de un empleado, a un equipo de evaluadores independientes, encargados de verificar que se cumplen las prácticas de seguridad, reportar incidentes y revisar no solo los modelos terminados, sino también el proceso con el que se entrenan. Anthropic ya lo asume por su cuenta: escritorios, credenciales y computadoras para el equipo externo, y derecho a publicar hallazgos sin control editorial de la empresa, que solo podría tachar información sensible, pero no conclusiones desfavorables. Amodei lo compara con los supervisores que trabajan dentro de los bancos.
Segundo, coordinación entre democracias. Las empresas de los países democráticos acordarían estándares comunes de seguridad y límites al ritmo de avance. Como un acuerdo entre competidores sobre cuánto y qué tan rápido producen choca con las leyes de competencia, Amodei pide al Gobierno de Estados Unidos una dispensa que permita esas conversaciones.
Tercero, coordinación global. Estados Unidos y las demás democracias intentarían acuerdos con gobiernos autoritarios, principalmente China, empezando por lo más fácil, como prohibir el uso de inteligencia artificial para fabricar armas biológicas, y llegando, si fuera posible, a una pausa coordinada que el propio Amodei califica de improbable.
El plan tiene un límite explícito: el freno solo puede llegar hasta donde lo permita la ventaja de las empresas estadounidenses sobre China. Por eso incluye no vender chips avanzados a ese país y perseguir la copia no autorizada de modelos.
La reacción
Los principales competidores de Anthropic aceptaron el marco en cuestión de días: Sam Altman, de OpenAI, escribió que coincide en la necesidad de dosificar la frontera y comprometió a su empresa con los evaluadores externos; Elon Musk dijo que Amodei tiene razón; Demis Hassabis, de Google DeepMind, respaldó la dirección general. David Sacks, asesor de la Casa Blanca en inteligencia artificial, lo calificó de captura regulatoria: aprovechar el temor público para que el Gobierno emita reglas que solo las empresas grandes pueden cumplir. Y, desde la doctrina de competencia, se ha señalado que el segundo paso, un pacto entre competidores sobre el ritmo de producción, es, en cualquier otra industria, un acuerdo prohibido.
Qué tipo de regulación es
La propuesta se presenta como autorregulación, pero no lo es del todo, ni tampoco es regulación estatal. Es un modelo intermedio que la doctrina llama autorregulación regulada o corregulación y que se usa desde hace décadas en sectores donde el Estado no tiene la información ni los técnicos para escribir la regla por sí mismo.
Funciona así. El regulado diseña las reglas, los umbrales de riesgo y la forma de verificarlos porque es quien conoce la materia. El Estado no las redacta; las reconoce, las declara obligatorias para todos, incluidos los que no quieran adherirse, y castiga a quien no las cumpla. La ventaja es que la regla la escribe quien sabe. El costo es que el Estado queda dependiendo del regulado para saber qué regular y si se está cumpliendo.
Por eso, el modelo solo funciona cuando el Estado conserva algo. Puede ser un marco previo que diga qué debe contener la regla; puede ser una aprobación real, con capacidad de rechazar o modificar lo que el privado presenta; puede ser un régimen de responsabilidad por información falsa; o puede ser alguien con interés en objetar: un competidor, un usuario o un empleado que denuncia. Cuando el Estado no conserva ninguna de esas piezas, el privado hace todo el trabajo y el Estado se limita a darle valor legal.
Medido con esa vara, el plan de Amodei es la versión más cargada hacia el privado. La industria escoge y contrata a los evaluadores, define qué se mide y cómo, y produce toda la evidencia sobre el riesgo. El Estado es invitado a exigir el mecanismo, no a revisar su contenido. Y no hay contraparte: el riesgo es difuso, la víctima potencial es la sociedad y nadie tiene posición para discutir lo que el evaluador diga o calle. El evaluador tampoco puede sancionar; solo publica.
Lo que Costa Rica ya conoce
El modelo no es ajeno al país. En telecomunicaciones se aplica desde hace años. Cuando un operador tiene una red que otros necesitan usar, la ley lo obliga a presentar ante la Sutel una oferta con las condiciones técnicas y económicas para permitir ese acceso, tanto para conectar redes entre sí como para compartir postes, ductos y torres. El operador redacta la oferta porque es quien conoce su red y sus costos. La Sutel la revisa, puede rechazarla o modificarla, la aprueba y, con ello, la vuelve obligatoria. Los demás operadores, que son quienes van a pagar por ese acceso, pueden objetar y llevar sus disputas al regulador.
Ahí están las piezas que el Estado conserva: una ley que dice qué debe contener la oferta, un regulador con técnicos propios que la aprueba, competidores con interés en discutirla y potestad para sancionar. Y, aun así, el esquema tiene límites: los costos que sustentan la oferta los produce el operador que la presenta, y aprobar no equivale a haber verificado de forma independiente. Las discusiones recientes sobre cargos por el uso de postes lo muestran.
Para un país que no desarrolla estos sistemas, la pregunta no es si va a regular a Anthropic o a OpenAI, porque no lo hará. Es qué va a exigir a quien ponga esos sistemas en operación en su territorio, qué va a comprar el Estado y con qué garantías, y qué información va a pedir a los proveedores. Para eso no necesita inventar un modelo. Puede escoger entre aceptar lo que las empresas digan de sí mismas o exigir lo que ya exige a un operador de telecomunicaciones: un marco previo, capacidad técnica para revisar lo que recibe, responsabilidad por información falsa y canales para que quien tenga interés pueda objetar. Con eso hay autorregulación regulada. Sin eso, solo hay una firma del Estado al pie de lo que el sector decidió.