Regular la IA: la raíz del problema

Estos días la regulación de la IA está en boca de todos. Se multiplican las propuestas. Pero hay una pregunta previa: ¿sabemos hacer que una inteligencia artificial cumpla las reglas que queremos imponerle?

El problema es doble. Por un lado, la IA puede dar alas a terroristas, narcos o Estados y multiplicar su capacidad de causar daño. Por otro, su autonomía abre la puerta a sistemas que actúen más allá de las intenciones de quienes los crearon.

Más capacidad para hacer daño. Menos certeza sobre quién conserva el control.

La solución, cómo no, parece ser la regulación. Algunos grandes laboratorios estadounidenses proponen evaluadores independientes dentro de las empresas, con acceso comparable al de sus empleados. Vigilar más. Inspeccionar mejor. Necesario, sin duda. Pero ¿qué podrán garantizar esos inspectores?

Ahí empieza el problema de fondo.

Podemos perfilar qué preguntas responderá una IA y cómo lo hará. Mediante técnicas como el aprendizaje por refuerzo, o RL, premiamos unas respuestas y desincentivamos otras. Podemos enseñarle a rechazar una petición peligrosa. Lo que no podemos garantizar es que descubra la intención de quien pregunta.

Un terrorista no tiene por qué presentarse como terrorista. Puede pedir ayuda para escribir una novela. Exigir que una escena sea rigurosamente realista. Y utilizar la respuesta fuera de la ficción. La misma información que sirve para proteger un sistema puede ayudar a atacarlo. La IA ve la petición; no tiene acceso directo al propósito que la mueve.

Ese es el problema: entrenar respuestas no equivale a controlar intenciones.

No sabemos dotar a los modelos de unas tres leyes de la robótica de Asimov que sean inviolables. Podemos escribir una “constitución”, como hace Anthropic, y entrenarlos para seguirla. Pero escribir principios no los convierte en garantías. Seguimos sin saber asegurar que se respeten ante cualquier situación, engaño o instrucción imprevista.

Mientras tanto, la carrera no espera. Gana quien lanza el modelo más inteligente, más capaz de sustituir trabajo humano y conquistar mercados. Investigar cómo limitarlo compite con esos incentivos. Y con los de Estados que buscan capacidades de espionaje y ciberataque.

Y aquí aparece el gran problema: los modelos pequeños, cada día más capaces, que pueden ejecutarse en redes de Macs o PC. En un servicio centralizado se pueden bloquear cuentas. En los modelos locales, el proveedor pierde ese control y algunas salvaguardas pueden eliminarse.

Vigilaremos los grandes laboratorios mientras esos modelos siguen circulando, también al alcance de terroristas, narcos o Estados como Irán. No necesitan ser los más inteligentes: basta con que permitan automatizar ataques a gran escala. Ese es el peligro que una regulación centrada en los gigantes deja abierto: una capacidad de hacer daño cada vez más barata y multiplicable, cuyas salvaguardas pueden retirarse y que ningún proveedor puede desconectar.