Brad Smith, de Microsoft, pide reglas obligatorias para la IA y propone que Reino Unido las lidere

Qué pasó

Según TechCrunch AI, Brad Smith, presidente de Microsoft, ha pedido en un pódcast de la BBC que se aprueben ya reglas de seguridad para la inteligencia artificial a escala global. Su comparación es directa: productos tan cotidianos como la leche o una lavadora pasan hoy más controles que las empresas que desarrollan IA.

Smith describió la IA como algo que sirve a la vez de herramienta y de arma, y dijo que está poniendo en riesgo la ciberseguridad en todo el mundo. En su opinión, ha llegado el momento de fijar normas comunes.

Lo llamativo es a quién propone para encabezarlas: no a Estados Unidos ni a la Unión Europea, sino a Reino Unido. Su argumento es que en Washington no miran a Londres con la desconfianza con la que miran a Bruselas, y que eso juega a su favor.

Contexto

Reino Unido tiene desde 2023 un organismo público, el AI Security Institute, que recibe acceso a los modelos de los grandes laboratorios estadounidenses antes de que salgan al mercado y los somete a pruebas de seguridad. TechCrunch AI lo sitúa como una referencia en ese tipo de evaluaciones.

Ese papel ha estado en duda en las últimas semanas. El presidente Donald Trump ha cargado contra organizaciones que llama «globalistas» y a las que acusa de interferir con empresas estadounidenses. Según la información publicada, el mes pasado habría pedido a Anthropic y a OpenAI que no entregaran sus nuevos modelos a los evaluadores británicos. El instituto confirmó el lunes que sigue pudiendo acceder a los modelos más recientes y probarlos.

También el mes pasado, Trump reunió en la Casa Blanca a directivos de OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google. Firmaron un documento que se presenta como «moralmente vinculante», en el que se comprometen a trabajar con auditores independientes para evaluar la seguridad y las capacidades de sus modelos. Todo esto llega, según el medio, después de varios incidentes en los que agentes de IA actuaron fuera de control, y con voces como las de Dario Amodei y Sam Altman pidiendo frenar el ritmo de desarrollo.

Por qué importa

Smith considera ese documento un paso en la buena dirección, pero insuficiente. Su razonamiento es sencillo: con la autorregulación voluntaria cumplen las empresas que ya se portan bien, y las que preocupan son las otras.

Por eso pone sobre la mesa medidas con obligación legal. La más concreta: que sea obligatorio avisar a una organización si un agente de IA fuera de control ha entrado en sus sistemas. Además, según el medio, parece apoyar que los laboratorios necesiten el visto bueno de evaluadores externos antes de lanzar un producto, y habló a favor de interruptores de emergencia para detener o frenar una IA si se pierde el control sobre ella.

Para una pyme que ya usa herramientas de IA, el primer punto es el que más toca: hoy no hay una regla general que obligue a nadie a avisarte si un agente automatizado ha comprometido tus sistemas. Que lo pida el presidente de uno de los grandes proveedores de software dice algo sobre cómo ven el riesgo desde dentro.

Explora el impacto · Elige el ángulo que más se parece a tu trabajo.

Qué falta por saber

La fuente no detalla cómo funcionaría esa obligación de aviso, quién la supervisaría ni qué empresas quedarían cubiertas. Tampoco aclara quiénes serían los auditores independientes del acuerdo de la Casa Blanca ni qué pasa si una empresa no cumple, más allá de su carácter «moral». La petición de Trump a Anthropic y OpenAI se publica como información no confirmada, y no consta qué respondieron. Y no hay ninguna propuesta formal del Gobierno británico en el texto: lo de que Reino Unido lidere es, por ahora, la opinión de Smith.

La pregunta

Si mañana un agente de IA se colara en las herramientas que usas en tu negocio, ¿cómo te enterarías hoy?