Preámbulo

Los gobiernos del mundo no han asumido plenamente su responsabilidad de proteger a sus pueblos de las amenazas existenciales que plantea la inteligencia artificial. La competencia comercial y geopolítica está desplazando la cooperación internacional necesaria para mantenernos a todos a salvo de los riesgos más graves de la IA.

Como resultado, uno de los avances sociales y económicos más disruptivos del siglo está quedando en manos de un pequeño número de empresas, en su mayoría privadas y concentradas principalmente en dos países. Estas empresas operan con una supervisión y una rendición de cuentas insuficientes.

Algunas de estas empresas están pidiendo mayor regulación de sus propias actividades. Los líderes deben escucharlas. Estados Unidos y China deben asumir el liderazgo e iniciar negociaciones para establecer un marco regulatorio internacional y normas comunes de seguridad para la IA.

Desde hace tiempo se necesita un enfoque basado en principios: uno que anteponga a las personas al lucro y al poder, sea más inclusivo a escala mundial y adopte una visión de largo plazo.

La IA no es una fuerza de la naturaleza ni impone un destino inevitable. Es creada por empresas y es comercializada en los mercados. Como cualquier otra tecnología, debe estar sujeta a la ley. Algunas de sus promesas son reales, pero también lo son sus daños y riesgos, cuyos efectos pueden recaer con mayor dureza sobre quienes tienen menos poder para decidir su propio futuro.

A lo largo de la historia, los líderes han acordado colectivamente restringir las armas nucleares, prohibir las armas químicas y reparar la capa de ozono. Como exjefes de Estado y de Gobierno, somos plenamente conscientes de las dificultades que implicó materializar estos logros. Pero también sabemos que, con un liderazgo decidido, es posible alcanzar incluso los objetivos más difíciles.

Hace mucho que se necesita un liderazgo responsable en materia de IA, y esa necesidad es cada vez más urgente. Por ello, hacemos un llamado a los líderes para que regulen la IA con base en los siguientes principios:

Los principios

1. Humanidad

La IA debe regularse para servir a los seres humanos, no para amenazar sus derechos ni su propia existencia. Nunca debe permitirse que la IA ejerza control sobre la humanidad.

2. Seguridad

La primera responsabilidad de un gobierno es proteger a sus ciudadanos. Los líderes deben actuar para mantener a sus pueblos a salvo de los riesgos que plantea la IA. No pueden dejar esta responsabilidad en manos de las empresas que la desarrollan.

3. Cooperación

Ningún país puede gestionar por sí solo los riesgos de la IA. Sus capacidades trascienden las fronteras estatales. Los acuerdos internacionales pueden fomentar un desarrollo responsable y, al mismo tiempo, permitir la innovación y la competencia comercial. El objetivo de la cooperación internacional en materia de IA no es frenar el progreso, sino garantizar que esta tecnología sea segura, confiable y beneficiosa para todos.

4. Confianza

Los líderes deben hablar con la verdad sobre la IA: explicar qué puede y qué no puede hacer, qué formas de dependencia puede generar y cómo podrían distribuirse sus beneficios y costos. Deben comunicar tanto lo que se sabe sobre sus daños y riesgos como aquello que aún se desconoce, incluso para sus propios creadores. Los líderes deben actuar en beneficio de sus países, no de un pequeño grupo de personas.

5. Rendición de cuentas

Liderar significa gobernar: hacer cumplir las leyes existentes, crear las que hacen falta y poner límites al poder concentrado cuando este se vuelve excesivo. Establecer reglas no significa quedarse atrás. Quienes desarrollan sistemas de IA deben responder ante toda la sociedad por sus productos y garantizar que estos sirvan al interés público.

6. Independencia

Un líder no puede regular una industria mientras depende de ella para obtener asesoramiento, infraestructura, financiación de campañas o futuras oportunidades laborales. Las funciones esenciales del Estado, desde la provisión de servicios públicos hasta la gestión de infraestructura crítica, no deben delegarse a sistemas que ni la ciudadanía ni el propio Estado pueden supervisar o someter a mecanismos de rendición de cuentas.

7. Contención

El uso legítimo de la fuerza es una de las facultades más importantes que puede ejercer un líder. Esta facultad debe permanecer bajo responsabilidad humana. Liderar significa rechazar las armas que seleccionan sus propios objetivos y los sistemas comerciales de IA que determinan quién será atacado y de qué manera.

8. Solidaridad

Los líderes deben crear oportunidades para que todas las personas afectadas por la IA participen en las decisiones sobre su desarrollo y uso, en lugar de reducirlas al papel de consumidoras o de obligarlas a soportar sus consecuencias bajo condiciones impuestas. Esto incluye a las comunidades que asumen los costos ambientales de la IA, a los países excluidos de sus beneficios y a los trabajadores cuyos medios de vida, atención sanitaria y derechos están ahora amenazados.

9. Integridad

Liderar significa someter el uso de la IA por parte del Estado (en la actividad policial, la protección social, el control fronterizo y la guerra) a las normas internacionales de derechos humanos. Un líder no puede exigirles a las empresas estándares que su propio gobierno no está dispuesto a cumplir.

10. Visión de largo plazo

Las consecuencias de las decisiones actuales sobre la IA trascenderán cualquier mandato de gobierno. Los líderes deben actuar como custodios de los intereses de los jóvenes y de las generaciones futuras. Deben sopesar la promesa de beneficios inmediatos frente a los riesgos de largo plazo para la salud, la seguridad, la sociedad y la economía.