Funcionarios gubernamentales y ejecutivos de la industria de la inteligencia artificial acordaron el martes aplicar medidas de seguridad elementales en este campo de rápido movimiento y establecer una red internacional de investigación en seguridad. Casi seis meses después de la cumbre global inaugural sobre seguridad de la inteligencia artificial en Bletchley Park en Inglaterra, Gran Bretaña y Corea del Sur están organizando la cumbre de seguridad de la IA esta semana en Seúl. El encuentro subraya los nuevos desafíos y oportunidades que el mundo enfrenta con la llegada de la tecnología de IA.

El gobierno británico anunció el martes un nuevo acuerdo entre 10 países y la Unión Europea para establecer una red internacional similar al Instituto de Seguridad de IA del Reino Unido, que es la primera organización respaldada públicamente en el mundo, para acelerar el avance de la ciencia en seguridad de la IA. La red promoverá una comprensión común de la seguridad de la IA y alineará su trabajo con la investigación, estándares y pruebas. Australia, Canadá, la UE, Francia, Alemania, Italia, Japón, Singapur, Corea del Sur, el Reino Unido y los Estados Unidos han firmado el acuerdo.

En el primer día de la Cumbre de IA en Seúl, líderes mundiales y principales empresas de inteligencia artificial se reunieron para una reunión virtual presidida por el primer ministro del Reino Unido, Rishi Sunak, y el presidente de Corea del Sur, Yoon Suk Yeol, para discutir sobre la seguridad, innovación e inclusión de la IA.

Durante las discusiones, los líderes acordaron la Declaración de Seúl, enfatizando la colaboración internacional en la construcción de la IA para abordar problemas globales importantes, defender los derechos humanos y cerrar brechas digitales en todo el mundo, todo mientras se prioriza ser 'centrados en el ser humano, confiables y responsables'.

'La IA es una tecnología enormemente emocionante, y el Reino Unido ha liderado los esfuerzos mundiales para manejar su potencial, albergando la primera Cumbre de Seguridad de IA del mundo el año pasado', dijo Sunak en un comunicado del gobierno del Reino Unido. 'Pero para obtener los beneficios, debemos asegurarnos de que sea segura. Por eso estoy encantado de que hoy hayamos obtenido un acuerdo para una red de Institutos de Seguridad de IA'.

El mes pasado, el Reino Unido y los Estados Unidos sellaron un memorando de entendimiento de colaboración en investigación, evaluación de seguridad y orientación sobre la seguridad de la IA. El acuerdo anunciado hoy sigue a los primeros Compromisos de Seguridad de IA del mundo de 16 empresas involucradas en la IA, incluidas Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi y Zhipu.ai. (Zhipu.ai es una empresa china respaldada por Alibaba, Ant y Tencent).

Las empresas de IA, incluidas las de EE. UU., China y los Emiratos Árabes Unidos (EAU), han aceptado los compromisos de seguridad de 'no desarrollar ni implementar un modelo o sistema en absoluto si las mitigaciones no pueden mantener los riesgos por debajo de los umbrales', según el comunicado del gobierno del Reino Unido. 'Es un hecho mundial tener tantas empresas líderes en IA de tantas partes diferentes del mundo que acuerden los mismos compromisos en seguridad de la IA', dijo Sunak. 'Estos compromisos aseguran que las principales empresas de IA del mundo proporcionarán transparencia y responsabilidad sobre sus planes para desarrollar una IA segura'.