noticias

recientemente, las naciones unidas publicaron un importante informe sobre la gobernanza de la inteligencia artificial (ia), en el que instan a la comunidad internacional a trabajar en conjunto para establecer un mecanismo de supervisión y gobernanza de la ia verdaderamente global.

el informe, elaborado por el órgano asesor de alto nivel sobre ia del secretario general de las naciones unidas, establece una serie de recomendaciones para abordar los riesgos que plantea la ia y, al mismo tiempo, garantizar que su potencial transformador se haga realidad a nivel mundial.

el informe enfatiza que la necesidad de una gobernanza global de la ia es incuestionable. las materias primas para la tecnología de ia, desde minerales clave hasta datos de entrenamiento, provienen de todo el mundo.

la tecnología general de ia se implementará a través de las fronteras nacionales, creando una variedad de aplicaciones en todo el mundo. al mismo tiempo, el rápido desarrollo de la ia ha concentrado el poder y la riqueza a escala global, trayendo consigogeopolíticay el impacto económico.

es más, actualmente nadie comprende completamente todo el funcionamiento interno de la ia, ni puede controlar completamente su producción ni predecir su evolución.

al mismo tiempo, quienes toman decisiones no son responsables de desarrollar, implementar o utilizar sistemas que no comprenden. es probable que estas decisiones tengan efectos negativos globales e impactos posteriores.

para abordar las brechas existentes en los acuerdos de gobernanza de la ia, el órgano asesor hizo varias recomendaciones clave:

• establecer un grupo científico internacional independiente de ia compuesto por expertos de diferentes disciplinas para actuar de forma voluntaria a título individual.

• lanzar un diálogo bienal sobre políticas de gobernanza de la ia, intergubernamental y de múltiples partes interesadas, que podría celebrarse al margen de las reuniones existentes de la onu, proporcionando una plataforma para que los 193 estados miembros de la onu discutan los riesgos y generen consenso para la acción.

• se estableció un “grupo de estándares de ia” para desarrollar y mantener un manual que defina y aplique estándares para evaluar los sistemas de ia.

• el establecimiento de un fondo global de ia, que se espera que sea administrado por una nueva estructura de gobernanza independiente, tiene como objetivo cerrar la brecha en el desarrollo de la ia, especialmente para apoyar el desarrollo de los países del hemisferio sur.

• desarrollar un marco global de datos de ia y establecer un "mecanismo de intercambio y gestión de datos que dé forma al mercado" para promover el floreciente desarrollo de los ecosistemas locales globales de ia.

• establecer una oficina de ia dentro de la secretaría de las naciones unidas para unificar mejor estas iniciativas en una estructura liviana y flexible.

el informe también recomienda que las naciones unidas se centren en los países más pobres, especialmente los del sur global, para permitirles beneficiarse de la ia y participar en su gobernanza.

estas medidas incluyen el establecimiento de estándares de ia y sistemas de intercambio de datos, y la asignación de recursos de capacitación y educación para ayudar a los países con la gobernanza de la ia.

algunas de las recomendaciones podrían implementarse a través del pacto digital mundial existente, cuyo objetivo es abordar la brecha digital y de datos entre países.

wendy hall, profesora emérita de informática en la universidad de southampton, reino unido, es la única experta británica en el organismo asesor. enfatizó: "la ia debe desarrollarse en beneficio de la humanidad. sin gobernanza, tiene el potencial de ser perjudicial. a la sociedad." forma de evolución.

necesitamos urgentemente un enfoque global para abordar los desafíos de la ia y garantizar que beneficie a todos. "

sin embargo, la gobernanza de la ia no es actualmente una conversación verdaderamente global. el informe señala que, aunque gobiernos, empresas, alianzas y organizaciones internacionales han adoptado cientos de directrices, marcos y principios sobre la gobernanza de la ia, ninguno tiene una influencia verdaderamente global. esto conduce a problemas de representación, coordinación y ejecución.

esta distribución desigual del poder también se refleja en todo el sistema internacional.

el secretario general de las naciones unidas, antónio guterres, señaló en el foro económico mundial de davos en enero de 2024 que muchos estados miembros todavía estaban bajo dominio colonial cuando se fundaron las naciones unidas y, por lo tanto, “tienen menos volumen” en las discusiones de hoy.

pidió una reforma del sistema internacional establecido después de la segunda guerra mundial para tomar medidas efectivas ante los desafíos globales.

en marzo de 2024, estados unidos presentó una resolución a las naciones unidas en la que pedía a los estados miembros que adoptaran el desarrollo de una “ia segura, fiable y digna de confianza”.

en julio del mismo año, china propuso su propia resolución enfatizando la cooperación en el desarrollo de la ia y haciendo que la tecnología esté ampliamente disponible. todos los estados miembros de la onu han firmado ambos acuerdos.

las diferencias de opinión sobre la ia entre los países ricos han provocado divisiones en el mercado. la unión europea ha introducido amplias regulaciones sobre ia y sus controles de uso de datos han llevado a algunas empresas estadounidenses a limitar la disponibilidad de sus productos.

el enfoque de laissez-faire adoptado por el gobierno de estados unidos también ha llevado a california a proponer sus propias regulaciones de ia más estrictas.

frente a estos desafíos, el informe del órgano asesor de ia de las naciones unidas allana el camino para establecer una posición común.

chris russell, profesor de la universidad de oxford, opina: "arraigar el análisis en los derechos humanos es muy convincente.

proporciona un trabajo amplio y potente.derecho internacionaly centrarse en los daños específicos que sufren las personas. "

sin embargo, la ia avanza a un ritmo tan rápido que las naciones unidas no podrán gestionar la cooperación global por sí solas.

"las naciones unidas obviamente tienen un papel importante en la gobernanza de la ia, pero debe ser una arquitectura distribuida", dijo. "los países también deben participar directamente".

finalmente, si bien los gobiernos pueden ver la ia como una forma de obtener ventajas estratégicas, muchos científicos coinciden en sus preocupaciones sobre la ia.

a principios de esta semana, un grupo de destacados académicos de occidente y china pidieron conjuntamente una mayor cooperación en cuestiones de seguridad de la ia tras una conferencia sobre seguridad de la ia celebrada en viena, austria.

en general, este informe de las naciones unidas proporciona un plan para la cooperación de la comunidad internacional en la gobernanza de la ia.

sin embargo, como dijo alondra nelson, miembro del órgano asesor: “el diablo está en los detalles”.

en el futuro, la forma en que las naciones unidas y sus estados miembros decidan implementar este plan de cooperación determinará el éxito o el fracaso de la gobernanza global de la ia.

referencias:

https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/

https://www.un.org/techenvoy/ai-advisory-body

https://www.computerweekly.com/news/366611263/un-body-urges-globally-inclusive-and-distributed-ai-governance

operación/composición tipográfica: he chenlong