foro xiangshan de beijing | ¿cómo hacer que las tecnologías emergentes sean buenas? se debe fortalecer la cooperación internacional para desarrollar conjuntamente estándares de seguridad
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
en el campo de batalla del conflicto ruso-ucraniano, un dron suicida ucraniano sobrevolaba las posiciones militares rusas. la cámara del dron apuntaba a las trincheras y escaneaba continuamente. cuando se detectaba actividad humana, la inteligencia artificial la identificaba rápidamente y luego se lanzaba en picado. para cometer un ataque suicida.
la cámara se volvió hacia el cielo sobre las posiciones militares ucranianas en el campo de batalla ruso-ucraniano. un avión de reconocimiento no tripulado ruso realizó un reconocimiento sobre las posiciones militares ucranianas. después de descubrir tanques y vehículos blindados, el personal de retaguardia pasó rápidamente esta información al control. misil de crucero "lancet", el misil de crucero "lancet" vuela cerca de la posición donde se encuentra el objetivo. el misil de crucero también está equipado con un sistema de inteligencia artificial, que puede identificar rápidamente tanques y vehículos blindados, y bloquearlos. en el objetivo, incluso si encuentra interferencia, al final también es capaz de realizar ataques autónomos.
lo anterior son imágenes de combate de drones y misiles de crucero lanzados por los ejércitos ruso y ucraniano. el llamativo desempeño de la tecnología de inteligencia artificial (ia) en el conflicto ruso-ucraniano ha atraído gran atención y también promoverá en gran medida su aplicación. tecnología en el ámbito militar. con el rápido desarrollo de tecnologías emergentes como la inteligencia artificial, cómo garantizar la aplicación segura de estas tecnologías se ha convertido en el tema central de varios países durante este foro xiangshan de beijing.
el 12 de septiembre, se organizó una sesión especial para entrevistas de alto nivel en el foro para discutir la seguridad de la inteligencia artificial. el 13 de septiembre, la sexta reunión del grupo del foro, "tecnologías emergentes para el bien", se dedicó a intercambios y debates sobre cómo las tecnologías emergentes, como la inteligencia artificial y la biología sintética, pueden utilizarse para el bien.
la tecnología de inteligencia artificial entra al campo de batalla
en 2021, el exsecretario de estado estadounidense kissinger publicó el libro "la era de la inteligencia artificial y el futuro de la humanidad", en el que expone sus puntos de vista sobre el desarrollo y el impacto de la inteligencia artificial. el libro propone que la inteligencia artificial remodelará la seguridad global y el orden mundial, y proporciona ideas y advertencias sobre el surgimiento de la inteligencia artificial. kissinger cree que las armas de inteligencia artificial tienen tres características que las armas nucleares no tienen: están concentradas en las grandes empresas y el sector privado es más fácil de copiar y, por lo tanto, las organizaciones no gubernamentales también tienen la oportunidad de dominarlas fácilmente; dominarlo.
el segundo año después de la publicación del libro, estalló el conflicto entre rusia y ucrania. a medida que avanzaba, se pusieron en el campo de batalla cada vez más armas equipadas con tecnología de inteligencia artificial: drones, vehículos de combate no tripulados, barcos no tripulados y misiles de crucero. etc. la tecnología de inteligencia artificial también interviene en el reconocimiento de imágenes de satélite, la toma de decisiones asistida, las contramedidas electrónicas y de redes, etc.
meng xiangqing, profesor de la universidad de defensa nacional, señaló en una entrevista con the paper (www.thepaper.cn) que se considera que la primera guerra mundial es el comienzo de la guerra mecanizada y que la guerra del golfo inició la información. se considera que el conflicto entre rusia y ucrania ha abierto el telón de la guerra inteligente. aunque la tecnología de inteligencia artificial actual solo potencia ligeramente las armas y las operaciones y no tiene un gran impacto en la guerra, ya ha anunciado esta tendencia.
actualmente, en el conflicto rusia-ucrania, cada vez aparecen en el campo de batalla más armas impulsadas por inteligencia artificial. en marzo de este año, el ministerio de defensa británico anunció que aumentaría el número de drones que ayudan a ucrania de 4.000 a 10.000, miles de los cuales son drones equipados con tecnología de inteligencia artificial para apoyar sus operaciones en el campo de batalla. estos drones llevarán sensores y sistemas de armas avanzados, tendrán un alto grado de autonomía e inteligencia y podrán realizar una variedad de tareas como reconocimiento, ataque y defensa en entornos complejos.
en enero de 2023, apareció un artículo titulado "¿cómo rompió el algoritmo el equilibrio de la guerra entre rusia y ucrania?" el informe reveló la historia interna de empresas estadounidenses de alta tecnología que cooperaron con el departamento de defensa y agencias de inteligencia de estados unidos para estar profundamente involucradas en el conflicto entre rusia y ucrania. el informe menciona que el software de inteligencia artificial proporcionado por empresas estadounidenses de alta tecnología se utiliza ampliamente para interpretar imágenes de satélite y descubrir objetivos valiosos.
según los informes, el ejército ucraniano también ha utilizado ampliamente un sistema de información "meta-constellation" de la empresa estadounidense de software civil palantir. a través de este sistema, se integran una variedad de aplicaciones tecnológicas sofisticadas para formar una "cadena de muerte" que permite a ucrania y sus aliados ver los datos actualmente disponibles en un área de combate específica. el reconocimiento de objetivos de imágenes satelitales es un problema importante y complejo. la interpretación manual tradicional enfrenta muchos desafíos, y la capacidad de la inteligencia artificial basada en el aprendizaje profundo puede desempeñar un papel importante en la interpretación de imágenes satelitales, proporcionando una nueva solución para el plan de reconocimiento de objetivos de imágenes satelitales.
rusia también está utilizando armas con inteligencia artificial en el campo de batalla del conflicto rusia-ucrania. por ejemplo, la inteligencia artificial del misil de crucero "lancet-3" se utiliza para la búsqueda e identificación de objetivos y puede encontrar y atacar de forma independiente. objetivos predeterminados. también han aparecido en el campo de batalla vehículos de combate no tripulados rusos, como el vehículo de limpieza de minas no tripulado mt-1 y el vehículo de combate no tripulado "mark".
para adaptarse a guerras futuras, el ministerio de defensa ruso estableció un departamento de investigación de armas de inteligencia artificial en 2022 para fortalecer el uso de la tecnología de inteligencia artificial y desarrollar nuevos equipos especiales.
en otro conflicto de alto perfil, el conflicto palestino-israelí, también se utilizan en el campo de batalla muchas armas equipadas con tecnología de inteligencia artificial. según los informes, cuando israel atacó gaza, utilizó un sistema de inteligencia artificial llamado "lavender" para ayudar a identificar a los militantes de hamas. el número y la velocidad de identificación de objetivos aumentaron considerablemente. en el pasado, el departamento de inteligencia israelí trabajaba en 10 días. encontraron y aprobaron 10 objetivos en 10 días de trabajo, y ahora pueden encontrar y aprobar alrededor de 100 objetivos en 10 días de trabajo.
además, la inteligencia artificial modifica y genera imágenes y vídeos, que también pueden utilizarse en tiempos de guerra en la guerra de información o en la guerra de opinión pública. un artículo titulado "la inteligencia artificial generativa desempeña un papel sorprendente en la guerra de desinformación entre israel y hamás" en el sitio web estadounidense "wired" afirmaba que el estallido del conflicto palestino-israelí desencadenó una marea de "desinformación" sin precedentes, la "inteligencia impulsada por algoritmos". niebla de guerra” que tiene a las redes sociales en problemas.
desarrollar conjuntamente normas de seguridad es el camino a seguir
en la actualidad, el rápido desarrollo de tecnologías emergentes como la inteligencia artificial y la biología sintética está generando un enorme valor de aplicación, pero también genera riesgos y desafíos impredecibles, que están relacionados con los intereses de toda la humanidad. convertirse en una preocupación para todos los países.
en una entrevista de alto nivel sobre "seguridad de la inteligencia artificial" en el foro xiangshan de beijing de este año, el dr. chandler, investigador del instituto de análisis de defensa y ex subsecretario de defensa de los estados unidos, dijo que los drones controlados por inteligencia artificial han se ha utilizado en el campo de batalla ruso-ucraniano y en gaza. los ejércitos de otros países también están considerando aplicaciones relacionadas con la inteligencia artificial, pero ahora la gente también está discutiendo la seguridad y la gobernanza de la inteligencia artificial, que también es un área que no lo ha hecho. estado involucrado.
cuando se trata de la seguridad y los riesgos de la inteligencia artificial, han atraído mucha atención cuestiones como si la inteligencia artificial puede tomar decisiones autónomas, si es confiable y cómo gestionar los riesgos que la inteligencia artificial puede conllevar.
la opacidad de la "caja negra" de los algoritmos de inteligencia artificial conlleva riesgos de seguridad y hace que las cuestiones de confianza social sean cada vez más complejas. en este sentido, hu ang, distinguido profesor del instituto de tecnología de producción de la universidad de tokio y académico extranjero de la academia japonesa de ingeniería, dijo que la cuestión fundamental es si la "caja negra" de la inteligencia artificial es confiable. en su opinión, el cerebro humano es insustituible. "al menos en un corto período de tiempo, será difícil que la inteligencia artificial sustituya al cerebro humano en la toma de decisiones".
lampros stégioulas, cátedra unesco de inteligencia artificial y ciencia de datos para el desarrollo social y profesor de ciencia de datos en la universidad de ciencias aplicadas de la haya (países bajos), señaló: “todos los técnicos humanos cometen errores, y mucho menos las máquinas”. ¿el problema? ser capaz de reemplazar el cerebro humano en la toma de decisiones autónoma es una cuestión filosófica además de práctica”.
reference news network informó en julio de este año que el sitio web american fun science publicó un artículo "errores desastrosos cometidos por la inteligencia artificial" en junio. el artículo enumera ejemplos "catastróficos" de inteligencia artificial y recuerda que los riesgos de la inteligencia artificial no pueden ignorarse.
según se informa, una investigación de la bbc descubrió que las plataformas sociales están utilizando inteligencia artificial para eliminar videos de posibles crímenes de guerra, acciones que podrían negar a las víctimas un recurso legítimo en el futuro. las plataformas sociales desempeñan un papel clave en la guerra y el malestar social, a menudo como medio de comunicación para quienes están en riesgo. la investigación encontró que, si bien el contenido gráfico de interés público podía permanecer en el sitio, los videos sobre ataques en ucrania se eliminaron rápidamente.
estos ejemplos "catastróficos" también aparecen en la vida cotidiana de las personas. google imágenes tuvo que cancelar esta función después de que aparecieran imágenes de personas negras mientras buscaba gorilas en su software de inteligencia artificial. otras empresas, incluida apple, se han enfrentado a demandas por acusaciones similares.
shi chande cree que las cuestiones de seguridad de la inteligencia artificial involucran todos los aspectos, incluida la defensa nacional y el sustento de la gente. por ello, sugirió que los países alcancen acuerdos multilaterales para mitigar los riesgos de seguridad de la inteligencia artificial.
según dai qionghai, decano de la escuela de ciencia y tecnología de la información de la universidad de tsinghua y académico de la academia china de ingeniería, el desarrollo de la inteligencia artificial entrará en la vía rápida en los próximos tres años. debido a la imprevisibilidad del desarrollo de la inteligencia artificial, la ética y la gobernanza relevantes deben estar a la vanguardia, y los riesgos de seguridad de las aplicaciones de inteligencia artificial deben reducirse para que puedan beneficiar a la humanidad.
según los expertos, es particularmente importante fortalecer la cooperación internacional en el campo de la inteligencia artificial, especialmente la cooperación entre los principales países. la formulación conjunta de estándares de seguridad puede permitir que la inteligencia artificial beneficie mejor a la humanidad.
el 14 de mayo de este año se celebró en ginebra, suiza, la primera reunión del diálogo intergubernamental china-estados unidos sobre inteligencia artificial. las dos partes presentaron sus respectivos puntos de vista y medidas de gobernanza sobre los riesgos de la tecnología de inteligencia artificial, así como las medidas tomadas para promover la inteligencia artificial para potenciar el desarrollo económico y social. ambas partes reconocieron que el desarrollo de la tecnología de inteligencia artificial enfrenta tanto oportunidades como riesgos, y reiteraron su compromiso continuo de implementar el importante consenso alcanzado por los dos jefes de estado en san francisco.
en opinión de shi chande, china y estados unidos deben garantizar que la comunicación pueda continuar. "en el campo de las nuevas tecnologías, las dos partes están alcanzando gradualmente un cierto grado de paridad o equilibrio, lo que puede conducir a conversaciones más sinceras y profundas entre las dos partes. debemos asegurarnos de que continúen trabajando duro para mantener la comunicación. ", dijo shizande.
el reportero del periódico xie ruiqiang
(este artículo es de the paper. para obtener más información original, descargue la aplicación “the paper”)
