пекинский форум сяншань как сделать новые технологии полезными? необходимо укреплять международное сотрудничество для совместной разработки стандартов безопасности.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
на поле боя российско-украинского конфликта украинский дрон-смертник завис над российскими военными позициями. камера на дроне была направлена на окопы и непрерывно сканировала. при обнаружении активности человека искусственный интеллект быстро его идентифицировал, а затем нырнул. совершить самоубийственное нападение.
камера повернулась к небу над украинскими военными позициями на российско-украинском поле боя. российский беспилотный самолет-разведчик провел разведку над украинскими военными позициями. обнаружив танки и бронетехнику, тыловики оперативно передали эту информацию руководству. крылатая ракета «ланцет». крылатая ракета «ланцет» подлетает к месту обнаружения цели. крылатая ракета также оснащена системой искусственного интеллекта, которая позволяет быстро идентифицировать танки и бронетехнику и произвести захват. на цель, даже если он столкнется с помехами, в конце концов также способен к автономным атакам.
вышеупомянутые кадры боевых действий дронов и крылатых ракет, выпущенных российской и украинской армиями. привлекательные характеристики технологии искусственного интеллекта (ии) в российско-украинском конфликте привлекли большое внимание и также будут в значительной степени способствовать ее применению. технологии в военной сфере. в условиях быстрого развития новых технологий, таких как искусственный интеллект, вопрос о том, как обеспечить безопасное применение этих технологий, стал предметом внимания различных стран во время пекинского форума в сяншане.
12 сентября на форуме была организована специальная сессия для высококлассных интервью по обсуждению безопасности искусственного интеллекта. 13 сентября шестое групповое заседание форума «новые технологии во благо» было посвящено обменам и дискуссиям о том, как новые технологии, такие как искусственный интеллект и синтетическая биология, могут быть использованы во благо.
технология искусственного интеллекта выходит на поле битвы
в 2021 году бывший госсекретарь сша киссинджер опубликовал книгу «эра искусственного интеллекта и будущее человечества», изложив свои взгляды на развитие и влияние искусственного интеллекта. в книге предполагается, что искусственный интеллект изменит глобальную безопасность и мировой порядок, а также приводятся идеи и предупреждения о росте искусственного интеллекта. киссинджер считает, что оружие искусственного интеллекта обладает тремя характеристиками, которых нет у ядерного оружия: оно сконцентрировано в крупных компаниях, а частный сектор легче копирует и, следовательно, легко осваивает неправительственные организации; освоить это.
на второй год после выхода книги разразился российско-украинский конфликт. по мере развития конфликта на поле боя появлялось все больше вооружений, оснащенных технологиями искусственного интеллекта: дроны, беспилотные боевые машины, беспилотные катера и крылатые ракеты. и т. д. технология искусственного интеллекта также используется в распознавании спутниковых изображений, принятии решений, сетевых и электронных противодействиях и т. д.
мэн сянцин, профессор университета национальной обороны, отметил в интервью the paper (www.thepaper.cn), что первая мировая война считается началом механизированной войны, а война в персидском заливе считается началом информационной занавес интеллектуальных войн открылся. хотя нынешняя технология искусственного интеллекта лишь незначительно расширяет возможности оружия и операций и не оказывает большого влияния на войну, она уже возвестила эту тенденцию.
в настоящее время в российско-украинском конфликте на поле боя появляется все больше оружия, работающего на основе искусственного интеллекта. в марте этого года министерство обороны великобритании объявило, что увеличит количество дронов, помогающих украине, с 4000 до 10 000, тысячи из которых являются дронами, оснащенными технологией искусственного интеллекта для поддержки ее операций на поле боя. эти дроны будут нести передовые датчики и системы вооружения, обладать высокой степенью автономности и интеллекта и смогут выполнять различные задачи, такие как разведка, нанесение ударов и защита в сложных условиях.
в январе 2023 года вышла статья «как алгоритм нарушил баланс российско-украинской войны?» в докладе раскрыта внутренняя история американских высокотехнологичных компаний, сотрудничающих с министерством обороны сша и спецслужбами, которые глубоко вовлечены в российско-украинский конфликт. в отчете упоминается, что программное обеспечение искусственного интеллекта, предоставляемое американскими высокотехнологичными компаниями, широко используется для интерпретации спутниковых изображений и обнаружения ценных целей.
по имеющимся данным, украинская армия также широко использовала информационную систему «мета-созвездие» американской компании-разработчика гражданского программного обеспечения palantir. посредством этой системы различные сложные технологические приложения объединяются для формирования «цепочки уничтожения», которая позволяет украине и ее союзникам видеть данные, доступные в настоящее время в конкретной зоне боевых действий. распознавание целей на спутниковых изображениях является важной и сложной проблемой. традиционная ручная интерпретация сталкивается со многими проблемами, и возможности искусственного интеллекта, основанные на глубоком обучении, могут сыграть большую роль в интерпретации спутниковых изображений, предоставляя новое решение для плана распознавания целей на спутниковых изображениях.
россия также использует оружие с искусственным интеллектом на поле боя российско-украинского конфликта. например, бортовой искусственный интеллект крылатой ракеты «ланцет-3» используется для поиска и идентификации целей, а также может самостоятельно находить и атаковать. заранее определенные цели. на поле боя появились и российские беспилотные боевые машины, такие как беспилотная машина разминирования мт-1 и беспилотная боевая машина «марк».
чтобы адаптироваться к будущим войнам, министерство обороны россии в 2022 году создало отдел исследования оружия искусственного интеллекта для усиления использования технологий искусственного интеллекта и разработки новой специальной техники.
в другом громком конфликте, палестино-израильском конфликте, на поле боя также используется много оружия, оснащенного технологиями искусственного интеллекта. по имеющимся данным, когда израиль атаковал газу, он использовал систему искусственного интеллекта под названием «лаванда», чтобы помочь идентифицировать боевиков хамас. количество и скорость выявления целей значительно возросли. в прошлом израильская разведка работала за 10 дней. нашли и утвердили 10 целей за 10 дней работы, а теперь могут найти и утвердить около 100 задач за 10 дней работы.
кроме того, искусственный интеллект модифицирует и генерирует изображения и видео, которые также можно использовать в информационной войне военного времени или в войне с общественным мнением. в статье под названием «генераторный искусственный интеллект играет удивительную роль в дезинформационной войне между израилем и хамасом» на американском веб-сайте wired говорится, что вспышка палестино-израильского конфликта спровоцировала беспрецедентную «дезинформационную волну», «управляемую алгоритмами». туман войны», из-за которого социальные сети оказались в беде.
совместная разработка стандартов безопасности – это путь вперед
в настоящее время быстрое развитие новых технологий, таких как искусственный интеллект и синтетическая биология, создает огромную прикладную ценность, но также приносит непредсказуемые риски и проблемы, которые связаны с интересами всего человечества. как обеспечить безопасное применение новых технологий. стать предметом беспокойства для всех стран.
в высококлассном интервью на тему «безопасность искусственного интеллекта» на пекинском форуме сяншань в этом году доктор чендлер, исследователь института оборонного анализа и бывший помощник министра обороны сша, сказал, что дроны, управляемые искусственным интеллектом, использовался на российско-украинском поле боя и в газе, военные других стран также рассматривают возможности применения искусственного интеллекта, но теперь люди также обсуждают безопасность и управление искусственным интеллектом, что также является областью, которая еще не рассматривалась. был вовлечен.
когда речь заходит о безопасности и рисках искусственного интеллекта, большое внимание привлекают такие вопросы, как может ли искусственный интеллект принимать автономные решения, заслуживает ли он доверия и как управлять рисками, которые может принести искусственный интеллект.
непрозрачность «черного ящика» алгоритмов искусственного интеллекта создает риски для безопасности и усложняет проблемы социального доверия. в связи с этим ху ан, заслуженный профессор института производственных технологий токийского университета и иностранный академик японской инженерной академии, заявил, что главный вопрос заключается в том, заслуживает ли доверия «черный ящик» искусственного интеллекта. по его мнению, человеческий мозг незаменим «по крайней мере, через короткий период времени искусственному интеллекту будет сложно заменить человеческий мозг в процессе принятия решений».
лампрос стегиулас, заведующий кафедрой юнеско по искусственному интеллекту и науке о данных для социального развития и профессор науки о данных в гаагском университете прикладных наук в нидерландах, отметил: «все технические специалисты совершают ошибки, не говоря уже о машинах». «является ли искусственный интеллект проблемой?» проблема? возможность заменить человеческий мозг при автономном принятии решений — это философский вопрос, а также практический вопрос».
в июле этого года reference news network сообщила, что американский сайт fun science опубликовал в июне статью «катастрофические ошибки, совершенные искусственным интеллектом». в статье перечислены «катастрофические» примеры искусственного интеллекта и напоминалось, что риски искусственного интеллекта нельзя игнорировать.
расследование bbc, как сообщается, показало, что социальные платформы используют ии для удаления видео возможных военных преступлений, действий, которые могут лишить жертв законного обращения за помощью в будущем. социальные платформы играют ключевую роль в войнах и социальных волнениях, часто выступая в качестве средства общения для тех, кто находится в группе риска. расследование установило, что, хотя на сайте мог оставаться графический контент, представляющий общественный интерес, видеоролики о терактах в украине были быстро удалены.
эти «катастрофические» примеры также появляются в повседневной жизни людей. google images пришлось отменить эту функцию после того, как при поиске горилл в ее программном обеспечении искусственного интеллекта появились изображения чернокожих людей. другие компании, включая apple, столкнулись с судебными исками по аналогичным обвинениям.
ши чанде считает, что проблемы безопасности искусственного интеллекта затрагивают все аспекты, включая национальную оборону и средства к существованию людей. поэтому он предложил странам заключить многосторонние соглашения для снижения рисков безопасности искусственного интеллекта.
по мнению дай цюнхая, декана факультета информационных наук и технологий университета цинхуа и академика китайской инженерной академии, развитие искусственного интеллекта выйдет на ускоренную линию в ближайшие три года. из-за непредсказуемости развития искусственного интеллекта соответствующая этика и управление должны быть на переднем плане, а риски безопасности приложений искусственного интеллекта должны быть снижены, чтобы они могли принести пользу человечеству.
по мнению экспертов, особенно важно укреплять международное сотрудничество в области искусственного интеллекта, особенно сотрудничество между крупными странами. совместная разработка стандартов безопасности может позволить искусственному интеллекту принести больше пользы человечеству.
14 мая этого года в женеве, швейцария, состоялось первое заседание межправительственного диалога китая и сша по искусственному интеллекту. обе стороны представили свои соответствующие взгляды и меры управления в отношении рисков, связанных с технологиями искусственного интеллекта, а также меры, принятые для продвижения искусственного интеллекта в целях расширения возможностей экономического и социального развития. обе стороны признали, что развитие технологий искусственного интеллекта сопряжено как с возможностями, так и с рисками, и подтвердили свою неизменную приверженность реализации важного консенсуса, достигнутого главами двух государств в сан-франциско.
по мнению ши чанде, китай и сша должны обеспечить продолжение общения. «в области новых технологий обе стороны постепенно достигают определенной степени паритета или баланса, что может привести к более откровенным и углубленным разговорам между двумя сторонами. мы должны обеспечить, чтобы они продолжали усердно работать для поддержания связи. — сказала шизанде.
репортер the paper се жуйцян
(эта статья взята из the paper. для получения более оригинальной информации загрузите приложение «the paper»).
