новости

недавно организация объединенных наций опубликовала важный доклад об управлении искусственным интеллектом (ии), призвав международное сообщество работать вместе над созданием действительно глобального механизма надзора и управления ии.

в докладе, подготовленном консультативным органом высокого уровня по ии при генеральном секретаре оон, изложен ряд рекомендаций по устранению рисков, связанных с ии, при одновременном обеспечении реализации его преобразующего потенциала во всем мире.

в докладе подчеркивается, что необходимость глобального управления ии не подлежит сомнению. сырье для технологии искусственного интеллекта, от ключевых минералов до обучающих данных, поступает со всего мира.

общие технологии искусственного интеллекта будут распространяться через национальные границы, создавая множество приложений по всему миру. в то же время быстрое развитие ии привело к концентрации власти и богатства в глобальном масштабе, что привело кгеополитикаи экономический эффект.

более того, никто в настоящее время полностью не понимает всю внутреннюю работу ии, не может полностью контролировать его результаты или предсказывать его эволюцию.

в то же время лица, принимающие решения, не несут ответственности за разработку, внедрение или использование систем, которые они не понимают. эти решения, вероятно, будут иметь глобальные негативные последствия и последствия в дальнейшем.

чтобы устранить существующие пробелы в механизмах управления ии, консультативный орган дал несколько ключевых рекомендаций:

• создать независимую международную научную группу по искусственному интеллекту, состоящую из экспертов из разных дисциплин, которые будут работать на добровольной основе в индивидуальном качестве.

• запустить раз в два года межправительственный и многосторонний диалог по политике управления ии, который можно было бы проводить в рамках существующих заседаний оон, предоставив 193 государствам-членам оон платформу для обсуждения рисков и достижения консенсуса для действий.

• была создана «группа стандартов ии» для разработки и поддержания руководства, которое определяет и применяет стандарты для оценки систем ии.

• создание глобального фонда ии, которым, как ожидается, будет управлять новая независимая структура управления, направлено на устранение разрыва в развитии ии, особенно на поддержку развития стран южного полушария.

• разработать глобальную структуру данных ии и создать «механизм управления и обмена данными, формирующий рынок», чтобы способствовать процветающему развитию глобальных локальных экосистем ии.

• создать управление искусственного интеллекта в секретариате организации объединенных наций, чтобы лучше объединить эти инициативы в легкую и гибкую структуру.

в докладе также рекомендуется, чтобы организация объединенных наций сосредоточила внимание на более бедных странах, особенно на глобальном юге, чтобы дать им возможность извлечь выгоду из ии и участвовать в его управлении.

эти меры включают в себя создание стандартов ии и систем обмена данными, а также выделение ресурсов для обучения и образования, чтобы помочь странам в управлении ии.

некоторые рекомендации могут быть реализованы посредством существующего глобального цифрового договора, целью которого является устранение разрыва в цифровых технологиях и данных между странами.

венди холл, почетный профессор компьютерных наук в университете саутгемптона, великобритания, является единственным британским экспертом в консультативном органе. она подчеркнула: «ии должен разрабатываться на благо человечества. без управления он может быть вредным. обществу.» путь эволюции.

нам срочно нужен глобальный подход для решения проблем ии и обеспечения того, чтобы он приносил пользу всем. "

однако управление ии в настоящее время не является по-настоящему глобальным разговором. в отчете отмечается, что, хотя правительства, компании, альянсы и международные организации приняли сотни руководящих принципов, рамок и принципов управления ии, ни одно из них не имеет действительно глобального влияния. это приводит к проблемам с представительством, координацией и исполнением.

это неравномерное распределение власти также отражается во всей международной системе.

генеральный секретарь оон антониу гутерреш отметил на всемирном экономическом форуме в давосе в январе 2024 года, что многие государства-члены все еще находились под колониальным правлением, когда была основана организация объединенных наций, и поэтому не имели «голоса» в сегодняшних дискуссиях.

он призвал к реформе международной системы, созданной после второй мировой войны, для принятия эффективных мер по решению глобальных проблем.

в марте 2024 года соединенные штаты представили в оон резолюцию, призывающую государства-члены заняться разработкой «безопасного, надежного и заслуживающего доверия ии».

в июле того же года китай предложил собственную резолюцию, в которой особое внимание уделяется сотрудничеству в разработке искусственного интеллекта и обеспечению широкой доступности этой технологии. все государства-члены оон подписали оба соглашения.

различия во взглядах на ии среди богатых стран вызвали раскол на рынке. европейский союз ввел строгие правила в отношении искусственного интеллекта, а его меры контроля за использованием данных побудили некоторые американские компании ограничить доступность своей продукции.

подход невмешательства, принятый правительством сша, также привел к тому, что калифорния предложила свои собственные, более строгие правила в отношении ии.

перед лицом этих проблем доклад консультативного органа оон по искусственному интеллекту открывает путь к выработке общей позиции.

крис рассел, профессор оксфордского университета, считает: «привязка анализа к правам человека очень убедительна.

обеспечивает широкую и мощную работумеждународное правои сосредоточить внимание на конкретном вреде, от которого страдают люди. "

однако ии развивается такими быстрыми темпами, что организация объединенных наций не сможет в одиночку управлять глобальным сотрудничеством.

«очевидно, что организация объединенных наций играет важную роль в управлении ии, но это должна быть распределенная архитектура», — сказал он. «страны также должны принимать непосредственное участие».

наконец, хотя правительства могут рассматривать ии как способ получить стратегическое преимущество, многие ученые согласны со своими опасениями по поводу ии.

ранее на этой неделе группа видных ученых с запада и китая совместно призвала к более тесному сотрудничеству по вопросам безопасности ии после конференции по безопасности ии в вене, австрия.

в целом, этот отчет организации объединенных наций представляет собой план сотрудничества международного сообщества в области управления ии.

однако, как сказала член консультативного органа алондра нельсон: «дьявол кроется в деталях».

в будущем успех или неудача глобального управления ии будет зависеть от того, как организация объединенных наций и ее государства-члены решат реализовать этот план сотрудничества.

ссылки:

https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/

https://www.un.org/techenvoy/ai-advisory-body

https://www.computerweekly.com/news/366611263/un-body-urges-globally-inclusive-and-distributed-ai-governance

операция/набор: хэ ченлун