Ши Цянь и Сяо Чао ｜Создание прочной линии защиты системы контроля безопасности искусственного интеллекта.
2024-08-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
На снимке изображен робот Tesla Optimus Prime. Фото нашего репортера Юань Цзин
На третьем пленарном заседании Центрального комитета Коммунистической партии Китая 20-го созыва было предложено: «Усилить построение системы сетевой безопасности и создать систему контроля за безопасностью с использованием искусственного интеллекта. Это важное развертывание, предпринятое Центральным комитетом партии для координации развития». и безопасности и активно реагировать на риски безопасности, связанные с искусственным интеллектом. Чтобы прогнозировать и эффективно реагировать на риски, возникающие в результате развития технологий искусственного интеллекта, а также реальное влияние, оказываемое применением искусственного интеллекта, а также эффективно продвигать применение и развитие технологий искусственного интеллекта, мы должны глубоко проанализировать новые характеристики социальных рисков, вызванных интеллектуальными технологиями, и ожидание социальных рисков. Прогнозирование, научная сдержанность и правильное руководство необходимы для создания комплексной системы управления социальными рисками на основе искусственного интеллекта, которая учитывает развитие и безопасность и придаёт импульс совершенствованию. эффективность социального управления.
Четыре новые характеристики социальных рисков в эпоху искусственного интеллекта
В настоящее время мир вступил в эпоху «общества риска» с высокой неопределенностью. Технологии искусственного интеллекта меняют операционную логику и правила современного общества. Ценности и поведение человеческого общества систематически перестраиваются, что приводит к социальным рискам. В основном в нем представлены четыре новые характеристики: распространение, каскад, производная и гистерезис:
Во-первых, искусственный интеллект увеличил скорость и масштабы распространения информации о рисках, а социальные риски заразительны. Технология искусственного интеллекта снижает сложность генерации информации и увеличивает широту и глубину распространения информации. Распространение информации расширяет сферу воздействия рисковых событий, образующих высокозаразный характер. В то же время искусственный интеллект может идентифицировать и усиливать эмоции и поведение пользователей посредством анализа настроений и прогнозирования поведения. Если тип рискового события вызывает сильные эмоциональные реакции, такие как паника и гнев, система искусственного интеллекта может отдать приоритет рекомендации и распространению этого типа информации, что еще больше обостряет общественное мнение и делает информацию о риске очень заразительной и заразительной. Эффективный надзор и контроль окажут большое влияние на социальную безопасность и общественный порядок.
Во-вторых, искусственный интеллект стирает виртуальные и реальные границы социальных систем, и социальные риски нарастают каскадом. Технология искусственного интеллекта делает людей и людей, людей и вещи, вещи и вещи сильно связанными. Границы между виртуальным миром и реальным миром становятся размытыми, образуя сложную сетевую систему. Многие социальные действия осуществляются через виртуальные платформы и внедряются в реальные ситуации. Утечка данных в виртуальном мире может привести к краже личных данных в реальном мире. Общественное мнение в социальных сетях может быстро повлиять на социальное поведение и принятие решений в реальном мире. . Напротив, инциденты безопасности в реальном мире также повлияют на безопасность виртуального мира посредством передачи данных, а взаимодействие виртуального и реального вызовет каскадный эффект социальных рисков. Благодаря интеллектуальным технологиям различные социальные системы тесно взаимосвязаны, а многие процессы принятия решений автоматизированы. Однако неправильные решения автоматизированных систем могут вызвать серию цепных реакций, приводящих к каскадному распространению рисков.
В-третьих, искусственный интеллект запустил ряд вторичных рисков и цепочек рисков, а социальные риски являются производными. Применение технологии искусственного интеллекта может вызвать первоначальные риски, а в процессе решения или смягчения рисков оно в дальнейшем вызовет ряд вторичных рисков, образуя сложную цепочку рисков. Рисковые события могут быстро распространяться между различными областями и передаваться на нескольких уровнях, образуя вторичные риски. Например, кибератаки не только приводят к утечке информации, но и могут стать причиной реальных аварий, таких как пробки, сбои медицинского оборудования и т. д., влияя на Интернет вещей. Ошибки данных или неправильные алгоритмы также могут привести к ряду вторичных рисков. Возьмем, к примеру, алгоритмическую предвзятость. Вызванный ею несправедливый механизм принятия решений часто приводит к социальному недовольству и конфликтам. Рискованные события обычно вызывают изменения в общественном поведении и психологии, в дальнейшем порождая новые вторичные риски и образуя цепочку рисков.
В-четвертых, искусственный интеллект скрывает влияние некоторых рисковых событий, а социальные риски имеют запаздывающий характер. Технология искусственного интеллекта опирается на большие объемы данных для обучения и операций, а также на алгоритмы принятия решений. Утечка данных или злоупотребление ими могут не иметь немедленных очевидных последствий. Процесс принятия решений и результаты могут не вызвать проблем в краткосрочной перспективе. , но со временем возможно злоупотребление данными, и со временем проявятся кумулятивные эффекты алгоритмической предвзятости. В то же время технология искусственного интеллекта также сильно зависит от технической инфраструктуры и систем автоматизации. Эти системные сбои или недостатки конструкции нелегко обнаружить в краткосрочной перспективе, но со временем постепенное накопление проблем может привести к системным рискам. . Применение интеллектуальных технологий оказывает глубокое влияние на социальное поведение и психологию. Например, долгосрочное использование интеллектуальных рекомендательных систем может привести к эффекту информационного кокона, сужая поле зрения пользователя, тем самым влияя на разнообразие и инклюзивность общества.
Четыре стратегии достижения «управления, ориентированного на искусственный интеллект»
Чтобы эффективно реагировать на социальные риски и новые характеристики, которые могут быть вызваны развитием технологий искусственного интеллекта, необходимо целенаправленно изменить традиционную модель управления рисками, при этом используя технологии искусственного интеллекта для повышения эффективности выявления рисков и раннее предупреждение и достижение цели «управления, основанного на искусственном интеллекте». В то же время мы должны эффективно предотвращать и предупреждать о возможных рисках, вызванных применением технологий искусственного интеллекта, реализовать «управление, ориентированное на искусственный интеллект», и построить логика двустороннего управления, в которой «технологии расширяют возможности социального управления, а управление предотвращает злоупотребление технологиями».
Во-первых, используйте мультимодальные данные для выявления сложных интерактивных взаимосвязей и повышения точности выявления рисков и раннего предупреждения. Мультимодальные данные относятся к данным, полученным из разных полей или точек зрения для одного и того же объекта описания, и используются для представления разных форм данных или разных форматов одной и той же формы. Технология мультимодального объединения данных может полностью извлекать и использовать дополнительную информацию между данными, более полно характеризовать характеристики объектов, идентифицировать или выводить более сложные интерактивные отношения, а также достигать восприятия в реальном времени, корреляционного анализа и прогнозирования сложных социальных гигантских систем. может повысить точность идентификации рисков, создать более гибкую систему оценки рисков и раннего предупреждения, а также обеспечить дальновидное и динамичное управление и контроль рисков. Это также может эффективно интегрировать независимые процессы принятия решений в процесс предупреждения рисков и реагирования на них. предоставить различным органам, принимающим решения, базовые методы и инструменты для совместной работы. Таким образом, можно всесторонне анализировать данные из разных модальностей, таких как текст, изображения, аудио и данные датчиков, путем интеграции различных модальных данных из разных областей, а также применять такие технологии, как машинное обучение и глубокое обучение, для выявления сложных интерактивных отношений между данными. . Содействовать многостороннему сотрудничеству между правительствами, предприятиями, общественными организациями, академическими учреждениями и т. д., создать механизм межведомственного обмена информацией, интегрировать мультимодальные ресурсы данных, создать систему раннего предупреждения в реальном времени, а также своевременно обнаруживать и предупреждать потенциальные возможности. риски.
Во-вторых, разработать персонализированные планы управления рисками, основанные на развитии и уровне применения интеллектуальных технологий для предотвращения концентрации рискового стресса. Из-за различий в экономическом и социальном развитии и уровнях применения технологий искусственного интеллекта между разными регионами, что, в свою очередь, приводит к несогласованности в возможностях реагирования на риски, межрегиональное распространение и эволюция социальных рисков происходит неравномерно. Необходимо сформулировать персонализированные планы управления рисками, основанные на фактическом региональном развитии, снизить местный стресс за счет межагентного и межрегионального сотрудничества и избежать структурного ущерба социальной системе. Таким образом, управление рисками технологии искусственного интеллекта должно сначала оценить уровень применения технологии искусственного интеллекта в различных регионах, проанализировать возможности реагирования на риски, включая ресурсы на случай чрезвычайных ситуаций, техническую инфраструктуру и возможности управления, а также определить сильные и слабые стороны регионального реагирования на риски. Разрабатывать персонализированные стратегии управления рисками с учетом конкретных условий разных регионов. Например, экономически развитые регионы могут сосредоточиться на усилении технической безопасности и защиты данных, в то время как экономически слаборазвитые регионы должны улучшить строительство инфраструктуры и популяризацию технологий. Посредством политической поддержки и капиталовложений мы будем способствовать повышению уровня применения интеллектуальных технологий в технологически отсталых регионах, а также сокращать технологический разрыв и возможности реагирования на риски между регионами.
В-третьих, нам необходимо сбалансировать технологическое развитие и регулирование рисков, оптимизировать общие затраты на управление рисками и обеспечить, чтобы технология цифрового интеллекта была одновременно «управляемой» и «гибкой». Управление рисками искусственного интеллекта должно учитывать как «безопасность», так и «развитие», не только для того, чтобы избежать экономических и социальных потерь, вызванных неэффективностью управления, но и для предотвращения сокращения экономических и социальных выгод, вызванных чрезмерным управлением. Стоимость управления рисками с помощью искусственного интеллекта включает в себя множество факторов стоимости, таких как затраты на предотвращение рисков, когда механизм управления работает и выходит из строя, затраты на социальные неудачи и затраты на потерю социальных выгод. Интенсивность надзора можно своевременно корректировать в зависимости от зрелости технологии и сценариев применения. На ранней стадии развития технологий применяется свободный надзор для поощрения инноваций, на зрелой стадии развития технологий надзор усиливается для обеспечения безопасности и стандартизации; При формулировании стратегий управления рисками необходимо количественно оценить различные элементы затрат, провести анализ затрат и выгод и выбрать оптимальный план управления, позволяющий эффективно контролировать риски и избегать ненужных затрат на управление. В то же время, чтобы эффективно снизить затраты на управление рисками, может быть предоставлена политическая и финансовая поддержка, чтобы побудить предприятия и научно-исследовательские учреждения внедрять инновации в области технологий безопасности, а также, продвигая инновации в области технологий искусственного интеллекта, обеспечить одновременную разработку мер безопасности. .
Наконец, нам необходимо заранее изучить и оценить социальные риски, которые могут возникнуть в результате развития технологий искусственного интеллекта, а также правильно сформулировать системы и стандарты надзора за социальными рисками искусственного интеллекта. Быстрое развитие и внедрение технологий искусственного интеллекта часто происходит быстрее, чем формулирование и корректировка политики и законов, что приводит к определенному отставанию в стандартах политики управления искусственным интеллектом. Поэтому необходимо внедрить применение технологий искусственного интеллекта в социальное управление, сформулировать соответствующие системы надзора за безопасностью и отраслевые стандарты в отношении социальных рисков, связанных с искусственным интеллектом, а также обеспечить, чтобы политика и законы могли идти в ногу с технологическим развитием, одновременно способствуя созданию и развитию сценарии применения интеллектуальных технологий. Тенденции развития технологий искусственного интеллекта следует регулярно анализировать, следует проводить комплексные оценки с различных сторон, таких как технологии, этика, право, экономика и общество, следует создать механизм раннего предупреждения о рисках искусственного интеллекта, необходимо выявлять потенциальные риски, связанные с новыми технологиями. и прогнозироваться своевременно, а исследования и разработки должны проводиться. Гибкая и дальновидная политика и правила. Кроме того, мы должны активно участвовать в разработке международных стандартов и правил, создать платформу транснационального сотрудничества, способствовать сотрудничеству и обменам между странами в области управления искусственным интеллектом, а также совместно реагировать на глобальные технологические риски и вызовы.
(Аффилиация автора: Школа экономики и менеджмента Университета Тунцзи)
автор:
Текст: Ши Цянь Сяо Чао Изображение: Юань Цзин Редактор: Чэнь Юй Редактор: Ян Ици
Пожалуйста, указывайте источник при перепечатке статьи.
