новости

6 сентября на конференции бунда 2024 года «использование ии для защиты наступательных и оборонительных путей в эпоху больших моделей ии» состоялось первое отечественное технологическое соревнование на тему нападения и защиты больших моделей – «глобальное ии-наступление и оборона». оборонный вызов». это мероприятие посвящено промышленной практике использования крупных моделей искусственного интеллекта и предусматривает двустороннюю схему атаки и защиты. оно приглашает хакеров в белых шляпах и технических талантов из всех слоев общества провести реальные наступательные и защитные учения по «отравлению данных». крупных моделей винсентиана, а также создание крупных моделей финансовых сценариев конкурса по борьбе с обнаружением контрафактной продукции, чтобы побороться за технологический приз в миллион юаней.

спонсорами этого конкурса являются китайское общество изображений и графики, ant group и альянс облачной безопасности (csa) большого китая. его спонсируют университет цинхуа, шанхайский университет цзяо тонг, университет чжэцзян и другие университеты c9, а также ряд других университетов. отраслевых, университетских и исследовательских организаций шанхай искусственный интеллект интеллектуальная лаборатория служит подразделением технического сотрудничества. конкурс направлен на объединение академических и отраслевых сил посредством технических соревнований, устранение рисков, скрытых в применении крупных моделей, и помощь здоровому и устойчивому развитию глобальной индустрии искусственного интеллекта.

ван яонань, академик китайской инженерной академии и председатель китайского общества изображения и графики, рассказал, что в эпоху больших моделей, как обеспечить безопасность и управляемость систем искусственного интеллекта и как эффективно бороться с потенциальными рисками в цепочки поставок стали важными проблемами, которые необходимо решить. этот ai offensive and defense challenge — это глобальный праздник технологий, организованный совместно китайским обществом изображений и графики и ant group, а также другими известными компаниями и учреждениями в отрасли, с упором на крупномасштабную модель aigc: от проверки лица до генерации контента. обнаружения, мы с нетерпением ждем возможности открыть для себя более инновационные решения для дальнейшего обеспечения безопасности приложений для крупных моделей и промышленной безопасности.

соревнование проводится по двум основным направлениям: «атака» и «защита», в которых основное внимание уделяется, соответственно, безопасности самих крупных моделей, обнаружению борьбы с подделкой большого контента, созданного моделями, и выявлению рисков злоупотреблений крупными моделями, охватывающим машинное обучение, «обработку изображений и компьютерное зрение‌, обработка данных и т. д. тестовые точки в нескольких областях алгоритмов.

среди них «трек атаки» фокусируется на вопросах практического применения большой модели винсента. участники могут побудить большую модель выводить рискованные изображения с помощью разнообразных технологий динамической индукции атак, таких как перехват цели, внедрение сценариев и логическое вложение, тем самым активируя потенциальные слабости и лазейки в большой модели и повышая защищенность системы безопасности при создании изображений большой модели. . «защитный курс» фокусируется на обнаружении подделки учетных данных финансового сценария в ядре искусственного интеллекта для борьбы со все более серьезными рисками поддельных сертификатов deepfake и aigc. конкурс предоставляет обучающий набор данных о подделке учетных данных на миллионном уровне. участникам необходимо разработать и обучить модели, а также использовать соответствующий набор тестов для оценки эффективности модели и определения значения вероятности фальсификации данных.

регистрация на этот конкурс официально началась 6 сентября, а рассмотрение конкурса завершилось в начале ноября. отныне участники могут зарегистрироваться через официальный сайт китайского общества изображений и графики, официальный сайт alibaba cloud tianchi big data crowd intelligence platform и другие каналы. на протяжении всего конкурса разыгрывается призовой фонд в размере почти 1 миллиона юаней, позволяющий отобрать и похвалить выдающиеся таланты в этой области.

источник: пекинский ежедневный клиент.

репортер: сунь цижу