новости

репортер jimu news чжоу дань

6 сентября на форуме «защита ии с помощью ии, наступательные и оборонительные пути в эпоху больших моделей» в рамках конференции 2024inclusion bund всемирный институт цифровых технологий wdta официально опубликовал международный стандарт «требования безопасности для цепочек поставок больших моделей». стандарт составлен экспертами cloud security alliance (csa) большого китая, ant group, microsoft, google, meta, privateai и других десятков отечественных и зарубежных подразделений. это первый в отрасли международный стандарт безопасности цепочки поставок крупных моделей, знаменующий собой еще один солидный шаг в международном сотрудничестве в глобальном управлении ии.

питер мейджор, исполнительный председатель комиссии оон по науке и технологиям в целях развития и председатель-основатель всемирной академии цифровых технологий, присутствовавший на встрече, сказал, что, поскольку искусственный интеллект продолжает развиваться и влиять на различные отрасли промышленности по всему миру, международное сотрудничество стандарты, связанные с искусственным интеллектом, становятся все более важными. разработка всемирно признанных международных стандартов искусственного интеллекта поможет укрепить доверие к искусственному интеллекту, способствовать инновациям и обеспечить надежную работу систем искусственного интеллекта в различных отраслях и регионах.

что касается стандартов, выпущенных на этот раз, ли юхан, председатель альянса облачной безопасности (csa) большого китая, сказал, что работа больших модельных систем зависит от взаимосвязанной экосистемы цепочки поставок, распределенной по всему миру. широкое применение глобальных крупномасштабных моделей искусственного интеллекта открыло беспрецедентные возможности и в то же время выявило огромные проблемы для безопасности цепочки поставок. стандарт, выпущенный wdta, обеспечивает систему систематического управления безопасностью полного жизненного цикла крупных моделей, решает проблемы безопасности в цепочке поставок, поддерживает безопасное и устойчивое развитие глобальной технологии искусственного интеллекта и повышает общий авторитет отрасли.

информация показывает, что «требования к безопасности большой модели цепочки поставок» является одним из серии стандартов безопасности, надежности и ответственности искусственного интеллекта (ai str) wdta. этот стандарт обеспечивает структуру защиты безопасности цепочки поставок для больших языковых моделей, содержит требования к рискам безопасности, связанным с цепочкой поставок, и управлению деятельностью по поставкам, задействованным во всех аспектах, от подготовки данных, разработки крупных моделей до развертывания и эксплуатации, а также обеспечивает общие риски безопасности цепочки поставок. , типичные случаи безопасности и другая соответствующая информация. с помощью этого стандарта можно эффективно выявлять и оценивать потенциальные риски безопасности цепочки поставок, с которыми сталкиваются в жизненном цикле больших модельных систем, такие как утечка данных, подделка модели, несоблюдение требований поставщиком и т. д., гарантируя целостность, доступность и конфиденциальность цепочки поставок, тем самым повышая безопасность больших модельных систем.

понятно, что этот стандарт не только обеспечивает систематическую структуру управления безопасностью как для сторон предложения, так и для сторон спроса в большой модели цепочки поставок, но также обеспечивает надежную основу для проверки безопасности и управления соблюдением требований сторонними учреждениями и авторитетными департаментами, что еще больше повышает эффективность общая безопасная и надежная разработка системы.

всемирная академия цифровых технологий (wdta) была создана в апреле 2023 года и является международной неправительственной организацией, зарегистрированной в женеве. организация занимается продвижением цифровых технологий во всем мире и развитием международного сотрудничества. программа ai str — это основная инициатива wdta, направленная на обеспечение безопасности, надежности и подотчетности систем искусственного интеллекта. все ее участники — microsoft, google, anthropic, ant group, baidu и т. д. на научно-технической конференции оон в апреле этого года wdta опубликовала два международных стандарта безопасности больших моделей, составленных десятками подразделений, включая openai, ant group, iflytek и google, оба из которых являются стандартами серии ai str.

помимо выпуска стандартов, форум также объявил об официальном запуске «global ai attack and defense challenge», первого в китае крупномасштабного конкурса технологий на тему нападения и защиты. это мероприятие посвящено промышленной практике использования крупных моделей искусственного интеллекта и разработало двустороннюю схему «атаки» и «защиты». оно приглашает технических специалистов из всех слоев общества для проведения борьбы с подделками в целях обеспечения самобезопасности крупных моделей. , большой контент, созданный моделью, и крупные соревнования по выявлению рисков злоупотребления моделями, соревнующиеся за сотни конкурсов технологический бонус в размере 10 000 юаней.

понятно, что этот конкурс совместно спонсируется китайским обществом графики и графики, ant group и альянсом облачной безопасности (csa) большого китая, а также совместно спонсируется университетом цинхуа, шанхайским университетом цзяо тонг, университетом чжэцзян и другими университетами c9. а также ряд отраслевых, университетских и исследовательских организаций. шанхайская лаборатория искусственного интеллекта, являющаяся подразделением технического сотрудничества, стремится объединить силы академических кругов и промышленности для решения проблем, скрытых в применении больших моделей, и оказания помощи здоровым людям. и устойчивое развитие мировой индустрии искусственного интеллекта.

(источник: новости джиму)

для получения более интересной информации загрузите клиент «jimu news» на рынке приложений. не перепечатывайте без разрешения. вы можете предоставить подсказки для новостей, и вам заплатят, как только вы примете.