новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Новый отчет мудрости

Монтажер: Тао Цзы Цяо Ян

[Введение в новую мудрость]Агенты ИИ разбросаны по всей сети. Как не быть обманутыми в будущем? Как защитить конфиденциальность? OpenAI, Microsoft, MIT и другие 25 учреждений совместно предложили «сертификат личности», который может доказать, что вы реальный человек, не раскрывая никакой личной информации.

За последние полмесяца весь Интернет был обманут «разоблачителем искусственного интеллекта» из OpenAI.

Все наверняка знакомы с аккаунтом «Братца Строберри» @iruletheworldmo и время от времени будут натыкаться на его взрывные посты.

До этой среды никто не ждал предсказанной им большой модели GPT-4o. Вместо этого основатель AI-стартапа MultiOn раскрыл свою личность.

«Земляничный Брат» — агент ИИ.

Какое-то время многие платформы в Интернете инициировали запрет на репосты, связанные с «Братцем Земляничкой».

В субреддите r/singularity на Reddit он закреплен вверху, и всем участникам запрещено упоминать связанный контент.

Некоторые люди даже «заблокировали» @iruletheworldmo напрямую.

Джимми Эпплс, настоящий разоблачитель OpenAI, также считал, что то, что сказал агент ИИ, было правдой.

Впоследствии агент ИИ также запустил онлайн-опрос о том, прошел ли я тест Тьюринга. Неожиданно более половины людей дали положительный ответ.

И это всего лишь ИИ.

Сяо Чжа однажды сказал: «В будущем у каждого будет ИИ-помощник, и вскоре от нашего имени в Интернете будут пользоваться миллиарды ИИ-агентов».

Если это произойдет когда-нибудь в будущем, как люди с первого взгляда смогут определить, является ли учетная запись в социальной сети ботом? Как я могу подтвердить свою личность как «реального человека», не предоставляя никакой личной информации?

Ученые из 25 учреждений, включая OpenAI, Microsoft, MIT и UCB, совместно предложили технологию проверки — «Personhodd Credentials (PHC)».

PHC может защитить конфиденциальность пользователей, доказывая в Интернете, что «вы — это вы» и что вы настоящий человек, а не искусственный интеллект.

Адрес статьи: https://arxiv.org/pdf/2408.07892.

Главный научный сотрудник и руководитель аппарата Microsoft заявил: «Установление личности человека в Интернете при сохранении конфиденциальности является одной из определяющих задач эпохи искусственного интеллекта».

Другой сказал, что исследование было своевременным и заставило задуматься.

Почему ты так говоришь?

Утекли данные 3 миллиардов человек, а решения по защите конфиденциальности нет?

Помимо случая с «Strawberry Brother» в начале, недавно произошла утечка данных почти 3 миллиардов человек, охватившая все Соединенные Штаты, и это можно назвать одним из крупнейших инцидентов с данными в истории.

Сюда входит подробная личная информация жителей, такая как имя, адрес электронной почты, адрес, номер телефона, номер социального страхования и адрес электронной почты.

Еще страшнее то, что адресные данные можно проследить за 30 лет и даже откопать информацию о родственниках, умерших более 20 лет назад.

Поэтому анонимность всегда была мерой, которую многие люди, заботящиеся о конфиденциальности, использовали для защиты себя.

Но иногда для некоторых важных проверок вам необходимо передать свою личную информацию.

В настоящее время появляется все более мощный ИИ, а методы, используемые преступниками для мошенничества и распространения ложной информации, становятся более изощренными и могут легко расширяться до более крупных масштабов распространения.

Более того, порог и стоимость ИИ были снижены, что упростило его получение.

Поскольку изображения, видео и голоса, созданные ИИ, становятся все более и более реалистичными, например, в приложении для знакомств, как вы можете быть уверены, что другой человек — реальный человек?

Существующие в настоящее время решения, такие как коды проверки, явно недостаточны;

Это также означает, что традиционный метод человеко-машинной проверки не работает.

В конце концов, с развитием ИИ в таких областях, как распознавание изображений, этот метод становится все более ненадежным.

Сейчас крайне необходимо найти баланс, который сможет эффективно предотвратить обман ИИ, не жертвуя при этом чрезмерной конфиденциальностью пользователей и инклюзивностью Интернета.

Это также тот эффект, который исследователи из OpenAI, Microsoft и других организаций надеются увидеть в практическом применении посредством исследований.

Докажи, что ты человек, а не ИИ

Как сказал исследователь Стивен Адлер, инструмент защиты конфиденциальности «Personality Credential» (PHC) может доказать, что вы личность, но не раскроет, «кто вы есть».

В частности, «личные данные» поддерживаются двумя элементами, которые ИИ не может подделать:

«Реальная аутентификация» и «технология безопасного шифрования».

Другими словами, каким бы хорошим ни стал ИИ, он не сможет избежать этих двух пунктов.

Короче говоря, PHC — это цифровой сертификат, который позволяет пользователям доказывать онлайн-сервисам, что они реальный человек, а не искусственный интеллект, без необходимости раскрывать какую-либо личную информацию.

Сертификат такого типа может быть выдан доверенной организацией, например правительством.

По определению автора, ПМСП может быть локальной или глобальной системой и не обязательно основываться на биометрических технологиях.

Агенты ИИ наводняют всю сеть — новейшая стратегия предотвращения мошенничества

Два соавтора статьи, Нуран Солиман и Тобин Саут, являются аспирантами Массачусетского технологического института. Недавно они кратко представили эту технологию в интервью MIT News, обсудив ее необходимость, риски и способы ее безопасного и безопасного использования. справедливый путь.

Необходимость «сертификата личности»

Хотя когда дело доходит до искусственного интеллекта, многие публичные дискуссии сосредоточены на чат-ботах, таких как ChatGPT, но возможности искусственного интеллекта явно выходят за рамки этого.

Участие ИИ в Интернете демонстрирует две характеристики: неотличимость и масштабируемость, что способствует продолжающемуся росту обмана, основанного на ИИ.

ИИ может создавать учетные записи в социальных сетях, публиковать ложный контент, притворяться людьми или массово усиливать определенный контент с помощью алгоритмов или даже проводить крупномасштабные атаки, что создает множество рисков.

Это изменит наш опыт просмотра социальных сетей, и отличить сложный ИИ от человека станет все труднее, подобно проблеме «цифровых двойников» без согласия.

«Личные учетные данные» предоставляют потенциальное решение, например, для фильтрации онлайн-контента и определения уровня доверия при получении информации.

Что такое удостоверение личности? Как обеспечить безопасность?

Как упоминалось ранее, «сертификат личности» может доказать, что вы человек, не раскрывая никакой информации о вашей личности.

Автор сказал, что каким бы продвинутым ни был ИИ, он не может делать две вещи, которые могут делать люди: получать оффлайн реальные документы и подделывать или взламывать передовые системы шифрования.

Таким образом, «личные данные» объединяют эти две идеи — безопасность посредством криптографии и тот факт, что у людей все еще есть некоторые способности, которых нет у ИИ, чтобы действительно доказать, что вы человек.

Чтобы получить «сертификат личности», пользователи должны иметь отношения с правительством, например, иметь идентификационный номер налогоплательщика или водительские права, а также должно быть участие в автономном режиме.

Благодаря технологии конфиденциальности пользователи могут доказать этот факт, не раскрывая никакой конфиденциальной информации о своей личности.

Внедрение «личных учетных данных» будет относительно простым. Оно опирается на инфраструктуру и технологии безопасности, существующие десятилетиями, такие как использование идентификаторов, таких как учетные записи электронной почты, для входа в онлайн-сервисы. ПМСП может дополнить эти существующие методы.

Однако использование пользователями «сертификатов личности» должно быть факультативным, а не обязательным, и поставщики услуг могут позволить людям выбирать, использовать ли их.

Необязательность означает, что мы пока не можем позволить пользователям взаимодействовать только с реальными, проверенными людьми в Интернете, полностью исключая участие ИИ в Интернете.

Но в таких сценариях, как онлайн-покупки или переговоры по транзакциям, если вы хотите убедиться, что другая сторона является человеческим лицом, «сертификаты личности» могут пригодиться.

Каковы риски? Как можно снизить эти риски?

Один из рисков связан с тем, как он реализуется. Если одна конкретная организация является единственным эмитентом «сертификата личности» или если система спроектирована таким образом, что вся власть передается одной организации, это может вызвать опасения по поводу слишком большой концентрации власти.

Если вы находитесь в сложной или опасной социально-политической среде, необходимость идти в офлайн-центр для получения сертификата личности может напугать и отбить у людей желание делиться информацией в Интернете.

Одним из возможных решений является создание нескольких эмитентов «сертификатов личности».

Наша статья направлена ​​на то, чтобы побудить правительства, политиков, лидеров и исследователей инвестировать больше ресурсов в различные направления внедрения и изучить более широкое влияние, которое эта технология может оказать на сообщества, обеспечивая внедрение правильной политики и правил.

ИИ развивается очень быстро, гораздо быстрее, чем правительства могут адаптироваться. Поэтому правительства и крупные компании должны уже сейчас начать думать об адаптации цифровых систем, чтобы они были готовы доказать, что пользователь — человек, одновременно защищая конфиденциальность и безопасность, чтобы мы могли подготовиться к будущему с более совершенным ИИ.

Техническое введение

Как реализуется технология «сертификата личности»? Эта 63-страничная статья дает нам очень подробный ответ.

Адрес статьи: https://arxiv.org/pdf/2408.07892.

Во-первых, «личные данные» хранятся в цифровом виде на устройстве владельца. Чтобы обеспечить надежность и конфиденциальность, система ПМСП должна отвечать двум предварительным условиям:

- Каждый человек может иметь только один «сертификат личности», и его необходимо регулярно проверять, чтобы предотвратить его кражу.

- Пользователи, владеющие услугами PHC, анонимно взаимодействуют с поставщиками услуг. Даже если издатели PHC и поставщики услуг вступят в сговор, они не смогут отслеживать цифровую деятельность пользователей, не говоря уже о том, чтобы связать действия пользователей на различных платформах.

Процесс регистрации и использования системы PHC показан на рисунке 3:

По запросу пользователю необходимо предоставить эмитенту лишь минимально необходимую информацию. Эмитент несет ответственность за проверку того, что пользователь является человеком и что он ранее не регистрировался в PHC. Кроме того, эмитент имеет право отозвать или восстановить ПХК.

Когда пользователи используют сторонние цифровые услуги, они могут предоставить PHC и пройти «доказательство с нулевым разглашением» для завершения проверки личности.

Помимо ПМСП, поставщик услуг не может получить другую дополнительную информацию. Каждая аттестация ограничена конкретным приложением, поэтому разные платформы не могут быть связаны с одним и тем же пользователем через PHC.

В документе предполагается, что создание нескольких эмитентов для системы ПМСП является идеальным планом реализации. Пользователи могут выбирать из нескольких эмитентов для регистрации в PHC, но каждый эмитент может получить только один сертификат, что снижает масштабы крупномасштабного мошенничества и одновременно обеспечивает конфиденциальность пользователей.

Эта система ПМСП имеет три ожидаемых преимущества:

- Уменьшить влияние «марионеточных» пользователей и добиться масштабного реального вклада и участия реальных людей в Интернете.

- Защита от атак ботов

- Пусть ИИ-помощник действительно станет представителем заслуживающих доверия пользователей, а не станет объектом манипуляций со стороны злоумышленников.

В то же время для того, чтобы ПМСП реализовывалась в реальной жизни справедливым и безопасным образом, необходимо решить следующие четыре проблемы:

• справедливый доступ

Частая проверка PHC может вызвать разногласия и разочарования во время использования, затрагивая пользователей, незнакомых с этой технологией, особенно пожилых людей. Также необходимо обеспечить, чтобы пользователи без ПМСП могли пользоваться цифровыми услугами.

• свободное выражение мнения

Пользователи могут беспокоиться о том, что PHC свяжет их цифровую деятельность с их реальной личностью в автономном режиме, что снизит их готовность выражать свое истинное мнение в Интернете.

• проверка мощности

Серьезной проблемой, стоящей перед экосистемой ПМСП, является концентрация власти в руках нескольких учреждений, особенно эмитентов ПМСП и крупных поставщиков услуг, решения которых относительно использования услуг ПМСП будут иметь значительное влияние.

• Устойчивость к атакам и ошибкам

Как и любая цифровая система, системы PHC уязвимы для атак и эксплуатации со стороны множества сторон, таких как эмитенты сертификатов, поставщики услуг и злонамеренные пользователи. Рассмотрите возможность использования предыдущих лучших практик в области кибербезопасности, таких как предотвращение DoS-атак и блокировка доступа злоумышленников к конфиденциальным записям.

В конце статьи автор предлагает следующие шаги, которые следует предпринять.

Во-первых, адаптируйтесь к существующей цифровой сетевой системе и подготовьтесь к влиянию искусственного интеллекта.

Говоря конкретнее, нам необходимо переосмыслить, как ИИ изменит Интернет и коммуникации.

Во-вторых, отдать приоритет «сертификатам личности» как неотложному решению.

Последняя картинка суммирует все ключевые моменты этой статьи.

Стоит отметить, что для предотвращения чрезмерного сбора интернет-платформами информации на основе «системы настоящего имени» Министерство общественной безопасности и Управление киберпространства Китая недавно запустили «Онлайн-идентификационную карту».

Все, что вам нужно, это мобильный телефон с функцией NFC, и после выполнения распознавания идентификационной карты и распознавания лиц, а также сопоставления номера мобильного телефона вы можете получить виртуальную «онлайн-идентификационную карту».

Вышеуказанный «сетевой номер» состоит из букв и цифр, не содержит идентификационной информации в виде открытого текста и может быть напрямую использован для аутентификации по настоящему имени в Taobao, WeChat и других приложениях без необходимости ввода такой информации, как имя, идентификационный номер. , и т. д.

Что, по вашему мнению, является лучшим решением с точки зрения защиты личной жизни?

Ссылки:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-expose-americans-social-security-numbers-100046695.html