Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Согласно новостям от 2 августа, 12-я конференция по интернет-безопасности (ISC.ИИ 2024 г.), данная конференция пройдет по теме «Построение безопасногобольшая модель, Возглавляя новую революцию в индустрии безопасности», в которой подробно рассматриваются две основные области безопасности и искусственного интеллекта. На месте мы взяли интервью360Президент ЧжинаоЧжан Сянчжэн, провели углубленный обмен информацией о понимании 360 Intelligence вопросов безопасности и планировании продуктов.

Чжан Сянчжэн сообщил, что команда Intelligent Brain отвечает за общие возможности модели, а также за специальные возможности для основных бизнес-сценариев, таких как интеллектуальное чтение, браузеры, сводка текста, сводка видео/субтитров, создание интеллект-карт, угадывание поискового слова, распознавание намерений. и резюме и т. д. подождите. В то же время команда Intelligent Brain также отвечает за работу по объединению безопасности API и искусственного интеллекта с возможностями больших моделей.

Тема этой конференции — «Построение большой модели безопасности». Что касается вопросов безопасности, Чжан Сянчжэн сказал, что вопросы безопасности делятся на несколько частей. Первая часть — это уровень развертывания системы, который связан с традиционной сетевой безопасностью. включая структуру агента, включая векторные базы данных, включая структуру PyTorch, которая сама по себе имеет потенциальные риски уязвимости, вторая часть — соответствует ли сгенерированный контент нормативным требованиям, в том числе третья часть — ошибка выходного результата; 10% происходит, я не знаю, что эти 10% происходят. В какой момент следует верить полученному во многих случаях результату или нет? Четвертый блок связан со структурой агента. Большая модель является лишь центром планирования и может иметь доступ ко многим третьим сторонам или ко многим базам данных внутри компаний или предприятий. Если выполняются автоматизированные операции, это может повлиять на безопасность других систем. Например, при использовании воплощенного интеллекта могут быть выполнены некоторые опасные действия.

На уровне безопасности разница между ToB и ToG также очевидна. Чжан Сянчжэн отметил, что толерантность к проблемам безопасности различна. Например, правительственным ведомствам необходимо предоставить частные решения для развертывания данных обучения, а также всю тонкую настройку и поэтапное обучение. должны быть внутри государственных учреждений. Делайте это в сетевой среде. В сценарии ToB типичным является образование. Есть стихотворение «Лунный свет перед кроватью». В сети есть две версии. Менеджер по продукту очень запаниковал, недоумевая, почему вступление всего стихотворения отличается от текста. известное стихотворение. У детей нет хорошей способности к различению, что приводит к очень высоким требованиям к достоверности результатов.

Говоря о теме небольших моделей, Чжан Сянчжэн отметил, что мы провели некоторые исследования по применению небольших моделей на компьютере и протестировали соответствующие решения внутри компании, но ноутбуков, отвечающих требованиям, по-прежнему слишком мало, а объем очень велик. не такой уж и большой. Кроме того, мы также рассмотрели вопрос о принятии. Мы считаем, что до коммерциализации небольших моделей еще многое предстоит сделать.

Что касается недавно горячо обсуждаемой темы поиска с использованием ИИ, Чжан Сянчжэн ответил, что по сравнению с традиционным поиском поиск с использованием ИИ более уникален, поскольку он может использовать многоэтапное рассуждение или поиск по нескольким ключевым словам, чтобы разбить сложные проблемы и решить их шаг за шагом и автоматически. После выполнения многоэтапного поиска выполните объединение или после завершения первого шага вывода выполните еще один поиск по результатам вывода, а затем передайте его большой модели, а затем выполните объединение. В будущем, если возможности поиска ИИ станут все сильнее и сильнее, привычки пользователей будут мигрировать, но нельзя сказать, что это совершенно новая форма продукта. Это связано с привычками использования пользователей. (Динси)

Эта статья взята из отчета о технологиях NetEase. Для получения дополнительной информации и подробного содержания подписывайтесь на нас.