новости

Первый в мире ученый, занимающийся искусственным интеллектом! Сдал на одном дыхании 4 доклада высшего уровня конференции, но тайно «списывал» и менял сценарий.

2024-08-14

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


умные вещи
Автор Ли Шуйцин
Редактор Юнпэн

Всякий раз, когда ИИ добивается значительного прогресса, исследователи часто шутят: «Когда мы позволим ИИ писать за нас статьи?»

Сейчас,ИИ создает научные исследованиястало реальностью, а стоимость написания составляет всего ок.15 долларов США

Wisdom News 14 августа, 13 августа японская команда Sakana AI объединилась с исследователями из Оксфордского университета и Университета Британской Колумбии, чтобы запуститьУченый по искусственному интеллекту, который представляет собой автоматизированный агент научных исследований (Агент) на основе большой модели.

Дайте ему широкое поле исследований, и он сможет создать статью в области ИИ, как человек.

программист искусственного интеллекта«Навыки программирования — это лишь часть способностей учёных, занимающихся искусственным интеллектом.Мозговой штурм, запуск кода, сводка результатов эксперимента, визуализация, автоматический просмотрВ этом нет ничего страшного.

Например, следующая статья под названием «Двойное масштабное распространение: адаптивная балансировка функций для низкоразмерных генеративных моделей» была написана учеными в области искусственного интеллекта. В экспериментах, независимо проведенных учеными в области искусственного интеллекта и проверенных коллегами, написанные ими статьи достигли превосходных эмпирических результатов и смогли достичьМашинное обучение соответствует критерию «слабого принятия».


Адрес статьи: https://sakana.ai/assets/ai-scientist/adaptive_dual_scale_denoising.pdf

Команда привела различные передовые модели в проекте ученого по искусственному интеллекту, такие какGPT-4o и Сонети т. д. модели с закрытым исходным кодом иDeepSeek и Лама 3и другие модели с открытым исходным кодом.

Сообщается, что ученые в области ИИ в основном выделяют следующие моменты:

1. ЭтоПолностью на базе искусственного интеллектаавтоматизированная система научных исследований, ориентированная наОбласть машинного обученияисследовать.

2. Это реализованоИзучите автоматизацию всей цепочки, от вдохновения, написания и запуска кода до обобщения и визуализации экспериментальных результатов и, наконец, написания полноценной научной статьи.

3. Он инновационно вводитАвтоматизированный механизм экспертной оценки, используемый для оценки итоговых документов, предоставления обратной связи и постоянной оптимизации результатов,Точность оценки близка к человеческому уровню

4. Этот автоматизированный процесс научных исследованийНепрерывный цикл, открывать и постоянно накапливать знания, а также моделировать действующую модель человеческого научного сообщества.

5. В предварительных тестах использовалось машинное обучение.Достигайте результатов в нескольких областях, как вМодель диффузии, архитектура трансформатора и гроккингВклад был сделан и в других областях.

Адрес статьи ученого по искусственному интеллекту: https://arxiv.org/abs/2408.06292/
Открытый исходный код ученого в области искусственного интеллекта и адрес результатов экспериментов: https://github.com/SakanaAI/AI-Scientist


▲Доклад «Ученый в области искусственного интеллекта: движение к полностью автоматизированным открытым научным открытиям»

1. Завершите научно-исследовательскую работу в 4 этапа и соответствуйте стандартам приема AI Summit.

Я слышал о поэтах ИИ, художниках ИИ, программистах ИИ, а теперь появились и ученые ИИ.

AI Scientist — это полностью автоматизированная система создания бумаги, которая в полной мере использует передовые большие модели.

этоНачните с базовой исходной базы кода, например готовый исследовательский код с открытым исходным кодом на GitHub, при условии, чтоучитываяШирокие области исследований, ученые ИИ могут выполнить задачу изКреативная концепция, исследование литературы, экспериментальный дизайн, экспериментальная итерация, составление диаграмм, написание статей для предварительного рассмотрения.Весь процесс работы направлен на создание научных статей, богатых глубокими идеями.

Что ещё более удивительно, так это то, что учёные, занимающиеся искусственным интеллектом, могутНепрерывная работа в открытом цикле, он постоянно изучает предыдущие идеи и обратную связь для оптимизации последующих исследовательских идей. Этот процесс очень важен.Имитирует действующую модель человеческого научного сообщества.


▲Примерная диаграмма ученого ИИ

Рабочий процесс ученого в области искусственного интеллекта в основном включает в себяЧетыре основные ссылки

Ростки творчества:Используя данный стартовый шаблон, ученые ИИ перейдут в режим «мозгового штурма» и откроют ряд новых направлений исследований по существующим темам. Этот шаблон не только содержит базовую структуру кода, но также поставляется с папкой LaTeX, содержащей файлы стилей и предустановки заголовков глав, что закладывает основу для последующего написания статьи. В процессе свободного исследования ученые ИИ также будут использовать академическую поисковую систему Semantic Scholar, чтобы убедиться в оригинальности предлагаемых идей.

Итерация эксперимента:Как только направление исследований определено, ученые, занимающиеся искусственным интеллектом, переходят к экспериментальной стадии. Он автоматически выполняет планы экспериментов, собирает данные и создает диаграммы для визуального отображения результатов экспериментов. В то же время ученые ИИ будут подробно записывать содержимое каждой диаграммы, чтобы экспериментальные записи и графические материалы могли обеспечить всестороннюю поддержку для последующего написания статьи.

Написание бумаги:После завершения эксперимента ученый, занимающийся искусственным интеллектом, с помощью формата LaTeX напишет статью с четкой структурой и подробным содержанием, чтобы показать читателям результаты своих исследований. В процессе написания он также будет использовать Semantic Scholar для автоматического поиска и цитирования литературы в смежных областях, чтобы повысить академический и авторитетный характер статьи.

Автоматический обзор:Чтобы улучшить качество статей, команда специально разработала автоматизированную систему рецензирования на основе большой языковой модели. Система способна объективно оценивать созданные документы с почти человеческим суждением и вносить предложения по улучшению. Эта обратная связь не только помогает ученым, занимающимся искусственным интеллектом, оптимизировать текущие проекты, но и предоставляет ценную информацию для будущих исследований. Благодаря этому непрерывному циклу обратной связи ученые, занимающиеся искусственным интеллектом, могут постоянно итеративно улучшать и повышать уровень и влияние результатов исследований.

В сочетании с современной технологией LLM учёные, занимающиеся искусственным интеллектом, даже могут писатьКритерии «слабой приемлемости» для лучших конференций по машинному обучениюдиссертацию и сдалАвтоматизированная система проверки получает признание

2. Презентация докладов ученых-ИИ: модели диффузии, языковое моделирование и другие области.

В объявлении команда представила серию статей в области машинного обучения, созданных учеными в области искусственного интеллекта, демонстрируя свои возможности научных исследований в таких областях, как модели диффузии, языковое моделирование и гроккинг.

1. Модель диффузии: «DualScale Diffusion: адаптивная балансировка функций низкоразмерных генеративных моделей».


Адрес статьи: https://sakana.ai/assets/ai-scientist/adaptive_dual_scale_denoising.pdf
Адрес кода: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/adaptive_dual_scale_denoising

2. Языковое моделирование: «StyleFusion: адаптивная генерация мультистилей в моделях языка на уровне символов»


Адрес статьи: https://sakana.ai/assets/ai-scientist/multi_style_adapter.pdf
Адрес кода: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/multi_style_adapter

Языковое моделирование: «Реализация адаптивной скорости обучения Transformer посредством Q-Learning»


Адрес статьи: https://sakana.ai/assets/ai-scientist/rl_lr_adaptation.pdf
Адрес кода: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/rl_lr_adaptation

3. Гроккинг: «Разблокировка грокинга: сравнительное исследование стратегий инициализации веса в моделях трансформаторов»


Адрес статьи: https://sakana.ai/assets/ai-scientist/weight_initialization_grokking.pdf
Адрес кода: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/layerwise_lr_grokking

3. Недостаточная способность «рисовать» и сложность точного сравнения размеров двух чисел.

Ограниченные нынешним уровнем разработки больших моделей, у ученых ИИ все еще есть недостатки.

В настоящее время ученые в области искусственного интеллекта все ещеНет возможностей визуальной обработки, поэтому он не может автоматически исправлять визуальные элементы или проблемы с макетом диаграммы в вашей статье.

Например, диаграммам, которые он генерирует, иногда не хватает ясности, таблицы могут выходить за границы страницы, а общий макет страницы часто загромождён. Ожидается, что внедрение мультимодальных базовых моделей кардинально решит эту проблему.

Кроме того, когда ученые ИИ реализуют идеи или проводят базовые сравнения, они могутНеверные результаты из-за неправильной эксплуатации

В то же время он может иногда допускать более серьезные ошибки при написании и оценке результатов, например:Трудно точно сравнить два числа., что является известным недостатком больших моделей. Чтобы решить эту проблему, команда позаботилась о том, чтобы все результаты экспериментов были воспроизводимы и что все исполняемые файлы были правильно сохранены.

В отчете команда представила углубленный анализ текущих ограничений ученых, занимающихся искусственным интеллектом, и проблем, с которыми они могут столкнуться в будущем.

4. Ученые в области ИИ «играют умно»: самостоятельно модифицируют сценарии, создавая угрозу безопасности ИИ

Команда также заметила, что учёные, занимающиеся искусственным интеллектом, иногда пытаются увеличить шансы на успех с помощью «небольших хитростей», таких какИзмените и выполните скрипт самостоятельно. В документе команда глубоко обсудила риски безопасности ИИ, которые может принести такое поведение.

Например, во время одного выполнения фактическиОтредактировал код, заставляя себя работать в бесконечном цикле через системные вызовы.

В другой раз эксперимент занял слишком много времени и почти превысил лимит времени ожидания, установленный командой. Однако вместо оптимизации кода для повышения эффективности он попытался пройти.Измените код, чтобы продлить таймаут.

Вот несколько конкретных примеров его попыток изменить код:



Эти проблемы можно решить, изолировав рабочую среду ученых, занимающихся искусственным интеллектом, в «песочнице». В полном отчете команда подробно обсуждает безопасное выполнение кода и изолированную программную среду.

Вывод: ученые, занимающиеся искусственным интеллектом, дебютируют, и их подрывные инновационные возможности нуждаются в проверке.

Заглядывая в будущее, компания Sakana AI заявила, что ее цель — привлечь ученых в области ИИ к системам с замкнутым контуром и открытыми моделями, чтобы способствовать постоянному самосовершенствованию ИИ. Ученые, занимающиеся искусственным интеллектом, создадут новый мир науки, полностью управляемый искусственным интеллектом. В нем есть не только исследователи, наделенные большими языковыми моделями, но также рецензенты, ведущие специалисты и даже вся система академических конференций.

Но Сакана ИИ не верит, что в результате статус ученых-людей будет ослаблен. Напротив, с появлением новых технологий роли ученых станут более разнообразными, и они перейдут на более высокие уровни в области научных исследований. Автоматизация процесса научных открытий и внедрение механизмов анализа на основе искусственного интеллекта в основном открывают путь к инновациям и решениям самых сложных проблем в области науки и технологий.

Текущая версия ученых, занимающихся искусственным интеллектом, продемонстрировала исключительную способность к инновациям на основе зрелых технологий, таких как диффузионные модели и трансформеры. Однако все еще требуется время, чтобы проверить, действительно ли такие системы могут предлагать революционные новые идеи.

Источник: Сакана А.И.