новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House News от 27 августа, технологическое СМИ Techcrunch сообщило вчера (26 августа):Anthropic раскрыла «системные подсказки» модели ClaudeAI.

Системная подсказка

Чтобы модель ИИ могла лучше понимать инструкции человека, проект подсказки фактически содержит два уровня основного контента: подсказки пользователя и подсказки системы:

• Слова подсказки пользователя: слова подсказки, вводимые пользователем, а затем модель искусственного интеллекта генерирует ответы на основе слов подсказки пользователя.

• Слова системных подсказок: это генерируемые системой подсказки, которые обычно используются для задания контекста разговора, предоставления указаний или установления правил.

Примечание от IT Home: Обычно слова системных подсказок позволяют модели понять ее основные качества, а также то, что она должна и не должна делать.

Обычная практика в отрасли

Каждый поставщик генеративного ИИ, от OpenAI до Anthropic, использует системные подсказки, чтобы предотвратить (или, по крайней мере, попытаться предотвратить) некорректное поведение моделей и определить общий тон и настроение ответов моделей.

Например, слово системной подсказки может сказать модели, что она должна быть вежливой, но никогда не извиняться, или честно признать, что она не может знать всего.

Однако производители могут хранить эти системные подсказки в секрете по таким причинам, как конкуренция, а также для того, чтобы злоумышленники не могли обойти защиту после получения этой информации.

Anthropic решает раскрыть системные подсказки

Тем не менее, Anthropic прилагает все усилия, чтобы заявить о себе как о более этичном и прозрачном поставщике ИИ, и представила систему для своих последних моделей (Claude 3.5 Opus, Sonnet и Haiku) в приложениях Claude для iOS и Android, а также на веб-сайте. .

Алекс Альберт, руководитель отдела по связям с разработчиками Anthropic, сообщил в сообщении на X, что Anthropic планирует регулярно публиковать эту информацию по мере обновления и настройки системных подсказок.