nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House News le 27 août, a rapporté hier (26 août) le média technologique Techcrunch,Anthropic a divulgué les « invites système » du modèle ClaudeAI.

Invite système

Afin de permettre au modèle d'IA de mieux comprendre les instructions humaines, le projet d'invite contient en fait deux couches de contenu de base, les invites utilisateur et les invites système :

• Mots d'invite de l'utilisateur : mots d'invite saisis par l'utilisateur, puis le modèle d'IA génère des réponses basées sur les mots d'invite de l'utilisateur.

• Mots d'invite du système : il s'agit d'invites générées par le système qui sont généralement utilisées pour définir le contexte d'une conversation, fournir des conseils ou dicter des règles.

Remarque d'IT Home : Normalement, les mots d'invite du système permettront au modèle de comprendre ses qualités de base, ainsi que ce qu'il doit et ne doit pas faire.

Pratique courante dans l'industrie

Tous les fournisseurs d'IA générative, d'OpenAI à Anthropic, utilisent des invites système pour empêcher (ou du moins essayer d'empêcher) les modèles de se comporter mal et pour guider le ton et le sentiment général des réponses des modèles.

Par exemple, un mot d'invite du système peut indiquer au modèle qu'il doit être poli mais jamais s'excuser, ou admettre honnêtement qu'il ne peut pas tout savoir.

Cependant, les fabricants peuvent garder secrets ces mots d'invite du système pour des raisons telles que la concurrence et pour empêcher les mauvais utilisateurs de contourner la protection de sécurité après avoir pris connaissance de ces informations.

Anthropic choisit de divulguer les mots d'invite du système

Cependant, Anthropic a travaillé dur pour se présenter comme un fournisseur d'IA plus éthique et transparent, et a dévoilé le système pour ses derniers modèles (Claude 3.5 Opus, Sonnet et Haiku) dans les applications Claude iOS et Android et sur le Web. .

Alex Albert, responsable des relations avec les développeurs d'Anthropic, a déclaré dans un article sur X qu'Anthropic prévoyait de publier ces informations régulièrement au fur et à mesure des mises à jour et des ajustements des invites du système.