Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House News am 27. August, Technologiemedien Techcrunch berichteten gestern (26. August),Anthropic hat die „Systemaufforderungen“ des ClaudeAI-Modells offengelegt.

Systemaufforderung

Damit das KI-Modell menschliche Anweisungen besser verstehen kann, enthält das Eingabeaufforderungsprojekt tatsächlich zwei Ebenen mit Kerninhalten: Benutzereingabeaufforderungen und Systemeingabeaufforderungen:

• Eingabeaufforderungswörter des Benutzers: Eingabeaufforderungswörter des Benutzers. Anschließend generiert das KI-Modell Antworten basierend auf den Eingabeaufforderungswörtern des Benutzers.

• Systemaufforderungswörter: Dies sind vom System generierte Aufforderungen, die normalerweise verwendet werden, um den Kontext für ein Gespräch festzulegen, Anleitungen bereitzustellen oder Regeln zu diktieren.

Anmerkung von IT Home: Normalerweise ermöglichen Systemaufforderungswörter dem Modell, seine grundlegenden Eigenschaften zu verstehen und zu verstehen, was es tun und was nicht.

In der Branche gängige Praxis

Jeder Anbieter generativer KI von OpenAI bis Anthropic verwendet Systemaufforderungen, um Fehlverhalten von Modellen zu verhindern (oder zumindest zu verhindern) und um den Gesamtton und die Stimmung der Modellantworten zu bestimmen.

Beispielsweise könnte ein Systemaufforderungswort dem Modell mitteilen, dass es höflich, aber niemals entschuldigend sein soll, oder ehrlich zugeben, dass es nicht alles wissen kann.

Allerdings können Hersteller diese Systemaufforderungswörter aus Wettbewerbsgründen geheim halten und verhindern, dass unberechtigte Benutzer den Sicherheitsschutz umgehen, nachdem sie diese Informationen erfahren haben.

Anthropic entscheidet sich dafür, systemrelevante Wörter offenzulegen

Anthropic hat jedoch hart daran gearbeitet, sich als ethischerer und transparenterer KI-Anbieter zu präsentieren, und hat das System für seine neuesten Modelle (Claude 3.5 Opus, Sonnet und Haiku) in den Claude iOS- und Android-Apps sowie im Web-Hinweis vorgestellt .

Alex Albert, Anthropics Leiter für Entwicklerbeziehungen, sagte in einem Beitrag auf X, dass Anthropic plant, diese Informationen regelmäßig zu veröffentlichen, während es Systemaufforderungen aktualisiert und verfeinert.