notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House News del 27 agosto, secondo quanto riferito ieri (26 agosto) dai media tecnologici Techcrunch,Anthropic ha divulgato i "prompt di sistema" del modello ClaudeAI.

Richiesta di sistema

Per consentire al modello AI di comprendere meglio le istruzioni umane, il progetto prompt contiene in realtà due livelli di contenuto principale, prompt utente e prompt di sistema:

• Parole del prompt dell'utente: parole del prompt inserite dall'utente, quindi il modello AI genera risposte in base alle parole del prompt dell'utente.

• Parole di prompt di sistema: si tratta di prompt generati dal sistema che vengono generalmente utilizzati per impostare il contesto di una conversazione, fornire indicazioni o dettare regole.

Nota da IT Home: normalmente, le parole del sistema consentono al modello di comprendere le sue qualità di base, nonché cosa dovrebbe e non dovrebbe fare.

Pratica comune nel settore

Ogni fornitore di intelligenza artificiale generativa, da OpenAI ad Anthropic, utilizza i prompt di sistema per prevenire (o almeno provare a prevenire) il comportamento anomalo dei modelli e per guidare il tono e il sentimento generale delle risposte dei modelli.

Ad esempio, una parola di sistema potrebbe dire al modello che dovrebbe essere educato ma mai scusato, o ammettere onestamente che non può sapere tutto.

Tuttavia, i produttori possono mantenere segrete queste parole di sistema per motivi di concorrenza e per impedire a utenti malintenzionati di aggirare la protezione di sicurezza dopo aver appreso queste informazioni.

Anthropic sceglie di rivelare parole tempestive del sistema

Tuttavia, Anthropic ha lavorato duramente per presentarsi come un fornitore di intelligenza artificiale più etico e trasparente e ha svelato il sistema per i suoi ultimi modelli (Claude 3.5 Opus, Sonnet e Haiku) nelle app Claude iOS e Android e sul suggerimento web. .

Alex Albert, responsabile delle relazioni con gli sviluppatori di Anthropic, ha dichiarato in un post su X che Anthropic prevede di pubblicare queste informazioni regolarmente man mano che aggiorna e mette a punto le richieste del sistema.