2024-08-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
IT하우스뉴스는 8월 27일, 기술매체 테크크런치가 어제(26일) 보도한 바에 따르면,Anthropic은 ClaudeAI 모델의 "시스템 프롬프트"를 공개했습니다.
시스템 프롬프트
AI 모델이 인간의 지시를 더 잘 이해할 수 있도록 프롬프트 프로젝트에는 실제로 사용자 프롬프트와 시스템 프롬프트라는 두 가지 핵심 콘텐츠 레이어가 포함되어 있습니다.
사용자 프롬프트 단어: 사용자가 입력한 프롬프트 단어, AI 모델은 사용자 프롬프트 단어를 기반으로 답변을 생성합니다.
시스템 프롬프트 단어: 이는 일반적으로 대화의 컨텍스트를 설정하거나 지침을 제공하거나 규칙을 지시하는 데 사용되는 시스템 생성 프롬프트입니다.
IT 홈 참고 사항: 일반적으로 시스템 프롬프트 단어를 통해 모델은 기본 품질은 물론 수행해야 할 작업과 수행하지 말아야 할 작업을 이해할 수 있습니다.
업계의 일반적인 관행
OpenAI에서 Anthropic에 이르기까지 모든 생성 AI 공급업체는 시스템 프롬프트를 사용하여 모델이 오작동하는 것을 방지(또는 적어도 방지하려고 시도)하고 모델 응답의 전반적인 분위기와 감정을 안내합니다.
예를 들어, 시스템 프롬프트 단어는 모델에게 정중해야 하지만 결코 사과해서는 안 된다고 말하거나 모든 것을 알 수는 없다는 점을 솔직하게 인정할 수 있습니다.
그러나 제조업체는 경쟁 등의 이유로 이러한 시스템 프롬프트 단어를 비밀로 유지하고 악의적인 사용자가 이 정보를 알게 된 후 보안 보호를 우회하는 것을 방지할 수 있습니다.
Anthropic은 시스템 프롬프트 단어를 공개하기로 결정했습니다.
그러나 Anthropic은 자신을 보다 윤리적이고 투명한 AI 공급업체로 표현하기 위해 열심히 노력해 왔으며 Claude iOS 및 Android 앱과 웹 힌트에서 최신 모델(Claude 3.5 Opus, Sonnet 및 Haiku)에 대한 시스템을 공개했습니다. .
Anthropic의 개발자 관계 책임자인 Alex Albert는 X에 대한 게시물에서 Anthropic이 시스템 메시지를 업데이트하고 미세 조정하면서 이 정보를 정기적으로 게시할 계획이라고 말했습니다.
