2024-08-05
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
IT 하우스 뉴스(IT House News)가 8월 5일 월스트리트 저널에 따르면 OpenAI는 ChatGPT에서 생성된 텍스트를 높은 정확도로 인식할 수 있는 도구를 개발했지만 아직 출시되지 않았습니다. 이에 대해 OpenAI는 텍스트 워터마킹 기술을 연구하고 있음을 인정했지만, 이 기술은 아직 과제가 많다고 밝혔습니다.
이미지 출처Pexels
IT House에 따르면 OpenAI는 텍스트 워터마킹을 통해 다른 회사 모델의 텍스트가 아닌 ChatGPT의 텍스트 감지에만 집중할 것입니다. ChatGPT가 단어를 선택하는 방식을 약간 변경하여 이를 수행합니다.본질적으로 별도의 도구로 나중에 감지할 수 있는 보이지 않는 워터마크를 텍스트에 생성합니다.
OpenAI는 텍스트 워터마킹이 텍스트의 출처를 결정하기 위한 분류자 및 메타데이터와 함께 탐색 중인 여러 솔루션 중 하나라고 말합니다. 텍스트 워터마킹 기술이 어떤 경우에는 잘 작동하지만,단, 번역, 재작성, 특수문자 삽입 등의 변조를 당할 경우 효과가 감소됩니다. . 또한 이 기술은 영어가 모국어가 아닌 특정 그룹에 불균형적으로 영향을 미칠 수 있습니다.
이러한 복잡한 요소와 전체 생태계에 대한 잠재적 영향으로 인해 OpenAI는 텍스트 속성 기술에 대한 연구를 신중하게 진행하고 시청각 콘텐츠에 대한 인증 도구의 우선 순위를 지정할 것이라고 말했습니다.
