콘텐츠 사용 여부 확인채팅GPT, 정확도는 다음과 같습니다.99.9%！

이 도구는 다음에서 제공됩니다.오픈AI。

특히 ChatGPT를 사용하여 문서/과제가 손상되었는지 여부를 감지하는 데 사용할 수 있습니다. 아이디어는 빠르면 2022년 11월(ChatGPT가 출시된 같은 달)에 떠 올랐습니다.

하지만!

정말 유용한 일이지만 내부적으로는2년 동안 눈 속에 숨겨져 있던, 아직 공개되지 않았습니다.

왜?

OpenAI는 충성도 높은 사용자를 대상으로 설문조사를 실시한 결과 다음과 같은 사실을 발견했습니다.거의 3분의 1 의 사람들이 부정 행위 방지 도구를 사용하면 ChatGPT를 포기하겠다고 말했습니다. 또한 영어가 모국어가 아닌 사용자에게 더 큰 영향을 미칠 수도 있습니다.

그러나 회사 내 일부 사람들은 부정 행위 방지 방법을 사용하는 것이 OpenAI 생태계에 유익하다고 제안하기도 했습니다.

양측이 논쟁을 벌여왔고, 워터마크 탐지 도구는 공개되지 않았습니다.

OpenAI 외에도 구글과 애플도 유사한 도구를 준비했으며 일부는 내부 테스트를 시작했지만 공식적으로 출시된 것은 없습니다.

ChatGPT가 출시되기 전에 시작된 토론

ChatGPT가 인기를 얻은 후 많은 고등학생과 대학생들이 이를 숙제에 사용하면서 AI 생성 콘텐츠를 식별하는 방법이 업계에서 화제가 되었습니다.

최근 노출된 정보로 볼 때 OpenAI는 ChatGPT가 출시되기 오래 전부터 이 문제를 고려했습니다.

당시 이 기술을 개발한 사람은스콧 아론슨, OpenAI에서 보안 업무를 담당하고 있으며 텍사스 대학의 컴퓨터 과학 교수입니다.

2023년 초 OpenAI의 공동 창업자 중 한 명이존 슐먼, Google 문서에서 도구의 장단점을 간략하게 설명합니다.

회사 경영진은 추가 조치를 취하기 전에 다양한 사람들의 의견을 구하기로 결정했습니다.

2023년 4월 OpenAI가 의뢰한 설문조사에 따르면1/4의 사람들이 탐지 도구 추가를 지지합니다.

같은 달에 OpenAI는 또 다른 발표를 했습니다.ChatGPT 사용자우리는 설문 조사를 실시했습니다.

결과는 다음과 같은 것이 있음을 보여줍니다.거의 30%의 사용자는 워터마크를 배포하면 ChatGPT를 덜 사용할 것이라고 말했습니다.

그 이후로 도구의 기술적 성숙도와 사용자 선호도에 대한 논란이 계속되었습니다.

올해 6월 초, OpenAI는 고위 직원과 연구원들을 모아 프로젝트에 대해 다시 논의했습니다.

결국 기술은 성숙해졌지만 지난해 ChatGPT 사용자 설문조사 결과는 무시할 수 없다는 점에 모두가 동의했다고 합니다.

내부 문서에 따르면 OpenAI는 다음과 같은 조치가 필요하다고 믿고 있습니다.이번 가을 전에AI 투명성에 대한 대중의 인식에 영향을 미칠 계획을 개발합니다.

하지만 이번 소식이 나올 때까지 OpenAI는 관련 대책을 공개하지 않았습니다.

왜 공개하지 않습니까?

OpenAI가 오랫동안 이 기술을 공개하지 않은 이유를 요약하면,크게 두 가지 측면이 있습니다: 하나는 기술이고, 다른 하나는 사용자 선호도입니다.

먼저 기술에 대해 이야기해 보겠습니다. OpenAI는 2023년 1월 초에 ChatGPT를 포함한 여러 AI 모델에서 텍스트를 선별하는 기술을 개발했습니다.

이 기술은 "워터마크"와 같은 접근 방식을 사용하여 보이지 않는 마커를 텍스트에 삽입합니다.

이렇게 하면 누군가 감지 도구를 사용하여 텍스트를 분석할 때 감지기가 해당 텍스트가 ChatGPT에 의해 생성되었을 가능성을 나타내는 점수를 제공할 수 있습니다.

그러나 당시 성공률은 26%에 불과했고 OpenAI는 불과 7개월 만에 이를 철회했다.

이후 OpenAI는 점차 기술의 성공률을 99.9%까지 끌어올렸습니다. 기술적으로 이 프로젝트는 약 1년 전에 출시 준비가 되었습니다.

그러나 이 기술을 둘러싼 또 다른 논란은 내부 직원들이 이 기술이 해를 끼칠 수 있다고 믿고 있다는 것입니다.ChatGPT 쓰기 품질。

동시에 직원들도 우려를 표명했다."사람들은 워터마크를 우회할 수 있습니다"잠재적 위험.

예를 들어 대학생들이 실천하는 '번역기법'은 텍스트를 다른 언어로 번역한 뒤 구글 번역과 유사한 방법을 통해 다시 번역하는 방식으로, 내용이 지워질 수도 있다.

또 다른 예는 누군가가 "위로부터의 정책, 아래로부터의 대책"을 시행했다는 것입니다. 더 많은 사람들이 워터마크 도구를 공개적으로 사용하면 네티즌들은 몇 분 안에 크랙 버전을 지정할 것입니다.

기술 외에도 또 다른 주요 장애물은 사용자입니다. OpenAI의 여러 설문 조사에 따르면 사용자는 이 기술에 대해 낙관적이지 않은 것 같습니다.

이것은 또한 사용자를 언급해야합니다.ChatGPT로 무엇을 하고 있나요?？

이 질문은 Washington Post의 설문 조사를 참조할 수 있습니다. 그들은 WildChat 데이터 세트에서 거의 200,000개의 영어 채팅 기록을 조사했습니다. 이러한 대화는 ChatGPT를 기반으로 구축된 두 개의 봇에 의해 생성되었습니다.

보시다시피 사람들은 주로 ChatGPT를 사용하여글쓰기 (21%)게다가숙제 도움(18%)。

사람들이 왜 이런 탐지 기술에 반대하는지 이해하는 것은 어렵지 않은 것 같다.

그렇다면 ChatGPT와 같은 도구를 사용할 때 워터마크를 추가하는 데 동의하시나요?