Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House News от 5 августа, по сообщению Wall Street Journal, OpenAI разработала инструмент, способный с высокой точностью распознавать текст, сгенерированный ChatGPT, но он еще не выпущен. OpenAI отреагировала на это, признав, что изучает технологию текстовых водяных знаков, но заявила, что у этой технологии еще много проблем.

Источник изображения

По данным IT House, с помощью текстовых водяных знаков OpenAI сосредоточится только на обнаружении текста из ChatGPT, а не текста из других моделей компании. Это будет сделано путем внесения небольших изменений в способ выбора слов ChatGPT.По сути, создается невидимый водяной знак в тексте, который позже может быть обнаружен отдельным инструментом.

OpenAI заявляет, что нанесение водяных знаков на текст является одним из нескольких решений, которые она изучает, наряду с классификаторами и метаданными, направленными на определение происхождения текста. Хотя технология текстовых водяных знаков в некоторых случаях работает хорошо,Однако эффект будет уменьшен при фальсификации, например переводе, переписывании или вставке специальных символов. . Кроме того, технология может непропорционально повлиять на определенные группы, например, на тех, для кого английский язык не является родным.

Из-за этих сложных факторов и их потенциального воздействия на всю экосистему OpenAI заявила, что будет с осторожностью продвигать исследования в области технологии атрибуции текста и отдавать приоритет инструментам аутентификации для аудиовизуального контента.