Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Laut IT House News vom 5. August hat OpenAI laut Wall Street Journal ein Tool entwickelt, das von ChatGPT generierte Texte mit hoher Genauigkeit erkennen kann, es wurde jedoch noch nicht veröffentlicht. OpenAI antwortete darauf und gab zu, dass es sich mit der Text-Wasserzeichen-Technologie beschäftigt, sagte jedoch, dass diese Technologie noch viele Herausforderungen mit sich bringt.

Bildquelle Pexels

Laut IT House wird sich OpenAI durch Textwasserzeichen nur auf die Erkennung von Text aus ChatGPT konzentrieren, nicht auf Text aus anderen Unternehmensmodellen. Dies geschieht durch kleine Änderungen an der Art und Weise, wie ChatGPT Wörter auswählt.Im Wesentlichen wird ein unsichtbares Wasserzeichen im Text erstellt, das später von einem separaten Tool erkannt werden kann.

OpenAI sagt, dass das Markieren von Textwasserzeichen neben Klassifikatoren und Metadaten zur Bestimmung der Textherkunft eine von mehreren Lösungen ist, die das Unternehmen erforscht. Obwohl die Text-Wasserzeichen-Technologie in einigen Fällen eine gute Leistung erbringt,Der Effekt wird jedoch verringert, wenn es zu Manipulationen wie Übersetzung, Umschreiben oder Einfügen von Sonderzeichen kommt. . Darüber hinaus kann die Technologie bestimmte Gruppen unverhältnismäßig stark beeinträchtigen, beispielsweise nicht-englische Muttersprachler.

Aufgrund dieser komplexen Faktoren und ihrer potenziellen Auswirkungen auf das gesamte Ökosystem werde OpenAI die Forschung zur Textzuordnungstechnologie mit Vorsicht vorantreiben und Authentifizierungstools für audiovisuelle Inhalte priorisieren.