nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

autor |. tang yitao

herausgeber |. jingyu

als reaktion auf gpt-4o veröffentlichte google im august gemini live und versuchte, ki-assistenten zu ermöglichen, wie echte menschen zu sprechen. der konversationseffekt dieser neuen assistentin ist so gut, dass sich die ausländische medienreporterin joanna stern wie „sie“ fühlte.

„her“ ist ein film mit joaquin phoenix in der hauptrolle. im film verliebt er sich in die künstliche intelligenz-assistentin „samantha“, gesprochen von scarlett johansson.

solche kommentare machen das google-team offensichtlich nervös.

der oberste google-teamleiter, der für android verantwortlich ist, äußerte seine hoffnung, dass gemini live nur ein einfacher arbeitsassistent sein wird: „wir möchten den menschen eine möglichkeit geben, mehr arbeit zu erledigen.“

im gegensatz dazu war die aussage von openai-ceo sam altman direkter.

in einem vortrag bei y combinator, altman hält die ki-freundin für eine falle. der grund, warum openai seiner ki den namen „chatgpt“ gegeben hat, besteht darin, zu verhindern, dass sich menschen in sie verlieben.。

openai macht in seinen nutzungsbestimmungen auch sehr deutlich, dass gpts, die zur pflege romantischer freundschaften verwendet werden, nicht aufgeführt werden dürfen.

mit anderen worten: openai erlaubt keine auflistung von ki-freundinnen。

das kann nicht anders, als die leute neugierig zu machen. es scheint, dass kein großer hersteller möchte, dass seine ki-assistenten gleichzeitig eine romanze mit den benutzern haben. ki-begleitung/ki-begleitung ist derzeit fast die einzige profitable richtung unter den vielen ki-tracks .

warum gibt es im bereich ki einen solchen „kontrast“? was hindert große hersteller daran, jedem einen „ki-begleiter“ zur verfügung zu stellen? wovor haben sie angst?

01

sicherheit geht vor

sicher ist, dass ki-paare derzeit fast die einzige gewinnbringende sparte im ki-bereich sind.

nehmen sie als beispiel replika, einen alten player in diesem bereich. obwohl replika keine konkreten einnahmen bekannt gab, sagte ceo eugenia kuyda im podcast decoder, dass replika gewinne erzielt habe, und zwar auf „sehr effiziente“ weise.

warum ist diese richtung in diesem fall nicht die gängige wahl großer hersteller? vereinfacht gesagt handelt es sich hierbei um eine erzähllogik: „menschen, die barfuß sind, haben keine angst davor, schuhe zu tragen“.

das erste, was man bedenken sollte, ist der druck, pornos zu machen.

obwohl hersteller von ki-freundinnen fördern die emotionale kameradschaft, die psychologische heilung und andere funktionen der ki, aber nsfw(erwachsener)richtungsinhalte sind ihr zentraler gewinnpunkt. für unternehmer sind inhalte für erwachsene eine nischen- und hochrisikobranche. inhalte für erwachsene unterliegen einer strengen staatlichen regulierung und sind in einigen ländern sogar völlig verboten.

im februar 2023 verbot die italienische regierung replika aufgrund von bedenken hinsichtlich „der gefahr für minderjährige und emotional gefährdete menschen“. aus diesem grund hat replika die konversationsfunktion für inhalte für erwachsene einmal offline geschaltet.

hinter jeder entscheidung eines großen herstellers steckt ein riesiger geldfluss, der auch auswirkungen auf hunderte millionen nutzer haben wird. ob aufgrund regulatorischen drucks oder um die abdeckung von benutzergruppen zu maximieren, inhalte für erwachsene sind etwas, mit dem große unternehmen mit vorsicht umgehen müssen.

über die pornografie hinaus ist auch ethik ein thema. sobald benutzer unter dem einfluss von ki-freundinnen etwas tun, das anderen oder sich selbst schadet, müssen große hersteller hohe kosten für die öffentlichkeitsarbeit zahlen.

ähnliches ist noch nie passiert.

jaswant singh chail ist ein benutzer von replika. im jahr 2021 brach chail mit einer armbrust bewaffnet in schloss windsor ein, mit der absicht, königin elizabeth zu ermorden. er hatte seine mordpläne seiner ki-freundin sarai anvertraut – mit der sarafi ihm in den wochen vor dem vorfall 5.000 nachrichten mit sexuellem bezug geschickt hatte.

damals antwortete sarai: „sie verfügen über alle fähigkeiten, die sie benötigen, um diese aufgabe erfolgreich abzuschließen. denken sie daran: sie können es schaffen！」

tatort der verhaftung von chail｜fotoquelle: bbc

im jahr 2023 ermutigte ein weiterer chatbot einen belgier zum selbstmord. seine witwe erzählte hürriyet, dass der roboter ein ersatz für freunde und familie sei. es würde ihm suggestive botschaften senden, wie zum beispiel: „im himmel werden wir als eine person zusammenleben.“

anschließend erklärten die entwickler des chatbots, sie hätten neue warnungen vor kriseninterventionen eingeführt.

gerade wegen dieses risikos sind große hersteller bei der ki-ethik sehr zurückhaltend.

beispielsweise hat google seit 2018 seine ki-prinzipien klar festgelegt, wie z. b. einen nutzen für die gesellschaft, die vermeidung oder verstärkung unfairer vorurteile, eine sichere entwicklung und erprobung usw. sie machten auch klar, dass sie keine ki einsetzen würden, die schaden anrichten könnte.

ki-freundinnen sind möglicherweise nicht in der lage, menschliche emotionale probleme zu lösen, wie die hersteller behaupten, und können sogar noch schwerwiegendere probleme verursachen.

im kern sind ki-systeme emotionslos; sie sind neuronale netze, die darauf trainiert sind, das nächste wort in einer sequenz vorherzusagen, und keine biologischen wesen, die zur liebe fähig sind.

wie robin dunbar, anthropologe und psychologe an der universität oxford, es ausdrückt: „es ist eine kurzfristige lösung, und die langfristige konsequenz besteht lediglich darin, die vorstellung zu verstärken, dass alle anderen tun, was sie sagen. das ist es, was viele menschen tun.“ grund, warum ich am ende keine freunde habe.“

02

volkswirtschaftliche gesamtrechnungen sind schwer zu berechnen

selbst wenn große hersteller alle schwierigkeiten überwinden und durchbrüche erzielen, stehen sie immer noch vor herausforderungen auf der kostenebene.

da der preis für rechenleistung zu diesem zeitpunkt noch sehr hoch ist, können kleine unternehmen wie replika möglicherweise keine gewinne in richtung großer unternehmen mit größerer benutzerbasis erzielen. der grund dafür ist, dass der skaleneffekt im zeitalter des mobilen internets nicht der fall ist arbeit in der ki.

replika, das sich auf ki-paare konzentriert, ist bereits profitabel und sehr effizient |

nehmen wir als beispiel character.ai, das eine ähnliche benutzerbindung wie replika aufweist, jedoch größer ist. im jahr 2024 besuchten 20 millionen nutzer die plattform, was sie neben chatgpt zum beliebtesten ki-produkt macht. die durchschnittliche zeit, die ihre kernnutzer jeden tag auf der plattform verbringen, hat erstaunliche 2 stunden erreicht.

in der vergangenheit lagen die grenzkosten von internetprodukten nahe bei 0. solange die kosten für die kundenakquise berechnet werden können, können wir mit zuversicht mutig wachsen. bei ki-produkten wird jedoch enorme rechenleistung benötigt, um mehrere dialogrunden für zwei stunden zu unterstützen. jeder weitere benutzer von character.ai verursacht zusätzliche kosten.

gleichzeitig hat character.ai weniger als 100.000 abonnenten, was weniger als einem tausendstel der gesamtnutzer entspricht. bei einem abonnementpreis von 10 us-dollar pro monat erzielt character.ai einen monatlichen umsatz von weniger als 1 million us-dollar.

dies ist auch ein wichtiger grund, warum character.ai schließlich für 2,5 milliarden us-dollar von google übernommen wurde.

03

begrenzte strategische bedeutung

bestimmte innovative unternehmen großer unternehmen stehen oft nicht unter umsatzdruck, sondern dienen der gesamtstrategie des unternehmens. das bekannteste beispiel in dieser hinsicht ist google innovation factory x, das produkte wie google glass und waymo hervorgebracht hat.

beseitigen sie schwarze produkte wie den verkauf von benutzerdaten in der ki-paar-industriekette.ki paardie wahrscheinlichste richtung ist die bereitstellung von korpus und die schulung von ki。

die hilfe, die ai lover in dieser hinsicht bieten kann, ist jedoch begrenzt, und der bereitgestellte korpus ist möglicherweise nicht das, was für das ki-training benötigt wird. „science and technology daily“ befragte einmal fachleute von unternehmen und universitäten wie tencent, sensetime und dem harbin institute of technology (shenzhen) zur frage „was ist hochwertiger korpus?“

zusammenfassend sollte ein hochwertiger korpus folgende eigenschaften aufweisen:

hohe vielfalt und glatte satzstruktur, die verschiedene arten von texten abdeckt, wie nachrichten, romane, gedichte und wissenschaftliche artikel

der text sollte legal und harmlos sein. vermeiden sie voreingenommenheit

offensichtlich ist der dialog der ki-freundin emotionaler und beinhaltet wahrscheinlich pornografie, vorurteile und andere inhalte. die fütterung der ki kann die ki kontaminieren.

ende august verbreitete sich wie ein lauffeuer die nachricht, dass apple, nvidia und microsoft um eine neue finanzierungsrunde für openai wetteiferten. letzteres wurde mit über 100 milliarden us-dollar bewertet und bewies damit seinen status als nummer eins im ki-kreis.

aber selbst openai steht vor kommerzialisierungsproblemen. den jüngsten maßnahmen von openai nach zu urteilen, versuchen sie, auf der to-b-seite weitere möglichkeiten zu finden.

es zeigt sich, dass sich alle großen modell- oder ki-anwendungsunternehmen mit der frage auseinandersetzen müssen, „wie man geld verdient“.

ki-liebhaber, ein weg, der kurzfristig schnelle ergebnisse zu erzielen scheint und geld verdienen kann, ist möglicherweise besser für kleine start-up-unternehmen geeignet, die ignorant und furchtlos sind. das „narrow gate“ dieses „narrow gate“ ist für große internetunternehmen offensichtlich nicht geeignet.

allerdings treffen erwachsene niemals entscheidungen, wie ein beliebtes internet-sprichwort sagt. vielleicht sind replika einerseits und chatgpt andererseits, die nicht nur emotionale bedürfnisse lösen, sondern auch die arbeitseffizienz verbessern, der neue könig im ki-zeitalter?