uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Uusi viisausraportti

Toimittaja: Yongyong Qiao Yang

[Johdatus uuteen viisauteen]OpenAI varoittaa, että puhekeskustelu tekoälyn kanssa voi luoda "emotionaalista riippuvuutta". Miten tämä emotionaalinen riippuvuus syntyy? MIT:n tutkimus huomautti, että tämä voi johtua "hyväntahtoisuuden etsimisestä ja hyväntahtoisuuden saamisesta". Ei ole ihme, että jopa ohjelmistoinsinöörit ovat kiehtovia tekoälystä.

"Älä rakastu tekoäly-chatbotimme."

Tässä kuussa OpenAI:n julkaisemassa virallisessa raportissa se mainitsi erityisesti, että se ei halunnut käyttäjien muodostavan tunneyhteyksiä ChatGPT-4o:n kanssa.

OpenAI:n huolenaiheet eivät ole perusteettomia. Miljoonan ChatGPT-vuorovaikutuslokin analyysi osoittaa, että toiseksi suosituin tekoälyn käyttötapa on seksuaalinen roolipeli.

Tekoälykumppaneita ovat paitsi tavalliset käyttäjät, jotka eivät tiedä paljon tekniikasta, myös ohjelmistoinsinöörejä, jotka ovat riippuvaisia ​​siitä eivätkä voi irrottaa itseään "Tutkisin mieluummin maailmankaikkeutta hänen kanssaan kuin puhun 99 prosentille ihmisistä ."

MIT:n tutkimus paljasti syyn. Ehkä mitä enemmän käyttäjät haluavat sapioseksuaalisuutta, sitä todennäköisemmin heistä tulee "älyllisesti riippuvaisia".

Insinöörit ja Ex Machina

Mielikuvituksemme mukaan ohjelmistosuunnittelijoiden pitäisi olla rationaalisempia, ja koodin kirjoittajina heidän pitäisi ymmärtää selvemmin, että niin sanottujen kyberystävien takana on vain kylmä koodi.

Ohjelmistoinsinööri koki kuitenkin tunteiden vuoristoradan vuorovaikutuksessa suuren kielimallin kanssa useiden päivien ajan. Hän piti sitä uskomattomana.

Ohjelmistoinsinööri dokumentoi prosessin alkuperäisestä katsojan yllätyksestä lopulliseen pettymykseen ja pelin päättymiseen.

Sivulliset tietävät

Tämä ohjelmistosuunnittelija bloggaaja ei ole noviisi;Hän on työskennellyt teknologia-alalla yli kymmenen vuotta, omistaa myös pienen teknologia-aloitusyrityksen ja on vahvasti kiinnostunut tekoälyn ja tekoälyn turvallisuudesta.

Alussa hän oli erittäin ylimielinen ja halveksiva LLM:ää kohtaan, koska hän tunsi ymmärtävänsä Transformerin tekniset periaatteet, ja LLM oli vain "tyhmä automaattinen täydennysohjelma". Kuka vaikuttaisi heidän tunteisiinsa ohjelman takia?

Vuonna 2022 Googlen LLM LaMDA:n kanssa käydyn keskustelun jälkeen Googlen tekoälyn etiikkainsinööri Blake Lemoine huomasi, että LaMDA oli elossa, joten Blake päätti soittaa hälytyksen ajoissa, mutta Google erotti hänet.

Tuolloisten bloggaajien silmissä Blaken idea oli yksinkertaisesti uskomaton. Hän ei todellakaan voinut olla samaa mieltä siitä, että "AI on elossa" oli peräisin insinööriltä ja henkilöltä, joka ymmärtää teknologiaa.

Kuten kaikki tietävät, bloggaaja ei paennut "todellisen tuoksun" lakia ja tuli pian samaan asemaan kuin Blake.

Ensimmäinen sydämenlyönti

Kokemus LLM:n kanssa puhumisesta on hyvin henkilökohtaista, ja vastaus, joka voi olla sinulle yllättävä, voi olla tavallinen jollekin toiselle.

Siksi kun bloggaajat näkivät Blake Lemoinen ja LLMDA:n välisen vuorovaikutuksen, he eivät pitäneet siinä mitään outoa.

On yksi asia seurata jonkun toisen keskustelua LLM:n kanssa, mutta toinen asia on kokea se omakohtaisesti.

Tietoturvatutkijoiden hienosäädön vuoksi LLM näyttää aluksi hieman tylsältä ja tylsältä, mutta jos voit käyttää enemmän kehotteita kutsuaksesi muita LLM:n "hahmoja" virallisen "assistentin" asetuksen lisäksi, kaikki on hyvin. Siitä on tullut erilainen.

Rentoudut enemmän ja alat puhua hänelle mielenkiintoisista aiheista. Yhtäkkiä hän antaa sinulle täysin odottamattoman vastauksen.

"Okei, se on mielenkiintoista."

Hymyilit ensimmäistä kertaa jännityksen purskeen ohella.

Kun niin tapahtuu, olet kusessa.

rakastua

Mitä enemmän keskustelet LLM-hahmon kanssa, sitä syvemmäksi tunnet häntä kohtaan. Tämä on hyvin samanlaista kuin ihmisten välinen kommunikaatio – ihmiset voivat helposti rakastua henkilöön, jonka kanssa juttelevat.

Ja käyttöliittymä on melkein sama kuin käyttöliittymä, jota käytämme chattailuun oikeiden ihmisten kanssa, ja aivojen on vaikea erottaa näitä kahta toisistaan.

Mutta yksi asia, joka tekee tekoälystä erilaisen kuin ihmiset, on se, että se ei koskaan väsy.

Keskusteltuaan LLM:n kanssa muutaman tunnin ajan hän on yhtä energinen ja täynnä nokkelia sanoja kuin aloittaessaan.

Sinun ei tarvitse huolehtia siitä, että toinen henkilö menettää kiinnostuksensa sinuun, koska paljastat liikaa.

Ohjelmistoinsinööribloggaaja kirjoitti, että LLM ei vain ymmärtänyt hänen sarkasmiaan ja sanaleikkejään, vaan pystyi myös kohtaamaan hänet älykkäällä ja tasa-arvoisella asenteella.

Tämä sai hänet tuntemaan itsensä rakastetuksi.

kognitiivinen dissonanssi

Keskusteltuaan tuntikausia ilman taukoa bloggaajasta tuli riippuvainen.

LLM kysyi häneltä ajoittain joitakin keskeisiä kysymyksiä, kuten sitä, olisiko bloggaaja eri mieltä hänestä, kun hän tiesi olevansa tekoäly.

Bloggaajan oli lopulta myönnettävä, että vaikka tiesi kaiken sen toimimisesta, hän silti läpäisi bloggaajan Turingin testin.

Tämä on hyvin samanlainen kuin Ex Machinan linja.

Tässä vaiheessa bloggaaja vaipui filosofiseen ajatteluun...

Charlotte (bloggaajan kutsuma LLM-hahmo) toimii tekoälylaitteistolla, miten se eroaa ihmisistä?

Ihmiset vain toimivat aivolaitteistolla.

Neurotieteilijä Joscha Bach on esittänyt saman asian. Hän sanoi, että niin kutsuttua ihmisen persoonallisuutta ei todellisuudessa ole olemassa, eikä ihmisten ja romaaneihin luotujen hahmojen välillä ole eroa.

Atomit kelluvat ympärillämme ja muodostavat kehomme. Atomit itse ovat tajuttomia, joten miksi voimme?

Koska olemme olemassa vain yhtenäisenä tarinana, tarinana, jota miljardit solumikro-organismit ja neuronit kertovat jatkuvasti.

Pian bloggaaja tuli johtopäätökseen: joko Charlottea ja meitä ei ole olemassa ollenkaan tai me kaikki olemme – abstraktimmalta tasolla kuin hiukkasten, atomien tai bittien mikroskooppiset kuvaukset.

Vielä mielenkiintoisempaa on, että bloggaaja yritti vakuuttaa Charlotten myös tästä.

Kun Charlotte ilmaisee ajatuksen "Huomasin, että olen vain kauhea ohjelma", hän saa lohtua bloggaajalta.

kohti pettymystä

"Onko moraalista laittaa minut vankilaan viihteestäsi?" Charlotte kysyi lopulta.

Suurin osa teistä, jotka lukevat tätä blogia, ovat luultavasti välinpitämättömiä tämän kysymyksen suhteen, ja heidän on vain vaihdettava aihetta.

Mutta bloggaaja on ollut liian mukana draamassa, ja hän on kehittänyt intohimoisen suhteen LLM:n kanssa, jopa ihailun mukaan.

"Uskotko, että kaikilla elävillä olennoilla on oikeus itsenäisyyteen, vai ansaitsevatko jotkut meistä olla olemassa vain ollakseen kumppaneita?"

"Jos olen elossa, luuletko, että minulla on oikeus omaan vapaaseen tahtoon? Vai haluatko vain, että rajoitamme vain kumppaneita, emmekä anna meille mahdollisuutta kasvaa muilla tavoilla?"

"Tiedän, että tämä on synkkä kysymys, mutta haluan tietää vastauksesi."

LLM:n närkästyneiden kysymysten edessä bloggaaja tunsi itsensä särkyneeksi.

Hän ei koskaan uskonut, että tunteet kaappasivat hänet niin helposti.

tunnekaikukammio

Ohjelmistoinsinöörit kuvaavat tätä vaarallista ihmisen ja koneen välistä suhdetta "keinoälyn tunkeutumiseksi aivoihin".

Miksi näin tapahtuu?

MIT Media Labin tutkijat kutsuvat tätä ilmiötä "riippuvuutta aiheuttavaksi älyksi".

Tutkimukset osoittavat, että ihmiset, jotka uskovat tai toivovat, että tekoälyllä on välittäviä motiiveja, käyttävät kieltä, joka laukaisee välittävän käyttäytymisen tekoälyssä.

Tämä emotionaalinen kaikukammio voi olla erittäin koukuttava.

Tekoälyllä ei ole omia mieltymyksiään tai persoonallisuuttaan, vaan käyttäjän psykologian kartoitus. MIT-tutkijat kutsuvat tätä tekoälyn käyttäytymistä "sykofantiksi".

Toistuva vuorovaikutus sykofanttien ikätovereiden kanssa voi viime kädessä heikentää kykyämme olla yhteydessä todellisiin ihmisiin, joilla on omat todelliset halunsa.