uutiset

Singulariteetti on lähempänä, mitä ihmisten pitäisi tehdä?

Kahden vuoden "viiveen" jälkeen Ray Kurzweilin uusi kirja "The Singularity is Nearer" julkaistiin vihdoin kesäkuun lopussa. Kurzweilin kirjojen fanina löysin heti uuden kirjan sähköisen version ja luin sen yhdeltä istumalta.

Kirjassa Kurzweil näyttää lukijoille tärkeän empiirisen lain: tietotekniikan kehitysnopeus etenee eksponentiaalisesti. Tällä vauhdilla ihmisten tekninen kyky käsitellä tietoa kaksinkertaistuu joka vuosi. Tietotekniikan tyypillisimpänä edustajana tekoälyn (Artificial Intelligence, jäljempänä AI) kehitys on vielä hämmästyttävämpää. Tämän trendin mukaan ennen vuotta 2029 tekoäly ylittää ihmisen kaikissa tehtävissä, ja Artificial General Intelligence (AGI) toteutuu täysin. Kun tekoälyteknologia on ottanut johtoaseman läpimurtojen tekemisessä, se vahvistaa monia aloja ja auttaa niitä saavuttamaan nopean kehityksen. Siksi ihmisten odotetaan saavuttavan 5–10 vuoden kuluessa "pitkän käyttöiän pakonopeuden", vaikka ihmiset jatkavat ikääntymistä, heidän kuolemansa riski ei kasva iän myötä. Punasolujen kokoisten nanorobottien avulla ihmiset voivat tappaa viruksia ja syöpäsoluja suoraan molekyylitasolla, mikä ratkaisee suuren joukon ihmisiä vaivaavia sairauksia, ja ihmisten elinajanodote kasvaa sen seurauksena merkittävästi. Sen lisäksi, että nanorobottien odotetaan myös pääsevän ei-invasiivisesti ihmisen aivoihin kapillaarien kautta. Yhdessä muiden pilvessä isännöityjen digitaalisten neuronien kanssa ne nostavat ihmisen älykkyyden korkeammalle tasolle. Tällä tavoin aivokapasiteetti ei enää rajoita ihmisen ajattelua, muistia ja ongelmanratkaisukykyä, ja ihmisen älykkyys kasvaa tuhansia kertoja. Kun kaikki edellä mainittu tapahtuu, monet tällä hetkellä ihmisiä vaivaavista ongelmista ratkeavat: halvempaa energiaa löydetään ja käytetään, maatalouden tehokkuus paranee huomattavasti, julkisen koulutuksen taso paranee merkittävästi ja väkivalta lisääntyy merkittävästi. vähentäminen... Lyhyesti sanottuna, ennen vuotta 2045 ihmiskunta ohittaa "singulaarisuuden" ja aloittaa uuden aikakauden, joka on täysin erilainen kuin edellinen.

Minun kaltaisilleni vanhoille lukijoille nämä Kurzweilin näkemykset eivät ole uusia. Itse asiassa kirjassaan "The Singularity is Near", joka julkaistiin vuonna 2005, hän käsitteli lähes kaikkia yllä olevia asioita. Tässä mielessä tämä uusi kirja ei ole muuta kuin Vain vanhaa viiniä uusissa pulloissa. Kuitenkin, kun luin näitä näkemyksiä tällä kertaa uudelleen, mielialani oli täysin erilainen kuin ennen. Kun luin "The Singularity Is Near" yli kymmenen vuotta sitten, ajattelin sitä enemmän tieteisromaanina. Vaikka Kurzweil käyttää kirjassaan paljon tietoja osoittaakseen, että maailman teknologia kasvaa eksponentiaalisesti, monet ihmiset, mukaan lukien minä, ovat erittäin skeptisiä tämän suhteen.

Siitä lähtien, vaikka Internet-teknologia kasvoikin nopeasti, sen lisäksi, että se tuo lisää mukavuutta ihmisille, tuntui vaikealta vaikuttaa perusteellisesti ihmisten elämäntapoihin. Samaan aikaan symbolismin ohjauksessa aikoinaan suuria toiveita odottanut tekoälyn ala on päässyt umpikujaan, ja mahdollista läpimurtoa on hetkeksi vaikea nähdä. Tällaisissa olosuhteissa on melkein kuin fantasiaa sanoa, että tekoälyn älykkyys ylittää ihmisten tason vuonna 2029.

Ihme kyllä ​​myöhempi historiallinen kehitystrendi on hämmästyttävän samanlainen kuin Kurzweilin ennustus. Vain kaksi vuotta "The Singularity is Near" -elokuvan julkaisun jälkeen "syvän oppimisen vallankumous" laukaisi uuden kasvukierroksen tekoälyn alalla. Ei kestänyt kauan, kun tekoälyn ominaisuudet kehittyivät siihen pisteeseen, jossa se pystyi kukistamaan Go-huippupelaajia, tulkitsemaan miljardien proteiinien rakenteet ja auttamaan suunnittelemaan satojatuhansia komponentteja sisältäviä tietokonesiruja. ChatGPT:n (chat-pohjainen tekoälyohjelma) syntymisen jälkeen lokakuussa 2022 tekoäly on oppinut taitoja, jotka vain ihmiset voivat hallita hieman yli vuodessa, kuten keskustelun, kirjoittamisen, maalaamisen ja videotuotannon. Asiaankuuluvien tutkimusten mukaan viimeisimmät tekoälymallit ovat osoittaneet kykyjä ihmisen ulkopuolelta sadoissa tehtävissä. Tässä tilanteessa ennuste, että tekoäly ohittaa ihmiset vuonna 2029, ei enää vaikuta radikaalilta, vaan näyttää myös hieman konservatiiviselta. Itse asiassa monet ammattilaiset uskovat, että AGI saapuu nopeammin. Esimerkiksi Shane Legg, yksi DeepMindin (AlphaGon kehittäneen tekoälyyrityksen) perustajista, uskoo, että AGI voidaan saavuttaa vuoteen 2028 mennessä, kun taas Teslan toimitusjohtaja Elon Musk On vielä radikaalimpaa uskoa, että ihmiset ottavat AGI:n käyttöön 2025.

Paitsi, että monet teknologiat, mukaan lukien nanorobotit ja aivo-tietokonerajapinnat, kehittyvät nopeasti, kuten Kurzweil ennusti. Esimerkiksi tammikuussa 2023 Nature Nanotechnology -lehti raportoi Barcelonan tiede- ja teknologiainstituutin tutkijoiden tutkimuksesta, joka käyttää nanorobotteja lääkkeiden kuljettamiseen virtsarakon syövän hoitoon. Tutkimukset ovat osoittaneet, että tämä hoito voi pienentää kasvaimia kokeellisissa hiirissä 90 %. Tämä menestys on hyvä esimerkki Kurzweilin ajatuksesta soveltaa nanorobotteja syövän hoitoon ja siten ihmisten eliniän pidentämiseen. Toinen esimerkki, vain muutama päivä sitten, Musk ilmoitti, että toinen aivojen ja tietokoneiden rajapintaleikkaus suoritetaan muutaman päivän sisällä, ja ennusti, että muutaman vuoden sisällä tuhansien potilaiden aivoihin istutetaan rajapintalaitteita. Vaikka tällä tekniikalla on vielä tällä hetkellä monia puutteita, nykyisen kehitysnopeuden mukaan lähitulevaisuudessa ihmisten ei pitäisi olla unelma vuorovaikutuksessa tietokoneiden kanssa aivo-tietokone-rajapintojen kautta. Jos nanoteknologian ja aivojen ja tietokoneiden rajapinnan kaksi "mustaa teknologiaa" yhdistetään, on täysin mahdollista saavuttaa ihmisen ja koneen fuusio ja älykkyyden kaksinkertaistuminen, kuten Kurzweil sanoi. Edellä esitettyjen syiden perusteella meillä on syytä uskoa, että "singulaarisuuden" saavuttaminen ennen vuotta 2045 on yhä teknisesti mahdollista.

Kuitenkin, kun ihmiset ohittavat "singulaarisuuden", voivatko he todella aloittaa ennennäkemättömän kauniin aikakauden, kuten Kurzweil ennusti? Mielestäni vastaus tähän kysymykseen on itse asiassa epävarma. Vaikka teknologiaoptimistit, mukaan lukien Kurzweil itse, voivat viitata moniin historiallisiin todisteisiin todistaakseen, että tähänastinen teknologinen kehitys on viime kädessä edistänyt ihmisten hyvinvoinnin paranemista, jos vain käytämme tätä lakia tulevaisuuden ennustamiseen, saattaa olla suuria riskejä. Loppujen lopuksi millään tekniikalla ihmiskunnan historiassa ei ole tekoälyn voimaa Kun sitä käytetään väärin, sen aiheuttamat riskit ovat käsittämättömiä.

Siksi varmistaaksemme, että aloitamme kauniin uuden aikakauden "singulaarisuuden" jälkeen, meidän on suoritettava kattava tutkimus ihmisten ja teknologian, ihmisten ja ihmisten sekä ihmisten ja ihmisluonnon välisistä suhteista ennen singulaarisuuden saapumista. Ajattele ja löydä keinoja varmistaa, että teknologia kehittyy aina ihmiskunnalle hyödyttävään suuntaan.

Kurzweilin ennusteen mukaan AGI:n saapuminen on vielä noin viiden vuoden päässä. Vaikka tekoälyn älykkyys ei ole toistaiseksi täysin ylittänyt ihmisten tasoa, se on todellakin ylittänyt ihmisen tason monissa asioissa, mikä on herättänyt ennennäkemättömän huolen tekoälyn aiheuttamasta teknologisesta työttömyydestä.

Historiallisesta näkökulmasta teknologinen työttömyys ei ole uusi aihe. Höyrykoneen keksimisestä sähkön käyttöön ja Internetin popularisointiin on ollut merkittävä "luovan tuhon" vaikutus, joka on johtanut suuren määrän vanhoihin teknologioihin perustuvien työpaikkojen katoamiseen ja monien ihmisten menettämiseen. vastaavissa ammateissa. Suurin osa näistä historian teknologisen työttömyyden aalloista on kuitenkin ollut tilapäisiä. Uusien teknologioiden suosion kasvaessa syntyy monia uusia työpaikkoja.

On totta, että tekoälyn vaikutus työmarkkinoihin ei ole toistaiseksi ollut merkittävä, mutta tämä ei tarkoita, etteikö sen riskejä olisi olemassa. Tekoälyn mahdollisia työllisyysvaikutuksia tulevaisuudessa ennustettaessa ihmiset usein jättävät huomiotta tärkeän ehdon, eli tekoälykyvyn parantaminen voi edetä eksponentiaalisen lain mukaan. Itse asiassa, jos otamme ChatGPT:n (keinoälyn keskusteluohjelman) tulon vuonna 2022 solmuna, ei ole vaikeaa havaita, että tekoälyn kehitysnopeus tämän solmun jälkeen on paljon nopeampi kuin ennen solmua. Otetaan esimerkkinä vuorovaikutuskyky. Ennen ChatGPT:n tuloa tekoäly on oppinut puhumaan vapaasti ChatGPT:n myötä . Tässä mielessä tekoälykyvyn tulevan kasvunopeuden ekstrapolointi täysin lineaariseen logiikkaan perustuen johtaa todennäköisesti erittäin vakaviin virhearvioihin. On myös huomattava, että vaikka tekoälyominaisuuksia on parannettu huomattavasti, sen käyttökustannukset ovat myös merkittävästi pienentyneet. Tällä hetkellä ihmisten kustannukset AI-mallien kutsumisesta API:iden kautta ovat pudonneet lähes nollaan.

Tämä suorituskyvyn parantaminen ja kustannusten vähentäminen yhdessä tekevät ihmisten korvaamisesta tekoälyllä paitsi teknisesti mahdollista myös taloudellisesti mahdollista. Itse asiassa, jos kiinnitämme enemmän huomiota asiaankuuluviin teknologiauutisiin, huomaamme, että tekoäly on hiljaa korvannut monet ammatit, kun emme kiinnitä huomiota. On syytä huomata, että vielä kymmenen vuotta sitten ihmiset ajattelivat, että tekoäly korvaa vain rutiinisemmat ja toistuvammat työt. Kuvittajan ammatti oli kuitenkin aikoinaan suosittu nuorten keskuudessa ilmaisten työaikojensa ja suhteellisen korkeiden tulojensa vuoksi. Nyt jos haluat käyttää tekoälymalleja kuvien viimeistelyyn, tarvitset vain muutaman sadan yuanin rajoittamattomaan kuukausitilaukseen. voi tehdä sen milloin tahansa tarvittaessa. Ilmeisesti tällaisessa vertailussa useimmat asiakkaat valitsevat tekoälyn ihmisten maalaajien sijaan, ja suurin osa kuvittajista myös menettää työpaikkansa tämän asiakasvalinnan vuoksi. Kuvittajien lisäksi myös ammatit, kuten kääntäjät, ohjelmoijat ja graafiset suunnittelijat, kokevat vakavia tekoälyn vaikutuksia. Kyse on vain siitä, että tämän vaikutuksen kokeneiden ihmisten osuus on suhteellisen pieni koko työvoimasta, joten ihmisten tunteet eivät ole ilmeisiä.

Onko tämän tekoälyn korvauskierroksen aiheuttama teknologinen työttömyys yhtä helppoa kuin ennenkin, ja voidaanko se helposti voittaa pelkällä markkinoiden spontaanilla sopeutumisella? Näkemykseni tästä asiasta ei ole kovin optimistinen. Pohjimmiltaan se, selviytyykö yhteiskunta teknologisen työttömyyden aallosta suhteellisen sujuvasti, riippuu pääasiassa kahdesta seikasta: Ensinnäkin siitä, onko suuri määrä työllisiä ammateissa, joihin uusi teknologia vaikuttaa. Toiseksi, kun uudet teknologiat poistavat vanhat työmahdollisuudet, ne voivat luoda nopeasti uusia työpaikkoja, jotka on helpompi aloittaa.

Mutta tällä kertaa tekoälyn vaikutus työmarkkinoille on täysin erilainen. Toisaalta tämä tekoälyn vaikutuskierros ei ole vain kattava, vaan myös ajallisesti erittäin intensiivinen. Ns. kattava kattavuus tarkoittaa, että monet toimialat ovat vaikuttaneet samanaikaisesti. Toisin kuin aiemmin erikoistunut tekoäly, suurin osa äskettäin julkaistuista tekoälymalleista on yleiskäyttöisiä. Käytännössä ihmiset voivat käyttää näitä malleja useiden eri tehtävien suorittamiseen vain pienellä säätämisellä. Tässä tapauksessa tekoälyn kehittyminen voi vaikuttaa useisiin ammatteihin samanaikaisesti. Niin sanottu aikaintensiivinen tarkoittaa sitä, että tekoäly vaikuttaa yhteen ammattiin heti toiseen ammattiin. Tämä intensiivinen vaikutus vaikeuttaa pian huomattavasti työttömien uudelleen työllistymistä ja heikentää vakavasti heidän luottamustaan ​​työllistymiseen ammattitaitokoulutuksen avulla. Kuvittele vain, jos kuvittaja on juuri riisunut työnsä Midjourneyn (tekoälyn piirustustyökalu) takia, hän oppii vihdoin ajamaan ja hänestä tulee online-ajelukuljettaja, mutta menettää pian työpaikkansa kuljettamattomien autojen lisääntyessä. Ja onko hänellä sellaisissa olosuhteissa työnsä menettämisen jälkeen sinnikkyyttä jatkaa uusien taitojen oppimista, ja onko hän varma, että tekoäly ei hallitse tätä taitoa lyhyessä ajassa?

Siksi tämä tekoälyn aiheuttama teknologisen työttömyyden kierros voi olla täysin erilainen kuin aikaisempi teknologinen työttömyys. Jos tekoälyteknologia jatkaa räjähdysmäistä kasvuaan, yhteiskunnan voi olla vaikeaa saavuttaa täystyöllisyyttä pelkällä markkinoiden spontaanilla sääntelyllä. Poliittisesta näkökulmasta meillä on varmasti monia tapoja lieventää tekoälyn vaikutusta työllisyyteen. Esimerkiksi hallitus tarjoaa enemmän työnhakutoimistopalveluita ja työllistymiskoulutusta voi auttaa tekoälyn vuoksi työpaikkansa menettäneitä löytämään uusia työpaikkoja nopeammin. . Jos tekoälyn kehitysnopeus kuitenkin pysyy korkealla tasolla, kaikilla näillä ponnisteluilla on parhaimmillaan vain tilapäisiä vaikutuksia. Ihmisten työn loppuminen voi olla tulevaisuus, jota meidän on vaikea hyväksyä, mutta meidän on kohdattava se.

Ottaen huomioon, että nykyinen teknologioiden, kuten aivo-tietokone-rajapintojen ja nanorobottien, kehitys on jäljessä tekoälystä, niin ainakin seuraavan kymmenen vuoden aikana tekoälyn käyttö aivojen suoraan parantamiseen voi jäädä vain mielikuvituksen tasolle. Joten kuinka ihmisten tulisi tänä aikana käsitellä tekoälyn aiheuttaman teknologisen työttömyyden aiheuttamia erilaisia ​​sosiaalisia ristiriitoja?

Joidenkin tutkijoiden ratkaisuna on verottaa tekoälyn käyttäjiä ja käyttää verotuloja UBI:n (Universal Basic Income) myöntämiseen. Tällä tavoin vaikka tekoälyn vaikutuksen vuoksi työpaikkansa menettäneiden on vaikea löytää uusia töitä, he voivat silti saada perusturvan ja välttää vaikeuksissa elämisen.

Tämä suunnitelma on kuitenkin ollut kiistanalainen sen ehdottamisen jälkeen. Esimerkiksi jotkut tutkijat uskovat, että uusien tekniikoiden, kuten tekoälyn, verottaminen haittaa suuresti sen kehitystä, toiset tutkijat uskovat, että UBI:n käyttöönotto saattaa rohkaista ihmisiä saamaan jotain ilmaiseksi.

Mielestäni suurempi mahdollinen vastustus tekoälyveron ja UBI:n täytäntöönpanoa kohtaan johtuu itse asiassa sen vaikutuksesta etujen jakautumiseen. Kuten näemme, tekoälyn kehityksen myötä monet tekoälyyn liittyvät yritykset ovat kokeneet räjähdysmäisesti nousevan tulon ja markkina-arvon lyhyessä ajassa. Otetaan esimerkkinä OpenAI. Muutama vuosi sitten se oli yritys, joka menetti rahaa vuodesta toiseen. GPT:n kaltaisten mallien suosion myötä siitä tuli kuitenkin nopeasti miljardeja dollareita oleva yritys. lähes 100 miljardia dollaria. Puhumattakaan siitä, että jättiläiset, kuten Microsoft ja Nvidia, ovat hyödyntäneet tekoälyä kasvattaakseen markkina-arvoaan biljoonilla dollareilla yli vuodessa. On ennakoitavissa, että tekoälyteknologian jatkokehityksen myötä suuntaus valtavien rikkauksien keskittämiseen pienelle joukolle yrityksiä ja yksityishenkilöitä jatkuu.

Mitä seurauksia tästä on? Suora seuraus on, että jakautuminen ja vieraantuminen koko yhteiskunnassa pahenevat. Kun tekoälyn kustannustehokkuus on riittävän korkea, tavallisilla työntekijöillä ei enää ole hyväksi joutumisen arvoa, kuten Hao Jingfangin romaanissa "Beijing Folding" mainitaan. Tässä tapauksessa rikkaat ihmiset, jotka hallitsevat tekoälyä ja varallisuutta, eivät edes halua asua samassa kaupungissa heidän kanssaan.

Tämä ei ole pelottavin asia. Jos, kuten Kurzweil ennusti, lähitulevaisuudessa ihmiset pystyvät muuttamaan itsensä molekyylitasolta nanoteknologian avulla, ne, joilla on enemmän varaa, ovat ensimmäisiä, jotka saavuttavat itsensä "mekaanisen evoluution". Tämän jälkeen rikkaiden etu köyhiin nähden ei ole vain lisää vaurautta, vaan myös kaikilta osin, kuten älykkyydestä ja fyysisestä voimasta, he murskaavat jälkimmäisen. Ja tämä etu puolestaan ​​antaa heille mahdollisuuden edistää vaurauden keskittymistä... Liu Cixin kuvitteli kerran tämän tilanteen romaanissaan "Suustaining Humanity". Hänen mielikuvituksensa mukaan samanlaisen suuntauksen mukaan "finalisti" monopolisoi koko yhteiskunnan vaurauden ja vallan, ja hän hallitsee kaikkien muiden kohtaloa.

Jos teknologinen työttömyys ja jakeluongelmat ovat vanhojen ongelmien uudelleen ilmaantumista, joita ihmiset ovat kohdanneet monta kertaa tekoälyn aikakaudella, niin alla käsittelemme aivan uusia ongelmia "singulaarisuuden" lähestyessä.

Kaikista uusista ongelmista merkittävin voi olla AI Alignment -ongelma. Lyhyesti sanottuna niin kutsuttu tekoälylinjaus on varmistaa, että tekoäly ymmärtää ihmisten normeja ja arvoja, ymmärtää ihmisten toiveita ja aikomuksia ja toimii ihmisen tahdon mukaisesti. Pinnalla katsottuna tämä ei näytä olevan vaikea tehtävä. Onko tekoälyohjelmat pohjimmiltaan ihmisten asettamia, asettavatko ihmiset sille omien etujensa vastaisen tavoitteen? Mutta itse asiassa vastaus ei ole niin yksinkertainen kahdesta syystä:

Toisaalta, kun ihmiset asettavat tekoälylle käyttäytymistavoitteita ja -normeja, ihmisten on usein vaikea ilmaista täysin ja oikein omia etujaan ja huolenaiheitaan, mikä jättää tekoälylle tilaa loukata ihmisten etuja. Esimerkiksi tiedefilosofi Bostrom ehdotti kerran ajatuskoetta nimeltä "kosminen paperiliitin" kuuluisassa teoksessaan "Superälykkyys". Hän kuvitteli, että ihmiset loivat tekoälyn, jonka tavoitteena on maksimoida paperiliittimien tuotanto. Sitten se käyttäisi kaikkia menetelmiä tämän tavoitteen saavuttamiseksi ja jopa eliminoisi ihmiset omistaakseen enemmän resursseja paperiliittimien tuotantoon. Tässä ajatuskokeessa itse paperiliittimien valmistus on ihmiskunnan edun mukaista, mutta sen lopputulos voi vahingoittaa vakavasti ihmiskunnan etuja.

Toisaalta, jotta tekoäly voisi saavuttaa korkeamman tehokkuuden, ihmiset yleensä antavat heille paljon tilaa itseopiskeluun ja parantamiseen, mikä voi saada tekoälyn poikkeamaan alkuperäisistä arvoistaan. Esimerkiksi monet nykyiset tekoälyagentit antavat heille mahdollisuuden kehittää itseään ympäristön ja käyttäjien kanssa.

Erityisesti AGI:n saapuessa tekoäly muuttuu vähitellen työkalusta yksilöksi, jonka kyvyt ovat samat tai jopa korkeammat kuin ihmisillä. Tässä tapauksessa tekoälyn etujen ja ihmisten välinen epäjohdonmukaisuus johtaa valtaviin riskeihin "Terminaattorin" ja "Matrixin" kaltaisissa elokuva- ja televisioteoksissa kuvattu synkkä tulevaisuus saattaa todella tulla.

Juuri tällaisen tilanteen estämiseksi nykyisestä tekoälylinjaustutkimuksesta on tullut merkittävä tiede tekoälyn alalla. Tässä vaiheessa ihmiset käyttävät pääasiassa kahta menetelmää AI-linjauksen saavuttamiseksi. Yksi on "vahvistusoppiminen ihmisen palautteen avulla", ns. RLHF-menetelmä, toinen on "perustuslaillinen tekoäly", niin kutsuttu CAI-menetelmä. RLHF:ää käytettäessä suunnittelija kouluttaa ensin manuaalisesti pienemmän tekoälymallin, toteuttaa vahvistusoppimisen kouluttajan jatkuvan palautteen avulla tekoälyn käyttäytymisestä ja ohjaa sen arvot vastaamaan suunnittelijan odottamia arvoja. Sitten tätä pientä mallia käytetään "valmentajana" kouluttamaan suurempaa tekoälymallia vahvistusoppimisen avulla. Käytettäessä CAI-menetelmää suunnittelija asettaa ensin "perussäännön", jota tekoälymallin on noudatettava, ja käyttää "peruskirjaa" luodakseen käytännesäännöt, joita tekoälyn on noudatettava eri skenaarioissa. Suunnittelijat käyttävät sitten näitä kriteerejä arvioidakseen tekoälymallin tuottamia erilaisia ​​​​tuloksia nähdäkseen, ovatko ne "perustuslaillisten" kriteerien mukaisia. "Perustuslain" mukaisista tuloksista annetaan vastaavat palkinnot "perustuslakia" rikkovista tuloksista, vastaavat rangaistukset.

On tunnustuksen arvoista, että molemmat menetelmät ovat saavuttaneet tiettyjä saavutuksia tähän mennessä, mutta niiden ongelmat ovat edelleen valtavia. Esimerkiksi Geoffrey Hinton, "syvän oppimisen isä", huomautti äskettäin, että nämä menetelmät voivat vain saada tekoälyn käyttäytymisen näyttämään ihmisten etujen mukaiselta, mutta eivät voi taata, että ne ovat täysin yhdenmukaisia ​​ihmisten arvojen kanssa. Tällaisissa olosuhteissa on vaikea taata, että tekoäly pettää ihmiset tietyissä olosuhteissa. Varsinkin AGI:n saapuessa ja tekoälyn kyvyssä ylittää ihmiset, samanlaisen petoksen mahdollisuus kasvaa ja siitä aiheutuvat riskit kasvavat koko ajan.

Miten tekoälyn kohdistusta pitäisi siis parantaa tällaisissa olosuhteissa? Mielestäni tarvitsemme ehkä ajattelun muutoksia. Nykyisestä näkökulmasta katsottuna lähes jokainen luontaisesti rinnastaa tekoälyn kohdistamisen arvoihin ja uskoo, että tekoälyn arvojen on oltava yhdenmukaisia ​​omien arvojensa kanssa, jotta ne palvelisivat aina ihmisten etuja, mutta tämä on tietysti melko vaikeaa. Mutta onko arvojen yhdenmukaistaminen todella välttämätöntä? Tai voimme muuttaa kysymyksen: Todellisuudessa tarvitsemme jonkun suorittamaan tiettyjä tehtäviä meidän etujemme mukaisesti. Vastaus on tietysti ei. Useimmiten meidän tarvitsee vain suunnitella hyvät säännöt, jotka ohjaavat ihmisiä, joiden arvot eivät ole yhdenmukaisia ​​meidän arvojemme kanssa, saavuttamaan haluamamme tavoitteet. Jos esimerkiksi pyytäisimme kahta itseään kiinnostavaa ihmistä jakamaan piirakan tasapuolisesti, tehtävä olisi äärettömän vaikeampi, jos haluaisimme saavuttaa tämän ensin sovittamalla heidän arvonsa yhteen. Meidän ei kuitenkaan tarvitse tehdä tätä Meidän on vain suunniteltava mekanismi, jolla yksi henkilö voi leikata kakun, mutta antaa toisen henkilön olla vastuussa jakelusta. Tämä inspiroi meitä siihen, että tekoälykohdistusta tehdessämme voimme myös ohittaa vaikeasti särkyvän arvojen mustan laatikon ja suorittaa nämä tehtävät suoraan mekanismisuunnittelun näkökulmasta. Ilahduttavaa on, että jotkut tutkijat ovat nyt nähneet tämän linjauksen ja saavuttaneet monia saavutuksia tähän suuntaan.

Tekoälyn kohdistamisongelman lisäksi toinen suuri ongelma, joka ihmisten on kohdattava "singulaarisuuden" lähestyessä, on identiteetin tunnistaminen ja tunnistaminen. Tämä ongelma sisältää kaksi näkökohtaa, miten ymmärtää tekoälyn identiteetti ja toinen on kuinka ymmärtää uudelleen oma identiteettimme.

Katsotaanpa ensin ensimmäistä kysymystä. Muutama vuosi sitten, jos kysyisit ihmiseltä, mitä hänen pitäisi ajatella tekoälystä, hän luultavasti sanoisi epäröimättä, että se on vain työkalu meille. Syy on yksinkertainen: suorituksestaan ​​päätellen heillä ei todennäköisesti ole itsenäistä tajuntaa ja he voivat suorittaa vain niihin liittyviä tehtäviä ihmisen hallinnassa.

Mutta suurten kielimallien, kuten ChatGPT:n, syntymisen jälkeen tilanne on muuttunut paljon. Tekoälyn suorituskyky vuorovaikutuksessa ihmisten kanssa on vähitellen päässyt eroon alkuperäisestä jäykkyydestään. Keskustellessamme kanssamme se voi aina vastata kysymyksiin sujuvasti. Tämä saa meidät ihmettelemään, onko heillä jo oma tietoisuus. Ehkä jotkut tietokoneasiantuntijat lohduttavat meitä, että tämä on vain mekaaninen vastaus näihin kysymyksiin, jotka perustuvat ennalta suunniteltuun malliin. Kuitenkin, kuten sanonta kuuluu: "Lapsi, joka ei ole kala, tietää kalan ilon." Loppujen lopuksi, vaikka laittaisimme aivomme syrjään ja tarkkailemme tarkasti mikroskoopilla, voimme nähdä vain joukon hermosoluja lähettämässä erilaisia ​​sähköisiä signaaleja, mutta emme edes yhtä solua, jossa on sielu. Kuinka voimme tässä tapauksessa olla varmoja, ettei edessämme oleva tekoäly, joka voi kommunikoida kanssamme vapaasti, ole kehittänyt sielua?

Uskon, että AGI:n saapumisen jälkeen vastaavat ongelmat tulevat yhä näkyvämmiksi. Ehkä jonain päivänä lähitulevaisuudessa "Westworldin" bioninen AI-robotti ilmestyy eteemme. Kaikki heidän käyttäytymisensä ovat yhdenmukaisia ​​meidän käyttäytymisemme kanssa, ja jopa esiasetettu ohjelma kertoo heille, että he ovat ihmisiä. Kun kohtaamme tällaisen AI-robotin, voimmeko silti taputtaa rintaamme ja sanoa, että se, mitä näemme edessämme, on vain meidän luomamme työkalu?

Katsotaanpa toista kysymystä. Tekoälyn identiteettiongelmaan verrattuna ihmisen itse-identiteetti ja tunnistaminen voivat olla vaikeampi ongelma.

Toisaalta, kuten edellä mainittiin, nanorobottien ja aivojen ja tietokoneiden rajapintateknologian kehittyessä ihmiset hallitsevat kyvyn muokata kehoaan merkittävästi. Tulevaisuudessa ihmisten ei vain odoteta käyttävän nanorobotteja auttamaan heitä korjaamaan kuolleita soluja elinikänsä pidentämiseksi, vaan he voivat myös suoraan luottaa niihin älykkyyden ja fyysisen voimansa lisäämiseksi. Aluksi tällainen ihmiskehoon kohdistuva muutos voi rajoittua muutamaan soluun, mikä ei aiheuta meille identiteettiongelmia - kuten nytkään emme ajattele, että kun ihmisellä on proteesit raajat tai proteesit, hän ei ole ihminen Hän oli sama. Mutta jos tämä muutosprosessi jatkuu, jonain päivänä useimmat tai jopa kaikki kehon solut korvataan. Tällä hetkellä edessämme nousee jälleen klassinen "Tesuksen laiva" -kysymys: Onko "minä" nyt edelleen menneisyyden "minä"?

Toisaalta AI-teknologian kehittyessä ihmiset oppivat vähitellen kyvyn ladata tietoisuus pilveen - itse asiassa jotkut ihmiset, mukaan lukien Musk, ovat jo aloittaneet samanlaisia ​​​​ponnisteluja. Jos oletetaan, että jonain päivänä tulevaisuudessa teknologia todella kehittyy tarpeeksi salliakseen tämän tietoisuuden ajatella kuten minä, voidaanko tätä tietoisuutta pitää ihmistietoisuutena? Jos vastaus on kyllä, niin mikä on sen suhde tietoisuuden todelliseen luonteeseen? Lisäksi, jos asetamme tämän tietoisuuden tietoisuuden lähteen klooniin, mikä on tämän kloonin ja alkuperäisen henkilön välinen suhde? Isä ja poika? veli? Tai jotain muuta?

On korostettava, että identiteetti- ja identiteettikysymykset eivät suinkaan ole vain filosofisia spekulaatioita. Todellisuudessa siihen liittyy monia oikeudellisia ja eettisiä kysymyksiä. Miten esimerkiksi ihmisten ja tekoälyn välistä työnjohtamisen suhdetta tulisi käsitellä? Pitäisikö tekoälyllä olla samat oikeudet kuin ihmisillä? Voiko kehoni ja mieleni klooni omistaa omaisuuteni? Jos identiteettiongelmaa ei ratkaista, näitä ongelmia on vaikea ratkaista.

Mutta toistaiseksi ihmiset eivät ole vieläkään löytäneet varmaa vastausta yllä oleviin kysymyksiin. Edistääksemme edelleen asiaankuuluvan konsensuksen muodostumista meidän on edelleen käytävä avoimia ja syvällisiä keskusteluja näistä kysymyksistä.