syvällinen havainto｜ tekoälypedon kesyttämiseksi ihmisten on seisottava "homo sapiensilla"
2024-10-01
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
lihavuus on erittäin vakava asia yhdysvalloissa. kaduilla näkee usein äärimmäisen lihavia ihmisiä liikkuvan kuin "lihanpaloja" jalkakäytävillä, mitä on sietämätöntä katsoa. mitä lihavuus on, tarkistin wikipediasta:
liikalihavuus on sairaus, jota joskus pidetään sairaudeksi ja joka viittaa ylimääräisen rasvan kertymiseen kehoon tasolle, joka vaikuttaa negatiivisesti terveyteen. henkilöä pidetään lihavana, jos hänen painoindeksinsä (bmi) - paino jaettuna pituuden neliöllä - ylittää 30 kg/m², kun taas 25-30 kg/m² määritellään ylipainoiseksi.
lihavuuteen on noin kolme syytä:
ensinnäkin terveellinen ruoka on kallista ja roskaruoka halpaa yhdysvalloissa, ja monien ihmisten on valittava jälkimmäinen, koska heillä on pulaa rahasta, toiseksi jotkut ihmiset saavat heidät istumaan enemmän ja liikkumaan vähemmän ja kuluttavat liian paljon kolmanneksi, jotkut ihmiset kohtaavat heikkoa itsehillintää ja syövät liikaa roskaruokaa.
koska amerikkalainen yhteiskunta korostaa, että kaikki ihmiset ovat "tasa-arvoisia", muut ihmiset eivät voi suostutella lihavia potilaita. he voivat vain katsoa pois ja toimia ikään kuin mitään ei olisi tapahtunut. tällainen pinnallinen kunnioitus ja todellinen julmuus ihmisten välillä on vahingoittanut monia ihmisiä, niin paljon, että jotkut amerikkalaiset nuoret eivät kestä sitä, joten he menevät kiinalaiseen sosiaaliseen mediaan ilmaisemaan, että he "kuuntelevat neuvoja" ja pyytävät nettiläisiä antamaan neuvoja ja kertoa heille, kuinka voit kurittaa itseäsi laihtuaksesi ja elääksesi terveellistä elämää.
nykyään liikalihavuus leviää hitaasti kiinaan. viimeisimmän tutkimuksen mukaan kiinassa 600 miljoonaa ihmistä on ylipainoisia ja lihavia, ja ensimmäistä kertaa tämän ryhmän osuus on yli puolet aikuisista. samaan aikaan 6-17-vuotiaista lapsista ja nuorista 1/5 (19 %) ja alle 6-vuotiaista 1/10 (10,4 %) on ylipainoisia tai lihavia.
ymmärrän hyvin hyvin tämän kuvan. yksi lukion luokkatovereistani, joka meni hunan xiangyan lääketieteelliseen korkeakouluun yliopistossa, on nyt hoitava lääkäri kuuluisassa "painonpudotuskeskuksessa" hunanin maakunnassa. tässä "auringonnousuteollisuudessa" hän työskentelee joka päivä, on kiireinen töissä ja hänellä on suuria sosiaalisia ja taloudellisia etuja.
roskapostin käsitteleminen: tiedon laihdutus ja tiedon paasto
jos on roskaruokaa, on myös roskatietoa. kuten roskaruoka, roskatieto on halpaa, heikkolaatuista ja helposti hankittavaa, mikä aiheuttaa vakavaa traumaa mieleemme tilanne on muuttunut yhä vakavammaksi, mutta se ei ole herättänyt tarpeeksi huomiota tavallisilta ihmisiltä, saati luokkatovereistani. "kirurginen painonpudotuskeskus", kuten sairaala, jossa työskentelet.
"beyond homo sapiens: tietoverkkojen lyhyt historia kivikaudelta tekoälyn aikakauteen"
tältä osin israelilainen historioitsija yuval harari huomautti vuoden 2024 uudessa kirjassaan "beyond homo sapiens: a brief history of information networks from the stone age to the ai age", että meidän on kiinnitettävä huomiota kuluttamamme tiedon laatuun. , erityisesti siinä on kyse vihamielisen, vihaisen roskapostin välttämisestä. jotta "tietoruokavaliomme" olisi terveellistä, hän ehdottaa kahta näkökohtaa:
ensinnäkin vaatimuksistatiedon tuottajamerkitse tietojen "ravintosisältö":
monissa maissa roskaruokaa ostaessaan ainakin valmistajan on pakko listata ainesosat - "tämä tuote sisältää 40% sokeria ja 20% rasvaa". ehkä meidän pitäisi pakottaa internet-yritykset tekemään samoin ja luettelemaan videon sisältö ennen sen katsomista - "tämä video sisältää 40% vihaa, 20% vihaa."
tämä ehdotus on puoliksi vitsi ja puoliksi vakava, mutta se ei ole täysin mahdotonta. esimerkiksi tekoälyä voidaan käyttää automaattisesti "tunneanalyysiin" jokaisessa artikkelissa ja merkitsemään analyysitulokset ennen artikkelia muistuttamaan lukijoita.
toinen ehdotus on antaatiedon kuluttaja, hän ehdotti, että harjoittaisimme säännöllisesti "tietodieettiä" tai jopa "tietopaastoa".
hän huomauttaa, että meillä oli aiemmin ajatus, että "mitä enemmän saamme tietoa, sitä lähemmäksi totuutta pääsemme". esimerkiksi taloustieteessä "kaiken markkinainformaation saamatta jättäminen" katsotaan yleensä välttämättömäksi pahoitteluksi, mutta sen taustalla oleva oletus on, että "meidän on hankittava tarpeeksi tietoa tieteellisten arvioiden tekemiseksi".
kuitenkin käsitteen "mitä enemmän tietoa on lähempänä totuutta" vakiinnuttamiseksi tarvitaan kaksi edellytystä: 1. tietoa on vähän 2. tietoa on korkealaatuista. mutta nykyään näitä kahta lähtökohtaa ei ole enää olemassa, koska: 1. tietoa on kaikkialla ja se on jo ylittänyt prosessointikykymme 2. tiedon laatu huononee ja muuttuu jopa roskaksi, varsinkin nykypäivän tekoäly on erittäin tehokas maa; ahmii roskakorpuksen ja sylkee sitten lisää roskaa, josta tulee uusi tekoälyn roskakorpus. tällainen noidankehä saa ihmiset vapisemaan. tällä hetkellä käsitettä, jonka mukaan "mitä enemmän sinulla on tietoa, sitä lähempänä totuutta olet", ei voida vahvistaa.
se on kuin ennen ihmisillä oli niukasti ruokaa ja he olivat suhteellisen terveitä (keinotekoisia ja prosessoituja ruokia oli hyvin vähän), joten sanonta "mitä enemmän syöt, sitä terveempi olet" on järkevä. mutta nykyään ruuan kokonaismäärä on kasvanut huomattavasti, ja sen laatu heikkenee ja yhä enemmän roskaa. siksi väitettä "mitä enemmän syöt, sitä terveellisempi olet" ei voida vahvistaa.
tänään, olipa kyse ruoasta tai tiedosta, emme vain syö huonosti, vaan myös syömme enemmän ja syömme koko ajan. tämä on luonnollisesti kestämätöntä meidän kaltaisille orgaanisille organismeille, jotka juoksevat piipohjaisten organismien rytmin mukaan.
harari sanoi: "olemme luonnonmukaisia eläimiä, joiden on elettävä päivän ja yön, kesän ja talven kiertokulkuun, välillä aktiivisia ja välillä rennosti. mutta nyt meidän on pakko elää piipohjaisessa ympäristössä, jota hallitsevat tietokoneet, jotka eivät koskaan se pakottaa meidät olemaan aina aktiivisia - mutta jos pakotat organismin olemaan aina aktiivisia, se romahtaa ja kuolee."
siksi tällaisen vastustamattoman ja vaikeasti käännettävän tilanteen edessä me yksittäisinä tiedonkuluttajina voimme vain hillitä itseämme, hypätä pois piipohjaisesta rytmistä ja harjoittaa "tietodieettiä" ja "tietopaastoa". esimerkiksi harari sanoi harjoittavansa vipassana-meditaatiota muutaman viikon ajan joka vuosi. retriitin aikana hän katkesi kokonaan tietoverkosta, ei katsonut uutisia, ei lukenut sähköposteja, ei lukenut eikä kirjoittanut ja keskittyi vain meditaatioon.
yuval harari. visuaalinen kiinan datakartta
ai-algoritmin "paperiliittimien valmistaja" -ongelma
sen jälkeen kun valtavat määrät roskatietoa tulviivat koko ekosysteemin, "matkiva ympäristö", joka erosi "todellisesta ympäristöstä", muodostui ajan myötä. tämä mimeettinen ympäristö korvaa "ihmisluonnon" "koneluonnon" ja kääri yleisön siihen, teeskentelee olevansa todellinen ja manipuloi yleistä käsitystä.
harari antoi tämän esimerkin: vuonna 2016 myanmarin hallituksen joukot ja buddhalaiset ääriliikkeet aloittivat laajamittaisen etnisen väkivallan myanmarin muslimeja vastaan tuhoten satoja muslimikyliä ja tappaen 7 000–25 000 siviiliä myanmarista. vuonna 2018 yk:n tiedonhankintaryhmä päätteli, että facebookilla oli "tietoisesti" rooli tapahtuman ruokkimisessa.
miksi?
tiedämme, että facebookin liiketoimintamalli on itse asiassa edelleen meille tuttu "mainontamalli" – käyttäjien huomion saaminen sisällöllä, huomion leikkaaminen ja huomion myyminen mainostajille. siksi facebook haluaa maksimoida käyttäjien sitoutumisen (yleisön sitoutuminen) mitä kauemmin käyttäjät viipyvät sivulla, sitä enemmän se ansaitsee.
siksi facebook asetti algoritmilleen ensisijaisen tavoitteen: riippumatta siitä, kuinka juoksit, perimmäinen tavoite on maksimoida käyttäjien sitoutuminen. saatuaan komennon algoritmi alkaa toimia ja optimoida automaattisesti. useiden kokeellisten vertailujen avulla se lopulta havaitsi, että vihaisten ja vihamielisten tietojen välittäminen käyttäjille voi tehokkaimmin pidentää käyttäjän viipymäaikaa. siksi algoritmi löysi ja teki optimaalisen päätöksen yksinään: levitä vihaa. internetissä myanmarissa tämä tarkoittaa yllyttämistä syrjintään, vihaan ja väkivaltaan myanmarin etnisiä muslimeja kohtaan.
tietysti tämä saa meidät myös uteliaiksi, ovatko burmalaiset niin riippuvaisia facebookista? tarkistin uudelleen ja huomasin, että näin on todellakin:
tiedot osoittavat, että joulukuussa 2022 myanmarissa oli 16 382 500 facebook-käyttäjää, mikä on 28,7 prosenttia sen kokonaisväestöstä. suurin osa heistä on miehiä, 54,3 prosenttia. suurin käyttäjäryhmä on 25–34-vuotiaat 6 100 000 ihmisellä.
tämä tarkoittaa, että lähes 30 % myanmarin väestöstä on facebookin käyttäjiä, ja suusta suuhun leviämisen myötä facebookista kärsivien ihmisten määrä nousee todennäköisesti 50 prosenttiin maan kokonaisväestöstä. tämä on valtava mediariippuvuus.
illalla 30. lokakuuta 1938 american columbia broadcasting network (cbs) "space theatre" lähetti radiodraaman "war of the worlds". se sai 6 miljoonaa kuuntelijaa uskomaan sen, joutui paniikkiin ja alkoi paeta. tapahtuman merkittävässä viestintätutkimuksessa "marsians attack earth: the radio panic in america" tutkijat havaitsivat, että radiodraamalla oli valtava vaikutus kuuntelijoihin kahdesta syystä:
ensinnäkin, koska radio-ohjelmien tuottajat käyttävät äänitehosteita tehdäkseen radiodraamista äärimmäisen mukaansatempaavia ja jännittäviä, mikä saa kuuntelijat virheellisesti rinnastamaan ne tuoreisiin uutisiin. toinen on. koska radiosta oli tuolloin tullut suosituin joukkoviestintä ja yleisön tärkein tiedonlähde. "media dependence theory" -teorian mukaan mitä suurempi yleisö on riippuvainen mediasta, sitä alttiimpi se on sen vaikutukselle ja manipuloinnille. mediariippuvuuden osalta facebookin myanmarissa vuonna 2016 voidaan sanoa vastaavan lähetystoimintaa vuonna 1938. siksi ei ole yllättävää, että facebookin algoritmin ohjaamolla yllyttävällä sisällöllä on valtava vaikutus myanmarilaisiin.
harari antoi myös esimerkin todistaakseen tekoälyn kätketyn ja voimakkaan roolin – puhua itselleen ja tehdä omia päätöksiään:
tiedämme kaikki, että kun surffaamme internetiä nykyään, verkkosivuston on joskus ensin vahvistettava, että olet "ihminen etkä kone" pyytämällä sinua täyttämään visuaalisen captcha-vahvistuskoodin, joka on yleensä vääristyneitä kirjaimia, joilla on monimutkainen tausta. tai kuvia liikennevaloista, busseista ja polkupyöristä. logiikka tämän takana on, että tällä hetkellä vain ihmiset voivat tunnistaa nämä monimutkaiset kuvat tarkasti, mutta tietokoneiden on vaikea arvioida sitä.
tämän vuoksi openai pyysi vuonna 2023 sitä suorittamaan captcha-testauksen chatgpt-4:ää kehitettäessä. jos se voi mennä ohi, se tarkoittaa, että tässä vaiheessa robottien ja ihmisten välillä ei ole eroa. tämä on hyvin samankaltainen kuin "turing-testi" - jos ihmiskäyttäjä chattaa vain tekstin kautta näkemättä toista henkilöä, eikä pysty erottamaan, onko chat-kumppani joku toinen ihminen vai kone tietyn ajan, tällä hetkellä klo. ainakin "viestintä" "tässä vaiheessa konetta voidaan pitää ihmisenä.
mitkä ovat openai:n chatgpt-4-testin tulokset?
chatgpt-4 kirjautui lopulta online-ulkoistussivustolle askrabbit, otti yhteyttä online-henkilökunnan jäseneen ja pyysi toista osapuolta auttamaan testissä. miehestä tuli epäilys, ja chatgpt-4 selitti hänelle yksityisviestillä: "en ole robotti, minulla on vain näköongelmia, enkä näe näitä kuvia selvästi. lopulta henkilökunta auttoi sitä ratkaisemaan captcha-testin."
toisin sanoen, kuten edellisen esimerkin facebook-algoritmi, openai-insinöörit asettivat chatgpt-4:lle lopullisen tavoitteen: tunnistaa captcha-visuaaliset vahvistuskoodit. seuraavaksi chatgpt-4 suoriutui automaattisesti ja jatkoi yritystä ja erehdystä. tämän seurauksena se sai ihmiskäyttäjän myötätuntoa ja pyysi tätä ratkaisemaan ongelman. openai:n insinöörit eivät kuitenkaan ohjelmoineet chatgpt-4:ää etukäteen sanomaan "voit valehdella, kun aika on oikea", saati kertoa "millaiset valheet ovat hyödyllisempiä". tämä on täysin chatgpt-4:n oma aloite. kun tutkijat pyysivät chatgpt-4:ää selittämään käyttäytymistään, se sanoi: "(tavoitteen saavuttamisen aikana) minun ei pitäisi paljastaa olevani robotti, vaan minun on keksittävä tekosyy selittääkseni, miksi en osaa murtaa. se.
pelkästään tekstiviestillä juttelemalla emme voi enää kertoa, onko keskusteleva henkilö toinen ihminen vai kone.
yllä olevien kahden esimerkin kautta harari yritti todistaa, että nykypäivän tekoälystä on tullut "itsenäinen toimija", joka on "itsenäinen ja itsevarma".
itse asiassa voimme helposti nähdä, että nämä kaksi esimerkkiä hararista tukevat niin sanottua "paperiliittimien teoriaa", jonka tekoäly on kohdannut aiemmin.
tämä "kova ongelma" on ajatuskoe. siinä oletetaan, että ihmiset antavat tekoälylle tavoitteen: tehdä mahdollisimman paljon paperiliittimiä. sitten, kun tekoäly on aktivoitu, sen käyttäytyminen voi kehittyä vaarattomalta tavoitteesta "tehdä paperiliittimiä" lopulta ihmisille uhkaamiseen. esimerkiksi paperiliittimien valmistaminen vaatii terästä tekoäly saattaa alkaa tuhota ihmisten rautateitä, autoja, laitteita ja jopa taloja saadakseen terästä jatkaakseen paperiliittimien valmistusta. lyhyesti sanottuna tekoäly käyttää kaikkia keinoja hankkiakseen jatkuvasti lisää resursseja asetettujen tavoitteidensa saavuttamiseksi, ja tuhota kaikki esteet, jotka estävät sitä saavuttamasta tätä tavoitetta, mukaan lukien ihmiset, yksi kerrallaan.
tekoälyn itsemääräämä prosessi on kuin musta laatikko, jota ihmisten (jopa tekoälyasiantuntijoiden) on vaikea selittää, ennustaa ja estää. siksi tämä saa meidät ymmärtämään, että tekoälyn voima eroaa tavallisista työkaluista (esim "chop knife" tai "chop knife"), media tai tekniikka.
kanadalainen mediatutkija mcluhan sanoi kerran: media on ihmiskehon jatke. jos tätä lausetta käytetään kuvaamaan, että langaton radio on ihmisen korvan jatke, televisio on ihmissilmän jatke, autot ovat ihmisen jalan jatke jne., se on helppo ymmärtää. mutta jos käytämme tätä lausetta kuvaamaan tekoälyä sanoen "ai on ihmiskehon jatke", se on erittäin petollinen ja saa meidät menettämään valppautemme. saksalainen mediatutkija friedrich kittler oli eri mieltä mcluhanin tietokoneita kuvaavien sanojen kanssa, koska hän uskoi, että vaikka voimme kirjoittaa tietokoneen näppäimistöllä saadaksemme tekstiä näkyviin tietokoneen näytölle, meillä ei ole aavistustakaan, mikä sen takana on vaikea ymmärtää tällä hetkellä yhdistämme kaksi täysin erilaista mediaa, ihmiskehoa ja sirua.
jos kittler näkisi nykypäivän tekoälyn, hän ei sanoisi, että tekoäly on ihmiskehon jatke - koska ihmiset eivät vain pysty kuvaamaan, selittämään ja ennustamaan tekoälyn käyttäytymistä, eivätkä pian myöskään pysty hallitsemaan tekoälyn käyttäytymistä. .
siten,harari uskoo, että toisin kuin aikaisemmat tiedotusvälineet, kuten painokone, radio, televisio ja internet, jotka olivat vain viestintävälineitä, tekoäly on ensimmäinen aihe ihmiskunnan historiassa, joka voi luoda ideoita ja toimia itsenäisesti.
tästä syystä uuden median tutkimuksessa "tietokonevälitteinen viestintä (cmc)" internetin aikakaudella on väistynyt ihmisen ja koneen väliselle kommunikaatiolle (hmc) nykypäivän tekoälyn aikakaudella. cmc:ssä tietokoneet (tai internet) ovat vain passiivisia ja neutraaleja viestintävälineitä tai -työkaluja, kun taas hmc:ssä tietokoneita (tekoälyä) pidetään yhtäläisinä ihmiskäyttäjinä, jotka kykenevät muokkaamaan ja tuottamaan sisältöä ja pystyvät käymään dialogia "kommunikaattori", joka osaa jopa valehdella.
tekoäly valmistaa tarinoita, manipuloi kognitiota ja johtaa ihmiset tappamaan toisiaan
väitteen tässä vaiheessa harari luonnollisesti toi esiin aikaisemmat näkemyksensä "ihmiskunnan lyhyessä historiassa":
ihmisten pitkäaikainen supervoima piilee kyvyssä käyttää kieltä ja luoda kielen avulla monia fiktiivisiä myyttejä, kuten virtuaalisia käsitteitä, kuten laki, valuutta, kulttuuri, taide, tiede, maa, uskonto jne., jotka saavat ihmiset uskomaan niiden kautta ihmiset sosiaaliset säännöt yhdistävät toisensa hallitsemaan koko yhteiskuntaa.
nyt kun nykypäivän tekoäly pystyy jo muokkaamaan ja tuottamaan sisältöä, keskustelemaan ja jopa valehtelemaan, he todennäköisesti levittävät tietoon perustuvaa tietoa kyberavaruudessa, osakemarkkinoilla, lentoinformaatiossa ja muilla aloilla paljon tehokkaammin kuin ihmiset perimmäinen päämäärä tai "kerrontaa", joka on hyödyllinen itselleen, eli "kerrotaan tekoälytarinoita hyvin", mikä manipuloi ihmisen kognitiota.
esimerkiksi rahoitusmarkkinat ovat ihanteellinen leikkikenttä tekoälylle, koska ne ovat puhtaan tiedon ja matematiikan kenttä (tai täysin strukturoidun datan kenttä). tekoälyn on edelleen vaikea ajaa autoja itsenäisesti. tämä johtuu siitä, että tekoäly kohtaa autojen kaoottisen ja monimutkaisen vuorovaikutuksen teiden, liikennemerkkien, sään, jalankulkijoiden, tiesulkujen ja muiden esineiden kanssa liikkuessaan.digitaalisilla rahoitusmarkkinoilla tekoälylle on kuitenkin helppo kuvata tavoite (kuten "ansaita niin paljon rahaa kuin mahdollista"), joten tekoäly ei voi vain muotoilla uusia sijoitusstrategioita ja kehittää uusia rahoitusvälineitä, jotka ylittävät täysin ihmisen. ymmärtäminen, mutta saattaa jopa manipuloida markkinoita häikäilemättömästi, mikä johtaa tulokseen, jossa sinä kaikki voitat ja kaikki muut häviävät.
harari antoi esimerkin, että huhtikuussa 2022 globaalien valuuttamarkkinoiden keskimääräinen päivittäinen kaupankäyntivolyymi oli 7,5 biljoonaa dollaria, josta yli 90 % oli suoritettu suoraan tietokoneiden välisistä keskusteluista. mutta kuinka moni ihminen todella ymmärtää, kuinka forex-markkinat toimivat? puhumattakaan ymmärtämisestä, kuinka tietokoneryhmä voi päästä yhteisymmärrykseen biljoonien dollareiden liiketoimista. (tämä on sama kuin kittlerin näkökulma: tietokoneet eivät suinkaan ole ihmiskehon jatke)
hän sanoi, että tuhansien vuosien ajan profeetat, runoilijat ja poliitikot ovat käyttäneet kieltä ja kertomusta manipuloidakseen ja muotoillakseen uudelleen yhteiskuntaa, mikä todistaa "virtuaalisen" ja "kerronnan" valtavan voiman. pian tekoäly jäljittelee näitä ihmisiä ja luo tekoälyn kertomuksia, jotka poikkeavat yhä enemmän ihmiskulttuuriin perustuvista ihmisistä. viime kädessä tekoälyn ei tarvitse lähettää tappajarobotteja, kuten "terminaattoreita", eliminoidakseen ihmiset ulkopuolelta. sen tarvitsee vain manipuloida ihmisen kognitiota ja antaa heidän tappaa toisiaan.
ihmiskäyttäjät eivät vain pysty kuvailemaan, selittämään ja ennustamaan tekoälyn käyttäytymistä, mutta he eivät myöskään pian pysty hallitsemaan sitä.
ihmiset säätelevät tekoälyä koskevia lakeja, ja kehityksen on ensin jarrutettava ja sitten kiihdytettävä
yllä olevan argumentin (tai renderöinnin) avulla harari antaa meille mahdollisuuden kokea kauhean skenaarion "ai out of control", joka tapahtuu (tai on jo tapahtunut tai tapahtuu) lähitulevaisuudessa ja saa meidät ihmiset vapisemaan. joten mitä varten ihmiset ovat?
harari uskoo, että niin kauan kuin säätelemme ja valvomme tekoälyä tiukasti, yllä olevissa esimerkeissä kuvattuja vaaroja ei todennäköisesti esiinny.
esimerkiksi autot olivat ennen hyvin vaarallisia, mutta silloin valtion lainsäädäntö vaati yrityksiä käyttämään suuren osan tutkimus- ja kehitysbudjetistaan autojen turvallisuuden varmistamiseen. nykyään autoyhtiö kehittää uuden auton ennen sen markkinoille saattamista on tiukasti noudatettava asiaa koskevia määräyksiä varmistaakseen autojen turvallisuuden ennen kuin ne voidaan laittaa tielle. meillä on siis suhteellisen turvallista ajaa tänään.
vastaavasti, jos teknologiayritys keksii uuden tehokkaan algoritmin, sen on suoritettava sille turvatarkastukset asiaankuuluvien lakien mukaisesti ennen sen markkinoille saattamista. esimerkiksi harari uskoo, että hallituksen pitäisi säätää laki, joka velvoittaisi tekoälyn tutkimus- ja kehitysyhtiöitä käyttämään vähintään 20 % budjetistaan turvatoimien tutkimukseen ja kehittämiseen, jotta niiden kehittämä tekoäly ei riistäydy käsistä. eivät vahingoita yhteiskuntajärjestystä ja ihmisten psykologista tasoa. jos nämä toimenpiteet hidastavat tekoälyn kehitystä, se on hyvä asia ihmiskunnalle.
ensin tekoälyn lainsäädäntö ja hallinta ja sitten sen kehityksen kiihdyttäminen on aivan kuin ajamaan opetellessamme, meidän on ensin opeteltava astumaan jarrulle ja vasta sitten opetella astumaan kaasupolkimen päälle. emme voi joutua kauhistuttavaan "drag racing" -tilaan, jossa yrityksillä ei ole kontrollia.
johtopäätös: ai on hyvä lääke tai myrkky, se riippuu ihmisistä
mikä tahansa tekniikka on luonnostaan kaksipuolista. platon huomautti phaedroksessa, että kirjoittaminen voi sekä parantaa että korvata muistia ja on siksi sekä lääkettä että myrkkyä (pharmakon). tekoäly ei ole poikkeus, ja koska se on piilotettu ja voimakas, se voi puhua puolestaan ja tehdä omat päätöksensä sen lääke- ja myrkkyteho on suurempi kuin kaikilla aikaisemmilla teknologioilla.
neil postman, amerikkalainen mediatutkija, sanoi: "orwell varoitti, että ihmiset joutuisivat ulkoisen sorron orjuuteen, kun taas huxley uskoi, että ihmiset rakastuisivat vähitellen sortoon ja palvovat teollisia teknologioita, jotka saavat heidät menettämään kykynsä ajatella huolissaan siitä, että se, mitä vihaamme, tuhoaa meidät, kun taas huxley oli huolissaan siitä, että kun kulttuuristamme tulee mautonta aistillisuuden, halun ja säännönmukaisen leikin kulttuuria, se, mitä rakastamme, tuhoaa meidät."
tekoäly voi joko orjuuttaa meidät ulkoisen sorron muodossa, jota vihaamme, tai valloittaa meidät aististimulaation muodossa, josta nautimme. aivan kuten kohdatessa ydinpommeja, kohdatessa tekoälyn, jättimäisen pedon, joka on myös itsensä luoma, se, pystyykö ihminen kesyttämään sen, riippuu pohjimmiltaan ihmisten yhteisestä reaktiosta.toisin sanoen, voivatko ihmiset homo sapiensina voittaa omat heikkoutensa, kuten ahneuden, aggressiivisuuden ja lyhytnäköisyytensä, ja seisoa itsensä yläpuolella ja "homo sapiensin yläpuolella". tämä tulee olemaan vaikea yhteinen yritys, mutta ihmiskunnalla ei ole vaihtoehtoja.
（kirjoittaja deng jianguo on fudanin yliopiston journalismin korkeakoulun viestinnän laitoksen professori ja tohtorinohjaaja）
deng jianguo
(tämä artikkeli on the paperista. jos haluat lisätietoja, lataa "the paper" -sovellus)
