AI hallusinaatiot ovat väistämättömiä, miten käsitellä sitä
2024-08-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Zhang HaiTekoälyteknologian (AI) nopean kehityksen myötä "AI-illuusiosta" eli virheistä tai illuusioista tiedonkäsittelyssä ja tekoälyn tuottamisessa on tullut ongelma, jota ei voida sivuuttaa. Vuonna 2023 "hallusinaatioista" tuli Cambridge Dictionary ja Dictionary.com -sivuston vuoden sana. Dictionary.comin mukaan sanan "hallusinaatiot" haut lisääntyivät 46 % vuonna 2023 verrattuna edelliseen vuoteen. Cambridge-sanakirjan alkuperäisen "hallusinaatioiden" lisäksi "näkee, kuulee, tuntee tai haistaa jotain, jota ei ole olemassa, yleensä sairauden vuoksi tai koska olet ottanut lääkettä". AI-hallusinaatiot luo virheilmoituksia.""Nature"-lehden äskettäinen artikkeli "Machine Behavior" huomautti, että tekoälystä on tullut kaikkialla nykypäivän ihmisyhteiskunnassa. News ranking-algoritmit vaikuttavat ihmisten näkemään tietoon, kulutusalgoritmit vaikuttavat siihen, mitä kulutushyödykkeitä ihmiset ostavat, ja taksialgoritmit. vaikuttavat Matkatottumuksiin ja älykkään kodin algoritmeihin vaikuttavat perhe-elämäämme Tekoälyn vaikutus on vieläkin suurempi. Tekoälyn ansiosta koneet ajattelevat ja käyttäytyvät yhä enemmän ihmisten tavoin. Tämän seurauksena koneet vaikuttavat yhä enemmän ihmisyhteiskunnan rakenteeseen, ja myös ihmisten ja koneiden yhteistyöllä on merkittävä ja kauaskantoinen vaikutus tulevaisuuden sosiaaliseen muotoon.Tekoälyn aikakaudella tekoäly-hallusinaatioista on tullut yleinen ilmiö. Mahdollisista väärinarvioinneista itseohjautuvissa autoissa älykkäiden avustajien ohjeiden väärintulkintaan ja lääketieteellisten diagnostisten työkalujen virhediagnooseihin, tekoälyilluusioita on läsnä jokapäiväisessä elämässämme. Vuonna 2024 Google-hakukone lanseerasi tekoälyn hakupalvelun: AI Overview, joka tarjoaa tekoälyn luomia vastauksia. Alkuperäinen tarkoitus oli parantaa käyttökokemusta, mutta käyttäjät huomasivat pian, että tekoälykatsauksessa oli paljon törkeitä vastauksia, kuten ehdotuksia liiman käyttämisestä pizzan kiinnittämiseen ja kivien syömiseen päivittäin ravinteiden saamiseksi jne., mikä aiheutti Googlen. sulkea nopeasti joitakin sen toimintoja.Tekoälytutkijoiden näkökulmasta tekoäly-illuusio on olennaisesti väistämätön teknisten rajoitusten ja ihmisen kognition puutteiden vuoksi. Vaikka teknikot tekevät lujasti töitä parantaakseen tekoälyn tarkkuutta ja luotettavuutta, tekoälyilluusioita esiintyy edelleen usein, ja niitä on vaikea poistaa kokonaan sellaisten tekijöiden vuoksi kuin puutteelliset tiedot, algoritmien rajoitukset ja monimutkaiset interaktiiviset ympäristöt.AI-hallusinaatioiden mekanismi sisältää monia näkökohtia. Ensinnäkin dataharha on yksi tärkeimmistä syistä, jos tekoälyn harjoitustiedoista puuttuu monimuotoisuutta tai se on järjestelmällistä, tulosten tulokset voivat olla hallusinatiivisia. Toiseksi nykyiset tekoälyalgoritmit, varsinkin tilastoihin perustuvat, eivät pysty sopeutumaan täydellisesti uusiin, ennennäkemättömiin tilanteisiin, mikä voi johtaa virheellisiin arvioihin. Kolmanneksi ihmisten suunnittelijoiden kognitiiviset rajoitukset ovat myös suuri ongelma. Suunnittelijoiden ja kouluttajien subjektiiviset ennakkoluulot voivat vahingossa koodata tekoälyjärjestelmään, mikä vaikuttaa sen päätöksentekoon. Lopuksi, vuorovaikutteinen ympäristö, jossa tekoälyjärjestelmä toimii, on täynnä muuttujia. Monimutkaiset ja muuttuvat ympäristötekijät ylittävät usein tekoälyjärjestelmän prosessointiominaisuudet, mikä johtaa tekoälyharhojen syntymiseen.Kuinka käsitellä tekoälyn hallusinaatioiden kaikkialla esiintymistä ja väistämättömyyttä? Ensinnäkin tietojen laadun ja monimuotoisuuden parantaminen on olennaista. Harjoitteludatan laajuutta ja syvyyttä lisäämällä voidaan vähentää dataharhaa ja parantaa tekoälyjärjestelmän yleistyskykyä. Toiseksi algoritmin suunnittelun optimointi ja sen kestävyyden ja mukautumiskyvyn parantaminen voi auttaa tekoälyjärjestelmää selviytymään paremmin uusista tilanteista. Kolmanneksi on myös ratkaisevan tärkeää parantaa käyttäjien koulutusta ja tietoisuutta. Käyttäjien auttaminen ymmärtämään tekoälyn ominaisuudet ja rajoitukset voivat tehokkaasti vähentää väärinkäsitysten aiheuttamia illuusioita. Lisäksi eettisten normien ja valvontamekanismien luominen sen varmistamiseksi, että tekoälyn kehittäminen ja soveltaminen noudattaa eettisiä ja oikeudellisia standardeja, on yhtä tärkeää tekoälyharhojen esiintymisen vähentämiseksi. Lopuksi, tieteidenvälisellä yhteistyöllä on keskeinen rooli tekoäly-hallusinaatioiden käsittelyssä. Insinöörien, datatieteilijöiden, psykologien, eettikkojen ja lakiasiantuntijoiden tulisi osallistua yhdessä tekoälyjärjestelmien suunnitteluun ja arviointiin ja yhdessä ratkaista tekoälyilluusio-ongelma oman alansa ammatillisista näkökulmista.Tekoälyn aikakaudella tekoälyn hallusinaatiot ovat monimutkainen, yleinen ja väistämätön ongelma, mikä edellyttää moniulotteisten ja monitasoisten strategioiden omaksumista sen käsittelemiseksi, mikä minimoi tekoälyn kielteisen vaikutuksen. Unescon vuonna 2023 julkaisemassa "Guidelines for Generative Artificial Intelligence in Education and Research" -oppaassa suositellaan, että tekoälytyökalujen alaikäraja luokkahuoneessa on 13 vuotta. Open AI suosittelee, että alle 13-vuotiaat lapset eivät saa käyttää generatiivista tekoälyä, ja 13–18-vuotiaiden on käytettävä sitä huoltajan ohjauksessa.Singaporessa järjestetään vuonna 2023 Trusted Media Summit, jossa kerrotaan eri maiden toimenpiteistä nuorten medialukutaidon parantamiseksi. Esimerkiksi "SQUIZ KIDS", ulkomailla käynnistetty, verkkosivuihin ja podcasteihin perustuva julkinen hyvinvointitoiminta, joka on suunnattu ala-asteen oppilaille medialukutaidon parantamiseen, auttaa kehittämään nuorten kykyä erottaa Internetissä esiintyvistä vääristä tiedoista. Se koostuu pääasiassa kolmesta vaiheesta: PYSÄYTÄ, kun se altistuu verkkotiedoille, mieti sitä (THINK) ja lopuksi tarkista pari (TARKISTA) varmistaaksesi, että se on yhdenmukainen luotettavan tietolähteen kanssa. Keräämällä tietoa ja taitoja eri aloilta ongelmien kokonaisvaltaisemmaksi tunnistamiseksi ja ratkaisujen löytämiseksi voimme odottaa älykkäämmän, turvallisemman ja luotettavamman tekoälyyhteiskunnan saapumista. (Kirjoittaja on professori School of Media Sciencessa Northeast Normal Universityssä ja Jilinin maakunnan koulutus- ja tekoälyn integroidun innovaatiotekniikan keskuksen johtaja) ▲
