uutiset

Viime aikoina kotimainen AAA-pelimestariteos "Black Myth: Wukong" on tullut suosituksi kaikkialla Internetissä ja herättää maailmanlaajuista huomiota pian julkaisunsa jälkeen. National Games bestseller -luettelon tilastojen mukaan pelin kokonaismyynti useilla alustoilla ylitti yhdessä päivässä 4,5 miljoonaa kappaletta ja kokonaismyynti yli 1,5 miljardia yuania. Samaan aikaan sen pelien suosio on joutunut myös "uhreihin".

Sinä päivänä, jolloin "Black Myth: Wukong" avattiin Steamissä, tunnettu peliankkuri kärsi 3D-huimauksesta pelatessaan peliä livenä. Tämän seurauksena se nousi suosituimpien hakujen listan kärkeen Weibossa, ja sitä kutsuttiin vitsillä "Black Myth". : Wukong", monet nettimiehet. "Maailman ensimmäinen uhri". Ja 21. elokuuta ilmestyi toinen pelin "uhri", ja hänen kokemuksensa olivat itse asiassa samanlaisiaMicrosoftliittyvät.

"Black Myth Wukong Customer Service" kirjoittaminen Microsoftin Bing-hakuun näyttää virheellisesti Jifeng.comin työntekijän henkilökohtaisen matkapuhelinnumeron, joka ei ole virallinen asiakaspalvelunumero. Lisäksi kaksi väärää puhelinnumeroa merkittiin asiakaspalveluksi, mukaan lukien Kiinan Business Newsin tekijänoikeusosaston yhteysnumero ja sähköpostiosoite.

Puhelinnumero vuotanut henkilö kertoi saaneensa 5 tunnin aikana lähes 20 puhelua. On raportoitu, että suurin syy tähän tapaukseen oli Microsoft Bing AI Assistentti nappasi vahingossa tietonsa, mikä johti hänen henkilökohtaisten tietojensa vuotamiseen. Myöhemmin, vaikka asiaankuuluvat napatut artikkelit poistettiin ja uhri teki valituksen ja muuta palautetta, väärät "Black Myth Wukongin asiakaspalvelu" -tiedot ilmestyivät edelleen. Bing-haun kotisivu. Tällä hetkellä hakutilanteesta päätellen Bing-tiimi on korjannut virheelliset tiedot.

Maailman toiseksi suurin hakukone Microsoft Bing kattaa 36 maata ja aluetta yli 600 miljoonalla käyttäjällä. 7. helmikuuta 2023 Microsoft ilmoitti, että se tekisi ChatGPT Integroituna uuteen versioon Bing (New Bing), integroitu uusi versio Bing hyväksyyOpenAI AI malliGPT Päivitetty versio 3.5GPT-4. Tämä tapaus voi viitata siihen, että tekoälyhakukoneissa on tiettyjä puutteita tiedon keräämisessä ja käsittelyssä.

Viime kuussa Microsoft ilmoitti suuresta päivityksestä Bingiin. Hakukone muuttuu kattavasti ja se alkaa priorisoida tekoälyn luomia vastauksia. Toisin sanoen, kun käyttäjä syöttää hakukyselyn, tekoälyn luoma päävastaus ponnahtaa näkyviin tulossivulle, jossa on yksityiskohtaiset tiedot kaikista tulosten saamiseen käytetyistä kuratoiduista tietolähteistä. Näet tietysti edelleen perinteiset hakutulokset Bing-hakusivulla, mutta ne näkyvät tekoälyn luoman materiaalin vieressä (pienemmässä ruudussa oikealla).

Mitä tulee tähän muutokseen, Microsoft selitti virallisessa blogiviestissä: "Tämä uusi kokemus tulee olemaan Bingin hakutulosten luontainen perusta suuren/pienen kielimallin kanssa (LLM Yhdessä SLM:n tehokkaiden toimintojen kanssa). Se ymmärtää hakukyselyt, hakee miljoonia tietolähteitä, vastaa dynaamisesti sisältöä ja näyttää hakutulokset uusissa tekoälyn luomissa asetteluissa vastatakseen tehokkaammin käyttäjien kyselyihin. "

Microsoft listasi myös joitain esimerkkejä blogikirjoituksessaan Bingin generatiivisesta hausta. Yhteenvetotoiminnon hahmottamisen lisäksi Microsoft tarjoaa myös ensisijaiset lähdelinkit suurille kielimalleille ja pienille kielimalleille, joita käytetään käyttäjien näkemien vastausten luomiseen. Kun tekoäly on luonut tulokset, tulosmerkinnöistä on säännöllinen luettelo.

Esimerkiksi kun kysely "Kuinka kauan norsut elävät?", vastauksen yhteenveto sisältää myös videoita, jotka vaikuttavat norsujen elinikään, jos käyttäjä hakee "Mikä on spagetti western?", Bingin generatiivinen haku tekee Näyttää tietoja tämän elokuvan alalajin historiasta, alkuperästä ja klassikoista sekä linkit ja lähteet näihin tietoihin.

Tuolloin Microsoft sanoi, että tämä säätö otettiin käyttöön vain pienelle määrälle Bing-käyttäjiä, mutta sitä pitäisi asteittain laajentaa lähitulevaisuudessa. Microsoft ilmoitti myös blogikirjoituksessaan, että he jatkavat tekoälyhaun vaikutusten arvioimista verkkosivustoille ja lukijoille. Jotkut alan ihmiset ovat huolissaan siitä, että josAIVerkkosivustot, jotka luovat sisältöä ilmaiseksi, lakkaavat lopulta toimimasta, jos bottien kaavittu sisältö hahmonnetaan suoraan chat-ikkunoissa tai hakusivuilla.

Vastauksena Microsoft sanoi, että tämä uusi tekoälyhakukokemus on rakennettu alusta alkaen tätä ongelmaa silmällä pitäen, mikä säilyttää saman määrän verkkosivustojen napsautuksia kuin perinteinen haku. Aika näyttää, pitääkö tämä paikkansa. Lisäksi ymmärretään, että Bing voi halutessaan sammuttaa tekoälyn luontitoiminnon tulossivulla ja näyttää vain perinteisiä hakukatkelmia.

Microsoft ei ole nyt ainoa selainyritys, joka lisää tekoälyn luomia tuloksia hakusivuille. Kun Microsoft julkaisee lisää työkaluja Bingille, kilpailu uusien tekoälyominaisuuksien tuomisesta hakuun kiihtyy vähitellen.

Lukemattomat tosielämän tapaukset osoittavat kuitenkin, että tekoälyhaku ei ole niin luotettava ja tarkka kuin luulemme - se voi tehdä virheitä ja joissain tapauksissa jopa näyttää vääriä tietoja ja ehdotuksia luoduissa tuloksissa.

Aiemmin tänä vuonnaGoogleSamanlainen työkalu nimeltä AI Overview on lanseerattu pitämään käyttäjät, jotka haluavat etsiä vastauksia kysymyksiin suoraan AI-chatboteista. Mutta työkalu on myös vitsaillyt julkaisunsa jälkeen, kuten ehdotettu liiman lisäämistä juuston tarttumisen saamiseksi pizzaan ja vastannut "Geologit suosittelevat syömään vähintään yhden pienen kiven joka päivä."

Tekoälytilassa oleva Arc Search -selain lupaa antaa sopimattomia lääketieteellisiä neuvoja ja sanoo: "Katkaistu varvas kasvaa lopulta takaisin."

Tekoälyhakukone Genspark suosittelee käyttäjille aseita, joita voidaan käyttää ihmisten tappamiseen.Hämmennys He plagioivat joidenkin tiedotusvälineiden kirjoittamia uutisartikkeleita, mutta eivät ilmoittaneet lähdettä tai tekijänoikeuksien omistajuutta.

Lisäksi tekoälyn luomat yhteenvedot voivat kannibaloida liikennettä verkkosivustolle, jolta ne on johdettu. Eräässä tutkimuksessa havaittiin, että tekoälykatkelmat voivat vähentää sisällön julkaisijoiden liikennettä noin 25 %, koska artikkelilinkkien painoarvoa ei ole huomioitu.

Nämä nousevat tekoälyhakukoneet ovat suosittuja kyvystään luoda nopeasti suuria määriä tekstiä ja jäljitellä ihmisten tekstiä vakuuttavilla tehosteilla, mutta kulissien takana tekoälyn "illuusio" on myös vaikuttanut näihin chatboteihin. seuraavalle tasolle. Valitettavasti jotkut asiantuntijat varoittavat, että tilannetta ei ehkä koskaan ratkaista.

Associated Pressin julkaisema uusi raportti korostaa, että suuren kielimallin (LLM) "hölynpölyä" koskeva ongelma ei ehkä ole niin helppo ratkaista kuin monet teknologian perustajat ja tekoälyn kannattajat väittävät. Washingtonin yliopiston Computational Linguistics Laboratoryn kielitieteen professori Emily Bender ilmaisi pessimismin "Halusinaatio-ongelma on yksinkertaisesti ratkaisematon, ja se on väistämätön seuraus tekniikan ja ehdotettujen käyttötapausten välisestä yhteensopimattomuudesta."

Jasper AI:n presidentin Shane Orlickin mukaan on tilanteita, joissa asianmukainen "paska" ei ole huono asia. Orlick selitti: "Illuusiot voivat itse asiassa tuoda lisähyötyjä. Asiakkaat ovat aina kiittäneet meitä inspiraatiosta. Perimmäinen syy on se, että tekoäly voi tuottaa tarinoita tai näkökulmia, joita asiakkaat eivät ole koskaan tulleet ajatelleeksi erilaisten sattumien johdosta."

Samoin tekoäly-illuusio auttaa suuresti tekoälykuvan luomisessa. Mallit, kuten Dall-E ja Midjourney, luottavat tähän mielikuvitukseen katseenvangitsevien ja upeiden kuvien luomisessa. Toisin sanoen vain tekstin luomisen alalla hallusinaatiot ovat käyttäjiä todella vaivaava ongelma, varsinkin skenaarioissa, joissa tarkkuutta korostetaan voimakkaasti, kuten uutisraportointi.

Bender huomauttaa: "Suurten kielimallien perusperiaate on "kehittää" sisältö, joka on niiden kaikkien toimintojen juuri. Mutta koska voima tulee asioiden keksimisestä, kun niiden tuottama teksti sattuu vastaamaan oikein kehotettamme. Tämä tilanne Pikemminkin on sattumaa, vaikka hienosäädetyt mallit olisivat oikeita suurimman osan ajasta, ne eivät silti ole täysin immuuneja häiriöille, ja tulevaisuuden illuusio on todennäköisesti olemassa epäselvänä, joka on vaikeampi. jotta tekstin lukijat huomaavat."

Suuri kielimalli on tehokas työkalu, jolla voidaan saavuttaa poikkeuksellisia toimintoja, mutta yritysten ja jopa koko teknologiateollisuuden on ymmärrettävä, että vain siksi, että jokin on tehokasta, sitä ei voida pitää hyödyllisenä työkaluna. Vasarapora sopii erinomaisesti päällysteen ja asfaltin murtamiseen, mutta kukaan ei uskalla viedä sitä arkeologiseen kaivaukseen.

Kuten Bender huomautti, sillä hetkellä, kun suuri kielimalli aloittaa harjoittelun, se yrittää ennustaa sekvenssin seuraavan sanan sille antamiemme vihjesanojen perusteella. Jokaiselle harjoitustietojen sanalle annetaan paino tai prosenttiosuus, jotta voidaan seurata tietyn sanan aikaisempia esiintymiä tietyssä kontekstissa. Mutta näillä ensimmäisillä sanoilla itsessään ei ole tarpeeksi konkreettista merkitystä tai tärkeää kontekstia tarkan tulosteen varmistamiseksi.

Toisin sanoen nämä suuret kielimallit ovat vain mahtavia jäljittelijöitä. He eivät itse asiassa tiedä mistä puhuvat, joten niihin liiallinen luottaminen aiheuttaa vain ongelmia. Tämä heikkous on luontainen suurille kielimalleille, ja vaikka "illuusio" saattaa vähitellen heiketä tulevissa iteraatioissa, itse ongelmaa ei ehkä koskaan korjata.

Viitelinkit:

https://www.engadget.com/microsoft-is-adding-ai-powered-summaries-to- 必应 -search-results-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ 必应 -has-been-revamped-to-prioritize-ai-search-results-whether-you-like-it-or-not

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/