notizia

Recentemente, il capolavoro nazionale del gioco AAA "Black Myth: Wukong" è diventato popolare su Internet, attirando l'attenzione globale subito dopo il suo lancio. Secondo le statistiche dell'elenco dei bestseller dei National Games, in un solo giorno, le vendite totali del gioco su più piattaforme hanno superato i 4,5 milioni di copie e le vendite totali hanno superato 1,5 miliardi di yuan. Allo stesso tempo, ci sono state anche alcune "vittime" implicate nella popolarità dei suoi giochi.

Il giorno in cui "Black Myth: Wukong" è stato sbloccato su Steam, un noto conduttore del gioco ha sofferto di vertigini 3D mentre giocava al gioco dal vivo. Di conseguenza, è stato in cima alla lista delle ricerche più frequenti su Weibo ed è stato scherzosamente chiamato "Black Myth : Wukong" da molti netizen. "La prima vittima del mondo". E il 21 agosto è apparsa un'altra "vittima" del gioco, e le sue esperienze correlate erano in realtà similiMicrosoftimparentato.

Inserendo "Black Myth Wukong Customer Service" nella ricerca Bing di Microsoft viene visualizzato erroneamente il numero di cellulare personale di un dipendente di Jifeng.com, che non è il numero ufficiale del servizio clienti. Inoltre, sono stati contrassegnati come servizio clienti due numeri di telefono errati, incluso il numero di contatto e l'indirizzo e-mail del Dipartimento di copyright di China Business News.

La persona di cui è trapelato il numero di telefono ha affermato di aver ricevuto quasi 20 chiamate in 5 ore. È stato riferito che il motivo principale di questo incidente è stato Microsoft Bing Intelligenza artificiale L'assistente ha erroneamente acquisito informazioni, il che ha portato alla fuga delle sue informazioni personali. Successivamente, sebbene gli articoli pertinenti acquisiti siano stati cancellati e la vittima abbia presentato un reclamo e altri feedback, le informazioni errate "Black Myth Wukong Customer Service" sono ancora apparse su Bing. cerca nella home page. Attualmente, a giudicare dalla situazione della ricerca, il team di Bing ha corretto le informazioni errate.

Essendo il secondo motore di ricerca più grande al mondo, Microsoft Bing copre 36 paesi e regioni con oltre 600 milioni di utenti. Il 7 febbraio 2023, Microsoft ha annunciato che lo avrebbe fatto ChatGPT Integrato nella nuova versione di Bing (Nuovo Bing), adotterà la nuova versione integrata di BingIA aperta Modello di intelligenza artificialeGPT Versione aggiornata di 3.5GPT-4. Questo incidente potrebbe indicare che i motori di ricerca AI presentano alcune carenze nell’acquisizione e nell’elaborazione delle informazioni.

Il mese scorso, Microsoft ha annunciato un importante aggiornamento per Bing. Il motore di ricerca subirà una trasformazione completa e inizierà a dare priorità alle risposte generate dall'intelligenza artificiale. Cioè, quando un utente inserisce una query di ricerca, nella pagina dei risultati viene visualizzata una risposta principale generata dall'intelligenza artificiale, che descrive in dettaglio tutte le fonti di informazioni selezionate utilizzate per ottenere i risultati. Naturalmente, vedrai ancora i risultati della ricerca tradizionale nella pagina di ricerca di Bing, ma verranno visualizzati accanto al materiale generato dall'intelligenza artificiale (in un riquadro più piccolo a destra).

Riguardo a questo cambiamento, Microsoft ha spiegato in un post sul blog ufficiale: "Questa nuova esperienza sarà la base intrinseca dei risultati di ricerca di Bing, con il modello linguistico grande/piccolo (Laurea Magistrale in Giurisprudenza Abbinato alle potenti funzioni di SLM). Comprende le query di ricerca, recupera milioni di fonti di informazioni, abbina dinamicamente i contenuti e visualizza i risultati della ricerca in nuovi layout generati dall'intelligenza artificiale per soddisfare in modo più efficace l'intento della query dell'utente. "

Microsoft ha anche elencato alcuni esempi nel suo post sul blog sulla ricerca generativa di Bing. Oltre a delineare la funzione di riepilogo, Microsoft fornirà anche collegamenti a fonti primarie per modelli linguistici di grandi dimensioni e modelli linguistici di piccole dimensioni, che vengono utilizzati per creare le risposte che gli utenti vedono. Dopo che l'IA ha generato i risultati, c'è un elenco regolare di voci di risultati.

Ad esempio, quando la query "Quanto vivono gli elefanti?", il corpo riassuntivo della risposta elenca anche i video che influenzano la durata della vita degli elefanti; se l'utente cerca "Cos'è uno spaghetti western?", la ricerca generativa di Bing lo farà Visualizza informazioni sulla storia, le origini e i classici di questo sottogenere cinematografico, insieme a collegamenti e fonti a tali informazioni.

All'epoca Microsoft aveva affermato che questa modifica era stata estesa solo a un numero limitato di utenti Bing, ma che avrebbe dovuto essere gradualmente estesa nel prossimo futuro. Microsoft ha inoltre dichiarato nel suo post sul blog che continuerà a valutare l'impatto della ricerca basata sull'intelligenza artificiale su siti Web e lettori. Alcune persone nel settore sono preoccupate che seAII siti web che creano contenuti gratuitamente finiranno per fallire se i contenuti recuperati dai bot vengono visualizzati direttamente nelle finestre di chat o nelle pagine di ricerca.

In risposta, Microsoft ha affermato che questa nuova esperienza di ricerca basata sull’intelligenza artificiale è stata creata da zero tenendo presente questo problema, mantenendo quindi lo stesso numero di clic sul sito Web della ricerca tradizionale. Il tempo dirà se ciò è vero. Inoltre, resta inteso che Bing può scegliere di disattivare la funzione di generazione dell'intelligenza artificiale nella pagina dei risultati e visualizzare solo i tradizionali snippet di ricerca.

Ora, Microsoft non è l'unica azienda di browser che aggiunge risultati generati dall'intelligenza artificiale alle pagine di ricerca. Man mano che Microsoft lancia sempre più strumenti per Bing, la concorrenza per introdurre più funzionalità di intelligenza artificiale nella ricerca si sta gradualmente intensificando.

Tuttavia, innumerevoli casi reali stanno dimostrando che la ricerca basata sull’intelligenza artificiale non è così affidabile e accurata come pensiamo: può commettere errori e in alcuni casi persino visualizzare informazioni e suggerimenti errati nei risultati generati.

All'inizio di quest'anno,GoogleUno strumento simile chiamato AI Overview è stato lanciato per fidelizzare gli utenti che desiderano cercare risposte alle domande direttamente dai chatbot AI. Ma lo strumento ha fatto anche qualche battuta sin dal suo lancio, come suggerendo di aggiungere colla per far aderire il formaggio alla pizza e rispondendo "I geologi consigliano di mangiare almeno un sassolino ogni giorno".

Il browser Arc Search, in modalità AI, promette di fornire consigli medici inappropriati, dicendo: "Un dito mozzato alla fine ricrescerà".

Il motore di ricerca di intelligenza artificiale Genspark consiglia agli utenti alcune armi che potrebbero essere utilizzate per uccidere le persone.Perplessità Hanno plagiato articoli di notizie scritti da alcuni media, ma non hanno indicato la fonte o la proprietà del copyright.

Inoltre, i riepiloghi generati dall’intelligenza artificiale possono cannibalizzare il traffico verso il sito Web da cui derivano. Uno studio ha rilevato che gli estratti di intelligenza artificiale possono ridurre il traffico degli editori di contenuti di circa il 25% a causa della minore enfasi sui collegamenti agli articoli.

Questi motori di ricerca emergenti basati sull'intelligenza artificiale sono famosi per la loro capacità di generare rapidamente grandi quantità di testo e imitare il testo umano con effetti convincenti, ma dietro le quinte, l'"illusione" dell'intelligenza artificiale ha influenzato anche questi chatbot per portarla alla ribalta. livello successivo. Purtroppo alcuni esperti avvertono che la situazione potrebbe non essere mai risolta.

Un nuovo rapporto pubblicato dall’Associated Press evidenzia che il problema delle “sciocchezze” del modello linguistico di grandi dimensioni (LLM) potrebbe non essere così facile da risolvere come sostengono molti fondatori di tecnologia e sostenitori dell’intelligenza artificiale. Emily Bender, professoressa di linguistica presso il Computational Linguistics Laboratory dell'Università di Washington, ha espresso pessimismo: "Il problema delle allucinazioni è semplicemente irrisolvibile ed è un risultato inevitabile della mancata corrispondenza tra la tecnologia e i casi d'uso proposti".

Secondo Shane Orlick, presidente di Jasper AI, ci sono situazioni in cui le “stronzate” appropriate non sono una brutta cosa. Orlick ha spiegato: "Le illusioni possono effettivamente portare ulteriori vantaggi. I clienti ci hanno sempre ringraziato per l'ispirazione. La causa principale è che l'intelligenza artificiale può produrre storie o prospettive a cui i clienti non hanno mai pensato per varie coincidenze".

Allo stesso modo, l’illusione dell’intelligenza artificiale è anche di grande aiuto per la generazione di immagini AI. Modelli come Dall-E e Midjourney si affidano a questa immaginazione per generare immagini accattivanti e meravigliose. In altre parole, solo nel campo della generazione del testo, l'allucinazione è un problema che infastidisce davvero gli utenti, soprattutto in scenari in cui la precisione è fortemente enfatizzata, come le notizie.

Bender sottolinea: "Il principio di base dei modelli linguistici di grandi dimensioni è quello di" inventare "il contenuto, che è la radice di tutte le loro funzioni. Ma poiché il potere deriva dall'inventare le cose, quando il testo che producono corrisponde correttamente al nostro prompt In parole povere, questa situazione è piuttosto una questione di fortuna. Anche se i modelli perfezionati sono nella maggior parte dei casi corretti, non sono ancora del tutto immuni da difetti ed è probabile che l'illusione del futuro esista in modo confuso e più difficile. affinché i lettori di testo lo notino.

Il grande modello linguistico è uno strumento potente che può raggiungere funzioni straordinarie, ma le aziende e anche l’intero settore tecnologico devono rendersi conto che solo perché qualcosa è potente, non può essere considerato uno strumento utile. Un trapano a percussione è ottimo per sfondare il marciapiede e l'asfalto, ma nessuno osa portarlo in uno scavo archeologico.

Come ha sottolineato Bender, nel momento in cui un grande modello linguistico inizia ad allenarsi, cerca di prevedere la parola successiva nella sequenza in base alle parole chiave che gli forniamo. A ogni parola nei dati di addestramento viene assegnato un peso o una percentuale per tenere traccia delle occorrenze precedenti di una determinata parola in un determinato contesto. Ma queste prime parole stesse non hanno un significato tangibile o un contesto importante sufficienti per garantire un risultato accurato.

In altre parole, questi grandi modelli linguistici sono solo grandi imitatori: in realtà non sanno di cosa stanno parlando, quindi fidarsi troppo di loro non farà altro che mettere gli utenti nei guai. Questa debolezza è inerente ai modelli linguistici di grandi dimensioni e, sebbene l'"illusione" possa gradualmente diminuire nelle iterazioni future, il problema stesso potrebbe non essere mai veramente risolto.

Link di riferimento:

https://www.engadget.com/microsoft-sta-aggiungendo-riassuntivi-basati-su-intelligenza-artigianale-ai-risultati-della-ricerca-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ 必应 -has-been-revamped-to-prioritize-ai-search-results-whether-you-like-it-or-not

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/