notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Rapporto sul cuore della macchina

Editore: Asia Oriole, Big Pan Chicken, Du Wei

La disputa tra open source e closed source va avanti da molto tempo e ora potrebbe aver raggiunto un nuovo culmine.

Quando si tratta di modelli di grandi dimensioni open source, la serie Llama è stata un tipico rappresentante sin dalla sua nascita. Le sue eccellenti prestazioni e le caratteristiche open source hanno notevolmente migliorato l'applicabilità e l'accessibilità della tecnologia dell'intelligenza artificiale. Qualsiasi ricercatore e sviluppatore può trarne vantaggio, rendendo la ricerca e le applicazioni più diffuse.

Ora Meta Llama 3.1 405B è stato ufficialmente rilasciato. Nel blog ufficiale, Meta ha affermato: "Fino ad oggi, i modelli linguistici di grandi dimensioni open source sono rimasti per lo più indietro rispetto ai modelli chiusi in termini di funzionalità e prestazioni. Ora stiamo inaugurando una nuova era guidata dall'open source".

Allo stesso tempo, il fondatore e CEO di Meta Zuckerberg ha scritto personalmente un lungo articolo in cui spiega l'importanza dell'open source a tutti gli sviluppatori, a Meta e al mondo. Ha affermato che l’open source è una condizione necessaria per lo sviluppo positivo dell’intelligenza artificiale. Prendendo come esempio lo sviluppo di Unix e Linux, l’intelligenza artificiale open source sarà più favorevole all’innovazione, alla protezione dei dati e all’efficienza in termini di costi.

Crede inoltre che il modello open source Llama possa creare un ecosistema completo per garantire il progresso tecnologico e non perdere vantaggi a causa della concorrenza. Meta ha una storia di successo nell’open source. Attraverso modelli di intelligenza artificiale open source, Zuckerberg spera di promuovere l’uguaglianza e l’applicazione sicura della tecnologia globale.

Link originale: https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/

Quello che segue è il contenuto originale:

Zuckerberg inietta geni open source in Meta

Agli albori del calcolo ad alte prestazioni, le principali aziende tecnologiche investivano molto nello sviluppo delle proprie versioni closed-source di Unix. All’epoca era difficile immaginare un altro modo per sviluppare un software così avanzato.

Tuttavia, Linux open source divenne gradualmente popolare: inizialmente perché consentiva agli sviluppatori di modificare liberamente il codice ed era più conveniente, ma in seguito divenne più avanzato, più sicuro e aveva un ecosistema più ampio rispetto a qualsiasi Unix closed source, supportando più funzioni. Oggi Linux rappresenta la base standard del settore per il cloud computing e il sistema operativo che esegue la maggior parte dei dispositivi mobili e tutti traggono vantaggio dai suoi prodotti superiori.

Credo che lo sviluppo dell’intelligenza artificiale seguirà una traiettoria simile.Oggi alcune aziende tecnologiche stanno sviluppando modelli closed-source leader, ma l’open source sta rapidamente colmando il divario.

L'anno scorso il Llama 2 era paragonabile solo al modello della generazione precedente. E già quest'anno il Llama 3 compete, o addirittura supera, in alcuni settori, i modelli leader del settore. A partire dal prossimo anno, prevediamo che i futuri modelli Llama diventeranno i modelli di grandi dimensioni più avanzati del settore. Llama ha anche aperto la strada all’apertura, alla modificabilità e al rapporto costo-efficacia.

Oggi stiamo facendo il passo successivo: rendere l’intelligenza artificiale open source lo standard del settore. Abbiamo rilasciato il primo modello AI open source all'avanguardia Llama 3.1 405B, nonché versioni migliorate dei modelli Llama 3.1 70B e 8B. Rispetto ai modelli closed source, questi modelli open source sono significativamente più convenienti, in particolare la natura open source del modello 405B, che lo rende la scelta migliore per la messa a punto e la distillazione di piccoli modelli.

Oltre a rilasciare questi modelli, stiamo anche lavorando con diverse aziende per espandere l’ecosistema più ampio. Amazon, Databricks e Nvidia stanno lanciando suite complete di servizi per consentire agli sviluppatori di mettere a punto e distillare i propri modelli. Innovatori come Groq hanno creato servizi di inferenza a bassa latenza e a basso costo per tutti i nuovi modelli.

Questi modelli saranno disponibili su tutte le principali piattaforme cloud tra cui AWS, Azure, Google, Oracle e altre. Scale.AI, Dell, Deloitte e altri sono già pronti ad aiutare le aziende ad adottare Llama e ad addestrare modelli personalizzati utilizzando i propri dati. Man mano che la comunità cresce e sempre più aziende sviluppano nuovi servizi, insieme possiamo rendere Llama lo standard del settore e portare i vantaggi dell’intelligenza artificiale a tutti.

Meta è impegnata nell'intelligenza artificiale open source Ecco i motivi per cui penso che l'open source sia la migliore piattaforma di sviluppo, perché Llama open source è positivo per Meta e perché l'intelligenza artificiale open source è positiva per il mondo e durerà a lungo. .

IA open source per gli sviluppatori

Quando parlo con sviluppatori, amministratori delegati e funzionari governativi di tutto il mondo, di solito sento alcuni temi:

• Dobbiamo addestrare, perfezionare e distillare i nostri modelli. Ogni organizzazione ha esigenze diverse che possono essere soddisfatte al meglio utilizzando modelli addestrati o perfezionati su scale diverse e con dati specifici. Le attività sul dispositivo e le attività di classificazione richiedono modelli di piccole dimensioni, mentre le attività più complesse richiedono modelli di grandi dimensioni. Ora puoi prendere modelli di lama all'avanguardia, continuare ad addestrarli sui tuoi dati e poi distillarli nella dimensione del modello che meglio si adatta alle tue esigenze, senza che noi o nessun altro veda i tuoi dati.
• Dobbiamo controllare il nostro destino e non essere "bloccati" da fornitori closed source. Molte organizzazioni non vogliono fare affidamento su un modello che non possono gestire e controllare da sole. Non vogliono che i fornitori di modelli closed source siano in grado di modificare il modello, modificare i termini di utilizzo o addirittura interrompere completamente il servizio. Inoltre, non vogliono essere vincolati a un’unica piattaforma cloud con diritti esclusivi sui loro modelli. L'open source consente un ampio ecosistema di toolchain compatibili tra cui puoi passare facilmente.
• Dobbiamo proteggere i nostri dati. Molte organizzazioni gestiscono dati sensibili che devono essere protetti e che non possono essere inviati a un modello closed source tramite API cloud. Alcune organizzazioni semplicemente non si fidano dei fornitori di modelli closed source per quanto riguarda i propri dati. L'open source risolve questi problemi perché ti consente di eseguire il modello ovunque tu voglia. È noto che il software open source è più sicuro perché il processo di sviluppo è più trasparente.
• Abbiamo bisogno di un modello che sia efficiente ed economico.Gli sviluppatori possono eseguire Llama 3.1 405B sulla propria infrastruttura per l'inferenza a circa il 50% del costo dell'utilizzo di modelli closed source (come GPT-4), adatti per attività di inferenza lato utente e offline.
• Vogliamo investire in ecosistemi che diventeranno lo standard a lungo termine.Molti ritengono che l’open source si evolva più rapidamente rispetto ai modelli chiusi e desiderano costruire i propri sistemi su un’architettura che offra i maggiori vantaggi a lungo termine.

AI open source su Meta

Il modello di business di Meta è costruire le migliori esperienze e servizi per le persone. Per raggiungere questo obiettivo, dobbiamo garantire di avere sempre accesso alla migliore tecnologia e non essere bloccati in un ecosistema chiuso di concorrenti in modo che non possano limitare ciò che sviluppiamo.

Voglio condividere un'esperienza importante: sebbene Apple ci consenta di creare contenuti sulla sua piattaforma, siamo ancora limitati quando si tratta di creare servizi. Che si tratti delle tasse che impongono agli sviluppatori, delle regole arbitrarie che impongono o di tutta l'innovazione di prodotto che impediscono, è chiaro che se possiamo costruire le migliori versioni dei nostri prodotti e i concorrenti non possono limitare ciò che costruiamo, Meta e molti altri le aziende saranno in grado di fornire servizi migliori alle persone. A livello filosofico, questo è un grande motivo per cui credo così fortemente nella costruzione di un ecosistema aperto per la prossima generazione di computer nei settori dell’intelligenza artificiale e dell’AR/VR.

Le persone spesso mi chiedono se sono preoccupato di perdere il vantaggio tecnico con l'open source Llama, ma penso che questo non perda il quadro più ampio per alcuni motivi:

Innanzitutto, per garantire di poter mantenere la leadership tecnologica a lungo termine e non rimanere bloccati in un ecosistema closed-source, Llama deve evolversi in un ecosistema completo che includa strumenti, miglioramenti dell’efficienza, ottimizzazioni dell’hardware e altre integrazioni. Se la nostra azienda fosse l'unica azienda a utilizzare Llama, l'ecosistema non crescerebbe e non staremmo meglio che con le varianti closed-source di Unix.

In secondo luogo, mi aspetto che lo sviluppo dell’intelligenza artificiale continui a essere altamente competitivo, il che significa che l’open source di un modello in un dato momento non ci costa un enorme vantaggio nella competizione rispetto al modello migliore successivo.Il percorso di Llama per diventare uno standard del settore è rimanere competitivo, efficiente e aperto generazione dopo generazione.

In terzo luogo, una differenza fondamentale tra Meta e i fornitori di modelli closed source è che la vendita dell’accesso ai modelli AI non è il nostro modello di business. Ciò significa che il rilascio pubblico di Llama non comprometterà le nostre entrate, la sostenibilità o la capacità di investire nella ricerca, a differenza dei fornitori closed source. (Questo è uno dei motivi per cui alcuni fornitori di codice chiuso hanno esercitato pressioni sugli amministratori pubblici contro l’open source.)

Infine, Meta ha una vasta esperienza di successo con progetti open source. Abbiamo risparmiato miliardi di dollari condividendo i nostri progetti di server, reti e data center con l'Open Compute Project e standardizzando la catena di fornitura. Grazie all'open source di strumenti leader come PyTorch, React e altri, traiamo grandi vantaggi dall'innovazione nell'ecosistema. Questo approccio è stato estremamente efficace per molto tempo.

IA open source per il mondo

Credo che l’open source sia necessario per il futuro dell’intelligenza artificiale. L’intelligenza artificiale ha il potenziale per aumentare la produttività, la creatività e la qualità della vita umana più di qualsiasi altra tecnologia moderna e per far avanzare la ricerca medica e scientifica accelerando al tempo stesso la crescita economica.L’open source garantirà che più persone in tutto il mondo possano ottenere vantaggi e opportunità dallo sviluppo dell’intelligenza artificiale, che il potere non sia concentrato nelle mani di poche aziende e che la tecnologia possa essere distribuita in modo più uniforme e sicuro nella società.

È in corso un dibattito sulla sicurezza dei modelli di intelligenza artificiale open source. Il mio punto è che l’intelligenza artificiale open source sarà più sicura delle alternative. Penso che i governi alla fine giungeranno alla conclusione di sostenere l’open source perché renderà il mondo più prospero e sicuro.

Nel quadro della sicurezza, da quanto ho capito, dobbiamo proteggerci da due tipi di danni: involontari e intenzionali.

• Il danno involontario si riferisce alla possibilità che un sistema di intelligenza artificiale possa causare involontariamente danni durante il funzionamento. Ad esempio, i moderni modelli di intelligenza artificiale potrebbero inavvertitamente fornire consigli sanitari errati. Oppure, negli scenari futuri, si teme che i modelli possano inavvertitamente replicarsi o ottimizzare eccessivamente gli obiettivi, a scapito degli esseri umani.
• Il danno intenzionale si verifica quando i malintenzionati utilizzano un modello di intelligenza artificiale con l'intento di causare danni.

Vale la pena notare che i danni involontari coprono la maggior parte delle preoccupazioni che le persone hanno riguardo all’intelligenza artificiale, dall’impatto dei sistemi di intelligenza artificiale su miliardi di utenti agli scenari fantascientifici più catastrofici. A questo proposito, la sicurezza offerta dall’open source è ancora più significativa perché il sistema è più trasparente e può essere ampiamente controllato.

Storicamente, per questo motivo, il software open source è stato più sicuro. Allo stesso modo, l’utilizzo di Llama e dei suoi sistemi di sicurezza come Llama Guard può essere più sicuro e affidabile rispetto a un modello closed-source. Di conseguenza, la maggior parte delle discussioni sulla sicurezza dell’IA open source si concentra sul danno intenzionale.

Il nostro processo di sicurezza comprende test rigorosi e valutazioni del team rosso per verificare se i nostri modelli hanno il potenziale per causare danni materiali, con l'obiettivo di mitigare i rischi prima del rilascio. Poiché questi modelli sono open source, chiunque può testarli da solo. Dobbiamo tenere presente che questi modelli sono addestrati su informazioni già disponibili su Internet, quindi quando si considera il danno, il punto di partenza dovrebbe essere se il modello può causare più danni delle informazioni ottenute rapidamente da Google o da altri risultati di ricerca.

Sarebbe utile ragionare sul danno intenzionale distinguendo ciò che i singoli attori o gli attori su piccola scala possono fare da ciò che possono fare gli attori su larga scala con vaste risorse, come gli Stati.

Ad un certo punto del futuro, singoli autori malintenzionati potrebbero sfruttare l’intelligenza dei modelli di intelligenza artificiale per creare nuovi tipi di danno dalle informazioni già disponibili su Internet. A questo punto, l’equilibrio di potere è fondamentale per la sicurezza dell’IA.

Penso che sarebbe meglio vivere in un mondo in cui l’intelligenza artificiale è ampiamente utilizzata, consentendo ai grandi attori di controbilanciare i piccoli attori malintenzionati. Questo è anche il modo in cui gestiamo la sicurezza sui social network, con sistemi di intelligenza artificiale più potenti che identificano e bloccano attori meno sofisticati che spesso utilizzano sistemi di intelligenza artificiale su scala ridotta.

Più in generale, le grandi istituzioni contribuiranno alla sicurezza e alla stabilità della società quando implementeranno l’intelligenza artificiale su larga scala. Finché tutti avranno accesso a un modello generazionale, i governi e le istituzioni con maggiori risorse informatiche saranno in grado di controbilanciare gli attori malintenzionati con minori risorse informatiche.

Quando si considerano le opportunità future, è bene ricordare che la maggior parte delle aziende tecnologiche e della ricerca scientifica leader di oggi si basano su software open source. Se investiamo insieme nell’intelligenza artificiale open source, la prossima generazione di aziende e ricercatori avrà accesso ad essa. Ciò include le start-up che hanno appena iniziato, così come le persone nelle università e nei paesi che potrebbero non avere le risorse per sviluppare SOTA AI da zero.

Nel loro insieme, l’intelligenza artificiale open source rappresenta il massimo utilizzo globale possibile di questa tecnologia per creare opportunità economiche e sicurezza per tutti.

La cooperazione è stabile, l’open source è di vasta portata

Nei precedenti modelli Llama, Meta ha rilasciato questi modelli per il proprio sviluppo senza concentrarsi sulla costruzione di un ecosistema più ampio. Per questo lancio abbiamo adottato un approccio diverso. Stiamo costruendo team internamente per rendere Llama disponibile al maggior numero possibile di sviluppatori e partner e stiamo costruendo attivamente partnership in modo che più aziende nell'ecosistema possano offrire funzionalità uniche ai propri clienti.

Credo che il rilascio di Llama 3.1 rappresenterà un punto di svolta nel settore e la maggior parte degli sviluppatori inizierà a utilizzare la tecnologia open source e prevedo che questo approccio inizierà con la nostra tecnologia open source.

Spero che potremo lavorare insieme per portare i vantaggi dell’intelligenza artificiale nel mondo.

Puoi accedere a questi modelli ora su llama.meta.com.

Marco Zuckerberg