notícias

Texto: Web3 Sky City·City Lord

Nesta última entrevista em Stanford, o ex-CEO do Google, Eric Schmidt, discute em profundidade a direção do desenvolvimento da inteligência artificial, o futuro da competição tecnológica global e como essas tecnologias impactarão a sociedade e a economia no curto prazo e terão um impacto profundo. segurança nacional.SchmidtEle revisou seus muitos anos de experiência na indústria de tecnologia, compartilhou suas previsões para avanços na tecnologia de inteligência artificial nos próximos anos e discutiu como esses avanços moldarão o cenário competitivo entre empresas e países, especialmente na competição entre os Estados Unidos. e China.

SchmidtÊnfase especial é colocada nos fatores complexos por trás do progresso tecnológico, como a melhoria do poder computacional, o desenvolvimento de novos algoritmos e a busca incessante do mercado por sistemas inteligentes. Ele também discute o impacto potencial da IA ​​nos mercados de trabalho, privacidade de dados, antitruste e segurança nacional, e oferece recomendações sobre como manter uma vantagem competitiva neste ambiente em rápida mudança.

O proprietário da cidade destacou especificamente que, como Schmidt, que serviu no Departamento de Defesa dos EUA por muito tempo, seu discurso e posição precisam ser diferenciados, e acredito que os leitores serão capazes de entendê-los por conta própria.

Avanços de curto prazo e impactos de longo alcance da inteligência artificial：

SchmidtPrevê-se que nos próximos um a dois anos, a inteligência artificial dará início a avanços importantes, especialmente na combinação de expansão da janela de contexto, agentes de IA e texto para operação. Estes avanços tecnológicos permitirão aos sistemas de IA lidar com tarefas complexas de forma mais eficiente, para além das suas limitações atuais. Este tipo de progresso não se limitará ao domínio técnico, mas afectará profundamente todos os aspectos da sociedade, incluindo a educação, os cuidados de saúde, o governo e as empresas. Ele enfatizou que o desenvolvimento destas tecnologias pode ter um impacto transformador que pode até ser mais profundo do que a ascensão das redes sociais.

O jogo entre a China e os Estados Unidos na competição global de ciência e tecnologia：

SchmidtUma análise detalhada da acirrada competição entre os Estados Unidos e a China no campo da inteligência artificial. Salientou que os Estados Unidos lideram actualmente em tecnologia, talento e recursos, mas para manter esta vantagem é necessário um elevado investimento contínuo e cooperação internacional, especialmente a cooperação com aliados como o Canadá, para garantir o fornecimento sustentável de energia e recursos. Enfatizou que o futuro da IA ​​não é apenas uma competição técnica, mas também um jogo estratégico entre países, envolvendo segurança nacional, competitividade económica e liderança global. Schmidt alertou que os Estados Unidos precisam de aumentar o investimento para lidar com a rápida ascensão da China no campo da IA ​​e manter o seu domínio global neste campo.

Desafios de monopólio e inovação dos gigantes da tecnologia：

Ao discutir o atual domínio dos gigantes da tecnologia,SchmidtAponta-se que a posição de monopólio de empresas como a NVIDIA no campo da IA ​​beneficia das suas fortes capacidades técnicas e vantagens de capital. Mencionou que embora existam concorrentes no mercado, desafiar o estatuto destes gigantes tecnológicos requer enormes investimentos e inovação tecnológica. Ele também expressou preocupação sobre como esses gigantes continuarão a promover a inovação tecnológica no futuro, acreditando que o desenvolvimento de IA com uso intensivo de capital pode levar a mudanças fundamentais no modelo de desenvolvimento de software, de código aberto para código fechado, consolidando ainda mais o monopólio do gigantes.

O impacto da inteligência artificial na sociedade e no mercado de trabalho：

SchmidtÉ explorado o impacto potencial da inteligência artificial na sociedade, na economia e no mercado de trabalho. Ele acredita que, embora a tecnologia de IA possa substituir algumas tarefas repetitivas, também aumentará a importância de empregos altamente qualificados e promoverá a produtividade das pessoas em tarefas complexas. Expressou também preocupação com a desigualdade social que a inteligência artificial pode trazer, salientando que os países ricos beneficiarão mais da IA, enquanto os países pobres poderão ficar para trás. também,SchmidtApela a uma regulamentação mais forte da IA ​​para abordar questões como a privacidade dos dados, os direitos de propriedade intelectual e a propagação de desinformação.

IA adversária e desafios de segurança：

SchmidtFoi feita menção especial à ameaça potencial da inteligência artificial adversária, prevendo que no futuro poderão existir sistemas de IA especialmente concebidos, utilizados para atacar e destruir outros sistemas de IA. Este desenvolvimento trará novos desafios éticos e de segurança.SchmidtRecomenda-se que a comunidade científica e tecnológica e o governo cooperem para estudar como prevenir estes riscos e formular regulamentos e normas técnicas correspondentes para garantir a segurança e credibilidade da inteligência artificial. Mencionou também que a investigação nesta área se tornará uma direcção importante para o futuro desenvolvimento científico e tecnológico e poderá receber mais atenção nas universidades e instituições de investigação.

O ex-CEO do Google fala sobre a competição global de IA: os chips dos EUA têm 10 anos de vantagem tecnológica e a China é o concorrente mais importante

= Versão compilada do texto completo do Web3 Sky City =

Professor anfitrião:

O convidado de hoje dispensa apresentações. Conheci Eric há cerca de 25 anos, quando ele veio para Stanford GSB como CEO da Novell. Desde então, ocupou cargos importantes no Google, começando em 2001, e ingressando na Schmidt Futures em 2017. Além disso, ele também participou de muitos outros projetos, e você pode conferir as informações relevantes. Então, Eric, se me permite, começarei com isso.

Em primeiro lugar, para onde você acha que a inteligência artificial irá no curto prazo? Acho que você define isso como os próximos um ou dois anos.

Schmidt:

As coisas estão mudando tão rápido que sinto que a cada seis meses preciso fazer um novo discurso sobre o que está por vir. Tenho um monte de estudantes de ciência da computação aqui, alguém pode explicar para o resto da turma "um milhãosímboloO que é "Janela de Contexto" Por favor, nomeie-a e diga-nos o que ela faz.

estudante:Basicamente, permite usar um milhão de marcadores ou um milhãoSolicitações de palavras.

Schmidt:

Então você pode fazer uma pergunta de um milhão de palavras. Antrópico é de 200.000 tokens, até 1 milhão e assim por diante. você pode imaginarIA abertaTenha um objetivo semelhante.

Alguém aqui pode dar uma definição técnica de agente de IA? Novamente, ciência da computação.

estudante:Um agente de IA pode ser algo que se comporta de uma determinada maneira. Pode ser ligar para algo na web para encontrar informações em seu nome. Poderiam ser muitas coisas diferentes nesse sentido. Há todos os tipos de coisas acontecendo em um processo.

Schmidt:Portanto, um agente é algo que executa algum tipo de tarefa. Outra definição é que se trata de umMestrado em Direito, estado e memória. A seguir, cientistas da computação, algum de vocês pode definir "texto para ação"?

estudante:Em vez de converter texto em mais texto, deixe a IA desencadear ações com base nisso.

Schmidt:

Outra definição é a linguagem Python. Eu nunca quero ver uma linguagem de programação sobreviver. Tudo em IA é feito em Python. Acabou de surgir uma nova linguagem chamada Mojo, e parece que eles finalmente resolveram o problema da programação de IA, mas veremos se ela realmente consegue sobreviver ao domínio do Python.

Há também um problema técnico. Por que a NVIDIA vale US$ 2 trilhões enquanto outras empresas estão em dificuldades?

estudante:A resposta técnica é que a maior parte do código precisa ser executada usando otimizações CUDA, que atualmente são suportadas apenas por GPUs NVIDIA, para que outras empresas possam fazer o que quiserem, mas você não terá aprendizado de máquina a menos que tenham 10 anos de experiência em otimização de software.

Schmidt:

Gosto de pensar no CUDA como uma linguagem de programação C para GPUs e me sinto confortável com essa ideia. CUDA foi fundada em 2008. Embora eu sempre tenha pensado que era uma linguagem imprópria, ela está dominada. Outro insight digno de nota: existe um conjunto de bibliotecas de código aberto altamente otimizadas para CUDA que nenhuma outra biblioteca é. Todas as pessoas que constroem essas pilhas de tecnologia estão perdendo completamente esse ponto da discussão. Essas bibliotecas são tecnicamente chamadas de VLLMs, e há muitas bibliotecas semelhantes que também são altamente otimizadas para CUDA, tornando-as difíceis de serem copiadas pelos concorrentes.

Então, o que tudo isso significa? No próximo ano, você verá janelas de contexto, agentes e aplicativos de texto para ação muito grandes. Quando estas tecnologias forem disponibilizadas em grande escala, terão um enorme impacto no mundo, muito além do impacto das redes sociais. Eis o porquê: na janela de contexto, você pode usá-la como memória de curto prazo, e fiquei chocado com o tamanho da janela de contexto. Razões técnicas têm a ver com serviço e dificuldade computacional. O interessante sobre a memória de curto prazo é que quando você insere informações e faz uma pergunta, digamos, leia 20 livros e use o texto dos livros como uma consulta e depois pergunte do que se trata, ela esquece a parte do meio, semelhante a como o cérebro humano funciona.

Em relação aos agentes, agora há pessoas que estão construindo agentes LLM lendo e entendendo coisas em áreas como química e depois testando-os e adicionando-os novamente ao seu entendimento. Isto é muito poderoso. O terceiro aspecto é o texto para ação. Deixe-me dar um exemplo: digamos que o governo esteja tentando banir o TikTok. Se o TikTok for banido, sugiro que você diga o seguinte ao seu LLM: Copie o TikTok para mim, coloque minhas preferências nele, faça este aplicativo e publique-o nos próximos 30 segundos, e dentro de uma hora, se não pegar , basta fazer algo assim. Essa é a ordem. Você pode ver o quão poderoso isso é.

Se você pode traduzir de qualquer idioma para qualquer comando numérico, isso é essencialmente Python neste cenário. Imagine que todos no planeta tivessem seus próprios programadores que realmente faziam o que queriam, em oposição aos programadores que não trabalhavam conforme exigido. Os programadores aqui sabem do que estou falando. Imagine um programador não arrogante que realmente faz o que você quer sem você ter que pagar um preço alto. E a oferta desses programadores é ilimitada.

professor:Tudo isso acontecerá nos próximos um ou dois anos?

Schmidt:

breve. Tenho certeza de que as três coisas acima acontecerão simultaneamente na próxima onda. Então você pergunta o que mais vai acontecer. Eu flutuo a cada seis meses, então estamos numa oscilação ímpar-par. Neste momento, o fosso entre os modelos de vanguarda (agora existem apenas três) e os restantes parece estar a aumentar. Há seis meses, estava convencido de que a lacuna estava a diminuir, por isso investi pesadamente em algumas empresas mais pequenas. No entanto, agora não tenho tanta certeza disso.

Estou conversando com algumas grandes empresas e elas me dizem que precisam de US$ 10 bilhões, US$ 20 bilhões, US$ 50 bilhões e até mesmo US$ 100 bilhões. O projeto Stargate requer US$ 100 bilhões e é muito difícil. Meu bom amigo Sam Altman acha que isso poderia custar cerca de US$ 300 bilhões, talvez mais. Mostrei a ele que havia calculado a energia necessária.

No interesse da divulgação completa, fui à Casa Branca na sexta-feira e disse-lhes que precisávamos ser melhores amigos do Canadá. Como os canadenses são pessoas muito legais, eles ajudaram a inventar a inteligência artificial e têm muita energia hidrelétrica. Porque nós, como país, não temos poder suficiente para atingir este objetivo. Outra opção é os países árabes financiarem o projeto. Pessoalmente gosto dos árabes e passo muito tempo lá, mas eles podem não seguir as nossas regras de segurança nacional. E o Canadá e os Estados Unidos são um dos três grandes com os quais todos concordamos.

Assim, nestes centros de dados, que valem entre 100 mil milhões e 300 mil milhões de dólares, a energia está a começar a tornar-se um recurso escasso.

A propósito, seguindo esse raciocínio, você pode perguntar por que estou discutindo CUDA e NVIDIA? Se todos os US$ 300 bilhões forem para a NVIDIA, você sabe o que fazer no mercado de ações. No entanto, esta não é uma recomendação de ações e não sou um licenciante.

professor:

Em parte porque precisaremos de mais chips, mas a Intel recebe muito dinheiro do governo dos EUA. A AMD está tentando construir uma fábrica na Coreia do Sul.

Schmidt:

Levante a mão se você tiver um chip Intel em algum dos seus dispositivos de computação. Chega de monopólio.

professor:

Mas esse é o ponto. Eles já tiveram o monopólio e agora a NVIDIA tem o monopólio. Então, essas são barreiras à entrada?

Falando em CUDA, existem outras opções? Eu estava conversando com Percy Lange outro dia. Ele está alternando entre TPUs e chips NVIDIA, dependendo do que ele tem acesso. Isso ocorre porque ele não tem escolha.

Schmidt:

Se ele tivesse fundos ilimitados, escolheria hoje a arquitetura B200 da NVIDIA porque é mais rápida. Não estou sugerindo isso – a competição é uma coisa boa.

Tive uma longa conversa com Lisa Su da AMD. Eles construíram algo que pode converter a arquitetura CUDA em sua própria, chamada Rokam. Ainda não está totalmente funcional, mas eles estão trabalhando nisso.

professor:

Você trabalhou no Google por muito tempo e eles inventaramTransformadorarquitetura. Obrigado às ótimas pessoas de lá, como Peter, Jeff Dean e todos. Actualmente, a OpenAI parece ter perdido a iniciativa. Nas últimas classificações que vi, Claude da Anthropic liderou a lista. Perguntei a Sundar, mas ele não me deu uma resposta muito clara. Talvez você tenha uma explicação mais direta ou objetiva do que está acontecendo ali.

Schmidt:

Não sou mais funcionário do Google. O foco do Google no equilíbrio entre vida pessoal e profissional é mais permitir que os funcionários voltem para casa mais cedo e trabalhem em casa, em vez de buscar cegamente a vitória. Em contraste, as startups têm sucesso porque os seus funcionários trabalham arduamente. Embora isso possa ser um pouco contundente, a realidade é que se você está começando uma empresa depois da faculdade e quer competir com outras startups, não pode ter funcionários apenas um dia por semana.

O ex-CEO do Google reclamou publicamente que os funcionários “não trabalham duro o suficiente” e ficaram para trás na competição de IA porque “só vêm um dia por semana” e também bloquearam o TikTok pelo caminho.

professor:Nos primeiros dias do Google, o mesmo acontecia com a Microsoft.

Schmidt:

Parece agora que na nossa indústria, durante muito tempo, as empresas sempre venceram por serem realmente criativas e dominarem um espaço, em vez de fazerem a próxima transformação. Isso está bem documentado. Acho que os fundadores são especiais e precisam estar no controle, embora possa ser difícil trabalhar com eles porque colocam muita pressão sobre seus funcionários. Por mais que não gostemos das ações pessoais de Elon, veja o que ele está recebendo de seus funcionários. Jantei com ele uma vez e ele estava voando. Eu estava em Montana e ele estava em um vôo às 10 da noite para uma reunião à meia-noite com x.ai. Pense nisso.

Lugares diferentes têm culturas diferentes. Estou impressionado com a TSMC. Eles tinham uma regra segundo a qual os estudantes de doutorado recém-formados, bons físicos, tinham que trabalhar no porão da fábrica. Você pode imaginar ter um Ph.D. americano em física fazendo isso? Não é provável. É uma ética de trabalho diferente.

O rigor com que trabalho é porque estes sistemas têm efeitos de rede, por isso o tempo é essencial. E na maioria das empresas, o tempo não é tão importante, você tem bastante tempo. A Coca-Cola e a Pepsi-Cola ainda existirão, e a competição entre elas continuará, e tudo estará gelado. Quando lido com empresas de telecomunicações, um acordo típico leva 18 meses para ser assinado. Não há razão para demorar 18 meses para fazer nada, deve ser feito o mais rápido possível. Estamos num período de crescimento e maximização de receitas, mas isso também exige ideias malucas.

Por exemplo, quando a Microsoft fez o acordo com a OpenAI, pensei que essa era a ideia mais idiota que já tinha ouvido. Terceirizar sua liderança em IA para OpenAI e Sam e sua equipe? Isso é uma loucura. Ninguém na Microsoft ou em qualquer outro lugar faz isso. Hoje, porém, elas estão se tornando as empresas mais valiosas, certamente em posição de retaliação com a Apple. A Apple não tem uma boa solução de IA, mas parece que a fizeram funcionar.

estudante:

Como irá a IA desempenhar um papel em termos de segurança nacional ou de interesses geopolíticos, especialmente em concorrência com a China?

Schmidt:

Como presidente de um comitê de inteligência artificial, estudei isso em profundidade. Escrevemos um relatório de cerca de 752 páginas e o resumimos da seguinte forma: Estamos atualmente numa posição de liderança e precisamos de manter esta vantagem, o que requer um apoio financeiro significativo. Nossos principais clientes são o Senado e a Câmara dos Deputados, o que levou à introdução da Lei CHIPS e outras políticas semelhantes.

Se modelos de ponta e alguns modelos de código aberto continuarem a se desenvolver, apenas algumas empresas poderão competir neste campo. Quais países têm essas capacidades? Estes países precisam de ser bem financiados, talentosos, com sistemas educativos fortes e vontade de vencer. Os Estados Unidos e a China são dois dos principais países. Quanto a saber se outros países podem participar, não tenho certeza. Mas o que é certo é que, no futuro, a competição entre os Estados Unidos e a China pela hegemonia intelectual será uma grande luta.

O governo dos EUA proibiu essencialmente a exportação de chips NVIDIA para a China, embora não admita isso publicamente. Temos cerca de 10 anos de vantagens tecnológicas em chips sub-DUV, que são chips abaixo de 5 nanômetros. Esta vantagem coloca-nos vários anos à frente da China, para grande descontentamento da China. Esta política foi desenvolvida pela administração Trump e apoiada pela administração Biden.

professor:O Congresso ouvirá seus conselhos e fará investimentos maciços? Obviamente, a Lei CHIPS é um exemplo disso.

Schmidt:

Além disso, também precisamos construir um enorme sistema de inteligência artificial. Lidero um grupo informal, ad hoc e não jurídico de membros comuns do setor. No ano passado, estes membros defenderam o que se tornou o projeto de lei de inteligência artificial da administração Biden, a mais longa diretiva presidencial da história.

Certa vez, discutimos uma questão central: como detectar perigos em um sistema que aprendeu, mas você não sabe o que perguntar? Em outras palavras, o sistema pode ter aprendido algo ruim, mas você não sabe como perguntar sobre isso. Por exemplo, ele pode ter aprendido como misturar produtos químicos de alguma maneira nova, mas você não sabe como perguntar. Para resolver esta questão, o nosso memorando ao governo recomendou a definição de um limite que chamamos de 10 elevado à 26ª potência, que é uma medida técnica de cálculo. Acima deste limite, as empresas devem reportar as suas atividades ao governo. Para garantir que sejam diferentes, a União Europeia define 10 elevado à 25ª potência como 10. Mas esses números são próximos o suficiente. Penso que todas estas distinções desaparecerão porque a tecnologia existente se tornará obsoleta. O termo técnico é chamado de treinamento conjunto, o que basicamente significa que as peças podem ser mescladas. Portanto, talvez não consigamos proteger as pessoas dessas coisas novas.

professor:

Há rumores de que o OpenAI deve ser treinado dessa forma, em parte devido a problemas de consumo de energia. Não há lugar onde eles façam isso.

Vamos falar sobre uma guerra real acontecendo. Eu sei que você esteve ativamente envolvido na guerra na Ucrânia, especificamente em relação ao programa Cegonha Branca e ao seu objetivo de destruir tanques no valor de 5 milhões de dólares com drones no valor de 500 dólares. Como isso muda a guerra?

Schmidt:

Trabalhei para o Secretário de Defesa durante sete anos, tentando mudar a forma como gerimos as nossas forças armadas. Não gosto muito de militares, mas é muito caro e queria ver se poderia ajudar. Acho que basicamente falhei. Eles me deram uma medalha, então provavelmente dão medalhas aos perdedores ou algo assim. Mas a minha autocrítica é que nada realmente mudou e o sistema americano não conduz a uma verdadeira inovação.

Então decidi abrir uma empresa com seu amigo Sebastian Thrun (que era membro do corpo docente aqui) e um grupo de pessoas de Stanford. A ideia é basicamente fazer duas coisas: usar a inteligência artificial de formas complexas e poderosas no que são essencialmente guerras de robôs e a segunda coisa é reduzir o custo dos robôs; Agora você pode estar pensando: por que um bom liberal como eu faria isso? A resposta é que toda a teoria militar consiste em tanques, artilharia e morteiros, e podemos destruí-los. Podemos tornar essencialmente impossível a punição de invadir um país (pelo menos por terra). Deveria eliminar esse tipo de guerra terrestre.

professor:

Esta é uma questão muito interessante. Isso dá à defesa uma vantagem sobre o ataque? Você pode dizer a diferença?

Schmidt:

Como venho fazendo isso há um ano, aprendi muito sobre a guerra que realmente não queria saber. Uma coisa que você precisa saber sobre a guerra é que o ataque sempre tem uma vantagem porque você sempre pode sobrecarregar o sistema de defesa. Portanto, do ponto de vista da estratégia de defesa, é melhor que você tenha um ataque muito forte que possa usar quando necessário. O sistema que eu e outros estamos construindo fará exatamente isso. Devido à forma como o sistema funciona, sou agora um traficante de armas licenciado. Então sou um cientista da computação, um empresário, um traficante de armas. Lamento dizer. Isso é progresso? Eu não faço ideia. Não recomendo fazer isso em sua carreira. Vou ficar com a inteligência artificial. Devido à forma como a lei funciona, fazemos isto de forma privada, com apoio governamental, e é tudo legal. Vai direto para a Ucrânia e então eles começam a lutar. Sem entrar em todos os detalhes, a situação é bastante terrível. Penso que em Maio ou Junho, se os russos construírem como esperado, a Ucrânia perderá uma grande parte do território no processo de perda de todo o país. A situação é bastante ruim. Se você conhece Marjorie Taylor Greene, sugiro que a exclua da sua lista de contatos. Porque foi ela quem impediu que bilhões de dólares fossem gastos para salvar uma democracia importante.

professor:

A seguir, quero discutir uma questão um tanto filosófica. No ano passado, você foi coautor de um artigo com Henry Kissinger e Dan Huttenloch sobre a natureza do conhecimento e como ele se desenvolve. Também discuti esse assunto algumas noites atrás. Durante a maior parte da história, a compreensão do universo pela humanidade foi misteriosa, até o advento da Revolução Científica e do Iluminismo. No seu artigo você menciona que os modelos atuais se tornaram tão complexos e difíceis de entender que realmente não sabemos o que está acontecendo dentro deles. Cito Richard Feynman: “O que não consigo criar, não entendo”. Mas agora as pessoas estão criando o que podem sem realmente compreender o seu funcionamento interno. A natureza do conhecimento mudou de alguma forma? Teremos de começar a aceitar estes modelos pelo seu valor nominal, que eles não nos conseguem explicar?

Schmidt:

Gostaria de dar o exemplo de um adolescente. Se você tem um adolescente, sabe que ele é humano, mas não consegue entender o que ele está pensando. No entanto, nós, como sociedade, conseguimos nos adaptar à existência de adolescentes e eles acabarão por superar isso. Esta é uma questão séria. Portanto, podemos ter sistemas de conhecimento que não conseguimos descrever completamente, mas compreendemos os seus limites e os limites do que podem fazer, e isso é provavelmente o melhor que podemos obter. Você acha que entenderemos essas limitações? Se pudermos fazer isso, ótimo.

O consenso nas reuniões semanais do meu grupo é que eventualmente haverá a chamada IA ​​adversária, onde na verdade haverá empresas contratando e pagando para quebrar o seu sistema de IA. Assim como o time vermelho. Ao contrário das equipas vermelhas humanas de hoje, teremos empresas inteiras e indústrias inteiras de sistemas de IA cuja função é perturbar os sistemas de IA existentes e encontrar vulnerabilidades neles, especialmente aquelas que não conseguimos descobrir. Isso faz sentido para mim. Também é um ótimo programa para Stanford. Se você tem um estudante de pós-graduação que precisa descobrir como atacar um desses grandes modelos e entender o que ele faz, essa será uma habilidade importante para construir a próxima geração. Portanto, faz sentido combinar os dois.

professor:

Agora, vamos responder algumas perguntas dos alunos. Há um colega atrás de mim, por favor diga seu nome.

estudante:

Você mencionou antes, e isso está relacionado aos comentários agora, sobre ter a IA realmente fazendo o que você deseja. Você acabou de mencionar a IA adversária e gostaria de saber se poderia elaborar isso com mais detalhes. Parece que, além do óbvio aumento no poder de computação, você pode obter modelos de maior desempenho, mas a questão de fazer com que eles façam o que você deseja parece estar parcialmente sem resposta.

Schmidt:

Bem, você deve presumir que o atual problema de alucinações diminuirá à medida que a tecnologia melhorar e assim por diante. Não estou dizendo que isso irá embora. E então você também tem que assumir que existe um teste de eficácia, então tem que haver uma maneira de saber se isso foi bem-sucedido. No exemplo que mencionei de um concorrente do TikTok, não estou sugerindo o roubo ilegal de músicas de outras pessoas. O que você faria se fosse um empresário no Vale do Silício? Espero que todos vocês sejam empreendedores do Vale do Silício. Se o seu produto for bem-sucedido, você contratará um exército de advogados para cuidar das consequências. Mas se ninguém usar o seu produto, não importará se você roubar tudo. Claro, não me cite sobre isso.

O Vale do Silício normalmente realiza esses testes e responde às perguntas de acompanhamento. Esta é uma prática comum. Acho que veremos cada vez mais sistemas de desempenho e testes ainda melhores e, eventualmente, testes adversários, que os manterão dentro de uma estrutura. Este termo profissional é chamado de raciocínio em cadeia de pensamento. Acredita-se que nos próximos anos você será capaz de gerar uma cadeia de raciocínio de mil etapas, como se estivesse fazendo uma receita. Você pode executá-lo e realmente testar se ele produz os resultados corretos, é assim que o sistema funciona.

estudante:

No geral, você está muito otimista quanto ao potencial de avanços na inteligência artificial. Estou curioso, o que está impulsionando esse progresso? É mais poder de computação? São mais dados? É uma mudança fundamental ou real?

Schmidt:

A resposta é todas as opções acima. A quantidade de dinheiro investido é inacreditável. Basicamente, investi tudo porque não tinha ideia de quem iria ganhar e a quantidade de dinheiro que estava acompanhando era enorme. Parte do motivo é que o dinheiro foi ganho antecipadamente e aqueles que não sabem muito sobre isso precisam ter o componente de IA. Tudo é investimento em IA agora e eles não percebem a diferença.

Defino inteligência artificial como um sistema de aprendizagem, um sistema que realmente aprende. Acho que este é um deles. O segundo ponto é que agora existem alguns novos algoritmos muito complexos que são como pós-Transformer. Um amigo meu, também colaborador de longa data, inventou uma nova arquitetura não-Transformer. Um grupo que financiei em Paris afirmou ter feito a mesma coisa. Há muitas invenções por aí e muitas pesquisas em Stanford. O último ponto é que o mercado acredita que as invenções inteligentes têm retornos ilimitados. Digamos que você investe US$ 50 bilhões em uma empresa e precisa ganhar muito dinheiro com a inteligência para pagá-lo. Poderíamos ter uma enorme bolha de investimento e então ela se resolveria. Sempre foi assim e pode ser o caso agora.

professor:Você mencionou anteriormente que os líderes estão criando distância dos outros.

Schmidt:

Agora, há uma empresa na França chamada Mistral, e eles estão fazendo um trabalho muito bom. Obviamente sou um investidor. Eles já fizeram uma segunda versão e o terceiro modelo provavelmente será fechado porque é muito caro. Eles precisam de receita e não podem distribuir seu modelo de graça. O debate sobre código aberto versus código fechado continua em nosso setor. Toda a minha carreira foi construída com base na disposição das pessoas em compartilhar software de forma aberta. Tudo o que faço é baseado em código aberto. Grande parte da base do Google também se baseia em código aberto. O trabalho que faço é principalmente na área técnica. No entanto, os enormes custos de capital podem mudar fundamentalmente a forma como o software é construído.

Minha opinião sobre os programadores de software é que sua produtividade pelo menos dobraria. Existem três ou quatro empresas de software tentando fazer isso atualmente, e investi em todas elas durante esse período. Todos estão tentando tornar os programadores de software mais produtivos. Recentemente me deparei com uma empresa muito interessante chamada Augment. Muitas vezes penso em programadores que dizem que esse não é o objetivo. Nosso alvo são aquelas equipes de programação de software de 100 pessoas com milhões de linhas de código e ninguém sabe o que está acontecendo. Esta é uma aplicação muito boa de inteligência artificial. Eles vão ganhar dinheiro? Espero que sim, mas há muitos problemas aqui.

estudante:

No início, você mencionou que a combinação de extensões de janela de contexto, proxies e text-to-actions teria um impacto incrível. Primeiro, por que essa combinação é importante? Em segundo lugar, sei que você não é um profeta e não pode prever o futuro, mas por que acha que está além da nossa imaginação?

Schmidt:

Acho que principalmente porque as janelas de contexto permitem resolver problemas de atualidade. Os modelos atuais levam cerca de 18 meses para serem treinados, incluindo seis meses de preparação, seis meses de treinamento e seis meses de ajuste fino, por isso estão sempre desatualizados. E com a janela de contexto, você pode digitar os últimos acontecimentos e fazer perguntas sobre a guerra Hamas-Israel no contexto, o que é muito poderoso e o torna tão atualizado quanto o Google.

No caso da agência, posso dar um exemplo. Comecei uma fundação para fornecer financiamento para uma organização sem fins lucrativos. Não sei muito sobre química, mas existe uma ferramenta chamada ChatCrow, que é um sistema baseado em grandes modelos de linguagem que pode aprender química. Eles executam o sistema para gerar hipóteses químicas sobre proteínas, depois o laboratório as testa durante a noite e o sistema aprende. Este é um enorme acelerador para áreas como química e ciência dos materiais. Este é um modelo de agência.

Acho que se houvesse muitos programadores baratos, o conceito de texto para ação poderia ser compreendido. Não creio que entendamos o que acontece quando cada um tem seu próprio programador. Esta também é a sua área de atuação. Não estou falando de tarefas simples como acender e apagar as luzes. Imagino outro exemplo, digamos que você não gosta do Google, você poderia dizer, construa para mim um concorrente do Google. Sim, você pode fazer isso pessoalmente. Crie para mim um concorrente do Google que pesquise na web, construa a IU, faça um bom texto e adicione-o de uma forma interessanteinteligência artificial generativa. Faça isso em 30 segundos e veja se funciona. Muitos acreditam que os operadores históricos, incluindo o Google, são vulneráveis ​​a tais ataques.

professor:

Agora, vamos dar uma olhada. Slido enviou muitas perguntas, algumas das quais foram enviadas. No ano passado discutimos como impedir que a IA influencie a opinião pública e espalhe desinformação, especialmente durante as próximas eleições.

Schmidt:

Precisamos pensar em soluções de curto e longo prazo. Nas próximas eleições globais, a maior parte da desinformação aparecerá nas redes sociais e as actuais capacidades organizacionais das empresas de redes sociais são insuficientes para policiar eficazmente esta informação. O TikTok, por exemplo, foi acusado de favorecer certo tipo de desinformação, embora não tenha provas. Acho que estamos uma bagunça.

O país precisa aprender o pensamento crítico, o que pode ser um desafio difícil para os Estados Unidos. Só porque alguém lhe diz algo não significa que seja verdade.

professor:

Chegamos tão longe que ninguém mais acreditará em algumas das coisas que são verdadeiras? Alguns chamam isso de crise epistemológica. Agora, Elon Musk diz que nunca fez algo, mas como provar?

Schmidt:

Podemos ilustrar isso com o exemplo de Donald Trump. Penso que temos um problema de confiança na nossa sociedade e a democracia pode falhar por causa disso. A maior ameaça à democracia é a desinformação, porque nos tornámos muito bons nisso.

Quando eu gerenciava o YouTube, o maior problema que tínhamos eram pessoas enviando vídeos falsos que resultavam na morte de pessoas. Temos uma política de não morte e tentar resolver esta questão é chocante e horrível. Isso foi antes do advento da inteligência artificial generativa.

professor:

Não tenho uma boa resposta, mas há um problema técnico que parece atenuar isso: a autenticação de chave pública. Por que não usar assinaturas digitais como SSL quando Joe Biden fala? Uma celebridade, figura pública ou outra pessoa pode possuir uma chave pública?

Schmidt:

Esta é uma forma de chave pública que oferece alguma certeza, como quando envio meu cartão de crédito para a Amazon, sei que é a Amazon.

Publiquei um artigo com Jonathan Haidt, mas não teve impacto. Ele é um comunicador muito bom, o que provavelmente eu não sou. A minha conclusão é que o sistema não está organizado da forma como dizemos. Os CEOs muitas vezes maximizam as receitas e, para isso, maximizam o envolvimento, e a forma de maximizar o envolvimento é maximizar a indignação. Os algoritmos escolhem a raiva porque ela gera mais receita, então as pessoas tendem a apoiar coisas extremas. Este é um problema em todas as frentes e deve ser resolvido.

Numa democracia, a minha solução para o TikTok baseia-se no que discutimos anteriormente em privado. Quando eu era criança, havia algo chamado regra de tempo igual. O TikTok não é realmente uma plataforma de mídia social, mas sim uma forma de televisão. Cada usuário do TikTok nos Estados Unidos usa o aplicativo em média 90 minutos por dia e faz 200 vídeos, o que é muito utilizado. Embora o governo não esteja a impor regras de igualdade de tempo, esta pode ser uma direcção que vale a pena considerar, exigindo alguma forma de equilíbrio.

estudante:

A primeira diz respeito ao impacto económico no mercado de trabalho. O impacto foi mais lento do que inicialmente esperado, especialmente no mercado de trabalho. Há também uma pergunta sobre a equipe de atendimento ao cliente. Você acha que a academia deveria ser subsidiada para IA ou deveria fazer parceria com grandes empresas?

Schmidt:

Tenho pressionado muito para que as universidades construam data centers. Se eu fosse membro do corpo docente de um departamento de ciência da computação, ficaria frustrado por não poder desenvolver algoritmos com alunos de pós-graduação para pesquisas de doutorado porque fui forçado a trabalhar com empresas. E estas empresas não são suficientemente generosas neste aspecto. É uma situação terrível que muitos professores e funcionários passem muito tempo esperando pelos créditos do Google Cloud. Queremos que as universidades americanas tenham sucesso nisso, por isso acho que deixá-las ganhar esses créditos é a coisa certa a fazer.

Gostaria de ouvir os verdadeiros especialistas sobre o impacto no mercado de trabalho. Como economista amador, acredito que há um bom futuro para o ensino universitário e para as tarefas altamente qualificadas porque as pessoas utilizarão estes sistemas. Não creio que estes sistemas sejam fundamentalmente diferentes das ondas tecnológicas anteriores. Empregos perigosos e empregos que não exigem julgamento humano serão substituídos.

estudante:

Sobre a passagem do texto à ação e suas implicações para o ensino da ciência da computação? Acho que o ensino da ciência da computação deve se adaptar aos tempos de mudança.

Schmidt:

Presumo que os cientistas da computação, na graduação, sempre terão um amigo programador. Quando você aprender seu primeiro loop for, haverá uma ferramenta que se tornará sua companheira natural. O professor explica os conceitos e você se envolve dessa forma.

Aluno: Em relação à discussão da arquitetura não-Transformer, acho que o modelo de estado é uma direção que está sendo discutida, mas agora é dada mais atenção ao contexto.

Schmidt:

Não entendo bem de matemática, mas fico feliz que isso esteja criando empregos para matemáticos, porque a matemática aqui é muito complexa. Basicamente, estes são realizadosdescida gradientee diferentes métodos de multiplicação de matrizes, visando ser mais rápido e melhor. Como você sabe, os Transformers são uma forma sistemática de fazer multiplicações simultaneamente. Aqui estão meus pensamentos. É semelhante a isso, mas a matemática é diferente. Vamos ver.

estudante:

No seu documento sobre segurança nacional, mencionou a situação actual na China, nos Estados Unidos e noutros países. Os dez países do grupo seguinte são aliados dos EUA ou têm potencial para se tornarem aliados dos EUA. Estou curioso para saber sua opinião sobre esses dez países. Eles são como intermediários, não aliados formais. Qual é a probabilidade de eles se juntarem ao esforço para nos manter seguros? O que os impede de aderir?

Schmidt:

O país mais interessante é a Índia, porque os maiores talentos da inteligência artificial vêm da Índia e vêm para os Estados Unidos. Deveríamos permitir que a Índia retenha alguns dos seus melhores talentos, não todos, mas alguns. E eles não têm as ricas instalações e programas de treinamento que temos aqui. Na minha opinião, a Índia é um país confuso neste aspecto. O Japão e a Coreia do Sul são obviamente os nossos campos. O software taiwanês é terrível, então não funcionará. O hardware é ótimo. E em outras partes do mundo não existem muitas outras boas opções. A Europa está ferrada por causa de Bruxelas, isso não é novidade. Passei 10 anos lutando contra eles. Trabalhei muito para que eles mudassem a Lei da UE. Eles ainda têm várias limitações que tornam muito difícil para nós realizarmos investigação na Europa. Os meus amigos franceses passam todo o tempo a combater Bruxelas. Como amigo pessoal meu, Macron está a trabalhar arduamente nisso. Então acho que a França tem uma chance. Não creio que a Alemanha venha e que outros países não sejam suficientemente fortes.

estudante:

Eu sei que você é engenheiro por formação, acho que você é chamado de compilador. Dadas as capacidades que você imagina que esses modelos tenham, ainda deveríamos gastar tempo aprendendo a codificar?

Schmidt:

Sim, porque no final das contas fica a pergunta clichê: por que aprender inglês se você sabe falar? Você aprenderá melhor. Você realmente precisa entender como esses sistemas funcionam, e posso me identificar com isso.

estudante:

Estou curioso para saber se você explorou uma configuração distribuída. Faço essa pergunta porque, é claro, é difícil criar um cluster grande, mas os MacBooks são poderosos. Existem muitas máquinas pequenas em todo o mundo. Então você acha que dobrar em casa ou algo parecido seria aplicável ao treinamento desses sistemas?

Schmidt:

Sim, analisamos esta questão com muito cuidado. Então a forma como o algoritmo funciona é que você tem uma matriz muito grande e basicamente uma função de multiplicação. Então pense nisso como um vaivém. E esses sistemas são completamente limitados pela velocidade da memória da CPU ou GPU. Na verdade, a próxima geração de chips NVIDIA integrou todas essas funções em um único chip. Os chips agora são tão grandes que ficam grudados. Na verdade, a embalagem é tão sensível que tanto a embalagem quanto o próprio chip são montados em uma sala limpa. Portanto, a resposta parece que os supercomputadores e a velocidade da luz, especialmente as interconexões de memória, realmente têm vantagem. Acho que segmentar grandes modelos de linguagem (LLMs) é improvável por enquanto.

professor:

Jeff Dean mencionou em um discurso no ano passado que o modelo pode ser dividido em diferentes partes, treinado separadamente e depois combinado.

Schmidt:

Mas para conseguir isso, você precisa de dezenas de milhões desses modelos, e a velocidade de fazer perguntas se tornará muito lenta. Ele mencionou que seriam necessários oito, 10 ou 12 supercomputadores para conseguir isso, mas isso não está no seu nível.

estudante:

Em relação à questão da privacidade dos dados, soube que o New York Times processou a OpenAI por usar o seu trabalho para formação.

Schmidt:

Acho que pode haver muitos processos semelhantes no futuro e, eventualmente, algum tipo de acordo será alcançado, como exigir que uma certa porcentagem da receita seja paga pelo uso de certas obras, como ASCAP e EMI na indústria musical. . Este modelo pode parecer um pouco desatualizado, mas acho que é assim que vai funcionar no final.

estudante:

No campo da IA, parece haver algumas empresas que dominam o mercado e se sobrepõem às empresas maiores nas quais se concentram as regulamentações antitruste.

Schmidt:

Estive envolvido no caso de dissolução da Microsoft em minha carreira, mas no final das contas não teve sucesso. Também trabalhei duro para evitar a dissolução do Google, mas também falhei. Portanto, acho que a tendência não é de divisão. Enquanto estas empresas não se tornarem monopólios como John D. Rockefeller, a acção governamental é improvável.

Essas grandes empresas dominam porque só elas têm capital para construir data centers. Tenho amigos Reed e Mustafa que tomaram a decisão de transferir seus negócios para a Microsoft porque não conseguiram levantar dezenas de bilhões de dólares. Quanto aos números exatos, talvez seja necessário pedir a Reed que lhe diga.

estudante:

Finalmente, pergunto-me qual o impacto que estes desenvolvimentos terão nos países que não estão envolvidos no desenvolvimento de modelos e cálculos de ponta.

Schmidt:

Os países ricos ficarão mais ricos, enquanto os países pobres só poderão fazer o melhor que puderem. Na verdade, este é um jogo para os países ricos, que exige enorme capital, talento técnico e forte apoio governamental. Globalmente, muitos países enfrentam vários problemas, especialmente quando os recursos são escassos. Eles precisam encontrar parceiros e trabalhar com outros para resolver estes problemas.

professor:

Lembro-me da última vez que nos encontramos, você estavaAGI House participa de um hackathon. Sei que você passa muito tempo e é apaixonado por ajudar os jovens a criar riqueza. Você tem algum conselho para pessoas que estão redigindo planos de negócios para cursos ou redigindo propostas de políticas ou propostas de pesquisa em suas carreiras?

Schmidt:

Eu dou um curso sobre isso em uma escola de negócios e você deveria vir e ouvir. Estou chocado com a rapidez com que você apresenta novas ideias.

Em um hackathon do qual participei, a equipe vencedora recebeu a tarefa de pilotar um drone entre duas torres. Eles usaram Python para gerar código em um espaço virtual de drones e concluíram a tarefa com sucesso no simulador. Um bom programador profissional pode levar uma ou duas semanas para fazer isso. Acho que a capacidade de criar protótipos rapidamente é muito importante porque parte do problema que os empreendedores enfrentam é a velocidade. Se você não consegue criar protótipos em um dia com essas ferramentas, precisa reconsiderar, porque é exatamente isso que seus concorrentes estão fazendo.

Portanto, meu maior conselho é que, quando você começar a pensar em abrir uma empresa, não há problema em escrever um plano de negócios. Na verdade, você pode fazer com que um computador escreva isso para você, desde que seja legal. É importante usar essas ferramentas para prototipar suas ideias o mais rápido possível, pois pode haver alguém fazendo a mesma coisa em outra empresa, universidade ou em algum lugar onde você nunca esteve.

professor:Muito obrigado.