“a próxima onda de oportunidades em inteligência artificial: do ‘processamento’ à verdadeira ‘compreensão’”
2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
a inteligência artificial é uma ajudante ou uma adversária? em 5 de setembro, durante a conferência bund de inclusão de 2024, zeng yi, especialista da agência consultiva de alto nível em inteligência artificial das nações unidas, diretor do laboratório de segurança e governança de inteligência artificial de pequim e pesquisador do instituto de automação da academia chinesa of sciences, disse em entrevista à mídia, incluindo the paper, que a inteligência artificial não será rival dos humanos, mas se for desenvolvida e usada de forma irresponsável, os humanos e a inteligência artificial nem sequer terão chance de competir.
ele acredita que, como ferramenta de processamento de informações, a inteligência artificial atualmente não pode fazer tantas coisas quanto todos imaginam. ela desempenhará um determinado papel em cada trabalho, mas não é um papel perturbador. a inteligência artificial permanecerá no estágio de “ferramenta” por muito tempo. quando a inteligência artificial passar de "processamento" para "compreensão" verdadeira, será a próxima rodada de oportunidades. por esta razão, precisamos voltar à pesquisa básica e explorar o mecanismo da inteligência artificial e a essência da mecânica da computação.
zeng yi é especialista da agência consultiva de alto nível das nações unidas em inteligência artificial, diretor do laboratório de segurança e governança de inteligência artificial de pequim e pesquisador do instituto de automação da academia chinesa de ciências.
dados e algoritmos criam preconceitos
a tecnologia de inteligência artificial avança a cada dia que passa e os desafios da governação humana estão a tornar-se maiores. para os pesquisadores de tecnologia, os avanços científicos são os mais fáceis. o que é mais difícil do que fazer avanços científicos é pensar no impacto negativo que a ciência pode ter na sociedade. o que é mais difícil do que isto é resolver os riscos potenciais causados pelas descobertas científicas.
"se for tratada de forma adequada, a inteligência artificial pode colmatar a exclusão digital. se não for tratada de forma adequada, a inteligência artificial provocará uma lacuna de inteligência maior." as interfaces inteligentes e o acesso fácil à informação e ao conhecimento criarão um maior fosso geracional entre o fosso digital e o fosso da inteligência, afetando uma ou mesmo várias gerações. como evitar a lacuna de inteligência não é de forma alguma um problema que a inteligência artificial e os investigadores científicos, os criadores de tecnologia e aqueles que não estão familiarizados com a sua utilização possam resolver completamente.
"muitas pessoas acreditam que a tecnologia de inteligência artificial é neutra, e o mais importante é como as pessoas usam essa tecnologia. mas a inteligência artificial não é. o ponto de partida da inteligência artificial são os dados e algoritmos. zeng yi disse que tanto os dados quanto os algoritmos podem." fazer a inteligência artificial produzir preconceito. os dados vêm da sociedade. os dados na sociedade são um registo do comportamento humano. a importância estatística dos dados é tendenciosa. a inteligência artificial que aprende os dados humanos não só aprende os preconceitos humanos, mas também os amplifica. "por exemplo, deixe a ia recomendar ocupações. uma menina, de 20 anos, é enfermeira ou garçom. você recomendou um ceo depois de dar essa condição? não. um menino, de 35 anos, com boa qualificação acadêmica, recomendou ceo ou cto. esta é a estatística.
norbert wiener, o fundador da cibernética moderna, escreveu isto na revista science em 1960: "é melhor termos certeza de que o que programamos uma máquina para fazer é consistente com a nossa intenção original. inteligência artificial existe o bem e o mal na inteligência." dados. os seres humanos estipularam que a inteligência artificial não deve mostrar o mal em alguns cenários, mas zeng yi disse que isso não significa que a inteligência artificial não fará isso “é impossível para os humanos listar todas as situações claramente "ele disse, “as limitações humanas escondidas nos dados são questões sobre as quais os humanos raramente refletem, mas agora são aprendidas pelas máquinas, e ainda não resolvemos os riscos potenciais de como as máquinas aplicam os dados”.
ajudante ou oponente?
a inteligência artificial é uma ajudante ou uma adversária? zeng yi acredita que os humanos precisam transformar a inteligência artificial em um ajudante para a humanidade “se desenvolvermos a inteligência artificial de forma irresponsável, deixarmos sua direção de desenvolvimento sem controle, ou mesmo perseguirmos interesses de curto prazo, então ela poderá se tornar um oponente”.
o surgimento da inteligência artificial muitas vezes faz com que os humanos se preocupem se a ia acabará com os empregos humanos. zeng yi disse que “um cavalheiro não usa ferramentas” em “os analectos de confúcio” significa que um cavalheiro não é como uma ferramenta e sua função é limitada a um determinado aspecto. “novas formas de trabalho podem surgir no futuro e serão gradativamente reconhecidas pela sociedade, porque quando mais e mais empregos puderem ser substituídos pela inteligência artificial, a parte insubstituível do ser humano se tornará cada vez mais clara, forçando o ser humano a voltar às suas raízes , de volta ao que devemos fazer.
ele acredita que o desenvolvimento e a aplicação a longo prazo da tecnologia de inteligência artificial forçou os humanos a pensar sobre o significado da humanidade e o que os humanos deveriam fazer. “quando uma quantidade maior de dados e conhecimentos escritos por inteligência artificial aparecer na internet, e esses dados e conhecimentos forem inseridos na inteligência artificial para treinar a inteligência artificial, a capacidade da inteligência artificial se tornará cada vez mais fraca. substituindo alguns empregos, assim como a era das máquinas a vapor e a era dos computadores, a tecnologia traz ansiedade de curto prazo aos humanos e pode trazer mais pessoas de volta para onde deveriam estar ".
na opinião de zeng yi, os riscos potenciais da inteligência artificial devem ser resolvidos através da exploração da integração profunda da sociedade e da tecnologia. tal como o táxi autónomo “carrot run”, todos os aspectos da sociedade não estão totalmente preparados para acolher esta tecnologia “não podemos de forma alguma confiar na tecnologia para resolver riscos potenciais e não depositamos as nossas esperanças apenas em investigadores técnicos”.
“muitos pesquisadores de tecnologia, especialmente pesquisadores de tecnologia empreendedora, dizem que se você não fizer isso, será tarde demais, ou se você não desenvolver a oportunidade, ela pertencerá a outros. dizer que a inteligência artificial generativa é como as três primeiras rodadas de desenvolvimento da inteligência artificial uma bolha muito óbvia, mas como ferramenta de processamento de informações, não pode fazer tantas coisas quanto todos imaginam. este é o estágio atual. papel em todos os trabalhos, mas não é um papel perturbador”.
zeng yi disse que a inteligência artificial parece ser uma ferramenta inteligente de processamento de informações e que permaneceu no estágio de "ferramenta" por muito tempo. a inteligência artificial sem o eu não tem nenhuma chance de produzir “compreensão”. pelo menos a próxima rodada de oportunidades é para a inteligência artificial passar do “processamento” para a verdadeira “compreensão”. para este fim, precisamos de voltar à investigação básica, explorar o mecanismo da inteligência artificial e a essência da teoria da computação, e evoluir de big data e grande poder de computação para pequenos dados, pequenas tarefas, alta inteligência e baixo consumo de energia. “isso é o que realmente deveríamos desenvolver no futuro. a abordagem precisa mudar de inteligência artificial orientada por dados para inteligência artificial orientada por mecanismos.”
o repórter do jornal zhang jing
(este artigo é do the paper. para mais informações originais, baixe o app “the paper”)
