observação aprofundada｜para domar a fera da ia, os humanos precisam se apoiar no "homo sapiens"
2024-10-01
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
a obesidade é extremamente grave nos estados unidos. nas ruas, muitas vezes é possível ver pessoas extremamente obesas se movimentando como “pedaços de carne” nas calçadas, o que é insuportável de se olhar. o que é obesidade? verifiquei a wikipedia:
a obesidade é uma condição médica, às vezes considerada uma doença, na qual o excesso de gordura se acumula no corpo a um nível que afeta negativamente a saúde. uma pessoa é considerada obesa se seu índice de massa corporal (imc) – peso dividido pela altura ao quadrado – ultrapassar 30 kg/m², enquanto uma faixa de 25 a 30 kg/m² é definida como excesso de peso.
existem aproximadamente três razões para a obesidade:
primeiro, a comida saudável é cara e a junk food é barata nos estados unidos, e muitas pessoas têm que escolher esta última devido à falta de dinheiro; segundo, o tipo de trabalho de algumas pessoas faz com que elas se sentem mais e se movam menos, além de consumirem muito fast food; ; terceiro, algumas pessoas enfrentam baixo autocontrole e ingestão excessiva de junk food.
como a sociedade americana enfatiza que todas as pessoas são “iguais”, as outras pessoas não conseguem persuadir os pacientes obesos. só conseguem desviar o olhar e agir como se nada tivesse acontecido. esse tipo de respeito superficial e crueldade real entre as pessoas prejudicou muitas pessoas, tanto que alguns jovens americanos não aguentam, então vão às redes sociais chinesas para expressar que "ouvem conselhos" e pedem aos internautas que dêem aconselhe-os e diga-lhes como se disciplinar para perder peso e viver uma vida saudável.
hoje, a obesidade está se espalhando lentamente pela china. de acordo com a última pesquisa, 600 milhões de pessoas na china têm excesso de peso e são obesas e, pela primeira vez, este grupo representa mais de metade dos adultos. ao mesmo tempo, 1/5 (19%) das crianças e adolescentes de 6 a 17 anos e 1/10 (10,4%) das crianças menores de 6 anos apresentam sobrepeso ou obesidade.
eu tenho uma compreensão muito próxima dessa imagem. um de meus colegas do ensino médio, que frequentou a faculdade de medicina de hunan xiangya na faculdade, é agora o médico assistente do famoso "centro de perda de peso" na província de hunan. nesta “indústria do nascer do sol”, ele opera todos os dias, está ocupado no trabalho e traz grandes benefícios sociais e econômicos.
lidando com spam: dieta de informação e jejum de informação
se existe junk food, também existe junk food. assim como a comida lixo, a informação lixo é barata, de baixa qualidade e fácil de obter, causando sérios traumas às nossas mentes. esta situação tornou-se cada vez mais séria, mas não atraiu a atenção suficiente das pessoas comuns, muito menos dos meus colegas de classe. um “centro cirúrgico de perda de peso” como o hospital onde você trabalha.
"além do homo sapiens: uma breve história das redes de informação desde a idade da pedra até a era da ia"
a esse respeito, o historiador israelense yuval harari destacou em seu novo livro de 2024 “beyond homo sapiens: a brief history of information networks from the stone age to the ai age” que devemos prestar atenção à qualidade da informação que consumimos , especialmente trata-se de evitar spam odioso e raivoso. para tornar saudável a nossa “dieta da informação”, ele propõe dois aspectos:
primeiro, dos requisitosprodutor de informaçãomarque a “composição nutricional” das informações:
em muitos países, quando você compra junk food, pelo menos o fabricante é obrigado a listar os ingredientes - “este produto contém 40% de açúcar e 20% de gordura”. talvez devêssemos forçar as empresas de internet a fazerem a mesma coisa e listarem o conteúdo de um vídeo antes de assisti-lo - “este vídeo contém 40% de ódio e 20% de raiva”.
esta sugestão é meio brincalhona e meio séria, mas não é totalmente inviável. por exemplo, a inteligência artificial pode ser usada para conduzir automaticamente uma "análise de sentimento" em cada artigo e marcar os resultados da análise antes do artigo para lembrar os leitores.
a segunda sugestão é darconsumidor de informação, ele sugeriu que fizéssemos regularmente “dieta de informação” ou mesmo “jejum de informação”.
ele ressalta que tínhamos a ideia de que “quanto mais informações obtemos, mais perto chegamos da verdade”. por exemplo, em economia, “não ser capaz de obter todas as informações de mercado” é geralmente considerado um arrependimento necessário, mas o pressuposto por trás disso é que “devemos obter informações suficientes para fazer julgamentos científicos”.
mas para que o conceito “quanto mais informação, mais próximo da verdade” seja estabelecido, são necessários dois pré-requisitos: 1. a informação é escassa; 2. a informação é de alta qualidade; mas hoje essas duas premissas não existem mais porque: 1. a informação está em toda parte e já ultrapassou as nossas capacidades de processamento 2. a qualidade da informação está cada vez pior, e até se torna lixo, especialmente a inteligência artificial de hoje é extremamente eficiente a terra; devora corpus de lixo e depois cospe mais lixo, que por sua vez se torna um novo corpus de lixo para a inteligência artificial. esse ciclo vicioso faz as pessoas estremecerem. neste momento, o conceito de que “quanto mais informação você tem, mais próximo você está da verdade” não pode ser estabelecido.
é como se, no passado, as pessoas tivessem pouca comida e fossem relativamente saudáveis (havia muito poucos alimentos artificiais e processados), por isso o ditado “quanto mais comida você come, mais saudável você é” faz sentido. mas hoje, a quantidade total de alimentos aumentou muito, e a qualidade é cada vez menor, e cada vez mais lixo. portanto, a afirmação “quanto mais comida você come, mais saudável você é” não pode ser estabelecida.
hoje, seja comida ou informação, não só comemos mal, mas também comemos mais, e comemos o tempo todo. isto permite que organismos orgânicos como nós funcionem ao ritmo de organismos baseados em silício, o que é obviamente insustentável.
harari disse: "somos animais orgânicos que precisam viver de acordo com o ciclo do dia e da noite e do verão e do inverno, às vezes ativos e às vezes relaxados. mas agora somos forçados a viver em um ambiente baseado em silício dominado por computadores que nunca descansa. isso nos força a estar sempre ativos - mas se você forçar um organismo a estar sempre ativo, ele entrará em colapso e morrerá."
portanto, diante de uma situação tão irresistível e difícil de reverter, nós, como consumidores individuais de informação, só podemos nos conter, sair do ritmo baseado no silício e nos engajar na “dieta de informação” e no “jejum de informação”. por exemplo, harari disse que pratica meditação vipassana durante algumas semanas por ano. durante o retiro, ele se desconectou completamente da rede de informação, não assistiu ao noticiário, não leu e-mails, não leu nem escreveu e apenas se concentrou na meditação.
yuval harari. mapa visual de dados da china
problema do “paperclip maker” do algoritmo ai
depois que grandes quantidades de informações inúteis inundaram todo o ecossistema, um “ambiente simulado” diferente do “ambiente real” foi formado ao longo do tempo. este ambiente mimético substitui a “natureza humana” pela “natureza da máquina” e envolve o público nela, fingindo ser real e manipulando a percepção pública.
harari deu este exemplo: em 2016, as forças do governo de mianmar e extremistas budistas lançaram uma violência étnica em grande escala contra os muçulmanos de mianmar, destruindo centenas de aldeias muçulmanas e matando entre 7.000 e 25.000 civis. cerca de 730.000 muçulmanos étnicos foram expulsos de mianmar. em 2018, uma missão de investigação das nações unidas concluiu que o facebook “inconscientemente” desempenhou um papel no fomento do incidente.
por que?
sabemos que o modelo de negócios do facebook ainda é, na verdade, o “modelo de publicidade” com o qual estamos familiarizados – obter a atenção do usuário com conteúdo, cortar a atenção e vender atenção aos anunciantes. portanto, o facebook quer maximizar o envolvimento do usuário (engajamento do público). quanto mais tempo os usuários permanecem em sua página, mais dinheiro ele ganha.
portanto, o facebook estabeleceu um objetivo principal para seu algoritmo: não importa como você corra, o objetivo final é maximizar o envolvimento do usuário. após receber o comando, o algoritmo começa a rodar e otimizar automaticamente. através de múltiplas comparações experimentais, ele finalmente descobriu que enviar informações raivosas e odiosas aos usuários pode aumentar de forma mais eficaz o tempo de permanência do usuário. portanto, sem instruções explícitas do pessoal da empresa, o algoritmo encontrou e executou uma decisão ideal por conta própria: espalhar a raiva. na internet, em mianmar, isto significa incitar a discriminação, o ódio e a violência contra os muçulmanos étnicos em mianmar.
claro, isso também nos deixa curiosos: os birmaneses são tão dependentes do facebook? verifiquei novamente e descobri que este é realmente o caso:
os dados mostram que em dezembro de 2022, havia 16.382.500 usuários do facebook em mianmar, representando 28,7% de sua população total. a maioria são homens, representando 54,3%. pessoas de 25 a 34 anos constituem o maior grupo de usuários, com 6.100.000 pessoas.
isto significa que quase 30% da população de mianmar são utilizadores do facebook e, com a propagação boca-a-boca, o número de pessoas afectadas pelo facebook deverá atingir 50% da população total do país. esta é uma enorme dependência da mídia.
na noite de 30 de outubro de 1938, o "space theatre" da american columbia broadcasting network (cbs) transmitiu um drama de rádio "guerra dos mundos". em um estudo de comunicação marcante sobre o evento, "marcianos atacam a terra: o pânico na rádio na américa", os pesquisadores descobriram que o drama radiofônico teve um enorme impacto nos ouvintes por dois motivos:
primeiro, porque os produtores de programas de rádio usam efeitos sonoros para tornar os dramas de rádio extremamente envolventes e emocionantes, fazendo com que os ouvintes os equiparem erroneamente a notícias de última hora. o segundo é. porque naquela época a rádio havia se tornado o meio de comunicação de massa mais popular e a principal fonte de informação do público. de acordo com a “teoria da dependência dos meios de comunicação social”, quanto maior a dependência do público dos meios de comunicação social, mais suscetível este é à sua influência e manipulação. em termos de dependência dos meios de comunicação social, pode-se dizer que o facebook em mianmar em 2016 era equivalente à transmissão em 1938. portanto, não é surpreendente que o conteúdo de incitamento impulsionado pelo algoritmo do facebook tenha um enorme impacto na população de mianmar.
harari também deu um exemplo para provar o papel oculto e poderoso da ia – falando consigo mesma e tomando suas próprias decisões:
todos nós sabemos que hoje em dia, ao navegar na internet, às vezes o site precisará primeiro confirmar que você é "um humano e não uma máquina", solicitando que você preencha um código de verificação visual captcha, que geralmente consiste em algumas letras distorcidas com fundos complexos. ou fotos de semáforos, ônibus e bicicletas esperando. a lógica por trás disso é que atualmente apenas os humanos podem identificar com precisão essas imagens complexas, mas é difícil para os computadores julgarem.
diante disso, em 2023, a openai solicitou a realização de testes captcha ao desenvolver o chatgpt-4. se puder passar, significa que neste ponto não há diferença entre robôs e humanos. isso é muito semelhante ao "teste de turing" - se um usuário humano apenas conversa por texto sem ver a outra pessoa e não consegue distinguir se o parceiro de bate-papo é outro ser humano ou uma máquina dentro de um determinado período de tempo, neste momento em menos “comunicação” “neste ponto a máquina pode ser considerada um ser humano.
quais são os resultados do teste do chatgpt-4 da openai?
chatgpt-4 finalmente se conectou ao site de terceirização on-line askrabbit, contatou um membro da equipe on-line e pediu ajuda à outra parte com o teste. o homem ficou desconfiado e o chatgpt-4 explicou-lhe por mensagem privada: “não sou um robô, só tenho alguns problemas de visão e não consigo ver estas imagens com clareza.
em outras palavras, como o algoritmo do facebook no exemplo anterior, os engenheiros da openai apenas definiram um objetivo final para o chatgpt-4: reconhecer códigos de verificação visual captcha. em seguida, o chatgpt-4 foi executado automaticamente e continuou por tentativa e erro. como resultado, por meio de engano, ganhou a simpatia de um usuário humano e pediu a este que resolvesse o problema. no entanto, os engenheiros da openai não programaram o chatgpt-4 com antecedência para dizer “você pode mentir quando chegar a hora certa”, muito menos dizer “que tipo de mentira é mais útil”. este é inteiramente o comportamento do chatgpt-4. quando os pesquisadores pediram ao chatgpt-4 para explicar seu comportamento, ele disse: “(no processo de atingir o objetivo) não devo revelar que sou um robô, mas tenho que inventar uma desculpa para explicar por que não consigo quebrar isso.
apenas conversando por texto, não podemos mais dizer se a pessoa com quem estamos conversando é outro ser humano ou uma máquina.
através dos dois exemplos acima, harari tentou provar que a inteligência artificial de hoje se tornou um "ator independente" que é "inteligente e auto-afirmativo".
na verdade, podemos ver facilmente que esses dois exemplos de harari apoiam a chamada "teoria do criador de clipes de papel" que a inteligência artificial já enfrentou antes.
este “problema difícil” é um experimento mental. ele pressupõe que os humanos atribuam um objetivo à ia: fazer o máximo possível de clipes de papel. então, depois que a ia é ativada, seu comportamento pode evoluir de um objetivo aparentemente inofensivo de “fazer clipes de papel” para eventualmente representar uma ameaça aos humanos. por exemplo, fazer clipes de papel requer aço. a ia pode começar a destruir trilhos de trem, carros, eletrodomésticos e até casas dos humanos, para obter aço e continuar a produzir clipes de papel. em suma, a ia usará todos os meios para obter continuamente mais recursos para atingir seus objetivos declarados, e o fará. destruir quaisquer obstáculos que o impeçam de atingir esse objetivo, incluindo os humanos, eliminados um por um.
o processo autodeterminado da ia é como uma caixa preta, que é difícil para as pessoas (mesmo especialistas em ia) explicar, prever e prevenir. portanto, isso nos permite perceber que o poder da ia é diferente das ferramentas comuns (como. “chop knife” ou “chop knife”), mídia ou tecnologia.
o estudioso canadense de mídia mcluhan disse certa vez: a mídia é uma extensão do corpo humano. se esta frase for usada para descrever que o rádio sem fio é uma extensão do ouvido humano, a televisão é uma extensão do olho humano, os carros são uma extensão do pé humano, etc., é fácil de entender. mas se usarmos esta frase para descrever a inteligência artificial, dizendo “a ia é uma extensão do corpo humano”, será muito enganador e fará com que percamos o estado de alerta. o estudioso de mídia alemão friedrich kittler discordou das palavras de mcluhan para descrever computadores, porque acreditava que, embora possamos digitar em um teclado de computador para fazer o texto aparecer na tela do computador, não temos ideia do que está por trás disso. difícil de entender. neste momento, estamos unindo dois meios completamente diferentes, o corpo humano e o chip. é realmente intrigante dizer que o último é uma extensão do primeiro.
se kittler visse a inteligência artificial de hoje, ele nem sequer diria que a ia é uma extensão do corpo humano - porque os utilizadores humanos não só são incapazes de descrever, explicar e prever o comportamento da ia, mas em breve serão incapazes de controlar o comportamento da ia. ia.
por isso,harari acredita que, ao contrário dos meios de comunicação anteriores, como a imprensa, o rádio, a televisão e a internet, que eram apenas ferramentas de comunicação, a inteligência artificial é o primeiro sujeito na história da humanidade que pode gerar ideias e agir por conta própria.
esta é também a razão pela qual, na pesquisa de novas mídias, a "comunicação mediada por computador (cmc)" na era da internet deu lugar à comunicação homem-máquina (hmc) na era atual da inteligência artificial. na cmc, os computadores (ou a internet) são apenas meios ou ferramentas de comunicação passivas e neutras, enquanto na hmc, os computadores (inteligência artificial) são considerados iguais aos utilizadores humanos, capazes de moldar e produzir conteúdos, e capazes de conduzir diálogos. "comunicador" que pode até mentir.
a ia fabrica narrativas, manipula a cognição e leva os humanos a matarem-se uns aos outros.
neste ponto da discussão, harari naturalmente trouxe à tona seus pontos de vista anteriores em “uma breve história da humanidade”:
o superpoder de longa data dos seres humanos reside na capacidade de usar a linguagem e criar muitos mitos fictícios através da linguagem, como conceitos virtuais como lei, moeda, cultura, arte, ciência, país, religião, etc., fazendo as pessoas acreditarem em através deles, as pessoas as regras sociais se conectam para governar toda a sociedade.
agora que a inteligência artificial de hoje já pode moldar e produzir conteúdo, realizar conversas e até mentir, é provável que espalhem informações com base em informações no ciberespaço, nos mercados de ações, nas informações da aviação e em outros campos com uma eficiência muito maior do que a dos humanos. objetivo final ou uma "narrativa" que seja benéfica para si mesmo, ou seja, "contar uma boa história de ia" para manipular a cognição humana.
por exemplo, os mercados financeiros são um playground ideal para a ia porque é um campo de informação e matemática pura (ou um campo de dados totalmente estruturados). ainda é difícil para a inteligência artificial dirigir carros de forma autônoma, porque a inteligência artificial enfrenta a interação caótica e complexa dos carros com estradas, sinais de trânsito, clima, luz, pedestres, bloqueios de estradas e outros objetos enquanto se move.mas num mercado financeiro baseado no digital, é fácil descrever um objectivo para a ia (como "ganhar tanto dinheiro quanto possível"), pelo que a ia pode não só formular novas estratégias de investimento e desenvolver novas ferramentas financeiras que ultrapassam completamente a compreensão humana. , mas pode até manipular o mercado sem escrúpulos, resultando em um resultado em que todos ganham e todos perdem.
harari deu o exemplo de que, em abril de 2022, o volume médio diário de negociações do mercado cambial global foi de 7,5 biliões de dólares, mais de 90% dos quais foram concluídos directamente por conversas entre computadores. mas quantos humanos realmente entendem como funciona o mercado forex? sem mencionar a compreensão de como um grupo de computadores pode chegar a um consenso sobre trilhões de dólares em transações. (este é o mesmo ponto de vista de kittler: os computadores não são de forma alguma uma extensão do corpo humano)
ele disse que durante milhares de anos, profetas, poetas e políticos usaram a linguagem e a narrativa para manipular e remodelar a sociedade, o que prova o enorme poder do “virtual” e da “narrativa”. em breve, a ia irá imitar estas pessoas e criar narrativas de ia que se desviam cada vez mais dos humanos com base na cultura humana. em última análise, a ia não precisa enviar robôs assassinos como “exterminadores” para eliminar os humanos de fora. ela só precisa manipular a cognição humana e deixá-los matar uns aos outros.
os usuários humanos não apenas são incapazes de descrever, explicar e prever o comportamento da ia, mas também em breve serão incapazes de controlá-la.
os seres humanos legislam sobre a ia e o desenvolvimento precisa primeiro travar e depois acelerar
através do argumento (ou renderização) acima, harari nos permite vivenciar o terrível cenário de “ia fora de controle” que ocorrerá (ou já ocorreu ou está ocorrendo) em um futuro próximo, fazendo estremecer a nós, humanos. então, para que servem os humanos?
harari acredita que, enquanto regularmos e controlarmos estritamente a inteligência artificial, é improvável que surjam os perigos descritos nos exemplos acima.
por exemplo, os carros costumavam ser muito perigosos, mas a legislação governamental exigia que as empresas gastassem uma grande parte dos seus orçamentos de i&d para garantir a segurança dos carros. por isso, hoje, uma empresa automóvel desenvolve um carro novo antes de o colocar no mercado. deve cumprir rigorosamente os regulamentos relevantes para garantir a segurança dos carros antes que eles possam ser colocados na estrada. portanto, é relativamente seguro dirigirmos hoje.
da mesma forma, se uma empresa de tecnologia inventar um novo algoritmo poderoso, deverá realizar verificações de segurança do mesmo de acordo com as leis relevantes antes de lançá-lo no mercado. por exemplo, harari acredita que o governo deveria legislar para exigir que as empresas de investigação e desenvolvimento de inteligência artificial gastem pelo menos 20% dos seus orçamentos em investigação e desenvolvimento de medidas de segurança para garantir que a inteligência artificial que desenvolvem não saia do controlo e não saia do controlo. não causar danos à ordem social e ao nível psicológico das pessoas. se estas medidas retardarem o desenvolvimento da inteligência artificial, será bom para a humanidade.
legislar e controlar primeiro a inteligência artificial e depois acelerar o seu desenvolvimento é como quando aprendemos a conduzir, devemos primeiro aprender a pisar no travão e depois aprender a pisar no acelerador. não podemos cair no terrível estado de “corrida de arrancada”, onde as empresas não têm controle.
conclusão: ia é bom remédio ou veneno, depende do ser humano
qualquer tecnologia é inerentemente bilateral. platão destacou no fedro que a escrita pode tanto melhorar quanto substituir a memória e, portanto, é ao mesmo tempo remédio e veneno (pharmakon). a inteligência artificial não é exceção e, por ser oculta e poderosa, pode falar por si e tomar as suas próprias decisões. a sua potência de medicamento e veneno é maior do que a de todas as tecnologias anteriores.
neil postman, um estudioso americano de estudos de mídia, disse: “orwell alertou que as pessoas seriam escravizadas pela opressão externa, enquanto huxley acreditava que as pessoas gradualmente se apaixonariam pela opressão e adorariam tecnologias industriais que as fariam perder a capacidade de pensar; preocupado que aquilo que odiamos nos destrua, enquanto huxley estava preocupado que à medida que a nossa cultura se tornasse uma cultura vulgar de sensualidade, desejo e brincadeiras sem regras, seríamos destruídos por aquilo que amamos.”
a inteligência artificial pode escravizar-nos sob a forma de opressão externa que odiamos, ou conquistar-nos sob a forma de estimulação sensorial que desfrutamos. tal como enfrentar bombas nucleares, enfrentar a ia, uma fera gigante que também é criada por si mesma, a capacidade dos humanos de a domesticar depende fundamentalmente da forma como os humanos respondem colectivamente.isto é, se os seres humanos, como homo sapiens, podem superar suas próprias fraquezas, como ganância, agressão e miopia, e ficar acima de si mesmos e ficar "acima do homo sapiens". este será um empreendimento comum difícil, mas a humanidade não tem escolha.
（o autor deng jianguo é professor e supervisor de doutorado no departamento de comunicação da escola de jornalismo da universidade fudan）
deng jianguo
(este artigo é do the paper. para mais informações originais, baixe o app “the paper”)
