Shi Qian e Xiao Chao｜Construindo uma linha sólida de defesa para o sistema de supervisão de segurança de inteligência artificial
2024-08-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
A imagem mostra o robô Tesla Optimus Prime. Foto do nosso repórter Yuan Jing
A Terceira Sessão Plenária do 20º Comitê Central do Partido Comunista da China propôs: “Fortalecer a construção do sistema de segurança de rede e estabelecer um sistema de supervisão de segurança de inteligência artificial. Esta é uma importante implantação feita pelo Comitê Central do Partido para coordenar o desenvolvimento”. e segurança e responder ativamente aos riscos de segurança da inteligência artificial. Para prever e responder eficazmente aos riscos decorrentes do desenvolvimento da tecnologia de inteligência artificial, bem como ao impacto real trazido pela aplicação da inteligência artificial, e para promover eficazmente a aplicação e o desenvolvimento da tecnologia de inteligência artificial, devemos analisar profundamente as novas características dos riscos sociais causados pela tecnologia inteligente e aguardamos com expectativa os riscos sociais. A previsão, a contenção científica e a orientação correta são necessárias para construir um sistema abrangente de gestão de riscos sociais de inteligência artificial que leve em conta o desenvolvimento e a segurança e injete impulso na melhoria. a eficiência da governação social.
Quatro novas características dos riscos sociais na era da inteligência artificial
Actualmente, o mundo entrou numa era de "sociedade de risco" com elevada incerteza. A tecnologia de inteligência artificial está a mudar a lógica e as regras de funcionamento da sociedade moderna. Os valores e comportamentos da sociedade humana estão a ser sistematicamente reconstruídos, e os riscos sociais resultantes. Apresenta principalmente quatro novas características: spread, cascata, derivada e histerese:
Em primeiro lugar, a inteligência artificial aumentou a velocidade e o alcance da disseminação de informações sobre riscos, e os riscos sociais são contagiosos. A tecnologia de inteligência artificial reduz a dificuldade de geração de informações e aumenta a amplitude e profundidade da difusão de informações. A difusão de informações amplia o alcance do impacto dos eventos de risco, formando uma natureza altamente contagiosa. Ao mesmo tempo, a inteligência artificial pode identificar e amplificar as emoções e comportamentos dos utilizadores através de análise de sentimentos e previsão de comportamento. Se um tipo de evento de risco desencadeia fortes reações emocionais como pânico e raiva, o sistema de inteligência artificial pode dar prioridade à recomendação e divulgação deste tipo de informação, agravando ainda mais o sentimento público e tornando a informação de risco altamente contagiosa e contagiosa. A supervisão e o controlo eficazes terão um grande impacto na segurança social e na ordem social.
Em segundo lugar, a inteligência artificial confunde as fronteiras virtuais e reais dos sistemas sociais e os riscos sociais estão em cascata. A tecnologia de inteligência artificial torna pessoas e pessoas, pessoas e coisas, e coisas e coisas altamente acopladas. As fronteiras entre o mundo virtual e o mundo real tornam-se confusas, formando um sistema de rede complexo. Muitas atividades sociais são realizadas através de plataformas virtuais e incorporadas em situações da vida real. A fuga de dados no mundo virtual pode levar ao roubo de identidade no mundo real. . Pelo contrário, os incidentes de segurança no mundo real também afectarão a segurança do mundo virtual através da transmissão de dados, e a interacção entre o virtual e o real causará um efeito cascata de riscos sociais. Fortalecidos pela tecnologia inteligente, os diferentes sistemas sociais estão altamente interligados e muitos processos de tomada de decisão são automatizados. No entanto, decisões incorretas tomadas por sistemas automatizados podem desencadear uma série de reações em cadeia, conduzindo à propagação em cascata de riscos.
Terceiro, a inteligência artificial desencadeou uma série de riscos secundários e cadeias de risco, e os riscos sociais são derivados. A aplicação da tecnologia de inteligência artificial pode causar riscos iniciais e, no processo de resolução ou mitigação dos riscos, causará ainda uma série de riscos secundários, formando uma complexa cadeia de riscos. Os eventos de risco podem propagar-se rapidamente entre diferentes domínios e ser transmitidos a múltiplos níveis, formando riscos secundários. Por exemplo, os ataques cibernéticos não só levam à fuga de informações, mas também podem causar acidentes no mundo real, como engarrafamentos, falhas de equipamentos médicos, etc., ao afetarem a Internet das Coisas. Erros de dados ou algoritmos inadequados também podem dar origem a uma série de riscos secundários. Tomemos como exemplo o preconceito algorítmico. O mecanismo injusto de tomada de decisão por ele causado muitas vezes leva à insatisfação social e ao conflito. Os eventos de risco geralmente causam mudanças no comportamento e na psicologia do público, originando ainda novos riscos secundários e formando uma cadeia de riscos.
Quarto, a inteligência artificial esconde o impacto de alguns eventos de risco e os riscos sociais têm uma natureza retardada. A tecnologia de inteligência artificial depende de grandes quantidades de dados para treinamento e operações, e depende de algoritmos para a tomada de decisões. O vazamento ou abuso de dados pode não ter um impacto imediato e óbvio. O processo de tomada de decisão e os resultados podem não apresentar problemas no curto prazo. , mas com o tempo, o abuso de dados pode ocorrer e os efeitos cumulativos do viés algorítmico surgirão com o tempo. Ao mesmo tempo, a tecnologia de inteligência artificial também é altamente dependente da infra-estrutura técnica e dos sistemas de automação. Estas falhas de sistema ou falhas de concepção podem não ser fáceis de detectar a curto prazo, mas ao longo do tempo, a acumulação gradual de problemas pode levar a riscos sistémicos. . A aplicação de tecnologia inteligente tem um impacto profundo no comportamento social e na psicologia. Por exemplo, a utilização a longo prazo de sistemas de recomendação inteligentes pode levar a um efeito de casulo de informação, estreitando a visão do utilizador, afetando assim a diversidade e a inclusão da sociedade.
Quatro estratégias para alcançar uma “governança orientada para IA”
A fim de responder eficazmente aos riscos sociais e às novas características que podem ser causadas pelo desenvolvimento da tecnologia de inteligência artificial, o modelo tradicional de governação do risco deve ser alterado de forma direcionada, utilizando ao mesmo tempo a tecnologia de inteligência artificial para melhorar a eficiência da identificação de riscos e alerta precoce e alcançar o objetivo de "governança baseada em inteligência artificial". Ao mesmo tempo, devemos prevenir e alertar eficazmente contra possíveis riscos causados pela aplicação de tecnologia de inteligência artificial, realizar uma "governança orientada para inteligência artificial" e construir um lógica de governança bidirecional em que “a tecnologia capacita a governança social e a governança evita o abuso da tecnologia”.
Primeiro, utilizar dados multimodais para identificar relações interativas complexas e melhorar a precisão da identificação de riscos e do alerta precoce. Dados multimodais referem-se a dados obtidos de diferentes campos ou perspectivas para o mesmo objeto de descrição e são usados para representar diferentes formas de dados ou diferentes formatos do mesmo formulário. A tecnologia de fusão de dados multimodal pode explorar e utilizar totalmente informações complementares entre os dados, caracterizar de forma mais abrangente as características dos objetos, identificar ou inferir relações interativas mais complexas e obter percepção em tempo real, análise de correlação e previsão de situação de sistemas gigantes sociais complexos. pode melhorar a precisão da identificação de riscos, construir uma avaliação de riscos mais flexível e uma estrutura de alerta precoce e alcançar uma gestão e controle de riscos dinâmicos e prospectivos. Também pode integrar efetivamente os processos de tomada de decisão independentes no processo de alerta e resposta a riscos. fornecer a diferentes entidades de tomada de decisão Fornecer métodos e ferramentas básicas para colaboração. Portanto, é possível analisar de forma abrangente dados de diferentes modalidades, como texto, imagens, áudio e dados de sensores, integrando diferentes dados modais de diferentes campos, e aplicar tecnologias como aprendizado de máquina e aprendizado profundo para identificar relações interativas complexas entre dados. . Promover a colaboração multipartidária entre governos, empresas, organizações sociais, instituições acadêmicas, etc., estabelecer um mecanismo de compartilhamento de informações entre departamentos, integrar recursos de dados multimodais, construir um sistema de alerta precoce em tempo real e descobrir e alertar potenciais potenciais riscos.
Em segundo lugar, desenvolver planos de gestão de risco personalizados com base no nível de desenvolvimento e aplicação de tecnologia inteligente para evitar a concentração de stress de risco. Devido às diferenças no desenvolvimento económico e social e nos níveis de aplicação da tecnologia de inteligência artificial entre diferentes regiões, o que por sua vez conduz a inconsistências nas capacidades de resposta aos riscos, a propagação e evolução inter-regional dos riscos sociais é desigual. É necessário formular planos de gestão de riscos personalizados com base no desenvolvimento regional real, reduzir o estresse local através da colaboração multiagente e multirregional e evitar danos estruturais ao sistema social. Portanto, a governação do risco da tecnologia de inteligência artificial deve primeiro avaliar o nível de aplicação da tecnologia de inteligência artificial em diferentes regiões, analisar as capacidades de resposta ao risco, incluindo recursos de emergência, infra-estruturas técnicas e capacidades de gestão, e identificar os pontos fortes e fracos da resposta regional ao risco. Desenvolva estratégias personalizadas de gestão de riscos com base nas condições específicas de diferentes regiões. Por exemplo, as áreas economicamente desenvolvidas podem concentrar-se no reforço da segurança técnica e da protecção de dados, enquanto as áreas economicamente subdesenvolvidas precisam de melhorar a construção de infra-estruturas e a popularização da tecnologia. Através do apoio político e do investimento de capital, promoveremos a melhoria do nível de aplicação de tecnologia inteligente em áreas tecnologicamente atrasadas e reduziremos o fosso tecnológico e as capacidades de resposta ao risco entre as regiões.
Em terceiro lugar, precisamos de equilibrar o desenvolvimento tecnológico e a regulação dos riscos, optimizar o custo total da gestão dos riscos e garantir que a tecnologia de inteligência digital seja simultaneamente "gerenciável" e "flexível". A governação do risco da inteligência artificial deve ter em conta tanto a "segurança" como o "desenvolvimento", não só para evitar perdas económicas e sociais causadas por falhas de governação, mas também para evitar a redução dos benefícios económicos e sociais causados pela governação excessiva. O custo da governação do risco da inteligência artificial inclui muitos factores de custo, tais como custos de prevenção de riscos quando o mecanismo de governação está em vigor e falha, custos de falha social e custos de perda de benefícios sociais. A intensidade da supervisão pode ser ajustada em tempo hábil de acordo com a maturidade da tecnologia e dos cenários de aplicação. Na fase inicial da tecnologia, a supervisão flexível é adoptada para incentivar a inovação; na fase madura da tecnologia, a supervisão é reforçada para garantir a segurança e a normalização. Ao formular estratégias de governação do risco, é necessário quantificar diferentes elementos de custos, realizar análises custo-benefício e selecionar o plano de governação ideal para controlar eficazmente os riscos e evitar custos de governação desnecessários. Ao mesmo tempo, a fim de reduzir eficazmente os custos de gestão de riscos, pode ser fornecido apoio político e financeiro para incentivar as empresas e instituições de investigação científica a realizar inovações tecnológicas de segurança e, ao mesmo tempo, promover a inovação tecnológica de inteligência artificial, garantir o desenvolvimento simultâneo de medidas de segurança .
Finalmente, precisamos de estudar e avaliar antecipadamente os riscos sociais que podem surgir do desenvolvimento da tecnologia de inteligência artificial e formular adequadamente sistemas e padrões de supervisão de riscos sociais de inteligência artificial. O rápido desenvolvimento e iteração da tecnologia de inteligência artificial é muitas vezes mais rápido do que a formulação e o ajustamento de políticas e leis, resultando num certo atraso nos padrões de política de governação para a inteligência artificial. Portanto, é necessário incorporar a aplicação da tecnologia de inteligência artificial na governança social, formular sistemas de supervisão de segurança relevantes e padrões industriais para riscos sociais de inteligência artificial, e garantir que as políticas e leis possam acompanhar o desenvolvimento tecnológico, promovendo ao mesmo tempo a construção e o desenvolvimento de cenários de aplicação de tecnologia inteligente. As tendências de desenvolvimento da tecnologia de inteligência artificial devem ser analisadas regularmente, devem ser feitas avaliações abrangentes a partir de múltiplas dimensões, como tecnologia, ética, direito, economia e sociedade, deve ser estabelecido um mecanismo de alerta precoce de risco de inteligência artificial, devem ser descobertos riscos potenciais trazidos pelas tecnologias emergentes e previstos em tempo hábil, e a pesquisa e a formulação devem ser realizadas Políticas e regulamentações flexíveis e voltadas para o futuro. Além disso, devemos participar activamente na formulação de normas e regulamentos internacionais, estabelecer uma plataforma de cooperação transnacional, promover a cooperação e os intercâmbios entre países na governação da inteligência artificial e responder conjuntamente aos riscos e desafios tecnológicos globais.
(Afiliação do autor: Escola de Economia e Gestão, Universidade Tongji)
autor:
Texto: Shi Qian Xiao Chao Foto: Yuan Jing Editor: Chen Yu Editor: Yang Yiqi
Por favor indique a fonte ao reimprimir este artigo.
