notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Liu Cheng/Texto Recentemente, indústrias como a de transporte de passageiros online sem condutor, veículos de entrega sem condutor, navios de cruzeiro sem condutor e drones aceleraram em Pequim, Wuhan e outros locais, ganhando vantagens de ser pioneiro em todo o país e até no mundo. Contudo, as questões de governação social que levanta, especialmente a questão da atribuição de responsabilidades, ainda não foram resolvidas.

O desenvolvimento inovador das indústrias não pode ser restringido devido à falta de regras sociais, mas as tecnologias relacionadas não podem funcionar num estado de “anarquia”. Portanto, todos os setores da sociedade precisam fortalecer o pensamento teórico e as discussões práticas para alcançar o sucesso. certos padrões sobre regras institucionais de consenso social.

Dirigir sem motorista não significa que ninguém seja responsável

A maioria dos sujeitos vinculativos das leis e regulamentos actuais são pessoas (pessoas singulares ou colectivas), especialmente quando se trata de mecanismos de responsabilização importantes, como a responsabilidade criminal, que muitas vezes precisam de ser direccionados para inocentar pessoas singulares individuais.

Por outras palavras, a supervisão dos resultados da segurança, tais como acidentes graves e crimes intencionais (embora a taxa de incidência não seja elevada em comparação com os acidentes de segurança em geral) é uma condição necessária para a manutenção do trânsito e da ordem social, e depende fortemente do direito penal. Entre eles, a maioria dos crimes de trânsito tem como alvo condutores de veículos automotores.

Portanto, determinar o responsável é a questão principal na regulamentação da condução autônoma (e de outros produtos similares com inteligência artificial). Ao contrário da condução normal de veículos, a condução autónoma não tem condutor direto, resultando na falta de sujeitos responsáveis ​​diretos. Isto parece ter se tornado um “mistério sem cabeça” na realidade ou um paradoxo teórico.

Olhando para a essência do fenómeno, podemos ainda encontrar diversas entidades responsáveis ​​que podem tornar-se condução autónoma, nomeadamente: utilizadores de condução autónoma, operadores ou técnicos de segurança por trás da condução autónoma; É claro que isto é principalmente especulação teórica e também é apoiado por um pequeno número de casos estrangeiros. No entanto, quanto a quem é responsável pela supervisão, esta questão ainda requer investigação aprofundada e demonstração por parte de académicos, governos e departamentos legislativos.

Não há dúvida de que os veículos autônomos (ou outros meios de transporte como navios e aeronaves) não possuem motorista, mas possuem um usuário claro. Semelhante ao "usuário responsável pelo uso" proposto pela Comissão de Direito do Reino Unido no estado americano da Geórgia, isso significa "a pessoa que faz o veículo se mover".

Se um usuário optar por usar ou ativar um veículo não tripulado sabendo que ele não é tripulado, o padrão será sua disposição de arcar com as possíveis consequências. É claro que algumas pessoas podem pensar que os usuários são apenas objetos de serviço, consumidores. A teoria geral é que, desde que não haja uso indevido, os consumidores não devem ser responsáveis ​​pelas consequências adversas do processo de consumo. Portanto, há uma controvérsia considerável em países ao redor do mundo de que os usuários são os principais responsáveis ​​pela condução autônoma.

Um compromisso é que o usuário do veículo autônomo ainda tenha que assumir o papel de motorista. Devido à posição-chave do motorista, alguns estados dos Estados Unidos que permitem que veículos autônomos viajem na estrada exigem que um motorista humano esteja no banco do motorista e permaneça alerta, mas na verdade mantenha um motorista reserva. A consequência é que os veículos sem condutor exigem que o condutor assuma a responsabilidade, e o utilizador passa a ser o condutor apenas no nome, limitando o desenvolvimento da indústria.

A segunda categoria de possíveis responsáveis ​​são os operadores remotos. Operadores remotos, técnicos e responsáveis ​​pela segurança podem ser descritos como os “motoristas” da tecnologia de condução autônoma. Em circunstâncias normais, as pessoas não sentem a sua presença, mas em emergências aparecerão prontamente e prestarão assistência de segurança.

O estado da Califórnia, nos Estados Unidos, permite pedidos de licenças de teste de direção autônoma, mas exige que um operador remoto com carteira de motorista correspondente “supervisione continuamente a execução da tarefa de direção dinâmica do veículo” quando nenhum motorista humano reserva estiver presente. O estado americano do Arizona estipula que as penalidades decorrentes de infrações de trânsito ou de veículos serão atribuídas a pessoas que “testem ou operem veículos totalmente autônomos”.

Por outras palavras, esta abordagem estende o conceito de condutor a um operador remoto que é considerado responsável pelo veículo, mesmo que não esteja sentado no veículo.

O terceiro tipo de sujeito responsável salta do quadro lógico do condutor e busca que os proprietários, operadores ou beneficiários dos veículos assumam a responsabilidade na perspectiva dos interesses.

Os primeiros dois tipos de utilizadores sujeitos e operadores remotos fazem com que o veículo se mova e controlem remotamente o veículo, respetivamente. A ideia regulamentar é dar-lhes a identidade oculta do condutor e, em seguida, responsabilizá-los como condutores ao abrigo do atual quadro jurídico. Se o condutor de um veículo autónomo for encontrado, os regulamentos existentes continuarão a ser aplicáveis ​​e todos os desafios regulamentares relativos à condução autónoma serão resolvidos.

No entanto, como mencionado acima, os dois primeiros tipos de sujeitos não são, afinal, verdadeiros impulsionadores, e essa identificação arbitrária de identidades cria uma grande controvérsia social. Surge assim o terceiro tipo de sujeito responsável.

Se os utilizadores e operadores remotos não podem ser usados ​​como bodes expiatórios, quem mais pode ser responsabilizado por potenciais acidentes? O apelo mais alto da sociedade é que os proprietários de veículos assumam a responsabilidade.

Atualmente, os proprietários, operadores e beneficiários de veículos são todos a mesma entidade – empresas de plataforma. Eles lançam este novo negócio, prestam serviços e obtêm lucros, e deveriam ser responsáveis ​​por isso, tal como os restaurantes são responsáveis ​​pela sua alimentação.

Mas a verdadeira dificuldade é que a plataforma é uma empresa, não uma pessoa física, e é difícil arcar com responsabilidade criminal. Algumas pessoas propuseram que as pessoas jurídicas corporativas deveriam ser responsáveis, mas isso vai além do escopo normal da qualidade do produto ou da responsabilidade pela qualidade do serviço. De um modo geral, quando os consumidores utilizam produtos ou serviços, o fornecedor do produto ou serviço é responsável pela qualidade do produto, mas há um âmbito claro e a responsabilidade não pode ser excessiva.

A maior dificuldade é que quando se separam proprietários, operadores e beneficiários de veículos, quase não há solução para a atribuição e partilha de responsabilidades. Por exemplo, se os indivíduos forem autorizados a alugar veículos sem condutor e a operá-los por terceiros no futuro, haverá múltiplas entidades, incluindo proprietários de veículos, locadores, operadores e beneficiários.

Deve-se notar que a análise acima se concentra apenas na responsabilidade potencial por acidentes que podem ocorrer durante a utilização normal de veículos sem condutor. Para atos ilegais intencionais durante a utilização, as pessoas responsáveis ​​específicas precisam ser identificadas caso a caso. Por exemplo, se o uso indevido de um usuário levar a uma colisão maliciosa, o usuário deverá ser o principal responsável.

As máquinas inteligentes têm personalidade e como podem ser responsabilizadas?

Veículos sem condutor, navios, aviões e outras máquinas artificialmente inteligentes não têm alma nem mente, não são seres humanos;

Mas se essas máquinas tiverem características de personalidade, elas terão personalidade jurídica independente e poderão ser responsáveis ​​por suas “próprias” ações. Parece ficção científica, mas já existe na teoria e na realidade.

As máquinas, incluindo os veículos sem condutor, têm personalidade? Existem duas visões opostas sobre isso.

Uma visão é que as máquinas não têm personalidade e não precisam ser responsáveis ​​pelas suas ações, por isso é necessário buscar a responsabilidade principal das pessoas por trás das máquinas.

Alguns estudiosos acreditam que, embora a “autonomia” das máquinas inteligentes seja normalmente usada para descrever a sua capacidade de tomar decisões de forma independente, elas não têm desejos ou valores. Ao descrever um sistema de IA como autónomo, normalmente não se quer dizer que este tome decisões “por si próprio”. Entendida desta perspectiva, a questão da autonomia não é uma qualidade misteriosa inerente aos sistemas de inteligência artificial.

Mesmo que a máquina tenha capacidade de tomada de decisão autônoma, ela é apenas uma ação “consciente” sob o comando de um programa humano. Ela está essencialmente executando a tomada de decisão humana. Portanto, os humanos deveriam ser responsáveis ​​pelo comportamento autônomo das máquinas.

É claro que o processo de capacitação dos humanos para que as máquinas tomem decisões automáticas deve ser transparente, e os humanos não podem ser responsabilizados pelas ações erradas das máquinas sem o seu conhecimento. Por outras palavras, a pessoa que controla a máquina é responsável pela máquina e as pessoas comuns têm o direito de saber como a máquina toma decisões, protegendo assim o seu direito de saber. Da mesma forma, grandes empresas como plataformas são responsáveis ​​por máquinas inteligentes e precisam informar os usuários sobre os algoritmos das máquinas inteligentes e os princípios da tomada automática de decisões.

De acordo com o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia, os usuários têm o direito de solicitar uma explicação sobre se existe um mecanismo automatizado de tomada de decisão, bem como uma explicação razoável dos "princípios lógicos envolvidos na tomada automatizada de decisões, sua importância para o usuário e as consequências esperadas" e outras informações. Correspondendo ao cenário de condução sem condutor, a plataforma deverá ser responsável pelo veículo e informar os utilizadores sobre informações básicas sobre o funcionamento do veículo, como velocidade do veículo, evitação de peões e outras informações.

Outra opinião é que as máquinas, incluindo os veículos sem condutor, e os seus sistemas de inteligência artificial têm “consciência autónoma de robô” e acabarão por ter plena personalidade jurídica.

Alguns estudiosos acreditam que as máquinas têm consciência autônoma e podem ser responsáveis ​​pelas suas próprias ações. A função das leis de trânsito rodoviário e o objectivo de punir actos ilegais são melhorar a segurança rodoviária e manter a ordem rodoviária. As multas, a prisão e a reabilitação pessoal dos condutores visam forçar o comportamento humano a cumprir as normas de segurança.

Como analogia, os humanos podem impor restrições de regras diretamente aos veículos não tripulados e aos seus sistemas inteligentes, e considerar a aplicação da lei como um elo de feedback para os sistemas de formação modificarem ainda mais os seus algoritmos e projetos arquitetónicos.

Em casos mais graves, revogar a autorização de determinados veículos autónomos para circular na estrada, provocando a sua retirada ou extinção, equivale a sancionar a pena de morte para uma pessoa. Em suma, se a máquina tiver personalidade, pode ser punida através da transformação ou da destruição.

Uma visão utópica é que os veículos sem condutor podem ser tão superiores aos condutores humanos na tecnologia de condução que não há necessidade de considerar a responsabilidade criminal, sendo apenas necessário manter a ética tecnológica e a ordem da concorrência no mercado. Isto transforma a questão da supervisão social das pessoas numa questão de supervisão económica do mercado.

As regras sociais precisam urgentemente de mudanças profundas

Os sistemas de inteligência artificial representados pela condução autónoma são complexos e eficientes. Podem promover a evolução global da civilização, afectar os mecanismos sociais, provocar mudanças na divisão social do trabalho, nos mercados de trabalho e nos padrões de oportunidades, afectar as práticas culturais e as interacções sociais, e mudar o ser humano. produção, vida e modo de sobrevivência, o que pode remodelar as normas sociais.

As tecnologias materiais em rápida mudança exigem sempre sistemas, conceitos e outras adaptações culturais correspondentes, a fim de impulsionar o desenvolvimento e a inovação de toda a sociedade. Mas hoje em dia, os seres humanos estão inerentemente inclinados a uma cultura atrasada e são obviamente incapazes de se adaptar às novas tecnologias. Especialmente quando os sistemas de governação e os conceitos éticos não conseguem adaptar-se rapidamente, haverá um dilema de atraso cultural que impede a mudança tecnológica? Essas questões necessitam urgentemente de pesquisa teórica e discussão prática na academia e na indústria.

Na opinião do autor, dirigir sem motorista não significa que ninguém seja responsável. Há aproximadamente duas ideias por trás disso: uma é concretizar o sujeito responsável e encontrar alguém que não seja o motorista, mas que possa assumir a responsabilidade do motorista; personificar o robô e torná-lo um motorista. Ele é responsável por si mesmo.

(O autor é pesquisador associado do Instituto de Estratégia Financeira da Academia Chinesa de Ciências Sociais)

Declaração de direitos autorais: O conteúdo acima é obra original do "Economic Observer", e os direitos autorais pertencem ao "Economic Observer". A reimpressão ou espelhamento é estritamente proibida sem a autorização do Observador Económico, caso contrário os intervenientes relevantes serão legalmente responsabilizados. Para cooperação em direitos autorais, ligue para: [010-60910566-1260].