nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Liu Cheng/Texte Récemment, des secteurs tels que les services de covoiturage en ligne sans conducteur, les véhicules de livraison sans conducteur, les navires de croisière sans conducteur et les drones se sont accélérés à Pékin, à Wuhan et ailleurs, bénéficiant d'avantages de premier arrivé à travers le pays et même dans le monde. Cependant, les questions de gouvernance sociale qu’elle soulève, notamment celle de l’attribution des responsabilités, ne sont toujours pas résolues.

Le développement innovant des industries ne peut pas être limité par l'absence de règles sociales, mais les technologies associées ne peuvent pas être autorisées à fonctionner dans un état d'« anarchie ». Par conséquent, tous les secteurs de la société doivent renforcer la réflexion théorique et les discussions pratiques afin d'y parvenir. certaines normes sur les règles institutionnelles.

La conduite sans conducteur ne signifie pas que personne n'est responsable

La plupart des sujets contraignants des lois et réglementations actuelles sont des personnes (personnes physiques ou personnes morales), en particulier lorsqu'il s'agit de mécanismes de responsabilisation majeurs tels que la responsabilité pénale, qui doivent souvent être orientés vers l'innocuité des personnes physiques.

En d’autres termes, le contrôle des résultats de sécurité tels que les accidents majeurs et les délits intentionnels (bien que le taux d’incidence ne soit pas élevé par rapport aux accidents de sécurité générale) est une condition nécessaire au maintien de la circulation et de l’ordre social, et s’appuie fortement sur le droit pénal. Parmi eux, la plupart des délits routiers ciblent les conducteurs de véhicules à moteur.

Par conséquent, la détermination de la partie responsable est la question principale de la réglementation de la conduite autonome (et d’autres produits similaires dotés d’intelligence artificielle). Contrairement à la conduite automobile normale, la conduite autonome n'a pas de conducteur direct, ce qui entraîne un manque de sujets directement responsables. Cela semble être devenu en réalité un « mystère sans tête » ou un paradoxe théorique.

En regardant l'essence du phénomène, nous pouvons encore trouver plusieurs entités responsables qui peuvent devenir conduite autonome, parmi lesquelles : les utilisateurs de conduite autonome, les techniciens ou agents de sécurité derrière la conduite autonome ; Bien entendu, il s’agit principalement de spéculations théoriques, également étayées par un petit nombre de cas étrangers. Cependant, quant à savoir qui est responsable de la supervision, cette question nécessite encore des recherches et des démonstrations approfondies de la part des universitaires, du gouvernement et des départements législatifs.

Il ne fait aucun doute que les véhicules autonomes (ou d’autres moyens de transport tels que les navires et les avions) n’ont pas de conducteur, mais un utilisateur clair. Semblable à l'« utilisateur responsable de l'utilisation » proposé par la Commission juridique du Royaume-Uni, dans l'État américain de Géorgie, cela signifie « la personne qui fait bouger le véhicule ».

Si un utilisateur choisit d'utiliser ou d'activer un véhicule sans pilote tout en sachant qu'il est sans pilote, il est par défaut disposé à en supporter les conséquences potentielles. Bien sûr, certains peuvent penser que les utilisateurs ne sont que des objets de service, des consommateurs. La théorie générale est que tant qu’il n’y a pas d’utilisation inappropriée, les consommateurs ne devraient pas être responsables des conséquences néfastes du processus de consommation. Il existe donc une controverse considérable dans les pays du monde entier selon laquelle les utilisateurs portent la responsabilité principale de la conduite autonome.

Un compromis est que l’utilisateur du véhicule autonome doit toujours assumer le rôle de conducteur. En raison de la position clé du conducteur, certains États des États-Unis qui autorisent la circulation des véhicules autonomes exigent qu'un conducteur humain soit à la place du conducteur et reste vigilant, mais retiennent en fait un conducteur de secours. La conséquence est que les véhicules sans conducteur exigent que le conducteur assume ses responsabilités et que l'utilisateur devienne le conducteur. La conduite sans conducteur n'a que le nom, ce qui limite le développement de l'industrie.

La deuxième catégorie de personnes responsables possibles est celle des opérateurs distants. Les opérateurs, techniciens et agents de sécurité à distance peuvent être décrits comme les « pilotes » de la technologie de conduite autonome. Dans des circonstances normales, les gens ne sentent pas leur présence, mais en cas d'urgence, ils apparaîtront rapidement et fourniront une assistance en matière de sécurité.

L'État de Californie aux États-Unis autorise les demandes de permis d'examen de conduite autonome, mais exige qu'un opérateur à distance possédant un permis de conduire correspondant « supervise en permanence l'exécution des tâches de conduite dynamique du véhicule » lorsqu'aucun conducteur de secours humain n'est présent. L'État américain de l'Arizona stipule que les sanctions résultant d'infractions au code de la route ou concernant les véhicules seront attribuées aux personnes qui « testent ou conduisent des véhicules entièrement autonomes ».

En d’autres termes, cette approche étend la notion de conducteur à un opérateur distant qui est considéré comme responsable du véhicule, même s’il n’est pas assis dans le véhicule.

Le troisième type de sujet responsable sort du cadre logique du conducteur et cherche à ce que les propriétaires, exploitants ou bénéficiaires de véhicules assument la responsabilité du point de vue des intérêts.

Les deux premiers types d'utilisateurs concernés et d'opérateurs à distance font respectivement bouger le véhicule et le contrôler à distance. L'idée réglementaire est de leur donner l'identité fantôme du conducteur, puis de les tenir responsables en tant que conducteurs dans le cadre juridique actuel. Si le conducteur d’un véhicule autonome est trouvé, les réglementations existantes s’appliqueront toujours et tous les défis réglementaires liés à la conduite autonome seront résolus.

Cependant, comme mentionné ci-dessus, les deux premiers types de sujets ne sont finalement pas de véritables moteurs, et une telle identification arbitraire des identités crée une grande controverse sociale. Ainsi apparaît le troisième type de sujet responsable.

Si les utilisateurs et les opérateurs à distance ne peuvent pas être désignés comme boucs émissaires, qui d’autre peut être tenu responsable des accidents potentiels ? L’appel le plus fort de la société est que les propriétaires de véhicules prennent leurs responsabilités.

À l’heure actuelle, les propriétaires, les exploitants et les bénéficiaires de véhicules constituent tous la même entité : les sociétés de plateforme. Ils lancent cette nouvelle entreprise, fournissent des services et réalisent des bénéfices, et ils devraient en être responsables, tout comme les restaurants sont responsables de leur nourriture.

Mais la vraie difficulté est que la plateforme est une entreprise, pas une personne physique, et qu’il est difficile d’engager sa responsabilité pénale. Certains ont proposé que les personnes morales soient responsables, mais cela dépasse le cadre normal de la responsabilité en matière de qualité des produits ou de qualité des services. D'une manière générale, lorsque les consommateurs utilisent des produits ou des services, le fournisseur du produit ou du service est responsable de la qualité du produit, mais la portée est claire et la responsabilité ne peut être excessive.

La plus grande difficulté réside dans le fait que lorsque les propriétaires, les exploitants et les bénéficiaires des véhicules sont séparés, il n’existe pratiquement aucune solution quant à l’attribution et au partage des responsabilités. Par exemple, si les particuliers sont autorisés à louer des véhicules sans conducteur et à les faire conduire par des tiers à l’avenir, il y aura plusieurs entités, notamment les propriétaires, les bailleurs, les exploitants et les bénéficiaires des véhicules.

Il convient de noter que l’analyse ci-dessus se concentre uniquement sur la responsabilité potentielle en cas d’accident pouvant survenir lors de l’utilisation normale de véhicules sans conducteur. Pour les actes illégaux intentionnels lors de l’utilisation, des personnes responsables spécifiques doivent être identifiées au cas par cas. Par exemple, si une utilisation inappropriée d'un utilisateur entraîne une collision malveillante, l'utilisateur doit en être la principale personne responsable.

Les machines intelligentes ont-elles des personnalités et comment peuvent-elles être tenues pour responsables ?

Les véhicules, navires, avions et autres machines artificiellement intelligentes sans conducteur n’ont ni âme ni esprit, ce ne sont pas des êtres humains.

Mais si ces machines ont des caractéristiques de personnalité, elles auront une personnalité juridique indépendante et pourront être responsables de leurs « propres » actes. Cela ressemble à de la science-fiction, mais cela existe déjà en théorie et en réalité.

Les machines, y compris les véhicules sans conducteur, ont-elles des personnalités ? Il existe deux points de vue opposés à ce sujet.

Selon certains, les machines n'ont pas de personnalité et n'ont pas besoin d'être responsables de leurs actes. Il est donc nécessaire de poursuivre la responsabilité principale des personnes derrière les machines.

Certains chercheurs estiment que même si « l’autonomie » des machines intelligentes est généralement utilisée pour décrire leur capacité à prendre des décisions de manière indépendante, elles n’ont ni désirs ni valeurs. Lorsqu’on décrit un système d’IA comme autonome, on ne veut généralement pas dire qu’il prend des décisions « tout seul ». Entendue sous cet angle, la question de l’autonomie n’est pas une qualité mystérieuse inhérente aux systèmes d’intelligence artificielle.

Même si la machine possède des capacités de prise de décision autonomes, il ne s’agit que d’une action « consciente » sous le commandement d’un programme humain. Elle exécute essentiellement une prise de décision humaine. Les humains devraient donc être responsables du comportement autonome des machines.

Bien entendu, le processus par lequel les humains donnent aux machines les moyens de prendre des décisions automatiques doit être transparent, et les humains ne peuvent pas être tenus responsables des mauvaises actions des machines à leur insu. En d’autres termes, la personne qui contrôle la machine est responsable de la machine, et les gens ordinaires ont le droit de savoir comment la machine prend ses décisions, protégeant ainsi leur droit de savoir. De la même manière, les grandes entreprises comme les plateformes sont responsables des machines intelligentes et doivent informer les utilisateurs sur les algorithmes des machines intelligentes et les principes de prise de décision automatique.

Conformément au Règlement général sur la protection des données (RGPD) de l'Union européenne, les utilisateurs ont le droit de demander une explication sur l'existence d'un mécanisme de prise de décision automatisée, ainsi qu'une explication raisonnable sur « les principes logiques impliqués dans la prise de décision automatisée, son importance pour l'utilisateur et les conséquences attendues" et d'autres informations. Correspondant au scénario de conduite sans conducteur, la plateforme devrait être responsable du véhicule et fournir aux utilisateurs des informations de base sur le fonctionnement du véhicule, telles que la vitesse du véhicule, l'évitement des piétons et d'autres informations.

Un autre point de vue est que les machines, y compris les véhicules sans conducteur, et leurs systèmes d'intelligence artificielle ont une « conscience autonome de robot » et auront à terme une pleine personnalité juridique.

Certains chercheurs pensent que les machines ont une conscience autonome et peuvent être responsables de leurs propres actions. La fonction du code de la route et le but de punir les actes illégaux sont d'améliorer la sécurité routière et de maintenir l'ordre routier. Les amendes, les peines d'emprisonnement et la réhabilitation personnelle des conducteurs ont pour but de forcer le comportement humain à se conformer aux normes de sécurité.

Par analogie, les humains peuvent imposer directement des contraintes de règles aux véhicules sans pilote et à leurs systèmes intelligents, et considérer les forces de l’ordre comme un lien de rétroaction permettant aux systèmes de formation de modifier davantage leurs algorithmes et leurs conceptions architecturales.

Dans les cas plus graves, retirer l’autorisation de circuler sur la route de certains véhicules autonomes, entraînant leur radiation ou leur extinction, équivaut à sanctionner une condamnation à mort pour une personne. Bref, si la machine a une personnalité, elle peut être punie par la transformation ou la destruction.

Une vision utopique est que les véhicules sans conducteur pourraient être si supérieurs aux conducteurs humains en matière de technologie de conduite qu'il ne serait pas du tout nécessaire d'envisager la responsabilité pénale, et qu'il suffirait simplement de maintenir l'éthique technologique et l'ordre de la concurrence sur le marché. Cela transforme la question de l’encadrement social des personnes en une question d’encadrement économique du marché.

Les règles sociales nécessitent de toute urgence des changements profonds

Les systèmes d'intelligence artificielle représentés par la conduite autonome sont complexes et efficaces. Ils peuvent favoriser l'évolution globale de la civilisation, affecter les mécanismes sociaux, provoquer des changements dans la division sociale du travail, les marchés du travail et les modèles d'opportunités, affecter les pratiques culturelles et les interactions sociales et changer l'humanité. la production, la vie et le mode de survie, qui peuvent remodeler les normes sociales.

Les technologies matérielles en évolution rapide nécessitent toujours des systèmes, des concepts et d’autres adaptations culturelles correspondants afin de stimuler le développement et l’innovation de l’ensemble de la société. Mais de nos jours, les êtres humains sont intrinsèquement enclins à une culture en retard et sont manifestement incapables de s’adapter aux nouvelles technologies. En particulier lorsque les systèmes de gouvernance et les concepts éthiques ne peuvent pas s’adapter rapidement, y aura-t-il un dilemme de retard culturel entravant le changement technologique ? Ces questions nécessitent de toute urgence des recherches théoriques et des discussions pratiques dans les universités et l’industrie.

De l'avis de l'auteur, la conduite sans conducteur ne signifie pas que personne n'est responsable. Il y a en gros deux idées derrière cela : l'une est de concrétiser le sujet responsable et de trouver quelqu'un qui n'est pas le conducteur mais qui peut assumer la responsabilité du conducteur ; personnifier le robot et en faire un conducteur. Il est responsable de lui-même.

(L'auteur est chercheur associé à l'Institut de stratégie financière de l'Académie chinoise des sciences sociales)

Déclaration de droit d'auteur : le contenu ci-dessus est l'œuvre originale de "Economic Observer" et le droit d'auteur appartient à "Economic Observer". La réimpression ou la mise en miroir sont strictement interdites sans l’autorisation d’Economic Observer, faute de quoi les acteurs concernés seront tenus juridiquement responsables. Pour une coopération en matière de droits d'auteur, veuillez appeler : [010-60910566-1260].