noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Liu Cheng/Texto Recientemente, industrias como las de transporte en línea sin conductor, vehículos de reparto sin conductor, cruceros sin conductor y drones se han acelerado en Beijing, Wuhan y otros lugares, obteniendo ventajas de ser pioneros en todo el país e incluso en el mundo. Sin embargo, las cuestiones de gobernanza social que plantea, especialmente la cuestión de la atribución de responsabilidades, aún están sin resolver.

El desarrollo innovador de las industrias no puede restringirse debido a la falta de reglas sociales, pero no se puede permitir que las tecnologías relacionadas operen arbitrariamente en un estado de "anarquía". Por lo tanto, todos los sectores de la sociedad deben fortalecer el pensamiento teórico y los debates prácticos para poder lograrlo. alcanzar ciertos estándares sobre reglas institucionales.

Conducir sin conductor no significa que nadie sea responsable

La mayoría de los sujetos vinculantes de las leyes y reglamentos actuales son las personas (personas físicas o jurídicas), especialmente cuando se trata de mecanismos importantes de rendición de cuentas, como la responsabilidad penal, que a menudo deben dirigirse a personas físicas individuales.

En otras palabras, la supervisión de los aspectos básicos de la seguridad, como los accidentes graves y los delitos intencionales (aunque la tasa de incidencia no es alta en comparación con los accidentes de seguridad generales) es una condición necesaria para mantener el tráfico y el orden social, y depende en gran medida del derecho penal. Entre ellos, la mayoría de los delitos de tráfico se dirigen a conductores de vehículos de motor.

Por tanto, determinar el responsable es la cuestión primordial en la regulación de la conducción autónoma (y otros productos similares con inteligencia artificial). A diferencia de la conducción normal de vehículos, la conducción autónoma no tiene un conductor directo, lo que resulta en una falta de responsables directos. Esto parece haberse convertido en la realidad en un "misterio sin cabeza" o en una paradoja teórica.

Mirando la esencia a través del fenómeno, todavía podemos encontrar varias entidades responsables que pueden convertirse en conducción autónoma, entre ellas: usuarios de la conducción autónoma, operadores, técnicos o responsables de seguridad detrás de la conducción autónoma; Por supuesto, esto es principalmente especulación teórica y también está respaldada por un pequeño número de casos extranjeros. Sin embargo, en cuanto a quién es responsable de la supervisión, esta cuestión aún requiere una investigación y demostración profundas por parte de académicos, gobiernos y departamentos legislativos.

No hay duda de que los vehículos autónomos (u otros medios de transporte como barcos y aviones) no tienen un conductor, pero sí un usuario claro. De manera similar a la propuesta de la Comisión Jurídica del Reino Unido, "usuario responsable del uso"; en el estado estadounidense de Georgia, esto significa "la persona que hace que el vehículo se mueva".

Si un usuario elige utilizar o activar un vehículo no tripulado sabiendo que no es tripulado, está dispuesto a soportar las posibles consecuencias. Por supuesto, algunas personas pueden pensar que los usuarios son sólo objetos del servicio, consumidores. La teoría general es que mientras no haya un uso indebido, los consumidores no deberían ser responsables de las consecuencias adversas del proceso de consumo. Por lo tanto, existe una considerable controversia en países de todo el mundo sobre el hecho de que los usuarios son los principales responsables de la conducción autónoma.

Un compromiso es que el usuario del vehículo autónomo todavía tiene que asumir el papel de conductor. Debido al papel clave del conductor, algunos estados de Estados Unidos que permiten que los vehículos autónomos salgan a la carretera exigen que un conductor humano esté en el asiento del conductor y permanezca alerta, pero en realidad conservan un conductor de respaldo. La consecuencia es que los vehículos sin conductor requieren que el conductor asuma la responsabilidad, y el usuario se convierte en el conductor. La conducción sin conductor es sólo nominal, lo que limita el desarrollo de la industria.

La segunda categoría de posibles responsables son los operadores remotos. Los operadores, técnicos y responsables de seguridad remotos pueden describirse como los “conductores” de la tecnología de conducción autónoma. En circunstancias normales, las personas no sienten su presencia, pero en caso de emergencia aparecerán rápidamente y brindarán asistencia de seguridad.

El estado de California en los Estados Unidos permite solicitudes de permisos de prueba de conducción autónoma, pero exige que un operador remoto con la licencia de conducir correspondiente "supervise continuamente la ejecución de la tarea de conducción dinámica del vehículo" cuando no hay ningún conductor humano de respaldo presente. El estado estadounidense de Arizona estipula que las sanciones derivadas de infracciones de tráfico o de vehículos se imputarán a las personas que "prueben u operen vehículos totalmente autónomos".

En otras palabras, este enfoque amplía el concepto de conductor a un operador remoto que se considera responsable del vehículo, aunque no esté sentado en el vehículo.

El tercer tipo de sujeto responsable salta del marco lógico del conductor y busca que los propietarios, operadores o beneficiarios de los vehículos asuman su responsabilidad desde la perspectiva de los intereses.

Los dos primeros tipos de usuarios sujetos y operadores remotos hacen que el vehículo se mueva y controlen remotamente el vehículo, respectivamente. La idea regulatoria es darles la identidad oculta del conductor y luego responsabilizarlos como conductores según el marco legal actual. Si se encuentra al conductor de un vehículo autónomo, se seguirán aplicando las regulaciones existentes y se resolverán todos los desafíos regulatorios para la conducción autónoma.

Sin embargo, como se mencionó anteriormente, los dos primeros tipos de sujetos no son verdaderos impulsores después de todo, y esa identificación arbitraria de identidades crea una gran controversia social. Surge así el tercer tipo de sujeto responsable.

Si no se puede convertir a los usuarios y operadores remotos en chivos expiatorios, ¿a quién más se le puede responsabilizar de posibles accidentes? El llamado más fuerte de la sociedad es que los propietarios de vehículos asuman su responsabilidad.

En la actualidad, los propietarios, operadores y beneficiarios de vehículos son todos la misma entidad: empresas de plataforma. Lanzan este nuevo negocio, brindan servicios y obtienen ganancias, y deberían ser responsables de esto, al igual que los restaurantes son responsables de su comida.

Pero la verdadera dificultad es que la plataforma es una empresa, no una persona física, y es difícil asumir responsabilidad penal. Algunas personas han propuesto que las personas jurídicas corporativas deberían ser responsables, pero esto va más allá del alcance normal de la responsabilidad por la calidad del producto o la calidad del servicio. En términos generales, cuando los consumidores utilizan productos o servicios, el proveedor del producto o servicio es responsable de la calidad del producto, pero hay un alcance claro y la responsabilidad no puede ser excesiva.

La mayor dificultad es que cuando se separa a los propietarios, operadores y beneficiarios de los vehículos, casi no hay solución para la atribución y reparto de responsabilidades. Por ejemplo, si a las personas se les permite alquilar vehículos sin conductor y hacerlos operar por terceros en el futuro, habrá múltiples entidades, incluidos propietarios, arrendadores, operadores y beneficiarios de vehículos.

Cabe señalar que el análisis anterior solo se centra en la posible responsabilidad por accidentes que pueden ocurrir durante el uso normal de vehículos sin conductor. Para actos ilegales intencionales durante el uso, las personas responsables específicas deben identificarse caso por caso. Por ejemplo, si el uso inadecuado de un usuario provoca una colisión maliciosa, el usuario debe ser el principal responsable.

¿Tienen personalidad las máquinas inteligentes y cómo se les puede responsabilizar?

Los vehículos sin conductor, los barcos, los aviones y otras máquinas con inteligencia artificial no tienen alma ni mente; no son seres humanos.

Pero si estas máquinas tienen características de personalidad, tendrán personalidad jurídica independiente y podrán ser responsables de sus "propios" actos. Esto suena a ciencia ficción, pero ya existe en la teoría y en la realidad.

¿Tienen personalidad las máquinas, incluidos los vehículos sin conductor? Hay dos puntos de vista opuestos al respecto.

Una opinión es que las máquinas no tienen personalidad y no necesitan ser responsables de sus acciones, por lo que es necesario asumir la responsabilidad principal de las personas detrás de las máquinas.

Algunos estudiosos creen que, aunque la "autonomía" de las máquinas inteligentes suele utilizarse para describir su capacidad para tomar decisiones de forma independiente, no tienen deseos ni valores. Cuando se describe un sistema de IA como autónomo, normalmente no se quiere decir que toma decisiones “por sí solo”. Entendida desde esta perspectiva, la cuestión de la autonomía no es una cualidad misteriosa inherente a los sistemas de inteligencia artificial.

Incluso si la máquina tiene capacidades de toma de decisiones autónomas, es sólo una acción "consciente" bajo el mando de un programa humano. Esencialmente ejecuta la toma de decisiones humana. Por tanto, los humanos deberían ser responsables del comportamiento autónomo de las máquinas.

Por supuesto, el proceso mediante el cual los humanos capacitan a las máquinas para que tomen decisiones automáticas debe ser transparente, y los humanos no pueden ser considerados responsables de las acciones incorrectas de las máquinas sin su conocimiento. En otras palabras, la persona que controla la máquina es responsable de la máquina, y la gente corriente tiene derecho a saber cómo la máquina toma decisiones, protegiendo así su derecho a saber. Del mismo modo, las grandes empresas como las plataformas son responsables de las máquinas inteligentes y necesitan informar a los usuarios sobre los algoritmos de las máquinas inteligentes y los principios de la toma de decisiones automática.

Según el Reglamento General de Protección de Datos (GDPR) de la Unión Europea, los usuarios tienen derecho a solicitar una explicación sobre si existe un mecanismo automatizado de toma de decisiones, así como una explicación razonable de "los principios lógicos implicados en la toma automatizada de decisiones". su importancia para el usuario y las consecuencias esperadas" y otra información. En correspondencia con el escenario de conducción sin conductor, la plataforma debe ser responsable del vehículo e informar a los usuarios información básica sobre el funcionamiento del vehículo, como la velocidad del vehículo, cómo evitar a los peatones y otra información.

Otra opinión es que las máquinas, incluidos los vehículos sin conductor, y sus sistemas de inteligencia artificial tienen "conciencia autónoma de robot" y eventualmente tendrán personalidad jurídica plena.

Algunos estudiosos creen que las máquinas tienen conciencia autónoma y pueden ser responsables de sus propias acciones. La función de las leyes de tránsito y el propósito de castigar los actos ilegales son mejorar la seguridad vial y mantener el orden en la carretera. Las multas, el encarcelamiento y la rehabilitación personal de los conductores tienen como objetivo obligar el comportamiento humano a cumplir con las normas de seguridad.

Como analogía, los humanos pueden imponer directamente reglas restrictivas a los vehículos no tripulados y sus sistemas inteligentes, y tratar a las fuerzas del orden como un vínculo de retroalimentación para que los sistemas de entrenamiento modifiquen aún más sus algoritmos y diseños arquitectónicos.

En casos más graves, revocar la autorización a determinados vehículos autónomos para circular por la carretera, provocando su exclusión de la lista o su extinción, equivale a sancionar a una persona con la pena de muerte. En definitiva, si la máquina tiene personalidad, puede ser castigada mediante transformación o destrucción.

Una visión utópica es que los vehículos sin conductor pueden ser tan superiores a los conductores humanos en tecnología de conducción que no hay necesidad de considerar responsabilidad penal en absoluto, y sólo es necesario mantener la ética de la tecnología y el orden de la competencia en el mercado. Esto transforma la cuestión de la supervisión social de las personas en una cuestión de supervisión económica del mercado.

Las reglas sociales necesitan urgentemente cambios profundos

Los sistemas de inteligencia artificial representados por la conducción autónoma son complejos y eficientes. Pueden promover la evolución general de la civilización, afectar los mecanismos sociales, provocar cambios en la división social del trabajo, los mercados laborales y los patrones de oportunidades, afectar las prácticas culturales y las interacciones sociales y cambiar a los seres humanos. producción, vida y forma de supervivencia, que pueden remodelar las normas sociales.

Las tecnologías materiales que cambian rápidamente siempre requieren sistemas, conceptos y otras adaptaciones culturales correspondientes para impulsar el desarrollo y la innovación de toda la sociedad. Pero hoy en día, los seres humanos somos inherentemente propensos a una cultura rezagada y obviamente somos incapaces de adaptarnos a las nuevas tecnologías. Especialmente cuando los sistemas de gobernanza y los conceptos éticos no pueden adaptarse rápidamente, ¿habrá un dilema de retraso cultural que obstaculice el cambio tecnológico? Estos temas necesitan urgentemente investigación teórica y discusión práctica en la academia y la industria.

En opinión del autor, conducir sin conductor no significa que nadie sea responsable. Hay aproximadamente dos ideas detrás: una es concretar al sujeto responsable y encontrar a alguien que no sea el conductor pero que pueda asumir la responsabilidad del conductor; personificar al robot y convertirlo en un conductor.

(El autor es investigador asociado del Instituto de Estrategia Financiera de la Academia China de Ciencias Sociales)

Declaración de derechos de autor: el contenido anterior es el trabajo original de "Economic Observer" y los derechos de autor pertenecen a "Economic Observer". La reimpresión o duplicación está estrictamente prohibida sin la autorización del Observador Económico; de lo contrario, los actores relevantes serán considerados legalmente responsables. Para cooperación en materia de derechos de autor, llame al: [010-60910566-1260].