новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Лю Чэн/Текст В последнее время такие отрасли, как беспилотные онлайн-заказы на такси, беспилотные средства доставки, беспилотные круизные лайнеры и дроны, получили ускоренное развитие в Пекине, Ухане и других местах, получив преимущества первопроходца по всей стране и даже во всем мире. Однако вопросы социального управления, которые он поднимает, особенно вопрос распределения ответственности, до сих пор не решены.

Инновационное развитие отраслей не может быть ограничено из-за отсутствия социальных правил, но нельзя допускать, чтобы сопутствующие технологии работали произвольно в состоянии «анархии». Поэтому всем слоям общества необходимо усилить теоретическое мышление и практические дискуссии, чтобы достичь определенных стандартов в отношении институциональных правил социального консенсуса.

Беспилотное вождение не означает, что никто не несет ответственности

Большинством обязательных субъектов действующих законов и постановлений являются люди (физические или юридические лица), особенно когда речь идет об основных механизмах подотчетности, таких как уголовная ответственность, которые часто необходимо направить на освобождение отдельных физических лиц.

Другими словами, надзор за показателями безопасности, такими как крупные аварии и умышленные преступления (хотя уровень их заболеваемости не высок по сравнению с обычными несчастными случаями), является необходимым условием поддержания дорожного движения и социального порядка и в значительной степени опирается на уголовное право. Среди них большинство дорожно-транспортных преступлений совершается против водителей автотранспортных средств.

Поэтому определение ответственной стороны является первостепенным вопросом регулирования автономного вождения (и других подобных продуктов с искусственным интеллектом). В отличие от обычного вождения транспортного средства, в автономном вождении нет непосредственного водителя, что приводит к отсутствию непосредственных ответственных субъектов. Похоже, что в реальности это стало «безголовой загадкой» или теоретическим парадоксом.

Рассматривая суть этого явления, мы все же можем найти несколько ответственных лиц, которые могут стать автономным вождением, в том числе: пользователи автономного вождения; удаленные операторы, технические специалисты или сотрудники по безопасности, стоящие за автономным вождением; владельцы и операторы транспортных средств или бенефициары. Конечно, это в основном теоретические предположения, которые также подкреплены небольшим количеством зарубежных случаев. Однако что касается того, кто несет ответственность за надзор, этот вопрос все еще требует углубленного исследования и демонстрации со стороны ученых, правительства и законодательных ведомств.

Нет сомнений в том, что у автономных транспортных средств (или других транспортных средств, таких как корабли и самолеты) нет водителя, но есть явный пользователь. Подобно предложенному Юридической комиссией Великобритании термину «пользователь, ответственный за использование» в американском штате Джорджия это означает «человек, который заставляет транспортное средство двигаться».

Если пользователь решает использовать или активировать беспилотное транспортное средство, зная, что оно беспилотное, он или она готов нести возможные последствия. Конечно, некоторые люди могут подумать, что пользователи — это всего лишь объекты обслуживания, потребители. Общая теория заключается в том, что при отсутствии ненадлежащего использования потребители не должны нести ответственность за неблагоприятные последствия процесса потребления. Поэтому в странах мира существуют серьезные разногласия по поводу того, что основную ответственность за автономное вождение несут пользователи.

Компромисс заключается в том, что пользователь беспилотного транспортного средства по-прежнему должен взять на себя роль водителя. Из-за ключевой роли водителя в некоторых штатах США, где автономным транспортным средствам разрешено выезжать на дорогу, требуется, чтобы водитель-человек находился на водительском сиденье и сохранял бдительность, но фактически имел запасного водителя. Следствием этого является то, что беспилотные транспортные средства требуют от водителя брать на себя ответственность, а водитель становится водителем. Беспилотное вождение является лишь номинальным, что ограничивает развитие отрасли.

Вторая категория возможных ответственных лиц – удаленные операторы. Удаленных операторов, технических специалистов и сотрудников службы безопасности можно назвать «водителями» технологии автономного вождения. В обычных обстоятельствах люди не чувствуют своего присутствия, но в экстренных случаях они незамедлительно появятся и окажут помощь в целях безопасности.

В штате Калифорния в США разрешено подавать заявки на получение разрешений на сдачу экзамена по автономному вождению, но требуется, чтобы удаленный оператор с соответствующими водительскими правами «постоянно контролировал выполнение задач динамического вождения транспортного средства», когда нет резервного водителя-человека. Американский штат Аризона предусматривает, что штрафы, возникающие за нарушение правил дорожного движения или транспортных средств, будут налагаться на людей, которые «испытывают или управляют полностью автономными транспортными средствами».

Другими словами, этот подход расширяет концепцию водителя до удаленного оператора, который считается ответственным за транспортное средство, даже если он не сидит в автомобиле.

Третий тип ответственного субъекта выскакивает из логической структуры водителя и ищет владельцев транспортных средств, операторов или бенефициаров, которые могли бы взять на себя ответственность с точки зрения интересов.

Первые два типа субъектов-пользователей и удаленные операторы заставляют транспортное средство двигаться и дистанционно управлять транспортным средством соответственно. Идея регулирования состоит в том, чтобы дать им теневую личность водителя, а затем привлечь их к ответственности как водителей в соответствии с действующей правовой базой. Если водитель беспилотного автомобиля будет найден, существующие правила по-прежнему будут применяться, и все нормативные проблемы, связанные с беспилотным вождением, будут решены.

Однако, как упоминалось выше, первые два типа субъектов в конечном итоге не являются реальными движущими силами, и такая произвольная идентификация идентичностей создает большие социальные противоречия. Таким образом, возникает третий тип ответственного субъекта.

Если пользователи и удаленные операторы не могут быть козлами отпущения, кто еще может нести ответственность за потенциальные несчастные случаи? Самым громким призывом в обществе является призыв к владельцам транспортных средств взять на себя ответственность.

В настоящее время владельцы транспортных средств, операторы и бенефициары — это одно и то же лицо — платформенная компания. Они открывают этот новый бизнес, предоставляют услуги и получают прибыль, и они должны нести за это ответственность, как рестораны несут ответственность за свою еду.

Но настоящая сложность в том, что платформой является компания, а не физическое лицо, и уголовную ответственность понести сложно. Некоторые полагают, что ответственность должны нести корпоративные юридические лица, но это выходит за рамки обычной ответственности за качество продукции или качества обслуживания. Вообще говоря, когда потребители используют продукты или услуги, поставщик продукта или услуги несет ответственность за качество продукта, но существуют четкие рамки, и ответственность не может быть чрезмерной.

Еще большая трудность заключается в том, что когда владельцы транспортных средств, операторы и бенефициары разделены, практически не существует решения по распределению и распределению ответственности. Например, если в будущем отдельным лицам будет разрешено арендовать беспилотные транспортные средства и передавать их в эксплуатацию третьим лицам, появится множество организаций, включая владельцев транспортных средств, арендодателей, операторов и бенефициаров.

Следует отметить, что приведенный выше анализ сосредоточен только на потенциальной ответственности за несчастные случаи, которые могут возникнуть при обычном использовании беспилотных транспортных средств. В случае умышленных противоправных действий во время использования необходимо определить конкретных ответственных лиц в каждом конкретном случае. Например, если неправильное использование пользователем приводит к злонамеренному конфликту, пользователь должен быть основным ответственным лицом.

Есть ли у разумных машин личность и как их можно привлечь к ответственности?

Беспилотные транспортные средства, корабли, самолеты и другие машины с искусственным интеллектом не имеют души и разума; они не являются людьми;

Но если эти машины обладают личностными характеристиками, они будут иметь независимую правосубъектность и смогут нести ответственность за «собственные» действия. Это звучит как научная фантастика, но это уже существует в теории и реальности.

Есть ли у машин, в том числе беспилотных, личности? На этот счет существуют два противоположных мнения.

Одна из точек зрения заключается в том, что машины не обладают индивидуальностью и не должны нести ответственность за свои действия, поэтому необходимо нести основную ответственность за людьми, стоящими за машинами.

Некоторые учёные полагают, что хотя «автономность» разумных машин обычно используется для описания их способности самостоятельно принимать решения, у них нет желаний или ценностей. Описывая систему ИИ как автономную, обычно не подразумевают, что она принимает решения «сама по себе». Понимаемая с этой точки зрения, проблема автономии не является каким-то загадочным качеством, присущим системам искусственного интеллекта.

Даже если машина обладает способностью автономного принятия решений, это всего лишь «сознательное» действие под управлением человеческой программы. По сути, она выполняет процесс принятия решений человеком. Следовательно, люди должны нести ответственность за автономное поведение машин.

Конечно, процесс предоставления людям возможности машинам принимать автоматические решения должен быть прозрачным, и люди не могут нести ответственность за неправильные действия машин без их ведома. Другими словами, человек, который управляет машиной, несет ответственность за машину, а обычные люди имеют право знать, как машина принимает решения, тем самым защищая свое право знать. Точно так же крупные компании, такие как платформы, несут ответственность за умные машины и должны информировать пользователей об алгоритмах умных машин и принципах автоматического принятия решений.

Согласно Общему регламенту ЕС по защите данных (GDPR), пользователи имеют право запросить объяснение того, существует ли механизм автоматического принятия решений, а также разумное объяснение «логических принципов, задействованных в автоматизированном принятии решений». его важность для пользователя и ожидаемые последствия» и другая информация. В соответствии со сценарием беспилотного вождения платформа должна отвечать за транспортное средство и сообщать пользователям основную информацию о работе транспортного средства, такую ​​как скорость транспортного средства, объезд пешеходов и другую информацию.

Другая точка зрения заключается в том, что машины, в том числе беспилотные транспортные средства, и их системы искусственного интеллекта обладают «автономным сознанием робота» и в конечном итоге обретут полную правосубъектность.

Некоторые ученые полагают, что машины обладают автономным сознанием и могут нести ответственность за свои действия. Функция законов о дорожном движении и цель наказания за незаконные действия заключаются в повышении безопасности дорожного движения и поддержании порядка на дорогах. Штрафы, тюремное заключение и личная реабилитация водителей призваны принудить поведение человека соответствовать стандартам безопасности.

По аналогии, люди могут напрямую налагать ограничения на правила для беспилотных транспортных средств и их интеллектуальных систем и рассматривать правоохранительные органы как канал обратной связи для обучения систем дальнейшему изменению их алгоритмов и архитектурных проектов.

В более серьезных случаях отзыв разрешения на эксплуатацию некоторых автономных транспортных средств на дорогах, приводящий к их исключению из списка или исчезновению, сродни вынесению смертного приговора человеку. Короче говоря, если у машины есть личность, ее можно наказать трансформацией или разрушением.

Утопическое видение состоит в том, что беспилотные транспортные средства могут настолько превосходить водителей-людей в технологиях вождения, что вообще нет необходимости рассматривать уголовную ответственность, а нужно только поддерживать этику технологий и порядок рыночной конкуренции. Это превращает вопрос социального надзора за людьми в вопрос экономического надзора за рынком.

Социальные правила срочно нуждаются в глубоких изменениях

Системы искусственного интеллекта, представленные автономным вождением, сложны и эффективны. Они могут способствовать общей эволюции цивилизации, влиять на социальные механизмы, вызывать изменения в социальном разделении труда, рынках труда и моделях возможностей, влиять на культурные практики и социальные взаимодействия, а также изменять людей. производство, жизнь и способ выживания, которые могут изменить социальные нормы.

Быстро меняющиеся материальные технологии всегда требуют соответствующих систем, концепций и других культурных адаптаций, чтобы стимулировать развитие и инновации всего общества. Но сегодня люди по своей природе склонны к отстающей культуре и явно неспособны адаптироваться к новым технологиям. Возникнет ли дилемма культурного отставания, препятствующего технологическим изменениям, особенно когда системы управления и этические концепции не могут быстро адаптироваться? Эти вопросы остро нуждаются в теоретических исследованиях и практическом обсуждении в научных кругах и промышленности.

По мнению автора, беспилотное вождение не означает, что никто не несет ответственности. За этим стоят примерно две идеи: одна — конкретизировать ответственного субъекта и найти кого-то, кто не является водителем, но может взять на себя ответственность водителя; олицетворите робота и сделайте его водителем. Он отвечает за себя.

(Автор — научный сотрудник Института финансовой стратегии Китайской академии социальных наук)

Заявление об авторских правах: Вышеуказанный контент является оригинальной работой «Economic Observer», авторские права принадлежат «Economic Observer». Перепечатка или копирование без разрешения Экономического обозревателя строго запрещены, в противном случае соответствующие субъекты будут нести юридическую ответственность. По вопросам сотрудничества в области авторских прав обращайтесь по телефону: [010-60910566-1260].