Автономные системы оружия летального действия

Одной из важнейших актуальных проблем в рамках международного права, а именно, международного гуманитарного права, является вопрос международного контроля над новыми видами вооружения, которые могут в будущем стать оружием массового уничтожения (ОМУ) наравне с ядерным, химическим и биологическим оружием. Уже в ближайшем будущем в качестве такого вооружения могут использоваться автономные системы оружия летального действия (lethal autonomous weapons). Автономное летальное вооружение или робот-убийца – это роботизированная система, которая после активации может самостоятельно искать и поражать цели на основе запрограммированных описаний и ограничений без непосредственного участия человека (Доклад ООН об автономном летальном оружии). Другими словами, роботы-убийцы предназначены для принятия решений о лишении жизни человека или ее сохранении самостоятельно, без человеческого контроля.
БЛОК: ЮРИДИЧЕСКИЕ ВОПРОСЫ:
ИСТОРИЯ ВОПРОСА
Прежде чем переходить к юридической и правовой стороне вопроса, необходимо рассмотреть исторический контекст. Роботы прошли различные стадии в своем развитии. Уже сейчас существуют механизмы, способные выполнить множество задач с минимальным человеческим вмешательством, например, дроны, беспилотные автомобили или суперкомпьютеры, оснащенные системой искусственного интеллекта (суперкомпьютер Watson фирмы IBM).
Что касается военной индустрии, компании различных стран занимаются усовершенствованием оружия, подключая к нему системы искусственного интеллекта. В некоторых случаях роботы даже получают частичную автономность, например, турецкий автономный атакующий дрон KARGU или израильская ракета-беспилотник Harpy. В РФ и США также были сделаны заявления о намерениях использования искусственного интеллекта в военных целях, в частности, стратегия Пентагона «Третий противовес» («Third Offset»).
В связи с таким активным развитием робототехники и использованием ее в военных целях возникает вопрос о регулировании этой сферы: международном, региональном и национальном контроле или даже полном запрещении роботов-убийц.
СООТВЕТСТВИЕ ВОПРОСА ЮРИСПРУДЕНЦИИ
Для того чтобы рассмотреть вопрос регулирования автономных систем оружия летального действия, необходимо понять есть ли судебные дела, связанные с автономными роботами, кто будет нести ответственность в результате применения роботов-убийц и какие суды буду заниматься их делами. Вообще, если рассматривать данный вопрос с точки зрения международного гуманитарного права, основная ответственность ложится на государства, применяющие данный вид вооружения. Однако если робот-убийца будет перехвачен кибер-террористами, в таком случае, уже не государство будет нести ответственность.
СУДЕБНЫЕ ДЕЛА ПО ДАННОМУ ВОПРОСУ
Несмотря на то, что конкретных дел по вопросу роботов-убийц еще не существует, тем не менее, в связи с участившимися случаями аварий и инцидентов с участием роботов в разных странах были разработаны правовые нормы и принципы работы с роботами. В частности, в США из-за аварии с участием беспилотных автомобилей было разработаны новые нормы и законы, например, Дорожная карта развития робототехники 2016 года Национальная инициатива в области робототехники 2016 года, а также закон о беспилотных автомобилях «SELF DRIVE Act» 2017 года.
Примеры некоторых инцидентов:
США: аварии с участием беспилотных автомобилей:
2016 год – первое смертельное ДТП с участием беспилотного автомобиля Tesla, который в режиме автопилота врезался в грузовик (компания-производитель Tesla не несла ответственность).
2018 год – беспилотный автомобиль компании Uber насмерть сбил женщину (аналогично).
В настоящее время вопрос ответственности роботов может быть решен на примере дел о беспилотных автомобилях в США: дело Нилсона против General Motors 2018 г. или дело Моргана против Tesla 2018 г. Установление ответственного лица является важным вопросом, потому что именно от этого зависит возмещение причинённого вреда.
Во-первых, изобретатель или программист как физические лица, либо компании по разработке программного обеспечения и изготовлению роботов как юридические лица могут нести ответственность, например, из-за причинения вреда роботом в результате сбоев в работе его ПО или оборудования.
Во-вторых, пользователь или собственник как физическое или юридическое лицо могут считаться ответственными в случае вмешательства и неправильного использования роботизированной техники (или если собственник не застраховал беспилотный автомобиль, иначе страховая компания).
В-третьих, третье лицо, которое перепрограммировало робота с целью причинения вреда, может быть признано ответственным, например, кибератаки против беспилотных автомобилей или перехват контроля дронов третьими лицами.
ВОПРОС ОТВЕТСТВЕННОСТИ
Итак, на основании вышесказанного вопрос ответственности за применение автономного летального оружия включает в себя следующие аспекты:
Ответственность несут пользователи/собственники (юр. лица), а именно, государства или другие возможные организации, которые используют роботов-убийц, то есть активировали данных роботов и направили их вести военные действия в вооруженных конфликтах международного или немеждународного характера.
Ответственность несут (физ., юр. лица) изобретатели, программисты и компании по разработке ПО или изготовлению роботов-убийц в случае, если существуют ошибки и сбои в работе самих автономных систем оружия летального действия (не из-за пользователей), если разработчики или поставщики занимаются незаконным производством и распространением роботов-убийц, запрещенных конвенциями, международными договорами и т.д.
Ответственность несут третьи лица (физ., юр

. лица), хакеры или террористические группировки/организации, которые осуществили перехват робота-убийцы и перепрограммировали его с целью причинения вреда.
Интерес представляют также случаи частного применения роботов-убийц, то есть их использование в личных целях для совершения преступлений, например, краж, вымогательства, убийств. Ответственность (административная, уголовная и т.д.) в таком случае возлагается на физические и юридические лица в соответствии с законодательством той страны, где было совершено преступление (на основе трех предыдущих пунктов).
Возникает также специфический вопрос ответственности самих автономных летальных систем вооружения, то есть присуждения роботам статуса субъекта/квази-субъекта права и наделения их юридической личностью. Вопрос касается в перспективе наиболее продвинутых полностью автономных роботов-убийц, которые будут способны нанести ущерб в результате процесса самообучения без вмешательства человека. Однако наделение роботов правосубъектностью может привести к определенным негативным последствиям:
во-первых, это может снять всякую ответственность за нанесение вреда с их производителей и пользователей (Ж. Лебретон, 2017 год, ЕС),
во-вторых, это породит проблемы, связанные с возмещением ущерба автономными роботами, если они в качестве субъектов права не способны самостоятельно возместить нанесенный им вред, то нет смысла наделения их правосубъектностью,
наконец, это вызовет дальнейшие дискуссии о статусе роботов и возможном наделении их правами, например, «право на жизнь (т.е. право на неразрушение), право на достоинство, право на равенство с человечеством, право на пенсию, право на получение вознаграждения» (Nathalie Nevejans 2016, ЕС).
СУДЫ
Что касается инстанций, которые в будущем могут заниматься делами, связанными с применением роботов-убийц в военных целях, можно выделить следующие инстанции:
В соответствии с международным правом Международный Суд ООН разрешает споры между государствами в случае ответственности одного государства и заявления со стороны другого государства о необходимости судебного разбирательства, например, дело Никарагуа против США от 10 мая 1984 г. Кроме того, согласно статье 41 Устава ООН Совет Безопасности может учредить вспомогательные органы/международные трибуналы, «которые осуществляют судебное преследование в отношении лиц, ответственных за совершение серьезных преступлений в рамках международного гуманитарного права, или в случаях, когда правительство обращается к Совету с просьбой об оказании помощи в плане расследования и осуществления судебного преследования». Примером служит Международный трибунал по бывшей Югославии. 
Что касается ответственности командиров, изобретателей, программистов и изготовителей роботов-убийц, в зависимости от тяжести и характера преступления дела могут быть рассмотрены в следующих инстанциях:
Международный Уголовный Суд ООН может заниматься преследованием лиц, ответственных за геноцид, военные преступления, военную агрессию и преступления против человечества, если государства, чьи граждане совершили преступление, ратифицировали Римский статут 1998 года.
Судебные инстанции государства, например, в случае незаконного оборота оружия, в частности роботов-убийц, на территории РФ действует статья 222 УК РФ, согласно которой «незаконное приобретение, передача, сбыт, хранение, перевозка или ношение огнестрельного оружия наказываются ограничением свободы на срок до трех лет…».
Если говорить об ответственности третьих лиц, террористов или хакеров, дела таких преступников рассматриваются в рамках национального законодательства государства, чьим гражданином является преступник либо на чьей территории было совершено преступление (экстрадиция). Например, в результате теракта в метро Санкт-Петербурга 3 апреля 2017 года было возбуждено уголовное дело по признакам преступления, предусмотренного статьей 205 Уголовного кодекса РФ (террористический акт). Его рассмотрением занимается Московский окружной военный суд.
Если вопрос применения роботов-убийц будет юридически связан с правами человека, например, автономные летальные системы будут запрещены на официальном уровне в рамках Конвенции Совета Безопасности отдельным протоколом, то Европейский суд по правам человека может также заниматься делами, связанными с применением роботов-убийц государствами (если государства подписали Конвенцию). То есть ЕСПЧ сможет рассматривать индивидуальные и межгосударственные жалобы, направленные против одного или нескольких государств.
БЛОК: РЕШЕНИЕ ПРОБЛЕМЫ И ПОСЛЕДСТВИЯ:
ПОСЛЕДСТВИЯ ПРИМЕНЕНИЯ РОБОТОВ
Чтобы рассмотреть более подробно вопрос возможного применения автономных систем оружия летального действия в военных целях, необходимо определить последствия их применения с точки зрения этики, права и юриспруденции.
Этика: В рамках этической дискуссии на тему применения роботов-убийц в первую очередь очень важен вопрос все большего отчуждения человека от процесса убийства. Эта проблема связана с тем, что когда человек не принимает непосредственное участие в процессе лишения жизни другого человека, он более склонен к умышленному проявлению насилия, так как это безопаснее (инстинкт самосохранения) и психологически намного проще (нажатие кнопки, чтобы запустить ракету, например)