Антиутопия, в которой роботы-убийцы уничтожают невинных людей, звучит ужасно, но давайте посмотрим правде в глаза: все это научная фантастика.
Кадр из фильма «Бойцы», в котором в антиутопическом будущем автономные дроны-убийцы попадают в руки террористов.
Дроны-убийцы, попадающие в руки террористов, убивают невинных людей.
Роботизированное оружие массового поражения сеет хаос и страх.
Короткометражный фильм, созданный сторонниками антиавтономии и призванный заставить вас поверить в то, что эта антиутопия это уже очень близко , и это действие должно быть предпринято сегодня.
Фильм «Резнеботы» вышел в прокат в ноябре 2017 года одновременно с конференцией ООН по автономному оружию.
Заседание ООН ничем конкретным не закончилось, но видео набирает популярность.
Его уже посмотрели более 2 миллионов человек и он был включен в десятки статей .
В качестве пропаганды это работает прекрасно.
И ему совершенно не удается убедить людей принять запрет на автономное оружие.
Конечно, мир, в котором террористы могли бы обрушить рой дронов-убийц на невинных людей, был бы ужасающим, но реалистично ли будущее, изображенное в фильме? Красивая картинка помогает скрыть пробелы в логике.
Фильм погружает зрителя в кошмар-антиутопию, но давайте посмотрим правде в глаза: это все научная фантастика.
Основная идея фильма заключается в том, что в будущем военные создадут автономные микродроны с кумулятивные заряды , способный подлететь к голове человека и активировать взрывчатку, тем самым убив его.
В фильме эти боты-убийцы быстро попадают в руки террористов, что приводит к массовой гибели людей по всему миру.
Основная концепция имеет под собой реальную основу.
В нашем мире Исламское государство [террористическая организация, запрещенная в РФ] б/у готовые покупные квадрокоптеры , оснащенный небольшим количеством взрывчатки, атаковать иракские войска, убив и ранив несколько десятков солдат. Сегодняшние дроны-террористы в основном управляются дистанционно, но любительские дроны становятся все более автономными.
Последние модели Они уже умеют самостоятельно лететь к неподвижной цели, обходя препятствия, а также самостоятельно отслеживать и следовать за движущимися объектами.
Небольшой дрон, оснащенный системой распознавания лиц, в принципе можно использовать для автономного поиска и убийства конкретных людей, как это показано в фильме «Slaughterbots».
Всего за несколько минут поиска в Интернете я нашел ресурсы, где можно скачать и обучить бесплатную нейросеть, которая будет распознавать лица.
И хотя эти технологии еще никто не объединил, как показано в фильмах, все компоненты уже реальны.
Но я хочу сделать заявление: мы ничего не можем сделать, чтобы предотвратить попадание этой технологии в руки будущих террористов.
Это грустно, но это нужно понять.
Точно так же, как террористы могут использовать и используют автомобили для тарана толпы, технология, необходимая для превращения любительских дронов в примитивное автономное оружие, уже слишком широко распространена, чтобы ее можно было остановить.
Это проблема, и лучший ответ на нее — сосредоточиться на оборонительных мерах по борьбе с дронами и поимке террористов с помощью систем наблюдения.
" Фильм использует эту проблему, но преувеличивает ее, утверждая, что дроны могут быть использованы террористами в качестве оружия массового поражения, убивая тысячи людей.
К счастью, этот кошмарный сценарий столь же вероятен, как и ХАЛ 9000 , блокируя вам вход в шлюз.
Технологии, показанные в видео, реалистичны, а все остальное полная ерунда.
В видео сделаны следующие предположения:
- Правительства будут массово производить микродроны для использования в качестве оружия массового поражения.
- Эффективной защиты от смертоносных микродронов не существует.
- Правительства не способны защитить оружие военного уровня от террористов.
- Террористы способны совершать крупномасштабные скоординированные атаки.
Конечно, само видео вымышленное, и люди, ответственные за разработку защиты, часто используют вымышленные сценарии помочь политикам продумать последствия вероятных событий.
Я военный аналитик, работаю в аналитическом центре, а на своей предыдущей работе в Пентагоне я занимался стратегическим планированием.
И я использовал вымышленные сценарии, чтобы проиллюстрировать выбор военных технологий, в которые должны инвестировать военные США.
Но чтобы эти сценарии были полезными, они должны быть как минимум вероятны.
Это должно быть что-то, что может произойти.
Сценарий, использованный в фильме «Slaughterbots», не учитывает политическую и стратегическую реальность использования правительством военных технологий.
Во-первых, нет никаких доказательств того, что правительства планируют массово производить небольшие дроны, чтобы убивать гражданское население в больших количествах.
В моей будущей книге Армия ничего: автономное оружие и будущее войны [Армия ничьих: автономное оружие и будущее войны] Я исследую оружие будущего, создаваемое в оборонных лабораториях по всему миру.
Россия, Китай и США соревнуются в гонке за автономию и искусственный интеллект. Но они создают оружие, в основном направленное на борьбу с военными силами.
Это оружие, направленное на поражение военных целей[ противодействующая сила ], а не наносить ущерб другим активам, в том числе гражданским лицам [ значение счетчика ].
Автономное оружие первого типа, безусловно, имеет свои проблемы, но оно не предназначено для целей массового уничтожения мирного населения и не может быть переконфигурировано для такого использования.
Во-вторых, в ролике рассказывается о дронах, способных преодолеть любое «противодействие».
Телевизионные эксперты кричат, что «мы не можем защитить себя».
Это даже не фантастика, а фарс.
На каждую военную технику есть средства противодействия, а противодействие малым дронам даже не является гипотетическим.
Правительство США активно развивается способы стрельбы, постановки помех, поджаривания, взлома, отлова и другие способы противодействия малым дронам.
Микродронам на видео можно успешно противостоять с помощью чего-то простого, например, проволочной сетки.
На видео видно, как тяжелые дроны пробивают дыры в стенах, через которые могут проникнуть другие, но против этого может помочь простая многоуровневая защита.
Военные аналитики рассматривают стоимость обороны и нападения, и в этом случае преимущество явно находится на стороне статической обороны.
В мире, где террористы периодически совершают атаки с использованием самодельных дронов, люди вряд ли смирятся с неудобствами создания надежных оборонительных сооружений, так же как люди не носят бронежилеты для защиты от маловероятной возможности быть пораженными пулями боевика.
Но если недружественная страна построит сотни тысяч дронов, способных стереть с лица земли город, можете быть уверены, что без сетей дело не обойдется.
В видео рассматривается реальная проблема — террористы, атакующие с помощью дронов, — и мы приближаемся к ней, не задумываясь о том, как на это могут отреагировать другие стороны.
Если бы производство смертоносных микродронов началось в промышленных масштабах, защита и меры противодействия им стали бы приоритетом правительства, и в этом случае меры противодействия были бы простыми.
И любое оружие, от которого можно защитить проволочной сеткой, не считается оружием массового поражения.
В-третьих, видео подразумевает, что военные не могут помешать террористам получить доступ к оружию военного уровня.
Но сегодня мы не даем террористам ручные гранаты, противотанковые ружья и пулеметы [впрочем, это утверждение опровергается даже последними биографический фильм с Томом Крузом в главных ролях / ок.
перевод].
Террористы, атакующие с помощью дронов, вызывают беспокойство, поскольку они используют самодельную взрывчатку, прикрепленную к готовым технологиям.
Это реальная проблема, но, опять же, видео масштабирует эту угрозу до нереального уровня.
Даже если военные начнут создавать смертоносные микродроны, террористы смогут получить их в больших количествах не больше, чем любую другую военную технологию.
Оружие действительно постепенно попадает в руки комбатантов не на той стороне, но тот факт, что Сирия полна противотанковых самонаводящихся ракет, не означает, что их легко найти в Нью-Йорке.
Террористы используют самолеты и грузовики именно потому, что успешно переправить оружие военного типа в западную страну не так-то просто.
Микродроны-убийцы из фильма
В-четвертых, видео свидетельствует о том, что террористы способны осуществлять атаки с невероятно точной координацией.
В одном из эпизодов два человека выпускают из дверей фургона рой из 50 дронов.
Сам этот эпизод вполне реалистичен; Одна из проблем автономного оружия заключается в том, что небольшая группа людей может начать атаку большего масштаба, чем если бы у них было обычное оружие.
Вполне возможно наличие фургона с 50 дронами.
Но фильм доводит эту идею до крайности.
Сообщается, что в результате одновременных нападений погибло около 8300 человек.
Тогда, если люди с фургоном представляют собой типичную атаку, то для такого ущерба террористам потребуется осуществить около 160 атак по всему миру.
Террористы часто совершают скоординированные атаки, но их численность обычно невелика.
И видео предполагает не только наличие супероружия, но и то, что оно попало в руки суперзлодеев.
В фильме используется шумиха и страх, чтобы преодолеть критические предположения, в результате чего он препятствует рациональному обсуждению рисков, связанных с доступом террористов к автономное оружие .
Видео дает понять, что нам следует бояться.
Но чего тут бояться? Оружие, которое самостоятельно выбирает цели (об этом, кстати, на видео не все понятно)? Оружие без средств противодействия? Тот факт, что террористы могут заполучить оружие? Возможности автономного оружия для масштабирования атак? Если вы хотите внушить страх перед роботами-убийцами, то это видео для вас.
Но при попытке всесторонне проанализировать проблему она не выдерживает даже самого простого изучения.
Видео не приводит никаких аргументов, а занимается созданием дешевых сенсаций и нагнетанием страха.
Естественно, цель видео — побудить зрителей действовать через страх.
Видео заканчивается словами профессора Калифорнийского университета в Беркли: Стюарт Рассел , предупреждающий об опасности автономного оружия и призывающий зрителя действовать, чтобы этот кошмар не стал реальностью.
Я испытываю величайшее уважение к Стюарту Расселу как к исследователю искусственного интеллекта и как к участнику дебатов об автономном оружии.
Я пригласил Рассела События В Центр новой американской безопасности , где я участвую в исследовательской программе, связанной с ИИ и глобальная безопасность .
Я не сомневаюсь в искренности взглядов Рассела.
Но к видео прилагаются неподдерживаемые приложения в попытке убедить зрителя.
Что еще хуже, предложенное решение — договор о запрете автономного оружия — не решит реальных проблем, стоящих перед человечеством при развитии автономности вооружений.
Запрет не помешает террористам создавать самодельное роботизированное оружие.
Также запрет на такое оружие, которое демонстрируется на видео, никоим образом не повлияет на риски, связанные с появлением автономного оружия среди военных.
На самом деле даже не ясно, подпадет ли под такой запрет оружие, показанное в фильме, потому что там оно действует очень избирательно.
Сосредоточив внимание на экстремальных и маловероятных сценариях, фильм фактически препятствует прогрессу в решении реальных проблем, связанных с автономным оружием.
Страны, находящиеся на переднем крае разработки роботизированного оружия, скорее всего, отбросят в сторону страхи, основанные на фильме.
Фильм — это вода на мельницу те, кто утверждает , как будто страх перед автономным оружием иррационален и подвержен ненужной шумихе.
Автономное оружие поднимает важные вопросы о соблюдении законов войны, о риске и контроле, а также о моральной роли людей в войне.
Это важные вопросы, достойные серьезного обсуждения.
Когда Рассел и др.
включать в занятом дебаты по этим вопросам я приветствую такое обсуждение.
Но указанный фильм не попадает в эту категорию.
Видео успешно привлекло внимание средств массовой информации, но его сенсационность мешает серьезным интеллектуальным дискуссиям, которые необходимо вести по теме автономного оружия.
Пол Шарр — старший научный сотрудник и директор Программы технологий и национальной безопасности Центра новой американской безопасности (CNAS).
С 2009 по 2012 год он возглавлял рабочую группу Министерства обороны США, которая разрабатывала рекомендации по использованию автономности оружия.
Теги: #Будущее уже здесь #Робототехника #искусственный интеллект #дроны #Мультикоптеры #Терминатор #роботы-убийцы
-
Все Черное
19 Oct, 24 -
Отклонение Или Необходимость?
19 Oct, 24 -
Веталик Подкаст
19 Oct, 24 -
Онлайн Ide Shiftedit
19 Oct, 24
