Спринт
Спринты — краткие обзоры ключевых идей из книг жанра нон-фикшн

Армия без людей: автономное оружие и будущее войны Спринт книги Пола Шарра «Army of None»

Впервые на русском · Категория: Впервые на русском, Наука, Особое мнение, Аудио-версии
Скачать: mp3pdfepubfb2mobi
Убрать из избранного
В избранное

О чем эта книга?

Если кратко — об опасностях и возможностях автономного оружия, о том, как могут выглядеть войны будущего, и о том, можем ли мы сдержать развитие военных технологий.

Сегодня военные многих стран активно осваивают робототехнику. Небо патрулируют дроны, используются наземные роботы, беспилотники обнаруживают и уничтожают вражеские радары. И это только начало. Все это лишь часть общей технологической тенденции — непрерывного развития искусственного интеллекта. Самообучающийся искусственный интеллект (ИИ) делает роботов все более автономными, позволяет им обрабатывать все больше данных. На войне он сможет подсказывать человеку правильные решения, а со временем и принимать их самостоятельно.

Технический прогресс помогает человечеству развиваться, но когда он служит военным задачам, последствия бывают самыми ужасными. Еще в начале ХХ века промышленная революция позволила создать танки, самолеты и пулеметы, убойная сила которых намного превосходила все оружие, использованное ранее. ИИ может принимать некоторые решения быстрее и лучше человека — например, лучше прокладывает сложные маршруты, организует защиту и эвакуацию.

Но использование ИИ в качестве оружия вызывает у Пола Шарра, автора книги, ветерана и эксперта Пентагона по обороне, опасения.

Когда решение об использовании оружия принимает человек, он учитывает контекст ситуации и не всегда действует строго по инструкции. Так, широко известен случай советского подполковника Станислава Петрова, который при помощи новой системы «Око» наблюдал, не полетят ли вражеские ракеты в сторону территории СССР. Однажды «Око» приняло за ракеты солнечное отражение от ледяных вершин и перед Петровым встала задача — немедленно рапортовать вышестоящему руководству о начале войны или подождать. Наземные радары никаких ракет не зафиксировали. Петров сообщил начальству, что система «Око» неисправна. ИИ на его месте не стал бы учитывать контекст, запрашивать дополнительные данные и сомневаться. У машины нет анализа последствий своих действий, она делает то, на что запрограммирована.

В 2004 году автор в составе снайперской группы патрулировал горы Афганистана. Они залегли в засаде рядом с деревушкой, но поняли, что их заметили. Из деревни вышла девочка лет 5–6 со стадом коз и ходила поблизости, что-то говоря в трубку рации. Вскоре появились талибы, но группе удалось отбиться и эвакуироваться. Никто из них и не подумал стрелять в ребенка, хотя в военных инструкциях возраст противника, которого можно убить, не указан. Убийство девочки было бы законным в рамках войны, но никто этого не сделал. Машина сделала бы это не задумываясь. Она не понимает контекст и у нее нет моральных норм, с точки зрения которых законный поступок не всегда является правильным. Так можно ли доверить военным машинам решения о жизни и смерти? И к чему это приведет?

Пол Шарр посвятил свою книгу роботизированному оружию последнего поколения, управляемому ИИ. Он анализирует случаи, когда что-то пошло не так, и рассказывает о перспективах ИИ, который используется для боевых задач, в том числе о полностью автономном ИИ, действующем практически без участия человека.

В свое время ИИ начали активно использовать в биржевой торговле акциями, что привело к сбою на Уолл-стрит. Если такое произойдет с ИИ на службе у военных, последствия могут быть куда более тяжелыми. Глубокое обучение ИИ представляет собой не только могучую силу, но и потенциальную угрозу, потому что даже его разработчики не могут предвидеть всех последствий его эксплуатации.

Множество ученых, военных и технических экспертов уже высказали справедливые опасения по поводу наступательного автономного оружия. Разработки такого оружия могут вызвать глобальную гонку вооружений — эти опасения высказывали и Хокинг, и Маск, и Стив Возняк, и многие другие. Но что делать, если гонка уже началась?

В начале ХХ века делались попытки запретить подводные лодки и самолеты, из-за их разрушительной мощи, но это не помешало их распространению. Даже запрет на химическое оружие постоянно нарушается режимами-изгоями. А кто помешает им работать над созданием роботов-убийц?
Пока ни одна страна не обнародовала публично свои разработки в области автономного оружия, но автор уверен, что работа над ним ведется очень активно в самых разных странах.

Пока еще для окончательного решения на поле боя боевым роботам требуется команда человека, но военные могут делегировать свои полномочия автономному оружию, например, в условиях потери связи с командованием во время боевых действий. Кроме того, компьютеры быстрее оценивают обстановку и реагируют.

С одной стороны, интеллектуальные машины могут минимизировать человеческие жертвы, повысить точность ударов, что поможет избежать жертв среди мирного населения. Но при их неправильном использовании интересы гражданских лиц просто не будут приниматься машиной в расчет. Кроме того, если несколько стран будут практиковать разумный подход в использовании автономного оружия, это вовсе не значит, что их примеру последуют остальные. Так или иначе, автор считает, что использование автономного оружия неизбежно, главный вопрос в том, как именно оно будет использоваться и кто кого при этом будет контролировать.

Вот важные идеи книги.

Идея № 1. Робототехника на поле боя все еще сильно зависит от человека, и потому разработчики стремятся к большей автономности оружия

В мирной жизни четко обозначилось направление на развитие робототехники — создание самоуправляемых автомобилей, роботов-пылесосов, роботов-газонокосилок и тому подобного. В военной промышленности происходит то же самое, и это меняет прежние представления о войне. Десятки стран работают над созданием боевых роботов — морских, наземных, воздушных. Их возможности намного превосходят человеческие — роботы не устают, они более маневренны, им можно придать любую форму, сделать практически незаметными. Они не нуждаются в пище и отдыхе. Там, где человек наверняка погибнет, робот выживет и выполнит боевую задачу.

При всем этом роботы по-прежнему зависят от человека, поскольку управляются людьми, пусть и дистанционно, а кроме того, — от каналов связи, по которым передаются сигналы оператора. Если связь прервется, возможности робота будут сильно ограничены, они сведутся только к простейшим действиям. И потому военные многих

Есть вопросы?
Напишите нам на help@makeright.ru или воспользуйтесь
формой обратной связи
Полная версия этого материала доступна только подписчикам

C нами уже более 4 000 читателей. Присоединяйтесь!

Оформив подписку, вы получаете:
— полный доступ ко всем спринтам и канбанам, в том числе новым, на весь срок подписки;
— доступ к аудио-версиям наших материалов;
— возможность читать ключевые идеи из книг, которые ещё не изданы на русском;
— все книги-марафоны в подарок.

Узнавайте ключевые идеи и полезные концепции из популярных бизнес-книг и других книг жанра нон-фикшн, которые давно хотелось прочесть, но не было времени!