Смогут ли люди воевать на ровне с роботами?
История военного дела и технологии часто идут рука об руку. Солдаты и военные мыслители на протяжении всего прошлого постоянно придумывали новые способы ведения боевых действий и большей эффективности боевой человеческой единицы. После введения нового оружия или улучшения существующего стратеги тратят своё время на то, чтобы придумать лучший способ развертывания своих сил, чтобы воспользоваться преимуществами инструментов и/или снизить их эффективность путём разработки контрмер.
Развитие греческой фаланги помогло защитить солдат от кавалерии, развертывание английских длинных луков помогло загнать в тупик крупные формирования вражеских солдат, новые методы строительства изменили форму укреплений, линейная пехота помогла европейским формированиям воспользоваться огнестрельным оружием, а зенитные пушки помогли защитить от приближающихся вражеских самолётов. Технологическая революция войны не остановилась, и сегодня робототехника на поле боя (с помощью дронов, автоматических турелей или дистанционно управляемого Flir PackBot) – появилась в самых последних конфликтах.
Но в то время как технология создаёт новые и эффективные средства для убийства своих противников, на протяжении всей истории остаётся неизменным: живые, дышащие люди на поле боя, которые используют эти технологии. При правильном использовании такие достижения могут дать армии преимущество. Но часто солдатам и стратегам требуется некоторое время, чтобы полностью понять последствия, тактику и стратегию, чтобы полностью использовать эти инструменты, и с этим временем приходят потери. Командиры в Первую мировую войну несли немыслимые потери, посылая своих людей через окопы под пулеметный огонь, полагаясь на устаревшую тактику, прежде чем поняли, что это бесплодные усилия.
Рассказ Джастины Айрленд «Сопутствующий ущерб» представляет собой один из тех моментов, когда человеческая природа с головой уходит в нечеловеческую эффективность. Она следует за отрядом солдат, которым поручено испытать новый тип большого военного робота «ТЕДА», который быстро вызывает гнев своих товарищей. Оснащённый датчиками и оружием, он чрезвычайно искусен, очищая здания и враждебные улицы, когда подразделение в конечном итоге развёртывается в какой-то неназванной зоне конфликта по всему миру. Солдаты недовольны временем реакции «ТЕДА», тем, как он, похоже, шпионит за ними и регистрирует их взаимодействие, и тем, как это может в конечном итоге лишить их работы, даже если некоторые из них признают пользу его существования: Они скорее примут пулю, чем одного из них.
Роботы участвуют в войне гораздо дольше, чем вы думаете. В Wired for War: The Robotics Revolution and Conflict in the 21st CenturyP. W. Сингер указал на некоторые ранние попытки во время Первой мировой войны: прототипы бомб дистанционного управления на суше, в воздухе и на море, чему способствовало внедрение радио на поле боя. Вторая мировая война принесла новые инновации, такие как немецкая гусеничная мина «Голиаф» (дистанционно управляемая гусеничная бомба, которую солдаты направляли к своим целям) или авиабомба «Фриц Х 1400», развёрнутая и управляемая немецкими лётчиками.
Холодная война принесла больше роботов, поскольку американские военные начали экспериментировать с беспилотными самолётами, и именно во время глобальной войны с террором они начали выходить на поле боя в большем количестве, например, культовый беспилотник Predator или более крупный Northrop Grumman RQ-4 Global Hawk, доставляя бомбы или проводя наблюдение, пилотируясь издалека. Войны в Ираке и Афганистане также побудили использовать на поле боя дистанционно управляемых роботов, таких как многоцелевой пакбот (используемый для всего, от обезвреживания бомб до разведки и обнаружения выстрелов) – то, что солдаты могли подвергать опасности с целью осмотреться, не беспокоясь о том, что их самих застрелят. В отличие от настороженных персонажей Ирландии, некоторые реальные солдаты, обезумевшие из-за разрушения устройства их отряда, даже написали iRobot (который с тех пор выделил своё военное подразделение в отдельную компанию) с просьбой отремонтировать его.
По мере того как технологии будут совершенствоваться, роботы тоже начнут появляться на поле боя. За последние несколько лет Boston Dynamics продемонстрировала невероятные улучшения со своими роботами: интернет-комментаторы могли бы издеваться над ними , спотыкаясь и получая удары хоккейными клюшками в 2016 году, но более поздние танцевальные и гимнастические программы показывают, как далеко продвинулась технология. Мы уже видели примеры обучения солдат с помощью спота Boston Dynamics и других комбинаций дронов и роботов, а также с использованием автономных бронированных машин Эти усилия направлены на то, чтобы выяснить и усовершенствовать тактику и стратегию по мере того, как солдаты выясняют наилучшие варианты их использования в бою – как они могли бы эффективно использовать своих роботов-компаньонов, чтобы дать им лучшие глаза и уши на поле боя.
Когда эти роботизированные системы появятся на полях сражений по всему миру, мы начнём видеть точки трения, когда они начнут самостоятельно принимать решения на открытия огня. Часто говорят, что военные тренируются для борьбы с последней войной, и перспектива идти против врага с помощью искусственного интеллекта является предметом беспокойства для современных военных стратегов, и не только из-за угрозы, которую могут представлять роботы.
Пару лет назад я участвовал в учениях в Центре стратегического центра Военного колледжа армии США в Карлайле, штат Пенсильвания, где нашей группе было поручено попытаться разработать параметры военной игры, в которой одна команда будет сражаться против врага, которому помогает ИИ. Это не было похоже на Терминатора – это было больше похоже на представление врага, чьи компьютеры имели доступ к кучам данных и предоставляли предложения на поле боя. Искусственный интеллект, ну, бесчеловечен, и он может привести к некоторым творческим решениям проблем, таким как неортодоксальные ходы в игре Go или в сортировке склада Amazon. Одна из опасений заключалась в том, что такая система может выдавать приказы, которые кажутся противоречащими их цели, или которые могут быть слишком очевидны, чтобы исполнять. При отсутствии доверия к системе эти солдаты могут просто не выполнять приказы, потому что они не могут распознать или следовать её линии мышления.
Это также не теоретическая проблема: недавний опрос из Журнала ВВС США по индо-тихоокеанским делам 800 австралийских курсантов-офицеров и гардемаринов, обучающихся в Академии Австралийских сил обороны, показал, что «подавляющее большинство не пожелает развернуться вместе с ними, полностью автономные летальные автономные системы вооружения.
Доверие необходимо для внедрения новых технологий: доверие к тому, что ваши товарищи-солдаты будут держать свои щиты вместе, что ваши стрелы будут летать верно, что ваши радиосигналы будут точно направлять бомбу к цели. Исследование ВВС специально указывает на то, что доверие к безопасности и надёжности любой роботизированной системы невероятно важно: если офицер не доверяет оборудованию, его подчинённые тоже не будут доверять. «Без этого доверия, подразделение, вполне понятно, скорее всего, проигнорирует, сведёт к минимуму или оставит эту часть оборудования, независимо от полученных указаний» – пишут авторы исследования.
Ирландские солдаты не доверяют своему новому товарищу по команде: они не до конца понимают, как он работает, как приходит к решениям, которые он принимает, или что он делает с данными. Они боятся за свои средства к существованию во всё более неопределённом мире, и это сочетание факторов означает, что, хотя TED может адекватно выполнять свою задачу на поле боя, в конечном счёте это провал.
Но если история – это какой-то путеводитель, то солдаты, которые будут сражаться бок о бок с роботами и против них, в конечном счёте эволюционируют: они научатся доверять имеющимся в их распоряжении инструментам, адаптироваться и, в конечном счёте, выживут, чтобы увидеть другой день.