Будущее алгоритмической войны, часть III: стагнация

Примечание редактора: Ниже приводится отрывок из готовящейся к выходу книги авторов «Информация на войне: военные инновации, боевые сети и будущее искусственного интеллекта».

Как будет выглядеть полный провал нынешней гонки за внедрение систем искусственного интеллекта и машинного обучения (ИИ/МО) в вооруженные силы США? Американская военная профессия в равной степени благословлена ​​и проклята технологическим детерминизмом и верой в то, что новые гаджеты решат старые проблемы. Этот образ мышления пронизывает представления о компенсации и веру в то, что точность может противостоять массе в современной войне.

Приведенный ниже сценарий является своего рода предсмертным, предлагая читателю представить мир, в котором технологические изменения движутся как назад, так и вперед, и являются неравномерными. Эта техника красной команды призвана проиллюстрировать, как неудача становится способом ее предотвращения. Анализ основан на более ранних сценариях, опубликованных в журнале War on the Rocks, в которых исследовалось, как сломанная бюрократия и неспособность создать общее понимание того, как ИИ/МО влияют на характер войны. Все эти сценарии взяты из нашей недавней книги «Информация на войне: военные инновации, боевые сети и будущее искусственного интеллекта». В книге мы используем ряд исторических случаев внедрения информационных технологий, чтобы представить, как военные США отреагируют на последнюю волну интереса к искусственному интеллекту и машинному обучению. Основываясь на этих расходящихся историях, мы видим на горизонте разные варианты будущего, которые требуют осмотрительности и более активного диалога о том, как люди, бюрократия и сети знаний сталкиваются с любой новой технологией.

В приведенном ниже сценарии будущее мрачно. Старые представления о войне в сочетании с бюрократией индустриальной эпохи ограничивают степень, в которой любая новая технология может дать устойчивое преимущество. ИИ/МО становится еще одним ложным обещанием, принесенным в жертву на алтарь столкновения воль. Оборонная бюрократия изо всех сил пытается адаптироваться и возвращается к устойчивым идеям о войне, несмотря на наличие новых технологий. Человек верхом на лошади испытывает ностальгию и теряется в мечтах о прошлых битвах, из-за которых он не может адаптироваться к войне будущего.

В этом альтернативном будущем американские военные никогда не смогут избежать тяжести старых представлений о войне и устаревшей бюрократии. Несмотря на нынешнюю волну энтузиазма по поводу AI/ML, вероятность такого будущего не равна нулю. Да, военные силы находятся в гонке за создание новых боевых сетей, но степень, в которой они станут новой доктриной и боевыми формированиями, все еще неясна.

* * *

На дворе 2040 год. Председатель Объединенного комитета начальников штабов едет в Пентагон на отремонтированном старинном спортивном автомобиле в сопровождении дрона-охранника и своего личного цифрового помощника, читающего ему ежедневные новости. Движение было более интенсивным, чем обычно. Это было прекрасное весеннее утро, когда цветущая вишня добавляла красок размытому лабиринту зданий из белого и серого мрамора, бетона и стали, украшающих Северную Вирджинию. Многие водители, подобные ему, предпочитали наслаждаться утренней поездкой на работу и ездить самостоятельно, а не включать ограниченный автоматический режим вождения, который ограничивал их скучной скоростью пятьдесят миль в час. Он предпочитал водить машину, но машина читала ему сообщения, каталогизируя информацию, которую он считал полезной, и выделяя для своих сотрудников вопросы, на которые он хотел получить ответы, когда въезжал в офис. По правде говоря, он и так не очень любил читать.

Старый генерал настроил своего личного помощника Чести так, чтобы он звучал как старинная дьявольская собака. Алгоритмы удалили старые аудиофайлы и даже адаптировали метафоры времен Второй мировой войны, относящиеся к определенному периоду. Это был еще один пример забавного, но тривиального способа, с помощью которого программное обеспечение обеспечивает взаимодействие каждого с миром. Чести хмыкнул и прочитал ему заголовки.

«Генерал ВВС прекращает групповой эксперимент по тестированию автоматизированных агентов воздушного пространства, ссылаясь на необходимость лучшей интеграции диспетчеров воздушного движения и пилотов».

Чести добавил к заголовку: «Сегодня мы делаем генералов на основе их способности написать проклятое письмо. Такие люди не смогут подготовить нас к войне.