Тime: Украина – полигон для испытаний возможностей искусственного интеллекта в качестве оружия

Аналитическая компания Palantir, основанная отчасти благодаря инвестициям венчурного подразделения ЦРУ, построила свой бизнес на предоставлении программного обеспечения для анализа частных данных людей. Эти данные она предоставляла Иммиграционной службе и Таможенной полиции США (ICE), ФБР, Министерству обороны (Пентагону) и целому ряду агентств внешней разведки, пишет американский журнал Time.

«Они являются торговцами оружием. Только их оружие носит название «искусственный интеллект» (ИИ), а торговля идёт в XXI веке», – говорит Джейкоб Хелберг, эксперт по национальной безопасности, который является внешнеполитическим советником генерального директора компании Алекса Карпа. На Украине, говорит Карп, он увидел возможность выполнить миссию Palantir по «защите Запада», а заодно «напугать до чёртиков наших врагов».

Украина тоже увидела возможность. Сначала это было вызвано отчаянием. Но вскоре правительственные чиновники поняли, что у них есть шанс развить на Украине свой собственный бизнес. От европейских столиц до Кремниевой долины министр цифровой трансформации Украины Михаил Фёдоров и его помощники начали рекламировать поля сражений на Украине как место для эксперимента. Перед вами готовые лаборатории для новейших военных технологий, говорили украинские «хозяева», приглашая «гостей», говорится в статье.

«За полтора года, прошедшие с момента первой встречи Карпа с президентом Владимиром Зеленским, компания Palantir беспрецедентным образом внедрилась в повседневную работу иностранного правительства военного времени. 

По словам Карпа, программное обеспечение Palantir, использующее искусственный интеллект для анализа спутниковых снимков, данных из открытых источников, записей с беспилотников и отчётов с мест, чтобы представить командирам все варианты военного ответа на ту или иную ситуацию, – именно это программное обеспечение «отвечает за большую часть целеуказаний на Украине».

Компания Palantir была настолько заинтересована в демонстрации своих возможностей, что предоставила их Украине бесплатно», – рассказывает Time.

Война всегда была движущей силой инноваций, от арбалета до интернета, а в современную эпоху частная промышленность внесла ключевой вклад в такие прорывные новшества, как атомная бомба. Но сотрудничество между иностранными технологическими компаниями и украинскими вооружёнными силами, которые говорят, что у них в каждом батальоне есть инженер-программист, стимулирует новый вид экспериментов в области использования искусственного интеллекта (ИИ).

Издалека это трудно заметить. По общему мнению, вооружённая борьба на Украине зашла в тупик, и обе стороны пока продолжают орудовать в основном оружием XX века, таким как артиллерия и танки. Некоторые скептически относятся к заявлениям о прорывах в области высоких технологий, утверждая, что ИИ мало на что влияет в условиях изнурительной «борьбы на истощение», отмечает автор статьи (Vera Bergengruen).

Но Украина и её союзники из иностранного частного сектора утверждают, что они играют в более долгосрочную игру: создают военную лабораторию для экспериментов в боевых действиях с реальными солдатами. Всё это ради войн будущего. Украина – «это лучший полигон для всех новейших технологий, – говорит Федоров. – Потому что здесь вы можете испытать их в реальных условиях». Карп тоже утверждает, что «есть вещи, которые мы можем испытать на поле боя, но которые мы не смогли бы проверить в домашних условиях».

Если будущее войны проходит бета-тестирование на Украине, результаты будут иметь глобальные последствия, уверено издание. В конфликтах нового века, которые ведутся с помощью программного обеспечения и искусственного интеллекта, всё больше военных решений, скорее всего, будет передаваться алгоритмам. И вот тут-то компании «биг тек» могут получить огромную власть в качестве независимых игроков. Те из них, кто готов действовать быстро и нарушать правовые и этические нормы, могут совершить самый большой прорыв.

За несколько месяцев, прошедших с момента первой встречи Карпа с Зеленским, руководство Palantir вошло в привычный ритм своих частых поездок на Украину.

Большая часть работы Palantir там ведётся в стильных коворкинг-пространствах командой из менее  десятка сотрудников, которые работают непосредственно с украинскими чиновниками, сообщает автор Time.

«Когда компания впервые начала сотрудничать с украинским правительством летом 2022 года, Palantir наняла украинских инженеров, которые могли адаптировать её программное обеспечение для военных действий, а также выступали в качестве посредников между технологической компанией и склеротической бюрократией Украины. Правительственные чиновники были обучены использованию инструмента Palantir под названием MetaConstellation, который использует коммерческие данные, включая спутниковые снимки, для получения практически в режиме реального времени картины конкретного боевого пространства. Программное обеспечение Palantir интегрирует эту информацию с коммерческими и секретными правительственными данными, в том числе от союзников, что позволяет военным сообщать командирам на местах о позициях противника, а затем принять решение об ударе по цели. Это часть того, что Карп называет цифровой «цепью поражения»», – рассказывает издание о работе системы.

Хотя последние данные о доходах компании свидетельствуют о том, что страны-партнёры выделили десятки миллионов на компенсацию инвестиций Palantir, сама Украина не платила ей за её инструменты и услуги. Мотивы компании на Украине имеют мало общего с краткосрочной выгодой.

Военные действия следующего поколения с использованием ИИ пока находятся на ранних стадиях. Некоторые американские чиновники скептически относятся к тому, что оно будет способствовать военной победе Украины. Боевые действия идут уже почти два года, а украинское контрнаступление продолжает пробуксовывать.

«Братья из мира «биг тек» не слишком нам помогают», – заявил Билл Лаплант, заместитель министра обороны США по закупкам и поддержке, на конференции по вопросам обороны в ноябре.

Использование Украиной инструментов, предоставленных такими компаниями, как Palantir и Clearview, также поднимает сложные вопросы о том, когда и насколько инвазивные технологии должны использоваться в военное время, а также о том, как далеко должны распространяться права на неприкосновенность частной жизни. Генеральный директор Clearview Тон-Тхат утверждает, что, как и многие другие новые инструменты в этом конфликте, его программа распознавания лиц – это «технология, которая сияет и по-настоящему ценится только во время кризиса». Но встревоженные правозащитные группы и защитники частной жизни предупреждают, что бесконтрольный доступ к его инструменту, который был обвинен в нарушении законов о конфиденциальности в Европе, может привести к массовой слежке или другим злоупотреблениям.

«Украина – это живая лаборатория, в которой некоторые из этих систем с поддержкой ИИ могут достичь зрелости путём экспериментов в реальном времени и постоянного, быстрого повторения», – говорит Джорритт Каминга, директор по глобальной политике RAIN, исследовательской фирмы, специализирующейся на оборонном ИИ.

При этом большая часть новых средств обнаружения и уничтожения людей будет находиться в руках частных компаний, а не правительств.  

«Впервые в военной истории большинство критически важных технологий поступает не из исследовательских лабораторий, финансируемых из федерального бюджета, а из коммерческих компаний, – говорит Стив Бланк, ветеран технологий и соучредитель Центра инноваций в области национальной безопасности Gordian Knot при Стэнфордском университете, – И для них существует только рынок. Так что джинн вырвался из бутылки».