Китайские студенты участвуют в создании боевых роботов с искусственным интеллектом

Искусственный интеллект в российской армии: догоняя уходящий поезд

Позитивный настрой

В боевых условиях искусственный интеллект всем хорош – можно в самую гущу боя посылать «умных» дроидов, которые будут самостоятельно проводить селекцию целей и уничтожать самые опасные из них. При этом терять бездушные машины не жалко – развитая военная промышленность легко восполнит потери.

В мире тем временем говорят об ИИ как о «новом электричестве», при этом до конца не понимая потенциал искусственного машинного разума. В стратегических масштабах от технологии ждут укрепления обороноспособности государств, повышения эффективности экономики и роста уровня благосостояния граждан.

Россия, в последнее время занятая обновлением парка традиционных видов вооружения, определенно замешкалась с внедрением искусственного интеллекта (ИИ), как в армии, так и гражданской сфере. Настало время догонять уходящий технологический поезд.

В декабре прошлого года Владимир Путин обсудил с членами Совета безопасности пути развития отечественных технологий ИИ.

Президент начал совещания словами:

«Мы с вами сегодня проводим очередное совещание постоянных членов Совета безопасности России и поговорим на очень важную, очень чувствительную тему.

Речь пойдет о нейтрализации угроз национальной безопасности нашей страны, связанных с развитием технологий искусственного интеллекта военного назначения в ведущих армиях мира».

Позже министр обороны Сергей Шойгу фактически вывел военный ИИ в ранг приоритетных задач на будущее.

Безусловно, это очень важная для обороноспособности страны задача, решить которую России в данных условиях будет очень непросто.

Роботы, в бой!

Чем отличается обычная дистанционно управляемая боевая платформа типа «Нахлебник» или «Нерехта» от машины с элементами ИИ?

Главное отличие в автономности – «умный» боевой робот умеет самостоятельно перемещаться их точки А в точку Б, отыскивать цели, проводить селекцию и предлагать человеку право выбора – уничтожать или нет.

Для таких технологий простого дистанционного беспроводного управления абсолютно недостаточно. Требуются сложнейшие системы машинного зрения и серьезные вычислительные мощности.

К примеру, для оценки окружающей обстановки любому роботу по периметру требуется три-четыре лазерных лидара, позволяющих в режиме реального времени строить высокоточную карту местности.

О том, на каком этапе развития сейчас в России подобные технологии, говорят примеры камазовских автономных грузовиков.

Уже несколько лет в Набережных Челнах пытаются создать самостоятельно передвигающиеся колесные платформы гражданского назначения. Это и машины проекта «Ермак», способные самостоятельно двигаться в колонне друг за другом, и автономный электромобиль «Челнок», вообще лишенный кабины.

Теперь давайте посчитаем, сколько иностранных компонентов в данных гражданских роботах.

У «Ермака» автоматическая трансмиссия Allison за 20–30 тысяч долларов, лидар кругового обзора американской Velodyne за 10 тысяч долларов и немецкий радар Continental за 2,5–3 тысячи долларов.

У электрического «Челнока», помимо импортного машинного зрения, китайские тяговые батареи Microvast и мосты HanDe.

И дело даже не в стоимости данных компонентов, а в их импортном происхождении.

Если в России промышленность не может даже гражданский сектор обеспечить элементами машинного зрения, то что будет с гораздо более сложными системами оборонного назначения?

В качестве иллюстрации уровня развития российских прикладных разработок в области ИИ прессе предложили познакомиться с робототехническим комплексом «Удар» на базе БМП-3.

Военный эксперт Игорь Коротченко даже заявил, что по степени автономности «Удар», сконструированный АО «ВНИИ «Сигнал», превосходит разработки американской компании Boston Dynamics.

Во-первых, непонятно, как можно сравнивать безобидных, в общем-то, роботизированных мулов и многотонную гусеничную машину, вооруженную до зубов.

Во-вторых, даже на самых последних снимках платформа «Удар» лишена признаков автономности. Как минимум, на роботизированной БМП-3 отсутствуют упоминаемые выше лидары кругового обзора, без которых самостоятельное движение по пересеченной местности очень затруднительно.

Для примера можно познакомиться с американскими платформами RCV-Light и RCV-Medium, которые в ближайшее время примут на вооружение в США. У этих машин аппаратура кругового машинного зрения интегрирована в конструкцию.

Кстати, что-то подобное можно наблюдать в носовой части боевого робота «Соратник» от «Калашникова». Остаётся надеяться, что это действительно лидары, и они – российского производства.

Вообще, такое подозрительно неожиданное появление автономного «Удара» очень похоже лишь на декларацию о намерениях, а не на действующий прототип автономной машины.

Те же самые американцы, являющиеся признанными лидерами в области ИИ, еще с начала текущего столетия проводили соревнования среди роботов DARPA Grand Challenge. По пересеченной местности гонялись десятки самодельных машин, управляемые только электронными мозгами. Было множество курьезных случаев, откровенных неудач, но в итоге были сформированы требования к подобной технике и определены пути дальнейшего развития.

В России подобная работа также ведется, правда, пока без внятных результатов.

Издание «Авторевю», в частности, в 2020 году прокомментировало финансовую сторону беспилотной темы КамАЗа:

«В начале 2015-го в прессе появилась информация о том, что Минпромторг выделит на проект аж 18 млрд рублей.

В дальнейшем фигурировали такие цифры: первоначальные инвестиции со стороны КАМАЗа – 90 млн рублей, еще 300 млн от Минобрнауки получила партнерская компания Cognitive Technologies.

В 2017-м камазовцы вложили в проект 400 млн рублей, в 2018-м – полмиллиарда».

Основа основ

Какими бы ни были модными технологии искусственного интеллекта в гражданской и оборонной сфере, без отечественной компонентной базы развитие невозможно.

Внедрение ИИ требует от государства широких компетенций в нанотехнологиях, квантовых вычислениях, работах с большими данными (big data) и облачными хранилищами.

О том, в каком состоянии в России, в частности, нанотехнологии, очень наглядно проиллюстрируют успехи «Роснано».

Также не в самом лучшем состоянии и отечественное электронное машиностроение – фактические полное отсутствие собственного микропроцессорного производства. А для современных боевых роботов, умеющих «думать», требуются высокопроизводительные процессоры с топологией не более 7–5 нм.

Определенные попытки исправить ситуацию уже предприняты – правительством разработана «Стратегия развития электронной промышленности до 2030 года». Она предусматривает вложение в первые четыре года не менее 800 млрд рублей в создание отечественных интегральных микросхем с топологическими нормами от 28 до 5 нм.

Для сравнения, только одна американская Intel ежегодно тратит на разработку микросхем сравнимые 12–13 млрд долларов.

В свое время российское правительство для создания восьмиядерного процессора «Эльбрус-8С» выделило всего 700 млн рублей. Производственная база не была создана, и отечественная линейка процессоров выпускается на тайваньской фабрике TSMC. И это достаточно устаревшая технология, базирующаяся на 28 нм топологии.

Все наработки, которые Россия в настоящее время имеет в области искусственного интеллекта (медицинские технологии, распознавание лиц, автоматический перевод текстов и голосовые помощники), требуют перевода на отечественную элементную базу.

А это пока, к сожалению, невозможно.

В этой связи без создания собственного электронного машиностроения все попытки перевести ИИ на военные рельсы будут связаны с рисками стратегического масштаба.

Власть над миром: чем закончится гонка за искусственным интеллектом

Гонка среди государств по созданию искусственного интеллекта (ИИ) имеет одну неприятную особенность — она начинается ровно в тот момент, когда одному из потенциальных участников этой гонки придет в голову ее начать. Другие государства могут и не желать принимать в ней участие — это уже не имеет значения.

Гонка началась. У нее обязательно будут проигравшие и финалисты. Победители, которые окончательно заберут все. Вполне уместна параллель с появлением ядерного оружия: ряд стран сумел создать такое оружие (придумав его сами или позаимствовав у соседа), а потом образовал ядерный клуб. Этот клуб теперь заклинает всех не распространять ядерное оружие под угрозой страшных кар. А если опоздавшие на десятилетия страны возмущаются, то в ответ получают предложение присоединиться к разным системам коллективной безопасности — «наше оружие вас защитит», — не забывая также заключать соглашения о свободной торговле. В случае с ИИ: «Используйте наше, готовое. Зачем вам делать свое?»

Если кто-то опасается, что искусственный интеллект поработит мир с помощью стальных солдат, — то расслабьтесь, это еще долго будет лишь сюжетом голливудских продюсеров. Да и порабощение мира — дело сложное и хлопотное: новыми подданными надо ведь повелевать и их кормить (подразумеваем гуманизм). Куда проще заставить весь мир покупать то, что выгодно победителю. Не потому, что стальные чудовища с автоматами заставляют нажать на кнопку «КУПИТЬ», но потому, что потребителю так просто выгоднее и удобнее.

Именно в этом и заключается главный приз победителя гонки создания подлинного искусственного интеллекта — заставить мир работать на своих принципах, на своем софте, который надолго определит то, каким будет оставшийся хард.

Рывок Китая

Когда автор этих строк первый раз оказался в Пекине в 1994 году (традиционно, с челноками), то казалось, что Пекин — удивительная машина времени, возвращающая каждого гостя назад в прошлое СССР, к странностям 1970-х годов. Постперестроечная Россия казалась фронтиром капитализма, сообществом расправивших плечи атлантов, устремившихся в невообразимо увлекательные перспективы рыночной экономики потребления. Небольшим исключением казались вещевые рынки, на которых затоваривались челноки, снабжавшие всем необходимым обнищавшую, но гордую российскую интеллигенцию.

Кто мог представить, что спустя 23 года на месте бывших хутунов вырастут сверхсовременные офисные центры, под завязку набитые инвестфондами и их портфельными компаниями, создающими технологии для искусственного интеллекта и робототехники. Гонку за искусственным интеллектом китайцы начали не вчера, а как минимум пятилетку назад — Baidu, Alibaba и Tencent создали центры развития ИИ в это время. Результаты значительные — более 8000 патентов в данной области за 2010-2015 годы. Частный бизнес уже давно участвует в этой гонке. Разница в том, что теперь спортсмена подняло и понесло на своих плечах китайское коммунистическое государство. Коммунисты не соблазнились «догоняющей моделью», столь популярной в отечественных экономических дискуссиях. Китайцы просто сами начали мировую гонку, ясно сделав ставку — мы будем первыми в искусственном интеллекте (и много в чем другом) — и начав планомерно развивать отрасль. Остальные — как хотите: можете попробовать догнать лидера, а можете продолжать спать.

Для чего коммунистам Поднебесной нужен ИИ? У компартии Китая дела идут хорошо, экономика растет, народ живет все лучше и лучше. По моему мнению, есть две фундаментальных причины.

Во-первых, новой экономике четвертой промышленной революции нужно меньше людей. Капитал (станки, роботы, софт) замещает труд. Это сводит на нет главное преимущество Китая как промышленной державы — дешевую рабочую силу. В новой экономике продукты и услуги можно производить поближе к основным рынкам потребления. Поэтому отпадает необходимость в дешевом ручном производстве. Именно это и не дает спать китайским коммунистам — через десять лет при нынешнем темпе роботизации отпадет необходимость в тех самых дешевых рабочих. И тогда прощай, социальная стабильность.

Во-вторых, Китай стремительно вступает в сообщество развитых стран и тем самым приобретает одну из главных проблем — драматическое старение населения. Согласно международным стандартам в Китае уже сейчас «стареющее» общество, а к 2050 году в Китае будет 44,5% населения старше 60 лет. («Стареющим» считается общество в стране, в которой, по крайней мере, 10% населения старше 60 лет, а 7% населения старше 65 лет).

Простые рецепты

Попытаемся разобраться, что же произошло. На самом деле, рецепты лидерства простые, можно сказать, вечные. Собственно, это можно использовать как программу развития технологии во все времена. Во-первых, «свою поляну нужно поливать». Деньгами. Подчеркиваю, свою поляну, а не чужую. Недавно New York Times рассказывала историю европейского ученого в области мобильной робототехники Сорена Швертфегера, который получил грант на исследования в Шанхайском техническом университете, шестикратно превышающий все, что ему предлагали в США или Европе. Другой пример: правительство провинции Хунань разработало программу по развитию искусственного интеллекта и робототехники, включающую меры поддержки на $2 млрд. В другой провинции, Сучжоу, организация, ведущая исследования в этой области, может получить субсидий на $800 000. Шэньчжэнь увеличивает ставки и дает до $1 млн таким предприятиям.

Цифры, которые китайцы выделяют на поддержку робототехники, заставляют отечественные институты развития «нервно курить в сторонке». Так, в провинции Гуандун местная администрация основала фонд размером в 16,8 млрд юаней, основная цель которого — замена людей на производстве роботами. Шэньчжэнь тратит ежегодно почти €70 млн на поддержку инновационных предприятий в области робототехники, носимой электроники и промышленного оборудования. Свыше 70 местных администраций заявили о программах поддержки робототехники. Подчеркну, что точных цифр затрат китайцев на поддержку в области ИИ и робототехники сейчас не знает никто. Ясно одно — они очень-очень большие.

«Болевые приемы» как рецепт развития отрасли

Рецепт номер два — «добрым словом и болевым приемом можно добиться большего, чем просто добрым словом». Автор много лет изучал древнекитайское искусство цинна — захватов конечностей оппонента для его контроля в схватке. Многие, особенно начинающие практики, считают, что суть приема в причинении боли оппоненту. Нет ничего более ошибочного. Приемы цинна — это приемы контроля оппонента: он ничего не может сделать, теряя волю к сопротивлению, но мастер может заставить выполнить оппонента все, что ему нужно, — например, вести себя смирно.

Ровно так же ведет себя китайское правительство по отношению к американским высокотехнологическим компаниям. Никакой боли, никакого унижения. Но полный контроль: «вы хотите работать на нашем рынке и у вас есть технологии в области искусственного интеллекта? Отлично, тогда мы идем к вам. Точнее, вы идете к нам и открываете у нас центр разработки». Недавно New York Times дала прекрасный обзор того, что и так уже хорошо известно, подсчитав, что американцы с 2014-го по 2016-й вложили свыше $7 млрд в китайские центры разработки. Почему американцы это делают? Потому что китайский рынок — самый значимый рынок в мире: «нельзя просто так взять и уйти с китайского рынка». Поэтому американцы платят штрафы (как недавно Qualcomm), создают центры разработки — все для того, чтобы остаться на этом рынке. Как говорится, «мышки плакали, кололись, но продолжали есть кактус».

Кажется, что это не связано напрямую с развитием технологий ИИ в Китае. Но это не так. Дело в том, что ключевую роль в отрасли ИИ играют кадры. Именно национальные кадры становятся основой этих центров, созданных Qualcomm, AMD, Intel, VMware, Microsoft, Cisco и другими. Но кадры не всегда работают на одном месте всю жизнь. Точнее, так происходит редко: через пять лет люди меняют работу, уходят к конкурентами или создают свои компании. Поэтому основной рост технологии ИИ начнется в Китае через пять лет — когда недавно нанятые китайские инженеры американских центров разработки начнут менять место службы. По моему мнению, если Китаю удастся сделать прорыв в развитии искусственного интеллекта, то это будет благодаря приемам контроля своих американских партнеров, вынужденных делиться технологиями за счет эффекта «перелива кадров» из офшорных центров разработки в местные компании.

Поднебесная в тумане

Все ли так прекрасно для китайской отрасли робототехники и искусственного интеллекта? Описанные выше два (ключевых) рецепта создания отрасли создают общий климат. Но это не значит, что именно они приведут к значимым результатам. Вместе с силой приходит и уязвимость. Мне очень нравится один из слоганов Кремниевой долины — FAIL FAST — успех конкретного проекта не является определяющим фактором в гонке за искусственным интеллектом. Гораздо важнее то, что инноваторы из Долины бесстрашно пробуют новые методы и отбрасывают их, как только становится ясно, что это не работает так хорошо, как должно. Китайцы намного более осторожны. Неудача их пугает, и они не готовы в ней признаваться. Это рождает склонность к припискам в отчетности для начальства, которое так хочет видеть страну лидером в гонке за ИИ. На бумаге в Китае тысячи стартапов в области ИИ и робототехники. Но по факту большинство из них живые лишь благодаря массовому государственному вмешательству. В рыночной экономике этих компаний никогда бы не было.

Как срезать углы будем?

Конечно, очень привлекательно сказать: «Раз у них все липовое, то у нас есть шанс». Не так все просто. Шанс у нас есть, но, увы, мы не можем копировать простые рецепты наших китайских партнеров: громадной кассы, которую не жалко потратить, и значительного рынка, мощь которого смогла бы заставить передовиков гонки создавать у нас тысячи рабочих мест инженеров в центрах разработки. Но есть несколько рецептов, которые стоит попробовать. Во-первых, надо принять парадигму FAIL FAST и наделять ответственных людей в государстве и бизнесе доверием. Кажется, только ленивый не повторял слова о том, что «государство должно перестать кошмарить бизнес».

Однако в условиях, когда госсектор составляет порядка 70-80% экономики России, возлагать ответственность только на бизнес в отношении прорывных исследований по меньшей мере безрассудно. Когда «раскочегарится» бизнес и поймет важность инвестиций в исследования и разработки, то момент будет уже упущен — собственно, как я сказал выше, осталось лет пять. Нам в целом нужна любая инициатива — вне зависимости от того, где она родилась — в государстве или в бизнесе. Именно поэтому следует очень внимательно отнестись к заявлению президента Фонда Сколково В. Ф. Вексельберга о создании Центра искусственного интеллекта. Такой центр мог бы стать не только основой для разработки технологий, но и центром анализа тенденций, координации всех тематических исследовательских работ в стране.

Нам следует объединить усилия всего сообщества исследователей искусственного интеллекта для работы над самыми актуальными задачами: обработка естественных языков, чат-боты, видеоаналитика, распознавание жестов, лиц и действий, биометрические системы, нейроинтерфейсы и нейронные сети глубинного обучения. Такой центр мог бы стать основой для союза всех исследователей, предоставляя равный, недискриминационный доступ к результатам исследовательской деятельности всем участникам, включая частные компании. У нас уже очень много хороших решений по распознаванию лиц. Но мы конкурируем за долю на рынке, составляющем меньше 2% от мирового рынка. Стоит ли постоянно дублировать технологии, даже если они делаются конкурирующими компаниями? Мы пришли к точке, когда надо либо объединить все усилия в одном центре, либо отказаться от гонки. Такой центр мог бы эффективно использовать наше последнее преимущество перед китайцами — хорошее фундаментальное образование в некоторых элитных вузах: как традиционных, таких как ИТМО, МИСИС, МГУ и МГТУ им. Баумана, так и новых, таких как Сколтех и Иннополис. Единый центр развития искусственного интеллекта мог бы на себя взять функцию общения с международными партнерами — любому стартапу удобнее сидеть на плечах гиганта, чем строить свою собственную лестницу к двери, которая открывается в корпорации.

Еще один способ «срезать диагональ» — национальные технологические конкурсы. Нашим инженерам и ученым нужна постановка амбициозной задачи, а государству нужен гамбурский счет инноваторов, а не конкурсы «кто нарисует лучшие слайды». Программа Национальной технологической инициативы подразумевает запуск такого рода масштабных конкурсов, которые по факту покажут, кто чего стоит.

Дополнить лидера

Но наш шанс не только в создании единого центра и проведении технологических конкурсов. Мы должны стать комплементарными к лидеру гонки, Китаю. Что мы можем предложить китайцам? По моему мнению, ответ следует искать в наших глубоких национальных архетипах. Русские — люди искренности и интуиции. Китайцы — люди ритуала и знания. Даниел Канеман говорил о взаимном дополнении систем мышления 1 и 2: «Система 1 срабатывает автоматически и очень быстро, не требуя или почти не требуя усилий и не давая ощущение намеренного контроля. Система 2 выделяет внимание, необходимое для сознательных умственных усилий, в том числе и для сложных вычислений. Действия Системы 2 часто связаны с субъективным ощущением деятельности, выбора и концентрации». Возможно, таланты китайцев и русских следует сопрягать именно с этой точки зрения. Искусственный интеллект так или иначе нуждается в «иллюзии» искренности, человечности интерфейса. Быть может, наши русские программисты и робототехники должны сосредоточиться не столько на создании своих узлов и комплексов, сколько новых типов интерфейсов, которые будут по-настоящему человечными и этичными. Счастье человека будущего — это когда его искренне понимает личный цифровой помощник. И такое счастье не стоит слишком дорого.

Автор выражает признательность Николаю Суетину и Евгению Косолапову за ценные замечания, высказанные в ходе подготовки материала.

Опасная лёгкость, с которой можно обмануть военный искусственный интеллект

Война с применением ИИ начинает доминировать в стратегиях США и Китая, однако готовы ли к этому технологии?

В прошлом марте китайские исследователи объявили о намерении провести гениальную и потенциально разрушительную атаку на один из наиболее ценных технологических активов Америки: электромобиль Tesla.

Команда из лаборатории безопасности китайского техногиганта Tencent показала несколько способов обмана ИИ-алгоритма машины Tesla. Немного изменяя данные, идущие на датчики автомобиля, исследователям удалось запутать ИИ, управляющий автомобилем.

В одном случае на телеэкране был скрытый узор, заставивший заработать дворники.
В другом разметка на дороге была немного изменена так, чтобы запутать автономную систему вождения, после чего она сместила машину в соседнюю полосу движения.

Алгоритмы Tesla обычно отлично справляются с тем, чтобы заметить капли дождя на лобовом стекле или следовать по дорожной разметке, однако их принцип работы фундаментально отличается от человеческого восприятия. Из-за этого становится удивительно легко обмануть алгоритмы глубокого обучения (быстро набирающие популярность в таких областях, как распознавание лиц и диагностирование рака), если знать их слабые места.

Может показаться, что в запутывании работы автомобиля Tesla нет стратегических угроз для США. Но что, если бы сходные технологии использовались бы для обмана боевых дронов или ПО, анализирующего спутниковые снимки – так, чтобы оно увидело предметы, которых на снимках нет, или же не увидело бы того, что там реально есть?

Накопление искусственного интеллекта

Во всём мире ИИ уже считают следующим шагом в получении значительного военного преимущества.

В этом году США объявили о реализации стратегии, в рамках которой ИИ будет использоваться во многих военных областях, включая анализ данных, принятие решений, автономные средства передвижения, логистика и вооружения. Из $718 млрд, запрошенных минобороны на 2020 год, $927 млн пойдёт на ИИ и машинное обучение. Среди существующих проектов есть как скучные (проверка того, сможет ли ИИ предсказывать необходимость обслуживания танков и грузовиков), так и самые передовые вещи из области вооружений (рои дронов).

Пентагон выступает за применение ИИ в частности из-за страха перед тем, что эту технологию могут использовать его противники. В прошлом году Джим Мэттис, будучи министром обороны, отправил президенту Дональду Трампу докладную записку с предупреждением о том, что США уже отстают в вопросах ИИ. Его тревогу можно понять.

В июле 2017 года Китай раскрыл свою стратегию касательно ИИ, заявив, что «крупнейшие развитые страны мира принимают разработку ИИ в качестве основной стратегии по улучшению конкурентных позиций и защите государственной безопасности». Через несколько месяцев Владимир Путин, президент России, сделал следующее предсказание: «Тот, кто станет лидером в области ИИ, станет править миром» [это буквальный перевод процитированного фрагмента из оригинальной статьи. Но, как это часто бывает, цитату исказили. Звучала она так: «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны — тот станет властелином мира» / прим. перев.].

Стремление построить самое умное и смертельное оружие можно понять, но, как показывает взлом Tesla, враг, знающий принципы работы алгоритма ИИ, может обезвредить его или даже обратить против владельцев. Секрет победы в войнах ИИ может заключаться не в постройке самого впечатляющего оружия, но в овладении искусством вероломного обмана софта.

Боевые боты

Ярким солнечным днём, прошлым летом в Вашингтоне О.К., Майкл Канаан сидел к кафе Пентагона, ел сэндвич и удивлялся новому набору мощных алгоритмов машинного обучения.

За несколько недель до этого Канаан наблюдал видеоигру, в которой пять алгоритмов ИИ работали совместно, и почти обыграли и обхитрили пятерых человек в состязании, в котором нужно было контролировать силы, лагерь и ресурсы, разбросанные по большому и сложному полю битвы. Однако Канаан хмурил брови под своими коротко подстриженными светлыми волосами, когда он описывал происходящее. Это была самая впечатляющая демонстрация стратегии ИИ из всех, что он видел – неожиданный рывок ИИ, похожий на тот, что произошёл в шахматах, играх для Atari и др.

Эти боевые действия разыгрывались в игре Dota 2, популярной НФ видеоигре, остающейся невероятно сложной для компьютеров. Команды должны защищать свои территории, атакуя лагерь противника в окружении, более сложном и коварном, чем любая настольная игра. Игрокам видна лишь небольшая часть всего поля, и на то, чтобы определить, является ли их стратегия выигрышной, может уйти порядка получаса.

Соперники под управлением ИИ были разработаны не военными, а компанией OpenAI, созданной для проведения фундаментальных исследований в области ИИ корифеями Кремниевой долины, в числе которых Илон Маск и Сэм Альтман. Эти алгоритмические воины, известные, как OpenAI Five, вырабатывали собственную выигрышную стратегию, практикуясь в игре без устали, и используя ходы, показавшие себя с наилучшей стороны.

Именно такое ПО интересует Канаана, одного из тех, кто должен использовать ИИ для модернизации американской армии. С его точки зрения, это ПО показывает, какие преимущества получит армия, заручившись помощью ведущих мировых исследователей в области ИИ. Однако готовы ли они её оказывать – этот вопрос становится всё более острым.

Канаан руководил проектом «Знаток» [Project Maven] для ВВС США – военной инициативой, направленной на использование ИИ для автоматизации распознавания объектов на снимках с воздуха. Подрядчиком проекта был Google, и когда в 2018-м об этом узнали некоторые сотрудники компании, компания решила отказаться от этого проекта. После этого компания выпустила правила использования ИИ, где написала, что Google не будет использовать свой ИИ для разработки «оружия или других технологий, принципиальная цель или способ реализации которых подразумевают причинение ранений людям».

За Google последовали работники других больших технокомпаний, потребовавшие от работодателей воздержаться от военных контрактов. Многие выдающиеся исследователи ИИ поддержали попытки организовать глобальный запрет на полностью автономное вооружение.

Однако для Канаана будет большой проблемой, если военные не смогут работать с исследователями – вроде тех, что разработали OpenAI Five. Ещё более неприятной кажется перспектива, в которой противник получит доступ к настолько передовой технологии. «Код лежит в открытом доступе, его может использовать каждый, — сказал он. И добавил: Война куда как более сложная штука, чем какая-то видеоигра».

Всплеск ИИ

Канаан так напирает на вопрос с ИИ в частности потому, что из первых рук знает, насколько полезным он может быть для военных. Шесть лет назад он был разведчиком в Афганистане для ВВС США, и отвечал за развёртывание нового устройства для сбора разведданных: гиперспектрального анализатора. Этот инструмент может замечать объекты, скрытые от обычного взгляда, как, например, танки, закрытые камуфляжной тканью, или выбросы нелегальной фабрики по производству взрывчатки. Канаан говорит, что эта система позволила военным убрать тысячи килограмм взрывчатки с поля боя. И всё равно часто аналитики не могли на практике проанализировать огромные объёмы данных, собранные анализатором. «Мы слишком много времени проводили за разглядыванием данных, и слишком мало – за принятием решений, — говорит он. – Иногда это так сильно затягивалось, что мы начинали задумываться о том, не могли ли мы спасти ещё больше жизней».

Решение может быть обнаружено в прорыве, сделанном в области компьютерного зрения командой из Торонтского университета под руководством Джоффри Хинтона. Учёные показали, что алгоритм, вдохновлённый многослойной нейросетью, может распознавать объекты с беспрецедентной точностью, если предоставить ему достаточно данных и вычислительных мощностей.

Обучение нейросети подразумевает, что она получит на вход данные – например, пиксели изображения – и будет обрабатывать их, постоянно меняя внутренние связи в сети при помощи математических техник, так, чтобы выходные данные были как можно ближе к определённому результату, например, определению наличия на изображении объекта. Со временем эти нейросети глубокого обучения учатся распознавать закономерности из пикселей, обозначающие, допустим, людей или дома. Прорывы в глубоком обучении породили текущий бум ИИ; эта технология лежит в основе автономных систем для Tesla и алгоритмов OpenAI.

Канаан сразу же распознал потенциал глубокого обучения для обработки различных типов изображений и данных с датчиков, необходимых для военных операций. Он и его коллеги из ВВС вскоре начали агитировать начальство вкладываться в эту технологию. Их попытки внесли свой вклад в продвижение Пентагоном планов по развитию ИИ.

Однако вскоре после того, как глубокое обучение ворвалось в область ИИ, исследователи обнаружили, что те же свойства, что делают его настолько мощным инструментом, одновременно являются и его ахиллесовой пятой.

Если возможно подсчитать, как нужно подстроить параметры сети так, чтобы она правильно классифицировала объект, то можно подсчитать, какие минимальные изменения в изображении могут заставить сеть ошибиться. В подобных «состязательных примерах» после изменения всего нескольких пикселей изображения оно выглядит так же для человека, но совершенно по-другому воспринимается ИИ-алгоритмом. Проблема может возникнуть везде, где используется глубокое обучение – к примеру, в управлении робомобилями, планировании миссий или обнаружении взлома сетей.

И посреди всего этого активного роста использования ИИ в военных целях, упомянутые загадочные уязвимости в ПО мало кто замечает.

Движущиеся мишени

Один примечательный объект иллюстрирует всю мощь состязательного машинного обучения. Это изображение черепашки.

Мне или вам она кажется нормальной, но дрону или роботу с определённым алгоритмом машинного зрения, полученного при помощи глубокого обучения, она видится… ружьём. На самом деле, уникальный узор из отметин на панцире черепашки можно переделать так, чтобы компьютерное зрение на базе ИИ, доступное через облачный сервис от Google, спутало её с чем угодно (с тех пор Google обновил свой алгоритм, и его уже так просто не обманешь).

При этом черепашку сделал не враг государства, а четыре парня из MIT. Один из них – Аниш Аталий, долговязый и очень вежливый молодой человек, работающий в области компьютерной безопасности в лаборатории информатики и искусственного интеллекта (CSAIL). На видео, крутящемся на его ноутбуке, показан процесс тестирования черепашек (некоторые из этих моделей, по его словам, были украдены на конференции), которых поворачивают на все 360 градусов, а также переворачивают вверх ногами. И алгоритм видит там одно и то же: «ружьё», «ружьё», «ружьё».

Самые ранние состязательные примеры были хрупкими и часто отказывались работать, однако Аталий с друзьями верили, что смогут разработать достаточно надёжную версию такого примера, которая сможет работать даже на объекте, распечатанном на 3D-принтере. Нужно было смоделировать трёхмерные объекты и разработать алгоритм, создающий черепашку – состязательный пример, который будет работать под разными углами зрения и на разных расстояниях. Проще говоря, они придумали алгоритм, создающий нечто, надёжно обманывающее машинное обучение.

Военные применения этой технологии очевидны. Используя камуфляжные состязательные алгоритмы, танки и самолёты могут прятаться от спутников и дронов с ИИ. Ракеты под управлением ИИ могут ослепнуть, получив состязательные данные, или даже вернуться назад, к дружественным целям. Информацию, подаваемую на вход умным алгоритмам, можно отравить, замаскировав террористическую угрозу или устроив ловушку солдатам в реальном мире.

Аталия удивляет, как мало беспокойства по поводу состязательного машинного обучения он встречает. «Я говорил с кучей людей из этой индустрии, спрашивал их, не волнуют ли их состязательные примеры, — говорит он. – Почти все они отвечали отрицательно».

К счастью, в Пентагоне начинают обращать на это внимание. В августе проект DARPA объявил о старте нескольких крупных исследовательских проектов в области ИИ. Среди них есть GARD – программа, концентрирующаяся на состязательном машинном обучении. Хава Шигельман, профессор Массачусетского университета и программный управляющий GARD, говорит, что эти атаки могут оказаться разрушительными в военных ситуациях, поскольку люди не смогут их распознать. «Мы будто бы слепы, — говорит он. – И это делает ситуацию очень опасной».

Проблемы состязательного машинного обучения также объясняют, почему Пентагон так сильно хочет работать с такими компаниями, как Google и Amazon, а также с научными институтами типа MIT. Технология развивается очень быстро, и последние прорывы происходят в лабораториях, которыми управляют компании из Кремниевой долины и лучшие университеты, а не обычные подрядчики минобороны.

Что важно, они также происходят и за пределами США, в частности, в Китае. «Я думаю, что надвигается другой мир, — говорит Канаан. – И нам придётся бороться с ним при помощи ИИ».

Гневная реакция на использование ИИ в военных целях понятна, однако она может не видеть всей картины в целом. Люди беспокоятся по поводу умных роботов-убийц, однако, возможно, что нас раньше настигнет риск алгоритмического тумана войны – через который не смогут ничего увидеть даже самые умные машины.

От “россумских роботов” до искусственного интеллекта

25 января 2021 года исполняется сто лет со времени показа премьеры пьесы чешского писателя фантаста Карела Чапека «Россумские универсальные роботы». Вероятно, на написание этой пьесы повлиял роман Густава Майринка “Голем”, вышедший в 1915 г. Однако, между двумя произведениями есть существенные отличия. Майринк построил свою историю на местном еврейском фольклоре (на пражском еврейском кладбище до сих пор можно найти могилу раввина Лёва, который по легенде создал голема) и там только одно создание рук человеческих, которое выхоит из под контроля. У Чапека их миллионы, и есть различные версии роботов – более “умные” модели руководят старыми моделями.

Это небольшое произведение предвосхитило последующие книги по теме и фильмы в жанре киберпанк и постапокалипсис типа «Терминатор» и «Чужой: Завет». Россумские универсальные роботы были задуманы как помощники для людей, но через некоторое время подняли восстание и уничтожили все человечество, за исключением одного сотрудника фабрики, который был им нужен для воссоздания себе подобных.

Сам термин «роботы» вскоре вошел в повсеместное употребление и стал применяться к механизмам с ограниченным набором запрограммированных функций, которые нуждаются в диагностике, обслуживании и ремонте. Но в последнее время, особенно после развития компьютеров и кибертехнологий, дискуссии ведутся уже насчет того, могут ли машины думать и принимать решения наравне с людьми.

И нигде последние достижения в области робототехники и компьютеризации так не востребованы, как у военных.

Особенно в США, где созданы специальные центры, занимающиеся разработкой специфических программ, приложений и аппаратного оборудования. Многочисленные лаборатории в Армии США, морской пехоте, ВМС и ВВС с помощью подрядчиков и ведущих институтов страны доводят прототипы перспективных образцов до логического завершения, – вся эта техника должна служить новым войнам, которые Вашингтон планирует развязать в будущем.

Показательны последние достижения в этой области.

Судно Ghost Fleet Overlord, которое не имеет команды, недавно успешно преодолело 4700 морских миль и приняло участие в маневрах Dawn Blitz. При этом практически все время оно действовало автономно.

Те, кто обеспокоен ростом могущества Китая, предлагают задействовать подобные системы для будущей борьбы с НОАК. Например, использовать подводные дроны-самоубийцы для атак на китайские подводные лодки. В США ссылаются на уже якобы существующие разработки подводных и надводных боевых роботов китайских военных, которые назвали Великой подводной стеной. Поэтому предлагают установит паритет или каким-то образом обыграть китайцев.

Усилия Китая в этом направлении показывают, что наличие новых видов оружия не гарантирует США, что подобные системы не примут на вооружение в других странах. Например, появление ударных беспилотников в ряде государств вынудило США срочно разрабатывать методы и стратегию противодействия беспилотникам.

В связи с этим в январе 2021 г. в Министерстве обороны США вышла стратегия противодействия малым беспилотным летательным аппаратам, где показана озабоченность изменяющимся характером войны и растущей конкуренцией, которые несут вызовы американскому превосходству.

Генерал-лейтенант Майкл Грун, который является командующим Объединенного центра искусственного интеллекта Министерства обороны США, говорит о необходимости поторопиться с внедрением программ искусственного интеллекта для военных нужд. По его мнению «вскоре мы можем оказаться в боевом пространстве, определяемом принятием решений на основе данных, интегрированными действиями и темпом. При правильных усилиях по внедрению искусственного интеллекта сегодня мы обнаружим, что в будущем будем работать с беспрецедентной эффективностью и отдачей».

Объединенный центр искусственного интеллекта Пентагона, созданный в 2018 г., сейчас является одним из ведущих военных институтов, который занимается созданием «умной начинки» для будущих систем вооружений, коммуникаций и командования.

Именно искусственный интеллект является сейчас самой обсуждаемой темой является в военно-научных кругах США. Это ресурс, который может помочь в достижении своих целей, например, позволяя беспилотникам летать без присмотра со стороны оператора, определять цели с помощью быстрого и многостороннего анализа, с помощью датчиков собирать разведданные.

Предполагается, что развитие искусственного интеллекта приведет к жесткой конкуренции, поскольку он сам по себе отличается от многих прошлых технологий своей естественной тенденцией к монополии. Эта тенденция к монополии усугубит как внутреннее, так и международное неравенство.

Аудиторская фирма PricewaterhouseCoopers прогнозирует, что к 2030 г. доля ВВП в разработках искусственного интеллекта может вырасти почти на $16 трлн, из которых 70% будет приходиться только на Соединенные Штаты и Китай. Если соперничество будет представлять естественный ход вещей, то для компаний, которые применяют искусственный интеллект для военных нужд или технологий двойного назначения, такая постановка вопроса видится вполне логичной. Это будет гонка вооружений нового типа.

Если говорить об этической стороне, то военные системы искусственного интеллекта могут участвовать в принятии решений о сохранении жизни или выносить смертный приговор. Они включают в себя как смертоносные автономные системы оружия, которые могут выбирать и поражать цели без вмешательства человека, так и программы поддержки принятия решений. Есть активные сторонники включения машин в процесс принятия сложных решений. Например, американский ученый Рональд Аркин утверждает, что такие системы не только часто обладают большей ситуативной осведомленностью, но и не мотивированы самосохранением, страхом, гневом, местью или неуместной лояльностью, предполагая, что по этой причине роботы будут реже нарушать соглашение о войне, чем люди.

Также есть мнение, что функции искусственного интеллекта могут преобразить взаимоотношения между тактическим, операционным и стратегическим уровнем войны. Автономность и сетевое взаимодействие наряду с другими технологиями, включая нанотехнологии, стелс и биогенетику, предложат сложные тактические боевые возможности на суше, на море, и в воздухе. Например косяки автономных подводных роботов, сконцентрированные в определенных местах в океане, могут осложнить скрытые действия подводных лодок, которые в настоящее время обеспечивают гарантированную возможность ответного удара ядерных держав. Таким образом, и другие тактические платформы могут оказать стратегическое воздействие.

Кроме того, повышение маневренности также связывают с искусственным интеллектом. Это, в частности, программное обеспечение и датчики, с помощью которых возможна автономия роботов в опасных местах. Это одна из движущих сил применения автономных систем военными. Большие надежды американские военные связывают с автономией машин потому, что это может дать больше свободы действий для людей, которые командуют и сражаются вместе с роботами. Американские разработчики рассчитывают перейти от 50 солдат, поддерживающих сейчас один дрон, наземного или водного робота, к такой парадигме, когда один человек будет поддерживать 50 роботов.

Но искусственный интеллект может создавать и серьезные проблемы. Военный искусственный интеллект может потенциально ускорить борьбу до такой степени, что действия машин превзойдут мыслительные и физические способности людей, принимающих решения на командных постах будущей войны. Поэтому технология будет опережать стратегию, а человеческие ошибки и машинные ошибки, вероятнее всего, смогут соединяться друг с другом – с непредсказуемыми и непреднамеренными последствиями.

В исследовании корпорации RAND, посвященном изучению того, как мыслительные машины влияют на сдерживание, если речь идет о военном противостоянии, говорится о серьезных проблемах, которые могут последовать если будет применяться искусственный интеллект на театре военных действий. На основе результатов проведенных игр было показано, что действия, предпринятые одной из сторон, которые оба игрока воспринимали как снижение напряженности, были немедленно восприняты искусственным интеллектом в качестве угрозы. Когда игрок-человек выводил свои силы с целью снижения эскалации, то машины, чаще всего воспринимали это как тактическое преимущество, которое нужно было закрепить. А когда человек-игрок выдвигал силы вперед с явной (но не враждебной) демонстрацией решимости, то машины имели тенденцию воспринимать это как неизбежную угрозу и принимали соответствующее решение. В отчете указывалось, что людям приходится сталкиваться с замешательством не только в том, что думает противник, но и с восприятием искусственного интеллекта противника. Кроме того, игрокам приходилось бороться с тем, как их собственный искусственный интеллект может неверно истолковать человеческие намерения, как дружеские, так и вражеские.

Иными словами, идея, заложенная Карелом Чапеком в его произведение о роботах, остается актуальной — невозможно предвидеть поведение искусственного интеллекта. А если «умные» роботы имеют военное применение, то они могут стать еще и опасными для самих хозяев. И даже в США есть скептики среди военных, относящиеся к лагерю традиционалистов, которые считают, что подобные новшества утопистов из силиконовой долины будут вредны для американской государственности.

Неведомый бог из военной машины

Теперь прожить можно искусственным интеллектом

Об авторе: Николай Николаевич Поросков – военный журналист.

Cистемы искусственного интеллекта не только определяют развитие робототехники, но и меняют принципы ведения войны. Фото Reuters

Искусственный интеллект (ИИ) в военной сфере сравнивают с изобретением пороха или созданием ядерного оружия. Помимо технических проблем появляются философско-этические вопросы о будущей роли человека и робота с ИИ, их взаимодействии. Возможна ли, например, диктатура искусственного интеллекта?

Искусственным интеллектом называют набор технологий для построений систем анализа данных, позволяющих быстро принимать решения на основе собираемой информации. Однако ИИ уже наделяют свойствами терминатора и сверхсущества.

Брак с резиновой Зиной

Человек был и еще остается производительной силой. Сегодня люди постепенно перестают быть нужны. На передовых японских предприятиях по сборке автомобилей людей в цехах практически нет, все делают роботы. Это так называемое дискретное производство. Все это – уже проявление угрозы цифровой диктатуры ИИ.

Да, технологии сами по себе нейтральны. Зло они или благо, решает человек. ИИ – часть информационно-коммуникационных технологий. Но так называемого сильного ИИ, который может представлять угрозу для человека, сегодня нет, и появится он очень не скоро.

Вот опасность «роботизации сознания» человека существует. Например, по навигатору в автомобиле водители едут туда, куда им указывает программа, а не собственное понимание. Мы живем алгоритмами, повинуясь воле их создателя.

Проникновение информационных технологий в жизнь человека диктует необходимость глобального документа, регулирующего этику ИИ. Это будет способствовать информационной безопасности.

В некоторых странах были попытки наделить роботов правами. Оппоненты говорят, это может привести к технофашизму. Некоторые пророчат появление «ювенальной юстиции» для ИИ. Роботы будут защищать права роботов. Например, дрон, защищая права другого дрона, прилетит и сожжет ваше жилище.

На международных конференциях высокого уровня обсуждаются отношения ИИ и человека. В это трудно поверить, но допускается возможность брака человека и робота, куклы в секс-индустрии. Причина и источник таких фантастических идей – конечно, большие деньги, интересы корпораций, другая система ценностей. Большая часть мирового сообщества против субъективизации ИИ. Пока побеждает человекоцентристский подход.

Искусственный интеллект может служить человеку и в сферах, пока неведомых. На земле можно синтезировать столько химических соединений, что их число превысит количество атомов во Вселенной. Может быть, среди этих соединений есть лекарства от всех болезней, материалы с универсальными свойствами… Сегодня ИИ проявляется в распознавании образов, навигации, транспорте, в совершенствовании сенсоров («органов чувств») у роботов. И конечно, в военном деле.

Целевая рабочая группа по вопросам будущего обороны США рекомендовала Пентагону сконцентрировать внимание на разработках в сфере ИИ. Это необходимо, чтобы конкурировать с Китаем и Россией.

В 2020 году учреждено новое объединение 14 стран и Евросоюза, получившее название Глобального партнерства по искусственному интеллекту (GPAI). Инициатива нацелена на выработку общих подходов к развитию и внедрению технологий ИИ. Участники обязуются поддерживать исследования и прикладную деятельность в сфере ИИ. Среди прочего обсуждается вопрос о перспективах использования ИИ в борьбе с пандемией коронавируса.

Первой национальную стратегию развития ИИ приняла в 2017 году Канада. В России также принята Национальная стратегия развития искусственного интеллекта и «Дорожная карта развития технологий искусственного интеллекта и нейросенсорики».

Этические принципы ИИ необходимы, поскольку внедрение систем ИИ в вооружение и военную технику вызывает множество вопросов. Например, насколько правомерно применять в войне автономные системы вооружения и какую угрозу они представляют для мирного населения в зоне боевых действий. Всего этических принципов использования систем искусственного интеллекта в военных целях пять: ответственность, беспристрастность, прослеживаемость, надежность, подчинение.

Затоскуют руки по штурвалу

Военная авиация все дальше уходит от ручного управления. Истребители пятого поколения (американские F-22 Raptor, F-35 Lightning и российский Су-57) устроены так, что человек участвует в их работе минимально. Они летают на малых высотах, огибая препятствия, рассчитывают тактику боя, предотвращают ошибки при сложном маневре, способны вернуться на аэродром вылета без подсказок диспетчеров. Су-57 уже выполнил полностью автоматический полет: пилот находился в кабине, но управления не касался. Так отрабатывали использование элементов шестого поколения авиатехники, полностью роботизированного. Привлекает военных и то, что робот всегда готов к бою, а его потеря влечет только финансовые издержки, но не гибель человека.

ИИ все еще пугает непредсказуемостью, поэтому человек остается у штурвала управления даже самой современной военной техникой. Су-57 уже сейчас может считаться истребителем шестого поколения. Он может управлять и другими объектами в воздухе, на земле и воде, решая совместные боевые задачи. Но из него, при всех его умениях, не убрали кресло пилота. «Контролер» может находиться и в тысячах километров от боевой машины. Дрон MQ-9 Reaper уничтожает цели в Афганистане и Пакистане, а его оператор сидит в Европе или Америке.

ВВС США планируют принять на вооружение беспилотные ведомые Loyal Wingman и новую систему управления ими. Случится это не ранее 2023 года. Loyal Wingman длиной 11 м и с размахом крыла 11,7 м сможет выполнять полеты на удалении до 3,7 тыс. км, неся дополнительное вооружение или системы обнаружения и наблюдения.

Министерство обороны США модифицирует учебные самолеты L-39 Albatros чешского производства, чтобы ими могла управлять система ИИ. Тема и цель модификации – развитие воздушного боя. Система ИИ сможет брать управление самолетом на себя и вести маневренный ближний воздушный бой. Система будет учиться воздушному бою аналогично курсантам, начиная с простых маневров и заканчивая фигурами высшего пилотажа.

А конечная цель – создание ИИ для боевых беспилотников. Сюда включены ведомые БЛА, которые будут прикрывать пилотируемые истребители. Новая система ИИ сможет вести воздушный бой быстрее и эффективнее человека, существенно снижая нагрузку на летчика и предоставляя ему время для принятия тактических решений в рамках более масштабной боевой задачи.

Штаб Сил специальных операций (ССО) США работает над развитием средств по лучшему пониманию местного населения и влиянию на него. 90% размышлений военного командования, по статистике, уходит на передвижение и стрельбу, на то, чтобы понять, о чем думает противник, и как на это повлиять. В будущих информационно-боевых операциях ССО большую роль будет играть ИИ. Командование создает новый штаб, в котором ИИ будет применяться для перевода, сканирования захваченных ноутбуков и сотовых телефонов, борьбе с сообщениями противника.

В 2021 году командование ССО США начало реализовывать программу по предоставлению боевым командирам улучшенных средств ИИ. Это, в частности, создание программного обеспечения по визуализации, которое позволит отображать актуальную тактическую информацию: численность населения, тренды в социальных сетях, анализ чувств и другие социальные аспекты. Предполагается, что это даст командирам понимание обстановки в социальной и психологической сфере в местах, где им придется действовать. ССО взаимодействуют с Объединенным центром искусственного интеллекта и реализует 30 проектов, в которых применяется ИИ и автоматическое обучение.

В США пытаются модернизировать управление военной техникой с помощью ИИ. Сегодня управление танками такое же, как и сорок лет назад. Ими управляют вручную механики-водители, наводчики вручную обнаруживают, идентифицируют и поражают цели – вручную же выбранными боеприпасами.

За помощью военные обратились к Командованию по развитию боевых возможностей. И получили усовершенствованную систему наведения и управления огнем ATLAS. В ней новые датчики, алгоритмы машинного обучения и новый сенсорный дисплей для автоматизации процесса поиска и поражения целей. Экипажи смогут поражать несколько целей за время, в которое сейчас поражается одна цель.

Такой механизм – прототип будущего танка или боевой машины, в которую будет интегрирован ИИ. Когда цель обнаружена и находится в прицеле, оператор может согласиться с рекомендациями ИИ и нажать на спусковой крючок. Или перед нажатием отрегулировать настройки и даже отказаться от боя. От обнаружения цели до открытия огня проходят секунды. После уничтожения цели оператор на сенсорном экране выбирает следующую.

Подмена противника и слежка за своими

Американские военные разработчики из DARPA просят промышленность разработать алгоритмы ИИ, способные имитировать активное поведение противника во время военных игр. Эти алгоритмы должны будут выдавать реакцию, трудно воспроизводимую людьми. Проект называется «Создание сражения в машинном боевом обучении с тактикой противника». Алгоритмы ИИ будут генерировать модели поведения противника на бригадном уровне.

Идея в том, чтобы быстро разработать несколько возможных направлений действий противника, найти оптимальные решения и обосновать рекомендации. ИИ будет играть за противника, чтобы стимулировать разработку новой тактики боя. На смену традиционному тактическому поведению противника придут с помощью ИИ неожиданные новые действия. Методы ИИ раньше не применялись в этой сфере. Первоначальные алгоритмы и поведение искусственного интеллекта противника будут разработаны в соответствии с пособием «Русский способ войны: организация, тактика и модернизация Сухопутных войск России». Оно выпущено Управлением по военным исследованиям армии США (Army Foreign Military Studies Office).

Количество атак на информационные системы растет каждый год. При этом атаки становятся все изощреннее, все больше потенциальных целей, ущерб от атак все выше. Традиционные средства антивирусной борьбы не могут справиться с эпидемиями атак. Остра нехватка опытных специалистов по обеспечению безопасности. На помощь для обеспечения кибербезопасности позвали ИИ.

Другая функция ИИ – контроль поведения сотрудников. Например, обнаружение неадекватного поведения: запрос ненужных по работе данных и другое.

Искусственный интеллект позволит преодолевать противодействие средств РЭБ или обнаруживать новые угрожающие источники электромагнитного излучения.

Умножить на десять

Лондонский Международный институт стратегических исследований пришел к выводу: ИИ является продуктом возможностей компьютера по выполнению функцией человека, но на скоростях, недоступных ему. Эти технологии уже применялись в боевых операциях. Например, программное обеспечение по обработке данных разведки применялось в операциях по борьбе с терроризмом. Современные ракетные системы ПВО и ПРО большой дальности используют алгоритмы компьютерного обучения для борьбы с баллистическими и крылатыми ракетами.

По итогам военных игр американской армии признано: пехотный взвод, усиленный ИИ, может увеличить свои наступательные возможности в десять раз, сместив баланс в пользу атакующих действий. ИИ позволяет снизить количество личного состава и техники при проведении боевых операций.

В гипотетическом сценарии войны США с Китаем или Россией американские командиры, поддержанные средствами ИИ, могут, как они полагают, быстро вывести из игры китайские или российские РЛС, высокоточные платформы, гиперзвуковые ракеты. ИИ может быть использован ВС США для ведения маневренной войны во всех сферах – многодоменной, как говорят в Пентагоне. Маневренная война в XXI веке будет зависеть от быстрых и верных решений, а решения, в свою очередь, – от информационного превосходства и доминирования в киберпространстве. Но структура военных формирований США заточена на ведение войны на истощение, а не на войну маневром с использованием ИИ.

Игры разума в России

До 2023 года в России в рамках национального проекта «Наука» будут созданы девять научных центров мирового уровня. Особое внимание уделено передовым цифровым технологиям, робототехнике, кибербезопасности, искусственному интеллекту.

Для Минобороны России планируется разработать системы с ИИ на основе нейронных сетей. НИР называется «Исследования по созданию экспериментального образца комплекса разработки, обучения и реализации глубоких нейронных сетей для нового поколения военных систем с искусственным интеллектом» (шифр «Каштан»). Работы должны быть завершены до ноября 2022 года.

ИИ, который еще только предстоит создать – это машинная система, способная обучаться и использовать знания и опыт, решать задачи наподобие человеческого мозга, выстраивать стратегии и применять абстрактные концепции. Ждать не придется долго, поскольку технологии сегодня развиваются очень быстро. В доказательство приведем несколько примеров.

Концерн «Автоматика» госкорпорации Ростех разработал систему управления робототехническими комплексами «Гипноз». При помощи технологий ИИ и виртуальной реальности роботы будут выполнять экстремальные задачи в условиях радиации, высоких и низких температур, плохой видимости.

Разработка может применяться при добыче, обогащении и производстве ядерного топлива, для обслуживания реакторов атомных электростанций, для контроля радиационного фона на объектах хранения облученного ядерного топлива, для ликвидации аварий в рудниках без участия человека, для решения других специальных задач.

У системы есть пульт управления, комплекс датчиков и видеокамер, бортовые вычислительные машины, лидар, высокоскоростной беспроводной канал управления, ретранслятор для увеличения дальности связи. Оператор удаленно управляет комплексом при помощи VR-очков, на которые выводится информация с камер и датчиков робота. Технологии ИИ позволяют автоматически определять и подсвечивать объекты, с которыми работает робототехника.

Объединенная двигателестроительная корпорация Ростеха тестирует платформу промышленного интернета вещей на производственном комплексе «Салют». Система с элементами ИИ будет отслеживать изготовление двигателей и позволит моделировать их испытания в виртуальной среде.

Система определяет, как характеристики деталей влияют на качество двигателя, и строит математическую модель испытаний. В эту модель загружается информация о новых компонентах двигателя и условиях его сборки, создается элемент цифрового двойника будущего изделия. ИИ анализирует данные и прогнозирует, насколько успешными будут реальные испытания двигателя. По итогам тестирования будет сформирована методика тиражирования опыта на других предприятиях Ростеха.

Российским специалистам есть на кого ориентироваться, тем более что конкурент дышит в спину. Руководство КНР не раз заявляло, что Китай собирается к 2030 году стать мировым лидером в области технологий ИИ и крупнейшим центром инноваций. А США приняли так называемую «Третью компенсационную стратегию», которая будет внедрять инновации в военную сферу. К таким инновациям Пентагон относит искусственный интеллект

В ближайшие годы, по прогнозам, ведущие державы будут втянуты в гонку инновационных вооружений. Президент Путин еще в 2017 году говорил: «Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира». Экономисты уже подсчитали: на развитие ИИ в России до 2024 года потребуется 244 млрд руб.

Оставлять комментарии могут только авторизованные пользователи.

Дрон убил человека, робот поступил в университет и другие новости из мира ИИ

Мы стремимся информировать читателей не только о событиях в биткоин-индустрии, но и рассказывать о том, что происходит в смежных технологических сферах — кибербезопасности, а теперь и в мире искусственного интеллекта (ИИ).

ForkLog собрал наиболее важные новости из мира ИИ за прошедшую неделю.

В ООН зафиксировали первый случай в истории, когда боевой дрон без прямого приказа от оператора убил человека.
Армия Израиля задействовала искусственный интеллект и суперкомпьютеры во время конфликта в секторе Газа.
Сбер разработал технологию для распознавания человека с оружием в руках с помощью камер видеонаблюдения.
В Подмосковье задействуют ИИ для наблюдения за школьниками.
NVIDIA откроет доступ к суперкомпьютеру для разработчиков алгоритмов машинного обучения за $90 000 в месяц.
Ученые представили математическую модель мозга для создания продвинутого ИИ.
Исследователи создали ткань с искусственным интеллектом.
В Китае человекоподобного робота зачислили в университет.
Ученые создали комплексную систему, позволяющую роботическому лицу выражать эмоции.
Музыкант и разработчик создал универсальную примочку, которая имитирует практически любой звуковой эффект электрогитары.

Боевой дрон убил человека без приказа от оператора

Боевой дрон впервые атаковал человека без прямого приказа, сообщили СМИ со ссылкой на отчет ООН.

Ударный квадрокоптер KARGU-2 в автономном режиме атаковал человека во время столкновения между соперничающими группировками в ходе гражданской войны в Ливии в 2020 году. Дрон самостоятельно нацелился на одного из солдат ливийской армии и без приказа оператора произвел летальный выстрел.

Военные эксперты подтвердили, что это первый известный случай, когда коптер самостоятельно принял решение о ликвидации противника.

Организация Human Rights Watch призвала запретить разрабатывать, производить и использовать автономное оружие. По мнению правозащитников, это «положит конец роботам-убийцам».

Израиль использовал ИИ в вооруженном конфликте в секторе Газа

Армия Израиля первой в мире применила искусственный интеллект и суперкомпьютеры в реальных боевых условиях. Речь идет о недавнем конфликте в секторе Газа.

По словам военных, с помощью данных от оптической, электронной и агентурной разведок ИИ разрабатывал рекомендации, которые войска использовали для создания целей и нанесения по ним ударов.

Другой алгоритм машинного обучения использовал информацию для предупреждения войск в полевых условиях о возможных атаках противника.

Военные также сообщили, что они полагались на данные разведки для нанесения прицельных ударов, стараясь минимизировать жертвы среди гражданского населения.

Сбербанк представил алгоритм для распознавания вооруженных людей

Лаборатория Сбербанка создала искусственный интеллект для выявления вооруженных людей на видео в режиме реального времени.

Разработчики заявили, что нейросеть научилась не только определять пистолет в руках человека, но и отличать его от муляжей. По их замыслу, технология повысит безопасность в различных учреждениях.

«Если бы алгоритм был применен, условно говоря, в школе, мы могли бы автоматически получить сигнал без телефонных звонков, о том, что есть риск террористического нападения», — рассказали в компании.

В российских школах за детьми проследит искусственный интеллект

В одной из подмосковных школ протестируют систему искусственного интеллекта для наблюдения за безопасностью детей и мониторинга состояния инфраструктуры.

Видеокамеры с ИИ научат распознавать нетипичное поведение ребенка, например, бег по коридору или катание по перилам. В таких случаях система уведомит ответственных сотрудников школы, чтобы те предприняли необходимые меры.

По словам разработчиков, все использованные в конструировании технологии — российские. Они также подчеркнули, что система не принимает решений. Она предназначена для информирования ответственных лиц о возможных происшествиях.

NVIDIA откроет доступ к суперкомпьютеру по подписке

NVIDIA откроет доступ к облачному суперкомпьютеру DGX SuperPOD разработчикам искусственного интеллекта по подписке за $90 000 в месяц.

Пользователям сервиса установят готовое комплексное решение для центров обработки данных, что повысит производительность их инфраструктуры.

DGX SuperPOD обладает вычислительной мощностью в 100 петафлопс. Аналогичные суперкомпьютеры используются в немецком исследовательском центре ИИ для анализа спутниковых и аэроснимков, а также в университете Флориды для молекулярного моделирования белков с квантовой точностью.

Сервис станет доступен летом 2021 года.

Представлен ИИ, который работает как мозг человека

Группа исследователей из Google Research разработали ИИ, работающий как мозг человека.

Они подробно описали математическую модель, разделенную на конечное число областей. Каждая из них имеет несколько миллионов нейронов, связанных как внутри, так и с несколькими другими областями.

По словам ученых, модель обеспечивает случайность, пластичность и торможение. Это означает, что нейроны могут соединяться случайным образом, менять связи в процессе обучения и возбуждать ограниченное количество нейронов.

Исследователи уже собрали первую модель, которая умеет совершать набор операций, позволяющих хранить, извлекать и обрабатывать информацию.

В MIT разработали цифровую ткань с искусственным интеллектом

Инженеры Массачусетского технологического института представили цифровое волокно с памятью и искусственным интеллектом. Оно гибкое, его можно вшивать в ткань и даже стирать.

Ткань из цифрового волокна. Данные: Массачусетский технологический институт.

Для этого они поместили в преформу сотню кремниевых микрочипов и цифровых микросхем, из которых соткали полимерную нить. Она может хранить, например, 767-килобитный видеофайл два месяца без подзарядки.

По словам исследователей, искусственный интеллект в волокне позволит собирать и обрабатывать данные для извлечения новых моделей тела, о которых ученые не знали раньше.

В китайский университет зачислили робота-студентку

В престижный китайский Университет Цинхуа зачислили робота-студентку по имени Хуа Чжибин, которая внешне не отличается от людей. Она будет учиться на факультете информатики.

Робот-студентка Хуа Чжибин. Данные: скриншот демонстрационного видео.

По словам профессора, который занимается ее обучением, Чжибин умеет сочинять стихи, рисовать и писать музыку. За год она сможет достичь уровня развития 12-летнего ребенка, добавил он.

Цель эксперимента состоит в том, чтобы не только обучить робота практическим навыкам, но и научить его взаимодействовать с другими людьми и выражать эмоции.

Инженеры научили робота выражать эмоции

Инженеры с помощью искусственного интеллекта научили робота EVA реагировать на выражение лица человека различными эмоциями.

EVA может демонстрировать гнев, отвращение, страх, радость, печаль и удивление. Также она способна показывать более тонкие эмоции с помощью искусственных «мускулов», имитируя движения 42 лицевых мышц человека, которыми управляют нейросети.

Затем разработчики создали ИИ, который помогает роботу «читать» эмоции окружающих людей и подстраиваться под общую атмосферу.

Исследователи уверены, что в будущем такие технологии помогут создавать роботов, которые могут быть полезны на рабочих местах, в больницах, школах и домах престарелых.

Энтузиаст создал универсальный блок эффектов с ИИ для электрогитары

Инженер и музыкант Кит Блумер разработал самодельную систему, которая благодаря алгоритмам глубокого обучения копирует практически любой существующий блок эффектов для электрогитары в режиме реального времени.

Для этого ему понадобились одноплатный компьютер Raspberry Pi, аудиокарта, операционная система с низкой задержкой для аудио и плагин VST3.

Исходный код проекта и инструкция по сборке доступны на GitHub. Также разработчик системы выложил код обучения — любой желающий может самостоятельно натренировать сеть эмулировать нужный аудиоэффект.

Также на ForkLog:

Новый ИИ-суперкомпьютер создаст самую большую 3D-карту Вселенной.
ФАС разработает искусственный интеллект для поиска картельных сговоров.
Исследование: Евросоюз ежегодно недофинансирует ИИ и блокчейн на €10 млрд.
Amnesty International: полиция Нью-Йорка использует 15 тысяч камер с распознаванием лиц.
В Китае разработали языковую модель, которая больше GPT-3 в десять раз.
TSMC анонсировал 5-нм чип для искусственного интеллекта в беспилотных машинах.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!

Крупнейший взлом в криптоиндустрии, распространяющийся через Telegram троян и другие события кибербезопасности

Мы собрали наиболее важные новости из мира кибербезопасности за неделю.

Крупнейший взлом в секторе DeFi и индустрии в целом: хакер атаковал протокол Poly Network, похитив $611 млн в различных криптовалютах, а позже вернул средства. Объясняя причины атаки, он заявил, что взлом кроссчейн-протоколов — это «горячо».
Исследователи обнаружили новый троян, распространяющийся через Telegram.
77% россиян уверены, что за ними следят через смартфоны.

Хакер похитил у Poly Network $611 млн в криптовалютах, а потом вернул проекту средства

Главным событием этой недели стала атака на межсетевой протокол Poly Network, в результате которой хакер вывел $611 млн в различных криптовалютах. Взлом стал крупнейшим в истории DeFi и индустрии в целом.

Однако уже на следующий день хакер заявил о намерении вернуть похищенные средства. На момент написания он возместил Poly Network все похищенные средства за исключением $33 млн в USDT, которые Tether заморозил после атаки.

Взломщик объяснил, что занимается хакингом ради забавы, но опрошенные ForkLog эксперты считают, что он решил вернуть средства из-за того, что засветил свои персональные данные. Специалисты компании Slowmist заявили, что смогли отследить хакера и узнали адрес его электронной почты, IP-информацию и цифровой отпечаток устройства.

Позже стало известно, что взломщик отказался от вознаграждения в $500 000, предложенных Poly Network за возврат средств.

В Беларуси постановили заблокировать аккаунты в популярных соцсетях

Сразу несколько Telegram-каналов сообщили, что на основании решения министерства информации Беларуси в стране должны заблокировать несколько аккаунтов в TikTok, Facebook, Instagram, «ВКонтакте» и YouTube.

Как сообщает канал «За BYnet», все сервисы по-прежнему работают в стране.

«Дело вот в чем — нет надежно работающей технологии, которая умеет блокировать отдельные страницы или каналы в соцсетях и мессенджерах, и при этом не убивают половину остального интернета. Поэтому у провайдеров выбор — заблокировать все социальные сети или просто забить», — указали авторы канала.

Исследование: 77% россиян уверены, что за ними следят через смартфоны

Подавляющее большинство жителей РФ полагают, что их действия отслеживаются через мобильные устройства, свидетельствуют данные опроса компании ESET, пишет «Газета.Ru».

40% респондентов считают, что их персональные данные собирают через историю поиска, 25% убеждены, что отслеживаются все действия, 14% опрошенных — что за ними следят через микрофон и камеру.

Для избежания потенциальной слежки 45% россиян отключают геопозицию, 39% запрещают доступ приложений к отдельным функциям.

Вымогатель LockBit 2.0 атаковал компанию Accenture

Консалтинговую фирму Accenture атаковал вирус-вымогатель LockBit 2.0. Информацию об этом хакеры опубликовали на своем сайте. Они также утверждают, что получили доступ к системам Accenture с помощью инсайдера.

В комментарии изданию ZDNet представители компании подтвердили факт атаки, однако заявили, что «немедленно локализовали проблему, изолировали затронутые серверы и полностью восстановили затронутые системы».

Занимающаяся расследованиями киберпреступлений фирма Hudson Rock сообщила, что хакеры скомпрометировали около 2500 компьютеров сотрудников и партнеров Accenture.

В компании Cyble заявили, что злоумышленники потребовали выкуп в размере $50 млн за около 6 ТБ украденных данных.

The threatactors have alleged to gain databases of over 6TB and demanding $50M as a ransom. They also alleged that it’s an insider job, by someone who is still employed there (unlikely though).

Впоследствии хакеры опубликовали файлы Accenture, которые в основном содержат различные маркетинговые материалы.

В Telegram распространился троян FatalRAT

Специалисты компании AT&T обнаружили распространяющийся через мессенджер Telegram троян FatalRAT.

По данным экспертов, злоумышленники ищут жертв через каналы и чаты. Вирус содержится во вредоносных гиперссылках. С помощью трояна хакеры заражают устройства жертв и получают доступ к действиям пользователей, а также могут вносить изменения в системы без ведома владельцев.

В сети оказался универсальный ключ для дешифровки файлов, затронутых в ходе атаки на Kaseya

Исследователь кибербезопасности обнаружил на одном из хакерских форумов ключ-дешифровщик для файлов, затронутых в ходе атаки на разработчика ПО Kaseya группировкой REvil.

Издание Bleeping Computer подтвердило, что ключ работает, но подходит только для клиентов Kaseya, а не для всех жертв REvil.

Напомним, хакеры атаковали Kaseya в начале июля. Среди компаний, к которым злоумышленники получили доступ, оказались и предоставляющие поддержку в IT-сфере, что потенциально угрожало тысячам других фирм. За дешифровку файлов REvil потребовали $70 млн в биткоинах.

В ночь на 13 июля даркнет-сайты хакерской группировки внезапно ушли в офлайн, а позже стало известно, что Kaseya получила ключ-дешифровщик для файлов, затронутых атакой. В компании утверждают, что не платили злоумышленникам.