В США предупредили о серьезной опасности использования военными систем искусственного интеллекта при принятии решения о нанесении ядерного удара. Как пишет издание Breaking Defense, бывший замминистра обороны Соединенных Штатов Роберт Уорк заявил, что системы ИИ не должны участвовать в контроле ядерного вооружения, поскольку запускаются по определенным параметрам и показателям, и в некоторых ситуациях искусственный интеллект может расценить неопасные факторы как представляющие угрозу.

Член-корреспондент Российской академии ракетных и артиллерийских наук, капитан первого ранга, доктор военных наук Константин Сивков рассказал НСН, почему искусственному интеллекту не место в принятии решения о нанесении ядерного удара.

«Имеется в виду система противоракетного наблюдения. Имеет место, неоднократно такое бывало, ложное срабатывание системы противоракетного наблюдения. Если происходит ложное срабатывание, в первую очередь возникает проблема классификации: ложный или реальный пуск. Если решение принимает человек, то он понимает всю меру ответственности, он понимает, что психологически не готов к уничтожению цивилизации и не готов принять решение на массированный ядерный удар без веских оснований. Он ищет все способы, чтобы убедиться, что это ложное срабатывание, и не наносить этого удара. Если же там будет находиться искусственный интеллект, он же лишен всего этого, просто в силу того, что искусственный интеллект неполноценный. Это ориентированная оптимизированная под классификацию схема, компьютерная программа, которая просто тупо по целому ряду формальных признаков принимает решение», — пояснил эксперт.

Собеседник НСН отметил, что и системы искусственного интеллекта могут дать сбой. А то, что в Штатах заговорили об искусственном интеллекте, может сигнализировать о подготовке американцев нанести первый ядерный удар, добавил Константин Сивков.

«По всей видимости, речь идет о том, что американский политический вектор совершенно не уверен в том, что американские офицеры, которые находятся на постах управления применения этого оружия, будут готовы нанести первый ядерный удар по каким-то формальным признакам. Они к этому, по всей видимости, готовятся. И для того, чтобы обеспечить гарантированное исполнение их приказа, они, видимо, хотят ввести в свои системы принятия решений о применении стратегического ядерного оружия искусственный интеллект», — сказал собеседник агентства.

При этом особую опасность эксперт увидел в размещении американских ракет средней дальности в Европе, которые могут не оставить времени на взвешенное решение ни человеку, ни искусственному интеллекту.

«Дело заключается в том, что американцы, размещая ракеты средней дальности, ставят ситуацию в положение, когда и человеку не остается время для того, чтобы разобраться в ситуации. Если подлетное время баллистической ракеты с территории США составляет где-то 25-30 минут, то у нас есть время, чтобы проанализировать элементы движения цели, определиться с траекторией полета, оценить, куда она упадет, увидеть, что там не одна ракета, а большой залп пошел. Наконец, переговорить с президентом США. Много таких процедур сделать и понять, в конце концов, что это ложное срабатывание. Но когда у США ракеты средней дальности с подлетным временем 5-8 минут, то времени на это не остается. И тогда возникает ситуация, когда из-за ложного срабатывания даже человек может принять решение на ядерный удар. Вот в чем опасность. Тем более, речь идет об искусственном интеллекте», — предупредил Константин Сивков.

Примечательно, что в статье Breaking Defense приводится в пример российская система «Периметр», которая может принять сейсмическую активность за ядерные взрывы, а затем направить запрос в штаб войск, и в случае отсутствия ответа, отдать команду на запуск межконтинентальных баллистических ракет. Собеседник НСН уточнил, что от искусственного интеллекта ничего в этой системе не зависит, и пояснил, как она работает.

«В системе “Периметр” никакой искусственный интеллект ни за что не отвечает. Это полная дурь и глупость. В системе “Периметр” существует очень примитивная и простая схема. Там на всех командных пунктах, которые существуют у нас в части принятия решений на применение ядерного оружия, должно быть постоянное излучение передач определенного сигнала в систему “Периметр”. Когда эти сигналы со всех командных пунктов перестают поступать, это означает, что система управления стратегическими ядерными силами России уничтожена. В этом случае срабатывает система “Периметр” и запускает ядерный удар. В данном случае срабатывает полностью автоматика и дается команда на запуск специальных ракет. Людей, которые могли бы дать команду, уже нет, они уничтожены. Поэтому там срабатывает чисто автоматика. Если хотя бы один-два пункта управления сохранились, то система “Периметр” не сработает. Поэтому такая система гарантировано обеспечивает защиту от несанкционированных пусков. Это именно на тот случай, если некому применять решение», — отметил военный аналитик.

Напомним, что в ноябре 2018 года экс-начальник Главного штаба Ракетных войск стратегического назначения генерал-полковник Виктор Есин рассказал, что Россия не сможет эффективно ответить на американские ракеты средней дальности, если они будут размещены в Европе. По его словам, система «Периметр» до сих пор существует, однако она будет задействовать только те ракеты, которые выживут после удара агрессора. Позже, проанализировав интервью Есина, американские СМИ предположили, что комплекс автоматического управления массированным ответным ядерным ударом «Мёртвая рука» (так на Западе называют «Периметр») был модернизирован за последние годы, что сделало его ещё более смертоносным.