Общество

Смертоносных роботов в будущем приравняют к террористам

21 Августа 2017 в 18:08
Смертоносных роботов в будущем приравняют к террористам

Главный редактор журнала «Арсенал Отечества» Виктор Мураховский заявил НСН, что борьба человечества с роботами может оказаться безрезультатной.

 

Группа из 116 экспертов в области искусственного интеллекта и робототехники, возглавляемая Илоном Маском, направила в ООН письмо с требованием запретить разработку и использование смертоносного автономного оружия, сообщает The Guardian.

Главный редактор журнала «Арсенал Отечества» Виктор Мураховский в беседе с НСН заявил, что защититься от потенциальных угроз со стороны искусственного интеллекта сегодня уже очень сложно.

«Даже если предложение Илона Маска и его последователей будет принято на уровне ООН, надо понимать, что затормозить этот процесс очень сложно. Допускаю, что в будущем смертоносных роботов удастся как-то приравнять к категории недопустимых идеологий типа нацизма, терроризма и прочего — тогда это не будет государственной политикой. Но это не исключает возможности создания автономных интеллектуальных машин небольшими группами людей. Ведь в отличие от ядерного оружия, где все процессы можно надежно отследить, искусственным интеллектом могут заниматься и маленькие группы программистов, и даже одиночки со своими инновационными стартапами. Так что я думаю, сегодня мы имеем дело скорее с вопросами этики, чем с вопросами законодательных ограничений», — заявил эксперт.

Мураховский поддержал требование Маска, напомнив, что о проблеме передачи определенных функций искусственному интеллекту говорили еще писатели-фантасты.

«Основная проблема в том, что на сегодняшний день люди еще не могут понять, на основе чего искусственный интеллект принимает то или иное решение. Поэтому вполне возможна ситуация, когда встроенный в систему вооружения интеллект, задуманный для работы по определенным алгоритмам, благодаря принципу так называемого глубинного обучения меняет принципы принятия решений. Это, естественно, приводит не к тем результатам, которые ожидались: например, к огневому воздействию на свои же войска или гражданское население», — сообщил он.

Мураховский также напомнил о современных вирусах, которые развиваются и совершенствуются так же стремительно, как и средства, обеспечивающие кибербезопасность.

«Развиваются средства, позволяющие проникать в компьютерные сети, в том числе и в нейросети оппонентов. Это тоже делает возможным изменение целеполагания автономного искусственного интеллекта, например, в процессе развития конфликта», — сказал он.

Напомним, ранее Илон Маск неоднократно заявлял об опасности искусственного интеллекта для всего мира. В частности, на встрече Национальной ассоциации губернаторов (США), прошедшей в июле этого года, глава Tesla заявил, что «ИИ является главной угрозой, с которой сталкивается человеческая цивилизация». 

 


Партнеры

Партнеры

Партнеры