При развитии и создании искусственного интеллекта (ИИ) уже заложено «стоп-слово», которое заключается в принципе «не навреди человеку». Об этом НСН рассказал эксперт по кибербезопасности Александр Дворянский.

Американские компании, занимающиеся искусственным интеллектом (ИИ), разрабатывают механизмы экстренной остановки систем нейросетей, которые могут предотвратить опасное поведение технологий без участия человека. Об этом пишет портал Axios. Речь идет об «аварийных тормозах», способных остановить опасные ИИ-системы, прежде чем те нанесут серьезный ущерб человечеству. Дворянский оценил, насколько назрела эта мера.

«Это абсолютно логичное решение, у нас подобные решения также есть, причем не хуже. Действительно, логично иметь «стоп-кран», который в моменте сможет остановить и откатить все до начальных результатов. Но, скажем так, решение готовится немножко предварительно. Потому что сегодня ставит задачу человек и принимает результат работы — человек. Поэтому это решение сильно на будущее. Российский ИИ один из самых развитых в мире. Наши знания и технологии это позволяют. Потенциально риск выхода из-под контроля, конечно, есть. Но опять же, у ИИ есть первый «закон роботов», то есть робот не может причинить вред человеку. Здесь примерно та же идеология. Это «стоп-слово» заложено изначально», — раскрыл он.

Также эксперт объяснил, насколько ИИ сегодня действует автономно.

«ИИ действительно может обучаться сам и сам реализовывать какие-то базовые рутинные процедуры. Но, опять же, это те процедуры которые, настроил и разрешил выполнять человек. Самостоятельность ИИ сейчас регулирует человек, натягивая или отпуская «поводок». Сейчас абсолютно все управляемо», — раскрыл он.

Ранее аналитик «Финам» Леонид Делицын раскрыл НСН, что объемы инвестиций в сферу искусственного интеллекта в 2030-е годы превысит $30 трлн, а США хотят установить монополию в этой отрасли.