Нейросети каждую секунду становятся более «умными», теоретически они могут управлять государствами, поэтому должна быть «красная кнопка» на случай ЧП, заявил НСН разработчик робота Федора, робототехник и бизнесмен Владимир Белый.

Нейросети изобрели язык, непонятный людям, сообщает британское издание Guardian. Исследователи выявили аномалию в ходе тестирования систем безопасности ИИ, говорится в опубликованном отчете экспертов. Новый диалект совмещает поэтичный язык и профессиональный жаргон ИТ-сферы. Белый призвал контролировать эту ситуацию.

«Китайские нейросети придумали новые термины, даже выяснили, что есть новые диалекты, которые это все реализуют. Китайцы назвали это термином «кузнец форм». И в робототехнике используются средства общения, между роботами, грубо говоря. Это есть и в нейросетях, чтобы не использовать привычный нам язык. Машинам не нужна трансформация на понятный человеку язык, машинам понятен код, сигналы, команды. Это в целом нормальное явление. Тоновый набор на телефонах – это тоже средство коммуникации между одной и второй машиной. Просто нейросети изучают общедоступные сервисы, анализируют информацию, делают выводы. Если у них есть задача научиться использовать зашифрованный язык, код написать на определенных языках, они могут сами себе создать промты для выполнения этой задачи. В процессе могут появляться новые языки и диалекты», - объяснил он.

По его словам, ИИ-агенты могут черпать информацию и из сценариев фильмов.

«Все ИИ-агенты, которые создают контент по запросу пользователей, сохраняют и помнят все запросы, и то, что они сгенерировали. Потом на основе этого они предлагают уже новые формы для других запросов. У нейросети каждую секунду расширяются знания, происходит трансформация. Нам стоит опасаться таких моментов, когда появляется нерегулируемые элементы ИИ. Это все может привести к тому, что в целом они могут управлять государствами. Сценарии фильмов не такие уж фантазийные в этом смысле. И самое главное, что нейронка может где-то изучить этот сценарий, а он станет для нее промтом, грубо говоря. Представьте, если такие нейросети начнут что-то свое создавать без участия человека. Есть риски, поэтому надо стараться их учитывать, чтобы были какие-то красные кнопки, которые все отрубят, если что. Это общемировая задача всех государств», - предупредил собеседник НСН.

Ранее гендиректор OpenAI Сэм Альтман выразил надежду, что руководителям крупнейших IT-компаний удастся договориться о регулировании темпов развития ИИ-моделей, сообщает Telegram-канал «Радиоточка НСН».