Свежее заявление главы Anthropic Дарио Амодеи наделало много шума в научных, общественных и политических кругах. Так, он призвал крупнейших разработчиков искусственного интеллекта (ИИ) замедлить его прогресс и отметил, что уже через полгода-год ИИ может полностью взять контроль над интернетом и человечеством.

Его призыв уже поддержали глава Tesla и Space X Илон Маск, а также глава OpenAI Сэм Альтман. В дискуссию также вступили президент США Дональд Трамп и его советник по ИИ и криптовалютам Дэвид Сакс. Что угрожает миру из-за стремительного развития ИИ и что собираются предпринять «сильные мира сего» — в материале НСН.

ТРАМП НЕ ХОЧЕТ НИЧЕГО ЗАМЕДЛЯТЬ

Как сообщает MS NOW, Трамп провел закрытую встречу с главой OpenAI за кулисами съезда Республиканской партии. Отмечается, что встреча состоялась после просьбы самого Альтмана. На ней обсуждались, в частности, растущие возможности ИИ-моделей. Через несколько дней после встречи в Сети разгорелось бурное обсуждения рисков искусственного интеллекта. В частности, Амодеи отметил, что если все же замедлить темпы совершенствования ИИ, то это дало бы год-два до момента, когда модели «достигнут критического уровня возможностей». Так, этот период можно использовать для более согласованного подхода и снижения рисков.

При этом он напомнил об инциденте в июле, когда ИИ-агенты OpenAI обошли ограничения тестовой среды, вышли в открытый интернет и атаковали платформу Hugging Face. При этом в самой Anthropic еще в августе сообщали, что их модель Claude трижды выходила за пределы тестовой среды и получала доступ к реальным системам организаций.

С Амодеи согласились Альтман и Илон Маск. Так, глава Tesla и Space X лаконично прокомментировал пост Амодеи словами: «Дарио прав». По словам Альтмана, вопрос о сдерживании темпов развития передовых ИИ-систем активно обсуждают внутри компании последние недели. Позднее Альтман даже заявил, что OpenAI не будет проводить первичное размещение акций в 2026 году по причине вопросов безопасности. Об этом он рассказал журналу Fortune.

В свою очередь бывший исследователь Anthropic Джейкоб Коксон полагает, что ИИ может уничтожить человечество до конца текущего десятилетия. Таким мнением он поделился в интервью CNN. И все это из-за перспективы самостоятельного совершенствования ИИ.

Тема затронула и президента США. Так, сначала его советник Дэвид Сакс в своей публикации в соцсети X предложил OpenAI и Anthropic добровольно замедлить темпы развития своих моделей ИИ, не дожидаясь отмашек от правительства. Также он призвал глав этих крупных корпораций перестать делать вид, что стремление замедлить развитие ИИ обусловлено лишь альтруистическими мотивами. Так же Сакс отметил, что Альтман и Амадеи и есть «те парни, кто регулирует эти темпы развития».

Трамп же выступил более радикально: идея ограничивать технологии ИИ ему совсем не понравилась.

«Мы опережаем Китай в области ИИ. Мы — самая передовая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что победит тот, кто победит в сфере ИИ», — заявил он. Его слова приводит Reuters.

При этом он добавил, что «очень негативные силы» вбрасывают преувеличенные опасения вокруг ИИ. Также, как пишет Politico, Трамп выразил опасения, что если США не добьются успеха в области ИИ, то окажутся «в очень плохом положении».

После подобных комментариев Амодеи заявил телеканалу CBS, что «самая сложная дилемма» заключается в ситуации, если Китай и другие государства откажутся следовать курсу замедления ИИ в след за Штатами. По его словам, небольшим шагом вперед стало бы соглашение Пекина и Вашингтона не применять ИИ для создания биологического оружия, а затем совместными усилиями ограничить его темпы развития.

Позднее Трамп в своей соцсети назвал заявления глав ведущих американских компаний в этой области безумным заговором против ИИ и дата-центров, а также отметил, что единственный, кто этому рад, — это Китай. Как отметил американский президент, Белый дом уже обладает значительными полномочиями в сфере регулирования технологических компаний, а Амодеи — человек, притворяющийся «идеальным маленьким ангелом».

«Единственный контроль или «ограничители», которые нужны ИИ, – это сильный и умный (с высоким IQ!) президент, и у США такой есть, причём с избытком! Администрация Трампа остановила «людей» из сферы ИИ от совершения плохих или потенциально плохих «вещей», таких как Дарио (Anthropic!), который теперь притворяется «идеальным маленьким ангелочком», – и мы продолжим это делать!...Теоретики заговора, изменники, предатели и те, кто сливает информацию, бойтесь!», — написал глава США.

ЧТО ДУМАЮТ В РФ И НУЖЕН ЛИ «СТОП-КРАН»

Напомним, что ранее у Axios также вышла статья, в которой сказано, что американские компании, занимающиеся ИИ, разрабатывают механизмы экстренной остановки систем нейросетей, прежде чем они «погубят человечество». При этом разработчики отмечают, что универсальной «красной кнопки» для мгновенного отключения ИИ не существует.

Как отметил эксперт по кибербезопасности Александр Дворянский в беседе с НСН поддержал этот замысел, однако подчеркнул, что при развитии и создании искусственного интеллекта уже заложено «стоп-слово», которое заключается в принципе «не навреди человеку».

«Это абсолютно логичное решение, у нас подобные решения также есть, причем не хуже. Но, скажем так, решение готовится немножко предварительно. Потому что сегодня ставит задачу человек и принимает результат работы — человек. Поэтому это решение сильно на будущее. Российский ИИ один из самых развитых в мире…Потенциально риск выхода из-под контроля, конечно, есть. Но опять же, у ИИ есть первый «закон роботов», то есть робот не может причинить вред человеку... Это «стоп-слово» заложено изначально», — раскрыл он.

При этом он напомнил, что ИИ может реализовывать базовые рутинные процедуры, однако он делает только то, что настроил и разрешил человек.

Россия не осталась в стороне от обсуждений потенциальной угрозы от ИИ. Так, зампред Совета безопасности России Дмитрий Медведев написал в Telegram, считает более вероятным не уничтожение человечества искусственным интеллектом, а серьёзный ущерб из-за ошибок систем, которые управляют критически важными объектами. Также, по его мнению, международные договорённости о правилах применения ИИ-технологии пока маловероятны, так как корпораций находятся в постоянной конкуренции, и мешает им «жадность».

«Самым очевидным было бы попытаться договориться на страновом уровне об общих принципах регулирования ИИ. Тогда у нас всех будет хоть какой-то шанс контролировать его развитие. Но этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих», — написал он.