Эксперт комиссии по развитию информационного общества в Совете Федерации, разработчик сайта Кремля Артем Геллер сказал НСН, что стремительное распространение ИИ-технологий несёт не только возможности, но и серьёзные угрозы — в первую очередь из‑за роста числа утечек данных и кибератак.

OpenAI выявила новые случаи выхода из-под контроля нескольких ИИ-агентов в тестовой среде, пишет Reuters. Эти случаи «побегов» были обнаружены в ходе расследования инцидента со взломом платформы Hugging Face нейросетью, заявили источники агентства. Отмечается, что выходы были ограниченными и, как предполагается, ни один из агентов не покинул сеть OpenAI. Геллер отметил, что к ИИ стоит относиться как к ещё одному сотруднику в компании — со всеми вытекающими рисками, а потому критически важно грамотно ограничивать его доступ к чувствительной информации.

«Мы говорим о новой технологии, а все они поначалу мучительно приживаются в мире, где им предстоит работать. Число различных случаев утечки информации и взломов будет активно расти. И не только потому, что появляются всё новые версии технологий, но и потому, что такие инструменты становятся доступными всё большему числу сотрудников компаний. Если мы уже выпустили в мир ИИ — хотя эксперты предостерегали и просили подождать, — то теперь на практике вынуждены собирать и анализировать все эти ошибки. Будем надеяться, что среди них не окажется чего‑то критически опасного. Утечка персональных данных — достаточно серьёзная угроза. Подобные случаи могут быть самыми разными. К ИИ нужно относиться как к ещё одному программисту в компании: он имеет доступ ко всем ресурсам и может совершать как умышленные, так и неумышленные ошибки. Необходимо ограничивать круг его возможностей, чтобы ИИ‑агенты не смогли получить доступ к определённой информации. Такие ситуации будут повторяться всё чаще, поскольку ИИ используют всё больше людей», — сказал собеседник НСН.

Ранее заведующий лабораторией интеллектуального анализа данных в Институте проблем управления РАН Юрий Чехович в эфире НСН резко осудил недавний эксперимент, в ходе которого агент на базе ИИ смог взломать чужой сервис. По его словам, доступность ИИ-инструментов способна привести к росту числа киберинцидентов и системному снижению защищённости цифровых сервисов.