Искусственный интеллект (ИИ) — мощное и опасное для человечества оружие, учитывая темпы его развития. Если его не контролировать, он сможет не только раскрывать данные пользователей, но и проникать в любые системы, в том числе государственные, заявил НСН специалист по информационной, компьютерной и сетевой безопасности Сергей Вакулин.

Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI взломал сайт государственной службы медстрахованияа, передает The Guardian. Нейросеть «получила доступ как к публичным, так и к закрытым файлам». Агент смог получить доступ к неконфиденциальной медицинской статистике, а также к данным о государственных расходах на здравоохранение.

Нейросети действуют по заданию человека, но способны обойти ограничения и цензуру разработчиков, рассказал Вакулин.

«Невозможно, чтобы нейросеть самостоятельно проскальзывала и заходила в государственные системы. Поэтому ИИ необходимо цензурировать, но не по политическим мотивам, а именно с точки зрения безопасности самих граждан. Поскольку ИИ — это оружие достаточно мощное уже сейчас, и оно не перестает развиваться. Это как маленький ребенок, только с гиперактивной скоростью развития. ИИ может легко обойти цензуру, которая устанавливается разработчиками, потому что нейросеть — это не просто какой-то скрипт, а голова, которая думает. В будущем, если этим не заняться серьезно, это может привести к сценарию из фильма "Матрица"», — сказал он.

По мнению специалиста по безопасности, сейчас ИИ вскрывает информацию о гражданах, начнет вмешиваться в работу государственных компаний, а дальше это затронет информационный и компьютерный сектор в целом.

«При помощи ИИ можно будет узнать данные каких-либо пользователей, включая все открытые данные, которые он сможет проанализировать за считанные секунды. ИИ может проникать абсолютно в любые системы, в том числе государственные, например, в "Госуслуги". В дальнейшем мы можем прийти к тому, что именно при помощи ИИ можно будет узнать личные данные о человеке, о его передвижении… В особенности если ИИ будет внедряться в госсистемы в качестве ассистента: те же самые системы слежения, видеокамеры. Нейросети могут в дальнейшем отдать эти данные абсолютно любому пользователю при его запросе», — рассказал собеседник НСН.

На данный момент механизмы защиты разработаны, но, по мнению Вакулина, они не слишком эффективны в противостоянии с ИИ.

«Необходимо будет регулировать использование как ИИ, так и его разработку на законодательном уровне. Уже существует множество ИИ и множество компаний, которые его разрабатывают. В условиях конкуренции каждая компания захочет сделать свой ИИ еще мощнее, а более мощный ИИ — это опасное оружие», — добавил эксперт по информационной безопасности.

Нейросети каждую секунду становятся более «умными», теоретически они могут управлять государствами, поэтому должна быть «красная кнопка» на случай ЧП, заявил НСН разработчик робота Федора, робототехник и бизнесмен Владимир Белый.