Применение Искусственного интеллекта для создания программного обеспечения пока несет определенные риски в плане кибербезопасности, однако за этой технологией – будущее. Об этом в комментарии НСН заявил директор Ассоциации предприятий компьютерных и информационных технологий Николай Комлев.

Созданные искусственным интеллектом программы имеют в 15 раз больше уязвимостей, чем программное обеспечение, разработанное человеком, особенно в части проверки ввода и бизнес-логики. Как сообщают «Известия», такие данные применения вайб-кодинга привел Центр мониторинга и противодействия кибератакам компании «Информзащита». Это подход к разработке, при котором программист задает задачи нейросети на естественном языке, а ИИ переводит их в компьютерный код. Чаще всего используются большие языковые модели – они ускоряют создание шаблонного кода и интерфейсов, но при этом упускают вопросы безопасности.

«Уязвимость – это ошибка разработчика (человека или ИИ), которая не приводит к отказу в работе программы, но потенциально может эксплуатироваться злоумышленниками. ИИ не пишет код также осознанно как человек, а оперирует огромным массивом уже существующих программ и фрагментов кода. Каким-то аналогом может стать письмо, склеенное из вырезанных фрагментов других газетных и журнальных текстов на ту же тему. При этом возникают нехватки каких-то нужных слов, которые заменяются другими, которые кажутся похожими. Нередко программисты, особенно на удаленке, используют нейросети, не ставя об этом в известность начальство. Однако в целом, за этим подходом – будущее, несмотря на то, что пока программы, созданные ИИ, работают не столь быстро, как написанные человеком, и занимают больше памяти. Но это все компенсируется снижением затрат сил и времени самого человека», - объяснил собеседник НСН.

При этом Николай Комлев уверен, что российские разработчики могут стать законодателями мод на мировом рынке в плане безопасного использования вайб-кодинга.

«Существуют методики безопасной разработки ПО, систем ИИ и так далее. В России этой темой занимаются, например, Лаборатория Касперского, Позитив технолоджи, VK, «Газпром нефть», «СИБУР Холдинг». На днях мы предложили IT-компаниям, членам ассоциации АПКИТ принять участие в доработке такой методики. Потенциально в части методологии безопасной разработки, проектирования, внедрения информационных систем мы можем стать лидерами», - отметил директор Ассоциации предприятий компьютерных и информационных технологий.

Ранее стало известно, что ведущие нейросети стали давать в два раза больше ложной информации. Согласно исследованию, доля таких ответов составила от 10% до 57%. Суммарный рост неправильных результатов составил 18% за год. Как заявил Telegram-каналу «Радиоточка НСН» директор по информационной безопасности ГК «Элемент» Александр Дворянский, при ответах чат-бот ориентируется на алгоритмы, которые задал человек, и не несет ответственности за ошибки.