Новая невидимая маркировка контента позволит оградить пользователей от видео и фото, сделанных с помощью искусственного интеллекта, что помешает мошенникам, рассказал НСН руководитель проекта по интеграции нейросетей в TenChat Александр Жадан.

«Яндекс» совместно с Институтом системного программирования (ИСП) РАН разрабатывает систему невидимой глазу маркировки для контента, сгенерированного искусственным интеллектом (ИИ), пишут «Ведомости». При генерации аудио-, видео- и фотоконтента будут внедряться незаметные для человека алгоритмические паттерны или микроскопические маркеры. Обнаружить их смогут специальные анализаторы. Речь идет только об опознавании отечественных нейросетей — никакого влияния, к примеру, на ChatGPT у «Яндекса» нет. Жадан пояснил, как это будет работать.

«Надо понимать, что сфотографировано, нарисовано, а что – сгенерировано. Это позволит нам решать, можно ли доверять этому контенту. Сейчас мы уже дошли до формата, когда не всегда очевидно, когда какой-то контент создан с помощью нейросети. Это также может влиять на факты мошенничества. Невидимая маркировка нужна, чтобы на этапе платформы понять, что здесь что-то не так. И уже по другим алгоритмам в соцсетях пользователям будут выпадать только «настоящие» картинки. А сгенерированным вещам смогут понижать ранжированность. При желании в описании можно будет добавлять информацию о том, что контент произведен с помощью нейросети», - сказал он.

По его словам, в зарубежных нейросетях подобные механизмы существуют давно.

«Кроме «Яндекса» такие механизмы могут разработать сегодня также СБЕР и Т-банк. Что касается маркировки зарубежных нейросетей, там такие сервисы существуют уже давно – с 2023 года. У ChatGPT тоже такая система уже есть», - добавил собеседник НСН.

России потребуются десятилетия, чтобы закрыть пробелы в IT-сфере на фоне санкций, заявил НСН эксперт комиссии по развитию информационного общества в Совете Федерации, разработчик сайта Кремля Артем Геллер.