Система «Окулус» будет не принимать решение, что делать с проблемными изображениями, а лишь классифицировать их, пока что точность ее работы — не выше 90%. Об этом НСН заявил председатель совета Фонда развития цифровой экономики, основатель LiveInternet Герман Клименко.

Ранее Роскомнадзор запустил систему «Окулус», способную с помощью искусственного интеллекта выявлять запрещенный контент на фото или видео, например, экстремизм, пропаганду ЛГБТ или порнографию. Об этом сообщила газета «Ведомости». По данным издания, систему тестировали в декабре, однако о результатах тестирования не сообщалось. Клименко уточнил, что имеются в виду так называемые мемы.

«Не секрет, что у Роскомнадзора уже есть анализатор текста. Речь идет именно о графическом анализе изображений. Это сложная задача, ранее ей занимались исключительно люди, которые затем принимали решение, что делать с нежелательной информацией. Сейчас не выработано стандартных решений проблемы, здесь нужен достаточно серьезный подход», — сказал Клименко.

Также собеседник НСН рассказал, как сотрудники будут «обучать» систему работать с текстами на изображениях.

«Система все-таки не принимает решение, а классифицирует. Если нельзя анализировать подряд все, будут анализировать только то, что система сочтет подозрительным. Начнется бытовая игра — будут рисовать мемы и пытаться догадаться, например, какой шрифт система не читает. Если ChatGPT и масса других историй могут писать тексты с двойным смыслом, очевидно, что распознавание находится на примерно таком же уровне. Какие-то простые скрытые подтексты, конечно, система будет понимать, сложные — вряд ли. Без человека в ее работе не обойтись», — добавил основатель LiveInternet.

В заключение Клименко отметил, что безошибочности от «Окулус» ждать не стоит.

«Безошибочных систем не бывает. Она будет не удалять аккаунты, тексты, изображения, а направлять на анализ человеку. Ничего страшного в ошибках нет. Думаю, сейчас система “Окулус” распознает тексты с точностью не выше 90%. Со временем, полагаю, она многому научится», — подытожил он.

Ранее зампред комитета Госдумы по информационной политике Олег Матвейчев заявил, что создание механизма маркировки дипфейков стало насущной необходимостью, поскольку дипфейки сегодня активно совершенствуются, повышается уровень развития графики и графических редакторов. Об этом сообщило агентство НСН.