Злоумышленники могут использовать изображения, которые способны создавать нейросети, в мошеннических целях. «Известия» пишут о проблеме смешения работ, созданных человеком и искусственным интеллектом.

С развитием нейросетей их изображения от творений человека все сложнее отличать. При этом злоумышленники могут использовать технологично созданные работы для имиджевого или финансового мошенничества: для создания профилей в соцсетях со зловредными намерениями или фишинговых рассылок, чтобы выдавать за собственное творчество, для создания компромата на известных людей, для обмана потенциальных жертв на сайтах знакомств.

«Нужно отметить, что IT-сообщество прекрасно осознает возможные проблемы, поэтому в последние годы специалисты всё чаще задаются вопросом выработки и соблюдения этических норм. Причем не только в области генерации изображений, но и в сфере искусственного интеллекта в целом», — считает руководитель лаборатории компьютерного зрения в «Контуре» Дмитрий Иванков Дмитрий Иванков.

Отличать изображения, созданные людьми, от работ нейросетей помогают так называемые ИИ-детекторы. Это тоже нейросети, но их главная проблема заключается в быстром устаревании.

Пока отличить изображение, созданное нейросетями, от работы человека можно по однотипному фону и почти идеальной крупности плана на нескольких снимках, а также неестественной симметрия лица, по искажениям на волосах и мочках ушей. Особое внимание рекомендуется обращать на проррисовки рук и пальцев, посоветовала директор платформы по развитию корпоративных инноваций Generation S Екатерина Петрова.

Развитие методов искусственного интеллекта заставит пересмотреть многие традиционные представления о том, что такое истинное творчество, а что – нет, заявил ректор НИЯУ МИФИ Владимир Шевченко в беседе с НСН.