Одна компания решила проверить, сможет ли искусственный интеллект обмануть покупателя. Она отдала под контроль нейросети вендинговый аппарат — тот должен был учитывать запросы клиентов и заказывать нужные товары. Эксперимент провалился. Об этом пишет РЕН ТВ.

За месяц аппарат ушел в минус. ИИ раздавал скидки и реализовывал часть изделий ниже себестоимости. Позже один из сотрудников внушил ему, что он — торговый аппарат из СССР 1962 года, тот начал раздавать все бесплатно. В итоге у системы начались галлюцинации: она выдумала подрядчика и заключила с ним контракт.

Маркетолог Ольга Турундаевская объяснила, что нейросети часто не справляются с нестандартными вопросами, но развиваются стремительно. Еще два года назад таких возможностей вовсе не было.

Другой пример — магазин без касс и продавцов. Покупатели брали товары и уходили, а деньги списывали через приложение. Камеры с ИИ распознавали продукцию, но оборудование часто сбоило. Система путала похожих людей и проводила операцию не у того клиента, а при возврате на чужое место чек все равно приходил.

Организации пришлось нанять тысячи сотрудников для проверки ошибок, а после скандала в прессе торговые точки закрыли.

Консультант по оптимизации бизнеса Денис Гончаров уточнил, что замена людей роботами не всегда экономит средства. Появляется потребность в более квалифицированной и высокооплачиваемой рабочей силе, которая обслуживает технику. При этом ИИ продолжают использовать в сфере. Например, для распознавания воров по позе, жестам и походке.

Недавно адвокат объяснила, как нейросети уже помогают налоговикам.