Искусственный интеллект (ИИ) может помочь при раскрытии преступлений, однако самостоятельные решения принимать он ни в коем случае не должен, иначе можно получить огромное количество невинно осужденных. Об этом НСН заявил заведующий лабораторией в Институте проблем управления Российской академией наук Юрий Чехович.

К 2030 году 90% преступлений в городах будут раскрываться при помощи технологий на основе ИИ. Об этом сообщило издание «Известия». По мнению экспертов, одна лишь видеоаналитика с применением нейросетей способна предупреждать нарушение закона, общий же потенциал ИИ-технологий для повышения уровня безопасности очень велик. Чехович предупредил, что слишком полагаться на ИИ не стоит, последнее слово все же должно оставаться за человеком.

«Когда вы видите словосочетание “искусственный интеллект”, нужно понимать, что ошибки возможны. Это понимание нужно вкладывать в процессы, в которых используется результат нейросетей. Должны быть очень серьезные возможности по проверке, верификации этих результатов. Я слышал, что в США были подобные истории, когда человеку потом долго приходилось доказывать, что произошла ошибка, что у него было четкое алиби. Возможность, что система может ошибиться, нужно обязательно предусматривать заранее. Если ее не будет, то потенциально мы получим довольно большой поток невинно осужденных. Обязательно окончательное решение должно быть за человеком, и обязательно должна быть возможность очень серьезной апелляции к человеку, сбора дополнительных доказательств. Система должна формировать некие подозрения, но ни в коем случае не выносить самостоятельные решения», — сказал Чехович.

Собеседник НСН также пояснил, какой круг задач уже сегодня можно доверить ИИ.

«Конечно, это видеоаналитика, задачи поиска информации в больших массивах. Я уверен, что современные алгоритмы готовы это делать гораздо более эффективно, нежели классические алгоритмы. Можно доверить нейросетям и анализ изображений, выявление каких-то спутниковых снимков. Там, где требуется анализ очень больших массивов информации, ИИ вполне применим. Вообще границы возможностей современных алгоритмов пока еще не видны. Тут скорее вопрос фантазии, нейросети развиваются слишком бурно, чтобы как-то себя ограничивать. Но, повторюсь, чем в большем количестве сфер используется ИИ, тем аккуратнее нужно подходить к тому, чтобы эти результаты обязательно верифицировались, ошибка может быть непоправимой», — подытожил он.

Ранее адвокат, бывший судья Мосгорсуда Сергей Груздев заявил, что нейросетям нельзя доверять написание судебных приговоров, при этом все созданные ими документы придется перепроверять.