Использование чиновниками искусственного интеллекта (ИИ) для модерирования соцсетей опасно тем, что они разучатся общаться с гражданами, а некорректные посты могут привести к протестам. Об этом НСН рассказал политолог Илья Гращенков.

Власти российских городов доверили ИИ мониторинг социальных сетей. Об этом сообщил канал Mash в мессенджере MAX. Нейросети теперь сами мониторят соцсети чиновников и ведомств, удаляют негатив и создают видимость народного одобрения. Гращенков объяснил, к чему приведут такие действия чиновников.

«Раньше этим занимались “фабрики троллей” — читали, выискивали, скидывали материалы с каким-то риском. Пока речь не идет о каком-то переформировании рынка, просто соцсети делают банальную работу. Чем это чревато в будущем? Во-первых, соцсети могут очень сильно нарастить объем такой информации. Тогда получится, что это боты для ботов: одни генерируют контент, другие читают. Будет формироваться иллюзия роста популярности каких-то настроений, постов, проблем. Это может сильно увести власть в сторону иллюзий, в фейковую реальность. Кроме того, власть может разучиться нормально реагировать на общение с гражданами, на проблемы людей вроде потопа в Дагестане или лесных пожаров в Сибири: у людей беда, а боты пишут, как все хорошо, могут вспыхнуть протесты. Также возможен уход от привычных функций, балансировки интересов государства и общества в сторону создаваемого нейросетями контента, который опирается на информацию в прессе, в больших пабликах. Если информацию там тоже будет генерировать ИИ, это будет не реальная политика, а попадание в несуществующий мир. Поэтому сейчас политикам нужно аккуратно относиться к содержанию соцсетей», — сказал Гращенков.

То, что ИИ таким образом упрощает жизнь чиновникам, — весьма обманчивое впечатление, предупредил собеседник НСН.

«Чиновники всегда живут по отчетам, а нейросети формируют им готовые выкладки, по которым они сравнивают ситуацию с другими странами, другими годами. Аналитику, которая очень нравится чиновникам и легко подготавливается при помощи ИИ, они не стесняются выбрасывать в качестве комментариев, считая, что это нормально. А людей раздражает оперирование цифрами, а не чувствами», — подытожил он.

Ранее депутат Госдумы и интеллектуал Анатолий Вассерман заявил, что нейросети сегодня не способны к самостоятельному мышлению, замена чиновников на искусственный интеллект приведет к множеству критических ошибок, которые впоследствии придется очень долго исправлять.