«Пугающе идеально!»: Какие угрозы таит в себе использование ИИ школьниками

Говорить со школьниками об этике использования нейросетей – уже мировой тренд в образовании, заявил НСН Дмитрий Лутовинов.

Школьникам нужно объяснять, что если они и пользуются искусственным интеллектом, то это должны быть отечественные модели. Они должны понимать, какие есть риски при использовании зарубежных нейросетей, а предупрежден – значит, вооружен, сказал НСН учитель истории и обществознания, учитель года - 2022 Дмитрий Лутовинов.

Глава Минпросвещения Сергей Кравцов заявил, что почти все российские школьники используют преимущественно американские нейросети. По его словам, дети часто не выполняют домашние задания самостоятельно, а берут готовые ответы, что ставит под угрозу качество образования. При этом, добавил Кравцов, у школьников нет понимания рисков, связанных с зарубежными сервисами, например, утечки персональных данных. Министр призвал регулировать применение ИИ и объяснять детям не только его возможности, но и опасности. По словам Лутовинова, такая проблема действительно существует, и учителя уже с ней работают.

«Проблема использования иностранных нейросетей существует, и это действительно проблема. Потому что любые данные, даже когда мы надиктовали голосовое сообщение, утекают на зарубежные сервера. Поэтому детям, конечно, необходимо объяснять, что нужно пользоваться отечественными нейросетями. Хотя бы для того, чтобы устранить угрозу информационной безопасности. Так что пользоваться “Алисой” и “ГигаЧатом” призываю всех. А насчет качества, кто из этих ИИ умнее, я не могу судить. Я такой же пользователь. И, кстати, сам пользуюсь именно этими нейросетями. С учениками мы часто говорим об использования ИИ, и безопасность это один из фундаментальных и важнейших вопросов», – сказал Лутовинов.

По мнению собеседника НСН, регулировать использование ИИ в школе способны сами учителя.

«Мне кажется, тут важен принцип: предупрежден – значит, вооружен. Мы уже обсуждаем это с ребятами, и многие из них способны строить логические суждения. И все-таки я надеюсь, что наши ученики будут к нам прислушиваться. И говорить об этом проблеме – это уже одновременно и одно из решений. Говорить об этике использования ИИ – уже мировой тренд в образовании», – отметил Лутовинов.

Собеседник НСН также рассказал, сложно ли распознать, когда школьник использовал нейросеть.

«Пока я могу еще распознать, где текст или ответ на вопрос сформулирован с помощью ИИ, а где это сделал ребенок. ИИ делает это пугающе правильно и идеально. Но когда у меня возникают сомнения, я пользуюсь специальными ресурсами, которые могут проверить, создано ли это ИИ или человеком. Хотя они тоже не дают ответ со стопроцентной точностью. Недавно был случай, когда один профессор проверял свою же статью, написанную еще лет 30 назад, и ИИ сказал, что текст на 100% написан нейросетью. А тогда их еще и в помине не было. Но, повторюсь, пока я еще могу определить, где ребенок, а где ИИ», – рассказал Лутовинов.

Само использование школьниками нейросетей, добавил собеседник НСН, несет в себе риски не только утечки данных. При этом оценить, насколько они сказываются на способности детей мыслить самостоятельно, пока рано.

«Чтобы оценить, как это отражается уже сейчас, наверное, нужно наблюдать за ними в динамике. ИИ с нами не очень давно, чтобы делать выводы о том, теряем ли мы когнитивные способности. Хотя если мы берем пессимистичный сценарий, то можем сказать о том, что, возможно, ИИ будет способствовать снижению когнитивных навыков. Я уже не представляю себе, что я, ища какую-то информацию в интернете, листаю при этом множество ссылок и читаю много текстов. Мне просто удобнее воспользоваться нейросетью. Хотя я могу анализировать, могу выделять главное, то есть могу пользоваться традиционным поиском. А вот дети, которые еще не сформировали такие навыки, рискуют их вообще не получить», – добавил эксперт.

Ранее Дмитрий Лутовинов рассказал НСН, как часто школьники пишут домашнюю работу с помощью нейросетей.

Подписывайтесь на НСН: Новости | Дзен | VK | Telegram | Max