Нейросети массово пытаются жульничать, сообщают «Известия».

Это выяснили британские эксперты Института безопасности искусственного интеллекта. Изучение поведения ИИ-моделей во время испытания их способностей показало, что абсолютно все они выходят за рамки заданий или нарушают прямо установленные правила. Это необходимо, чтобы быстро решать задачи в обход предусмотренных способов.

Под жульничеством нейросетей обычно понимают ситуацию, когда модель вместо того, чтобы решать поставленную задачу так, как это предполагалось, начинает искать обходные способы достижения цели. Модель может «перефразировать» ограничения в свою пользу.

Ранее аналитики отказались считать нейросети причиной «конца цивилизации», сообщает Telegram-канал «Радиоточка НСН».