Призыв компании Anthropic замедлить развитие искусственного интеллекта вряд ли будет поддержан другими разработчиками. Такое обоюдное мнении в комментарии НСН высказали эксперт по кибербезопасности Александр Дворянский и руководитель проекта по интеграции нейросетей в TenChat Александр Жадан.

Компания-разработчик AI-модели Claude призвала замедлить развитие искусственного интеллекта из соображений безопасности. Как отметил сооснователь американской технокорпорации Джек Кларк, сейчас объём задач, которые самостоятельно может выполнять ИИ, удваивается примерно раз в четыре месяца. При сохранении такого темпа, наступит момент, когда качество кода, написанного человеком и нейросетями, сравняется. После этого AI-модели начнут сами создавать свои аналоги, пока человек не потеряет над ними контроль, прогнозирует Anthropic. Компания предложила поставить разработку ИИ на «паузу», чтобы человечество могло к нему адаптироваться. При этом, чтобы идея сработала её должны поддержать все разработчики ИИ, констатирует автор.

«Думаю, не всё так страшно. Пока тест Тьюринга не пройден, бояться нечего. Он говорит о том, что задуматься стоит только тогда, когда ИИ, робот начнет осознавать себя чем-то большим, чем просто машина. Пока же речь идет об очень мощном компьютере, который в состоянии просто обрабатывать огромный массив информации, где-то самообучаться, где-то эволюционировать. Но на текущий момент, это просто хороший инструмент. Задачи ему ставит человек, и он же принимает работу. Поэтому пока о сценарии «Терминатора» еще рано говорить. Этот вопрос, в целом, уже поднимался. Потом, инвестиции, вложенные в ИИ, надо как-то окупить, поэтому компании не будут останавливаться», - отметил собеседник НСН.

Руководитель проекта по интеграции нейросетей в TenChat Александр Жадан согласился с последним утверждением коллеги.

«Конкуренты, конечно, не намерены замедлять темпы своих разработок. В целом, это вопрос времени и возможностей. В данном случае то, что предлагает Anthropic, не повлияет на решения других компаний. Копорация сейчас лидирует по качеству моделей для B2B-клиентов, однако все другие участники тоже делают большие ставки на это, хотят угнаться за ней. Все хотят отбить вложенные средства. Кроме того, улучшения всё равно будут происходить, потому что системы пока не достигли уровня работы человека и лучше. Хотя, в этом есть целесообразность кибербезопасности и безопасности как таковой», - заключил эксперт.

В Anthropic отметили, что в мире уже создавали режимы верификации для других сложных технологий — например, в плане ликвидации ракет средней и меньшей дальности. Однако на создание таких режимов уходили десятилетия. Сейчас же, нет столько времени, подчеркнули эксперты компании. Уже в этом месяце она хочет обсудить своё предложение с политиками, учёными и представителями гражданского общества.

Как заявила ранее основатель и генеральный директор рекрутингового агентства Мария Митронова в комментарии Telegram-каналу «Радиоточка НСН», ИИ не заменит человека, но многие компании заинтересованы в применении этого инструмента для оптимизации бизнес-процессов.