Специалист по искусственному интеллекту Джейкоб Коксон уволился из Anthropic, заявив, что больше не хочет участвовать в гонке по созданию сверхмощных нейросетей. По мнению 27-летнего исследователя, ведущие разработчики слишком спешат и могут потерять контроль над технологией уже в ближайшие годы.

Коксон занимался предварительным обучением ИИ-моделей: системы получали огромные массивы информации, на основе которых осваивали новые навыки. За последние три года он успел поработать в OpenAI и Anthropic, поэтому наблюдал развитие передовых нейросетей изнутри.

После увольнения исследователь опубликовал серию сообщений в соцсети X. Он обвинил обе компании в безответственной гонке за саморазвивающимся сверхинтеллектом и заявил, что разработчики фактически рискуют жизнями людей. По словам Коксона, будущие системы смогут взламывать сложные цифровые платформы, быстро осваивать разные научные области и самостоятельно получать необходимые ресурсы.

Особенно тревожным специалист считает разрыв между публичными заявлениями руководителей ИИ-компаний и разговорами внутри отрасли. На публике разработчики стараются избегать пугающих прогнозов, однако в частных беседах допускают, что неконтролируемый искусственный интеллект может стать угрозой для человечества еще до конца десятилетия.

Коксон подчеркнул, что не призывает полностью отказаться от ИИ. Он предлагает замедлить создание более мощных моделей, усилить меры безопасности и наладить сотрудничество между лабораториями. Иначе стремление любой ценой опередить конкурентов может привести к появлению технологии, остановить которую люди уже не смогут.