По данным текста Дарио Амодеи, он не требует закрыть лаборатории или полностью остановить обучение моделей. Глава Anthropic предлагает сознательно сдерживать рост возможностей передового искусственного интеллекта.
Главный аргумент — разрыв между скоростью разработки и проверкой рисков. По оценке Амодеи, через 6–12 месяцев рой более сильных агентов может получить возможность захватить интернет с помощью устойчивого ботнета. Это прогноз автора, а не установленный сценарий.
Первым шагом Anthropic обещает постоянный доступ встроенным внешним оценщикам. Независимая команда должна получить рабочие пространства, инструменты и возможность наблюдать за внутренними процедурами проверки безопасности.
Вторая ступень — координация компаний в демократических странах. Третья предполагает международные договорённости, которые не позволят одному участнику просто ускориться, пока остальные добровольно соблюдают ограничения.
AP и Axios вынесли в центр именно призыв к замедлению. В нём есть очевидный конфликт интересов: Anthropic остаётся коммерческой лабораторией и продолжает развивать Claude. Поэтому предложение звучит одновременно как предупреждение и попытка определить правила гонки, в которой компания сама претендует на лидерство.
Самый выразительный факт здесь не футурологическая страшилка, а разворот роли. Люди, разгоняющие возможности ИИ, уже публично обсуждают, как нажать на тормоз и при этом не уступить соседней лаборатории дорогу.
