НИИ Anthropic будет изучать влияние ИИ на экономику, безопасность и возможность «взрыва интеллекта»
Anthropic опубликовала исследовательскую повестку своего нового подразделения — Anthropic Institute (TAI). Документ охватывает четыре направления: влияние ИИ на экономику, угрозы безопасности, взаимодействие ИИ-систем с обществом и самостоятельное ускорение развития ИИ.
В разделе об экономике ставится вопрос, приведет ли распространение ИИ к массовой безработице или беспрецедентному росту производительности. Авторы указывают, что Anthropic уже наблюдает, как профессии вроде разработки программного обеспечения «кардинально меняются», и намерена публиковать более детальные данные своего экономического индекса с повышенной периодичностью. Исследователи также намерены изучить, можно ли, по аналогии с монетарной политикой центральных банков, ввести регуляторные «рычаги» для управления темпами распространения ИИ по секторам экономики.
В разделе о безопасности TAI предупреждает о структурной опасности двойного использования передовых ИИ-систем — тех же инструментов, которые улучшают медицину и образование, для слежки и разработки кибероружия. Отдельно поднимается вопрос о геополитической инфраструктуре на случай кризиса с участием ИИ — по аналогии с прямой линией между Вашингтоном и Москвой в эпоху холодной войны. Институт намерен исследовать, можно ли создать механизмы межгосударственного или межкорпоративного взаимодействия при подобных сценариях.
В блоке об ИИ-ускорении научных разработок TAI указывает, что ИИ-системы «как побочный продукт» совершенствования технических навыков начинают участвовать в создании собственных следующих версий, и ставит вопрос, как в условиях возможного «взрыва интеллекта» сохранить человеческий контроль. Исследователи намерены создавать метрики для отслеживания скорости ИИ-разработок для раннего предупреждения о рекурсивном самоулучшении.
Anthropic Institute был основан в марте 2026 года под руководством сооснователя компании Джека Кларка, который занял должность директора по общественной пользе. Институт объединил три существующих исследовательских подразделения Anthropic — Frontier Red Team, Societal Impacts и Economic Research.
5 мая Anthropic выпустила десять ИИ-агентов для финансового сектора — инструменты для составления презентаций, проверки финансовой отчетности и сопровождения комплаенс-процедур в банкинге, страховании и управлении активами. Одновременно компания объявила о создании совместного предприятия с Blackstone, Hellman & Friedman и Goldman Sachs для внедрения своих продуктов в корпоративном секторе.