Пять лет назад компания Anthropic составила внутреннюю дорожную карту исследований — документ «Concise Research Roadmap», написанный соучредителем Jared Kaplan. В нём были затронуты такие темы, как Coding Agent, Tool Use, длинный контекст, RL, автоматизированная обратная связь и безопасность агентов. Этот документ заложил основу для большинства современных достижений в сфере ИИ.
Соучредители и сотрудники Anthropic (Tom Brown, Nelson Elhage, Dario, Amanda Askell) высказали свои прогнозы и замечания. Например, Tom Brown отметил ценность просмотра репозиториев для решения задач, Nelson Elhage предсказал важность функции автоматического поиска определений типов в проекте, а Amanda Askell подчеркнула необходимость тесной связи безопасности и возможностей на всех этапах разработки.
В 2021 году, когда Anthropic существовала всего полгода и имела финансирование в размере 1,24 млрд долларов, компания уже планировала достичь высокой утилизации GPU, исследовать длинный контекст, использовать RL для работы с инструментами и разработать систему оценки социального воздействия. CEO Dario Amodei определил стратегию: в краткосрочной перспективе — демонстрация использования инструментов, в долгосрочной — создание сильнейшего помощника по программированию.
Основной путь к AGI, который определила Anthropic, — создание больших генеративных моделей с длинной памятью и их доработка с помощью RL (сочетание автоматизированных вознаграждений и обратной связи от людей). Первым воплощением этой стратегии должен был стать диалоговый помощник для инженеров‑программистов — прообраз нынешнего Claude Code. Он должен был уметь создавать, редактировать и объяснять ПО, писать функции, находить ошибки, проектировать API, обсуждать стиль кода и лучшие инженерные практики.
Dario Amodei задал двухэтапный план реализации: сначала верификация возможностей, затем — совершенствование инструмента для повышения производительности. За пять лет компания реализовала все направления из дорожной карты — от Claude 1 до Opus 5, от Constitutional AI до объяснимости, Computer Use, MCP‑протокола, Claude Code и смешанного вывода.
Команда Anthropic начинает с простых инструментов (отладка печати, просмотр репозитория кода) и постепенно переходит к сложным (выполнение кода, редактирование документации на естественном языке). Приоритет — масштабирование: с самого начала готовятся к моделям с триллионом (1T) параметров и более. Jared Kaplan (первый автор теории Scaling Laws) работает над обучением моделей с триллионом параметров и более. Обсуждается повышение использования GPU, адаптация к TPU, Trainium и другому оборудованию следующего поколения, упаковка сложных инженерных решений (например, разрежённого внимания) для упрощения настройки гиперпараметров неспециалистами, создание системы защиты для весов больших моделей.
Anthropic уделяет большое внимание предобучению и данным: планирует создать лучший в отрасли базовый модельный каркас (язык + код) для последующего микронастройки и развития возможностей. Строится полный набор высококачественных наборов данных, охватывающих естественный язык, код, Diff (различия версий), PR (запросы на включение), записи отладки и результаты оценки выполнения кода. Прорабатываются все этапы обеспечения качества данных: фильтрация, перенос, микронастройка, оптимизация разнообразия.
Amanda Askell указывает на риск расхождения между развитием возможностей кода и исследованиями по согласованию: усиление возможностей кода без соответствующих ограничений согласования и недостаточные возможности моделей для исследований согласования ограничивают глубину тестирования и практическую ценность результатов. Требует синхронного развития исследований возможностей и исследований согласования.
Anthropic планирует использовать обратную связь от людей для обучения моделей: не только отвечать на вопросы, но и активно помогать, корректировать поведение на основе обратной связи, прояснять вопросы при неясных намерениях пользователя. Систематизируется анализ случаев нарушения согласования, классифицируется по сложности, исследуются закономерности изменения эффективности согласования в зависимости от размера модели.
Модель вознаграждения многократно проверяется: проводится перекрёстная проверка на соответствующих данных обратной связи от людей, статических наборах данных (например, Stack Exchange), данных, сгенерированных с помощью GAN‑состязаний. Цель — гарантировать, что сигналы вознаграждения соответствуют намерениям человека и достаточно надёжны в разных источниках данных.
Результаты экспериментов будут преобразованы в универсальные методологии: количественно определены наиболее эффективные способы использования обратной связи от людей, необходимое количество данных и ресурсов для разных целей согласования.
Anthropic продолжает исследования в области объяснимости: хочет понять, что происходит внутри модели. Кристофер Олах (представитель области объяснимости) анализирует нейроны, головы внимания и внутренние функциональные контуры больших моделей. Предлагается объединить исследования в области данных и инструментов с работой по объяснимости. Цель — понять на базовом уровне, как арифметические рассуждения, многоэтапные диалоги, генерация кода реализуются внутри нейронной сети.
RL for Tool Use — важное направление исследований: цель — научить большие языковые модели использовать инструменты, понимать среду и цели, улучшать работу через обучение с подкреплением. В план исследований включены задачи информационного поиска, отладки с помощью printf debugging. Цель — проверить, может ли модель после подключения инструментов выйти за рамки генерации текста. Рассматривается возможность обучения через взаимодействие с инструментами и обучение с подкреплением для улучшения масштабирования и эффективности использования вычислительных мощностей. Dario Amodei предлагает исследовать редактирование на естественном языке (например, в среде, похожей на Google Docs).
Безопасность — сквозной элемент всех направлений исследований. Sam McCandlish поднял вопрос безопасного развёртывания неизолированных инструментов, Dario предупредил о высоких рисках инструментов, способных выполнять код на этапе развёртывания. Anthropic стремится стать центром исследований этики ИИ, привлекая академические круги и правительство для независимых оценок и установления отраслевых стандартов безопасности.
Исследовательская программа Anthropic охватывает:
* вычислительные мощности (адаптация GPU/TPU, эффективность обучения);
* основу модели (предварительное обучение, инженерия данных, длинные контексты);
* ключевые возможности (вызов инструментов, генерация кода);
* систему безопасности (выравнивание, объяснимость, безопасность весов);
* социальное управление (оценка третьими сторонами, отраслевая экосистема).
За пять лет Claude научился обрабатывать тексты длиной 1 млн токенов, появились методы оптимизации памяти для инженерных сценариев, большие модели дошли до версии Opus 5.5. В сфере настройки безопасности произошёл переход от обучения с человеческой обратной связью к методу «AI контролирует AI», затем — к гибридным решениям. В 2022 году Anthropic предложила революционный подход к выравниванию. После выхода ChatGPT, использующего RLHF, Anthropic опубликовала статью с концепцией «конституционного ИИ»: сначала модели задают набор принципов поведения, затем одна модель оценивает и корректирует ответы другой, после многократных итераций модель становится эффективной и не выходит за рамки.
Anthropic решила проблему отставания настройки безопасности от роста возможностей модели и определила отличительные черты серии Claude: вежливость, сдержанность, отсутствие стремления выходить за рамки — в отличие от GPT‑моделей.
В марте 2023 года вышла первая версия Claude — с акцентом на обработку длинных текстов и безопасность; пользователи отмечали её большую вежливость по сравнению с GPT‑3.5. В мае 2023 года Anthropic увеличила контекстное окно Claude с 9K до 100K токенов (7,5 тыс. английских слов). В июле состоялась публичная тестовая версия Claude 2. При этом GPT‑4 поддерживал до 32K токенов, а предыдущая модель Anthropic — менее 10K.
В сентябре 2023 года Anthropic выпустила первую версию «Политики ответственного масштабирования» (RSP) — первую в отрасли систему динамической безопасности: чем выше возможности модели, тем строже контроль. В октябре 2023 года при лид‑инвестировании Google оценка Anthropic достигла 18,4 млрд долларов.
В 2024 году Anthropic достигла прорыва: в марте представлена серия Claude 3 (три продукта для разных сценариев, с мультимодальными возможностями). Модель Opus (флагманская) поддерживает 100K токенов и превосходит GPT‑4 по точности в тестах длинных текстов. В июне 2024 года представлена модель Claude 3.5 Sonnet — по ключевым показателям она сравнялась с GPT‑4o. В октябре 2024 года обновлённая модель Claude 3.5 Sonnet превзошла всех проприетарных конкурентов в тесте SWE‑bench Verified, обеспечив Anthropic преимущество на рынке разработки ПО и интеллектуальных систем.
В мае 2024 года команда Anthropic с помощью разрежённых автоэнкодеров (SAE) провела «внутренний анализ» Claude Sonnet: извлекла 34 млн характеристик и определила внутренние связи для конкретных понятий («Золотой мост», «уязвимости в программах»). Проведён эксперимент: вручную активирована функция, связанная с «», чтобы модель в ответах всегда затрагивала эту тему — это первый случай точного объяснения и управления внутренним механизмом в коммерческой большой модели.
В 2024 году Anthropic лидирует в исследованиях безопасности ИИ. В октябре 2024 года вышла новая версия Claude с функцией «» — модель может имитировать действия человека (смотреть на экран, кликать мышью, нажимать клавиши, управлять десктоп‑приложениями). Через месяц Anthropic открыла исходный код протокола MCP — он унифицирует способы соединения модели с инструментами и данными (своего рода «универсальный интерфейс» для ИИ‑приложений).
В первом квартале 2025 года OpenAI и Google объявили о поддержке MCP; Alibaba, Tencent, Baidu, Alipay в течение четырёх месяцев запустили соответствующие сервисы. В 2024 году оценка стоимости Anthropic выросла с 184 млрд до примерно 410 млрд; годовой доход Claude превысил 1 млрд долларов.
В 2025 году Anthropic сосредоточилась на интеллектуальных агентах и разработке ПО. 24 февраля выпущены Claude 3.7 (с режимами «быстрого ответа» и «глубокого размышления») и Claude Code (помощник по программированию — может просматривать код‑репозитории, искать определения типов, исправлять ошибки, отправлять код, запускать тесты). В мае выпущена серия Claude 4 — повышена способность к длительной непрерывной работе; флагманская модель способна выполнять задачи по программированию в течение нескольких часов и занимает первые места в тестах по программированию. К версии 4.5 (сентябрь) способности в программировании и работе с интеллектуальными агентами вышли на новый уровень — уровень начального инженера.
К сентябрю Anthropic завершила новый раунд финансирования, оценка стоимости достигла около 1830 млрд долларов. В период с мая по октябрь 2026 года Anthropic активно обновляет модели 5.5‑й серии (от флагманских до облегчённых) — развиваются мультимодальность, глубокое мышление, интеллектуальные агенты. MCP стал фактическим стандартом глобальных ИИ‑инструментов. Сложилась стабильная расстановка сил в мировой ИИ‑индустрии: OpenAI, Google, Anthropic.
Ссылка
Подписаться в Макс
