LangSmith и LangChain OSS: соответствие требованиям EU AI Act

Срок выполнения требований EU AI Act — 2 августа 2026 года. Закон регулирует системы ИИ с высоким уровнем риска — например, в финансовой сфере, здравоохранении, HR, производстве и критической инфраструктуре. За несоблюдение требований предусмотрены штрафы до €15 млн или 3 % от глобального годового оборота — в зависимости от того, что больше.

Закон требует от разработчиков систем ИИ с высоким риском внедрить систему управления рисками, вести автоматический учёт событий, обеспечить прозрачность результатов для пользователей, предусмотреть механизмы контроля со стороны человека, осуществлять мониторинг после развёртывания и отчитываться об инцидентах. Это касается систем, которые обрабатывают данные, извлекают контекст, вызывают инструменты и принимают многоэтапные решения — в том числе в сферах кредитного скоринга, медицинских устройств, подбора персонала, биометрической идентификации, правоохранительной деятельности и др.

Инструменты LangSmith и LangChain OSS помогают выполнить требования закона. Например, LangSmith обеспечивает:
* Наблюдаемость и трассировку: фиксирует все вызовы LLM, вызовы инструментов и этапы рассуждений с метаданными (входные данные, выходные данные, временные метки, контекст агента). Визуализирует полный график выполнения, включая переходы состояний и вызовы инструментов. Обрабатывает данные трассировки, автоматически выявляя повторяющиеся паттерны, сбои и тенденции использования. Отслеживает оценки рисков и отправляет оповещения при достижении пороговых значений через PagerDuty или вебхуки.
* Хранение данных: предлагает варианты развёртывания — локальное, BYOC и управляемое облачное. В управляемом облаке базовые трассировки хранятся 14 дней (для отладки и анализа), расширенные — 400 дней (для улучшения модели, оценки и получения обратной связи от человека). Данные можно экспортировать для долгосрочного архивирования. При этом есть возможность хранить данные в юрисдикции ЕС, а при локальном развёртывании или BYOC весь стек работает в кластере Kubernetes или облачном регионе пользователя — данные не выходят за пределы периметра.
* Непрерывную оценку качества и безопасности: позволяет оценивать выборку производственных трассировок с заданными фильтрами. Предоставляет готовые оценщики для проверки предвзятости и справедливости (с учётом расы, пола, возраста, религии, национальности, инвалидности, сексуальной ориентации), токсичности, чувствительных изображений и откровенного контента, галлюцинаций и релевантности ответов, утечки персональных данных, инъекций промпта и взлома, утечек API и внедрения кода, корректности, точного совпадения, соблюдения плана и выполнения задач, выбора инструментов и соблюдения плана.
* Контроль со стороны человека: делает участие человека в процессе (human-in-the-loop, HITL) неотъемлемой частью графа агента — можно приостановить выполнение, проверить состояние, изменить его и возобновить работу в любой точке. Обеспечивает надёжное прерывание HITL в рабочей среде за счёт автоматического создания контрольных точек, однократного выполнения и восстановления с точной точки для приостановленных запусков. Позволяет направлять производственные трассировки на проверку людям. Вебхуки срабатывают при превышении заданных порогов оценщиками или при прерывании событий — так можно уведомить нужного человека через PagerDuty или систему реагирования на инциденты.

В таблице сопоставляются статьи EU AI Act и возможности LangSmith + LangChain OSS:
- ст. 9 (система управления рисками на протяжении всего жизненного цикла) — онлайн‑мониторинг, настраиваемые оценщики, пороговые значения оповещений;
- ст. 10 (управление данными, предотвращение предвзятости) — оценщики предвзятости и справедливости;
- ст. 12 (автоматический учёт событий на протяжении всего срока службы системы) — хранение трассировок с временными метками;
- ст. 13 (прозрачность и интерпретируемые результаты) — полные трассировки рассуждений;
- ст. 14 (контроль и вмешательство со стороны человека) — HITL в LangGraph, очереди аннотаций, вебхуки;
- ст. 15 (метрики точности, устойчивость к атакам и согласованность) — оценщики корректности и атак;
- ст. 72 (мониторинг после выхода на рынок) — онлайн‑оценка, обнаружение дрейфа, дашборды.