Schneider Electric — компания с 160 000 сотрудников и годовым доходом около 40 млрд евро — активно развивает программу искусственного интеллекта. В рамках программы внутренний центр ИИ, включающий 350 экспертов, задействовал более 60 агентов. Их задачи — оптимизация энергопотребления, продление жизненного цикла активов и повышение производительности разработчиков.
Программа ИИ Schneider Electric охватывает три категории:
* внедрение интеллектуальных данных в продукты (например, тепловое обучение в контроллерах помещений);
* использование ИИ для прогнозирования спроса и производства;
* внедрение вспомогательных пилотов agentic (управление сложной сетью, обеспечение успеха клиентов, запрос к системе по выбросам CO₂).
Агенты работают в критически важной инфраструктуре, где действуют строгие требования к хранению данных и кибербезопасности. Для быстрого создания решений с контролем над данными, развёртыванием и качеством Schneider потребовалась общая платформа агентов. Филипп Рамбах, исполнительный директор компании, подчёркивает важность инструментов вроде LangSmith для обеспечения точности, качества ответов и безопасности при внедрении масштабных решений.
Команда разработчиков платформы ИИ в AI Hub предоставляет общую инфраструктуру для работы с мультиоблачным, облачным, периферийным ландшафтом и всеми типами ИИ. На базе LangSmith и экосистемы LangChain созданы возможности LLMOps. Они позволяют развёртывать и повышать точность и качество ИИ‑ассистента, который обслуживает 140 000 сотрудников в более чем 100 странах.
При переходе от классических MLOps к системам на базе LLM возникают определённые риски:
* ограниченная возможность отладки поведения агентов за пределами необработанных журналов приложений;
* отсутствие точных измерений для оперативного внесения изменений или модификации модели;
* трудности с проверкой готовности к производству для GenAI и агентных систем.
Платформа ИИ LLMOp строится на трёх столпах. В жизненном цикле продукта agentic выделяются три принципа: наблюдаемость, оценка и внедрение.
Наблюдаемость обеспечивается за счёт автономного хостинга LangSmith: для каждого продукта ИИ предусмотрено отдельное рабочее пространство. LangSmith развёртывается в автономной конфигурации на AWS EKS, интегрированной с корпоративным периметром безопасности. Одно рабочее пространство охватывает все среды (dev, QA, pre-prod, prod). Совместное размещение разработки и производства в одном рабочем пространстве позволяет специалистам комментировать производственные данные и переходить к набору данных. Наборы данных, аннотации и эксперименты связаны с производственными трассами — это упрощает реальное использование и повышает производительность системы.
Например, внутренний ассистент One Jo обслуживает 160 000 сотрудников Schneider Electric в 107 странах. Каждый разговор отслеживается с помощью LangSmith. Производственные трассировки используются для пополнения наборов регрессионных данных, проверки новых моделей и оперативного внесения итераций.
Оценка включает офлайн- и онлайн‑методы, а также рамки зрелости. Разработан автономный ускоритель оценки, шаблоны Agentic RAG GitHub для Azure и AWS вместе с облегчённым интерфейсом CLI для оценки (создан поверх пакета LangSmith SDK). Цель — стандартизировать методы проведения экспериментов командами специалистов по ИИ (единые правила работы с наборами данных, интерфейсы для оценки на основе шаблонов openevals). В результате новые команды быстро переходят от первоначальной настройки к автономному набору для оценки.
Система оценки зрелости LLMOps отслеживает ключевые возможности продуктов ИИ (более 60 продуктов). Критерии оценки включают наличие инструментария, автономного набора для оценки, запущенных онлайн‑оценщиков, использование отзывов пользователей. Создана автоматизированная отчётность с использованием API LangSmith. Рабочий процесс на GitHub обеспечивает консолидированное представление обо всех продуктах ИИ с учётом возможностей LangSmith. Уровень зрелости LLMOps интегрирован в жизненный цикл продукта ИИ и используется в рамках обзоров gate (разработка → инкубация → индустриализация → эксплуатация).
Сложность оценки связана с привлечением специалистов в предметной области. Внутренняя роль SME сопоставлена с пользовательской ролью LangSmith, которая предоставляет доступ к очередям аннотаций и наборам данных. Около 20% продуктов ИИ содержат как минимум одну активную очередь аннотаций с участием малого и среднего бизнеса.
CSM Copilot (Schneider Electric) — решение для ИИ в техническом обслуживании. Оно позволяет более чем 250 менеджерам по работе с клиентами быстрее получать аналитическую информацию по любому счёту или контракту. Решение разработано для малых и средних предприятий с использованием LangSmith. Малые и средние предприятия могут влиять на качество продукта: анализировать результаты, предоставлять аннотации, формировать поведение системы в процессе разработки. В результате продукт достиг высокого уровня качества и был принят CSM при первом внедрении.
Развёртывание осуществляется с помощью LangSmith Deployment — одной среды выполнения для каждого продукта. Эталонная архитектура развёртывания LangSmith стандартизирована: сервер агентов с Postgres и Redis в зонах посадки AWS и Azure. Каждый продукт ИИ работает в выделенном стеке. Принципы развёртывания: «Ты создаёшь, ты и запускаешь» — подразделения ИИ сохраняют полный контроль над задержками, затратами и реагированием на инциденты. Отсутствие единой точки сбоя позволяет изолировать проблему для отдельного варианта использования. При этом есть и компромиссы: требуется больше инфраструктуры для управления и больше модернизаций для координации.
На рисунке 3 показан производственный пример: чат‑робот менеджера по работе с клиентами. На рисунке 4 представлена серверная инфраструктура агента LangSmith (для каждого UC и автономного хостинга). Продукты запускаются с шаблона langgraph.json, независимого от облака в AWS и Azure. Версия включает:
* базовый образ со списком разрешений;
* интеграцию с пакетом корпоративных центров сертификации;
* настраиваемый HTTP‑маршрут обратной связи.
На рисунке 5 показан производственный пример конфигурации агента LangSmith по умолчанию: интеллектуальная работа с документами по цифровым энергетическим спецификациям. Разработано средство обработки документов: оно анализирует запросы клиентов на расценки (спецификации, планы зданий, PDF‑документы) и автоматически добавляет контекстные аннотации. Среднее время завершения работы агента — чуть более 15 минут. Модель очереди задач в LangSmith Deployment обеспечивает надёжное выполнение без снижения производительности в режиме реального времени.
В активной разработке или производстве находится более 60 продуктов с ИИ на базе экосистемы LangChain. Около 200 активных пользователей LangSmith — из инженерных кругов и малого и среднего бизнеса.
Первоначальная ставка на LLMOps оправдала себя: отслеживание на уровне трассировки и автономная оценка необходимы для готовности agentic‑продуктов к производству. Рекомендации по работе с LangSmith:
* пользоваться готовыми функциями до создания пользовательских (интерфейс CLI поверх LangSmith SDK, пользовательская роль с существующими правами, отчёты по расписанию через общедоступный API);
* при возможности использовать SaaS вместо самостоятельного хостинга (хотя автономный хостинг надёжен, он требует инфраструктурных и операционных усилий — обновления Helm chart, управления EKS, привязки версий, отладки сетевых политик).
Ключевой фактор внедрения — объединение команд на основе общих практик и рабочих процессов, а не технология. Портфолио внутренне согласованное: библиотеки OSS, LangSmith для наблюдаемости и оценки, развёртывание LangSmith через LangSmith Studio. Библиотеки OSS могут использоваться автономно, LangSmith интегрируется со сторонними платформами.
Тестируются навыки агентов и программистов для упрощения внедрения LLMOps в LangSmith. Инвестиции в навыки агентов направлены на автоматизацию обслуживания agentic‑продуктов в среде развёртывания LangSmith (стратегия «одна среда выполнения для каждого продукта»).
Продукты с ИИ работают на переднем крае — на аппаратных устройствах, шлюзах, в промышленных средах. LangSmith поддерживает облачный жизненный цикл таких систем (автономная оценка, управление наборами данных), выполнение и онлайн‑оценка — локально, за пределами LangSmith (из‑за ограничений подключения). Совместно с командой LangChain расширяется экосистема для поддержки передовых и физических сценариев ИИ.
Филипп Рамбах отмечает, что уже удаётся экономить 20–25% энергии с помощью существующих технологий. Цель компании — достичь нового уровня взаимодействия с энергетическими системами, изменить ситуацию с потреблением энергии и выбросами CO₂.
Langsmith — платформа для разработки агентов: отладка решений, оценка изменений, внедрение одним щелчком мыши. Доступна демонстрационная версия.
<<<CODE_BLOCK_N>>>
Подписаться в Макс