OpenAI 31 июля сообщила, что число активных пользователей её AI-моделей превысило 1 млрд, а количество компаний, внедривших решения, — 2 млн. Об этом компания рассказала в блоге под названием Building abundant intelligence.
CFO OpenAI Сара Фрайар отметила, что пользователи, зарегистрировавшиеся полгода назад, стали отправлять примерно на 50 % больше сообщений в день, а число рабочих задач, выполняемых с помощью ChatGPT, увеличилось примерно вдвое. В компании также сообщили, что с помощью Codex выполняется 99,8 % недельного объёма работы, связанного с агентскими задачами.
Фрайар привела примеры повышения эффективности: благодаря улучшению управления контекстом и сохранению рассуждений оценка по бенчмарку ARC-AGI-3 выросла с 13,3 % до 38,3 %, а количество выходных токенов сократилось в 6 раз. Кроме того, оптимизация ПО в производственной среде совместно с технической командой позволила снизить сквозную стоимость предоставления модели на 20 %, а улучшение спекулятивного декодирования повысило эффективность генерации токенов более чем на 15 %. По словам Фрайар, снижение цен — это результат этих достижений, переданных клиентам.
Она также подчеркнула, что снижение стоимости полезного интеллекта ведёт к росту числа значимых задач, а расширение использования технологий даёт данные для реинвестирования в исследования и инфраструктуру следующего поколения. При этом ключевым показателем для клиентов, по её мнению, является стоимость достижения одного успешного результата (с учётом повторных попыток и человеческого вмешательства), а не просто количество токенов.