В 2026 году критика в адрес текстов, написанных с помощью ИИ, чаще всего касается креативных материалов с глубокой человеческой позицией. При этом в научно-популярном письме большие языковые модели (LLM) уже доказали свою полезность — например, при создании заполняющих и копирайт-текстов. Об этом говорил Сэм Альтман, рассуждая о раннем бизнесе GPT-3.
Хотя LLM постепенно совершенствуются, они по‑прежнему испытывают трудности с организацией и убедительным представлением устоявшихся научных данных. Это означает, что в ближайшем будущем они вряд ли смогут автономно решать масштабные научные проблемы. Скорее прогресс будет заключаться в решении простых задач и объединении отдалённых связей между разными областями знаний, а не в совершении революционных открытий.
Современные LLM увеличивают энтропию в объёмных научно-популярных текстах и пока зависят от людей как от проводников. Тем не менее есть оптимизм в отношении использования LLM как помощников учёных — например, для перевода узкоспециализированных знаний (скажем, в математике) в более широкий контекст.
Автор одного из учебников по посттренировке использовал LLM для разных задач: форматирования LaTeX для уравнений, редактирования текста, создания материалов для языков программирования (например, TikZ в LaTeX или Python). При этом в книге автора менее 1 % предложений сгенерировано ИИ — он включил их только потому, что счёл подходящими для читателя.
Среди известных моделей с возможностями написания текстов — большая модель OpenAI и модель Moonshot. При этом в других задачах (кодирование, математика, поиск и исследования) модели уже превзошли человеческие возможности.
Однако современные модели плохо справляются с объёмным техническим письмом: они могут правильно написать отдельное предложение, но при создании целой главы нередко допускают путаницу в формулировках, нарушают структуру и допускают концептуальные ошибки. При этом по мере увеличения размеров моделей они будут лучше исправлять мелкие ошибки (за счёт большего объёма знаний о мире), но это не приведёт к качественному скачку в использовании этих знаний.
Разные модели имеют свои особенности. Например, GPT-модели давно эффективно находят опечатки и мелкие недочёты — так, GPT 5.5 Pro обнаружил скрытые мелкие опечатки в черновике книги объёмом 200–300 страниц. Модели Claude лучше подходят для редакторской работы: у них хорошее чувство стиля, они лучше понимают задачу и предлагают интересные решения для преодоления творческого кризиса. Модель Claude Fable 5 в Claude Code может быстро составить стихотворение о золотой рыбке — она формирует минимальный план в токенах рассуждений, а затем авторегрессивно генерирует текст.
Автор использовал Claude Code для работы с комментариями редактора в LaTeX‑файле. Модель анализировала контекст и определяла, является ли проблема простой опечаткой или более сложным вопросом. Затем автор либо писал ответ, либо запрашивал у Claude предложения перед внесением исправлений. При этом автор установил для себя правило: в материалах по Interconnects не использовать выводы ИИ в основном контенте.
ИИ‑модели полезны для повторяющихся частей научных работ — например, для черновика раздела «Связанные работы» или «Фон». Однако их использование для аннотации, введения, экспериментов или заключения нежелательно, поскольку именно в этих разделах передаётся суть исследования. Модели способны проверять отдельные единицы контента (предложение, уравнение, рисунок) или конкретный раздел, но плохо связывают компоненты воедино — из‑за этого накапливаются ошибки.
Использование ИИ для научно‑популярного письма может тормозить развитие интуиции, вкуса и инстинкта — качеств, которые будут важны в будущем. При этом AI‑модели — мощные инструменты для представления знаний в разных формах и создания фонового материала (например, первого черновика slides).
Без AI‑агентов синхронизация Markdown‑ и LaTeX‑версий книги заняла бы в пять раз больше времени — а ведь на эту задачу уже ушло десятки часов. Модели помогают упростить написание уравнений, рефакторить репозиторий, переносить код между языками и решать другие задачи. На ранних этапах написания научно‑популярного или справочного учебника создаётся новое знание — этот этап требует проницательности, и LLM пока не способны его заменить.
Автор опасался, что книга устареет к моменту публикации из‑за быстрого развития области и возможностей AI‑моделей. Однако сейчас он уверен в долговечности результата больше, чем в начале работы в 2024 году. Его мотивация — создать единый справочник по важным методам после обучения (rejection sampling, character training), о которых мало информации в сети.
Люди ожидают, что LLM станут лучшими персонализированными педагогами, из‑за чего порой считают работу над книгой или образовательным контентом бессмысленной. При этом наблюдается нехватка высококачественного образовательного контента. ИИ хорошо адаптирует контент под ученика, но не создаёт его с нуля. В ближайшие 2–5 лет лучшие учебники по‑прежнему будут в значительной степени создаваться людьми.
Модели наиболее эффективны в двух случаях:
1. В достоверно проверяемых областях.
2. Когда им даётся много контекста и требуется внести небольшие правки (например, найти ошибку, решить конкретную математическую задачу или дать обратную связь), а не генерировать текст в открытом формате.
Длинноформатное письмо будет освоено моделями раньше, чем творческое. При этом модели не способны в полной мере выразить свои знания при решении недостаточно чётко сформулированных задач. Для получения лучших результатов нужно детально формулировать запросы к моделям, заставлять их активно работать перед ответом и учитывать мнения других моделей‑оценщиков перед тем, как получить текст.
Подписаться в Макс
