DeepDigest
雷峰网 (Leiphone) · · ~3 мин

Документ Karpathy: 4 принципа для корректного написания кода с ИИ

Файл Markdown из 65 строк (проект andrej-karpathy-skills) набрал 176 000 звёздочек на GitHub и стал одной из самых обсуждаемых практик разработки ИИ. В документе сформулированы четыре принципа, которые помогают избежать систематических ошибок при написании кода с помощью ИИ. Тенденция породила ряд исследовательских проектов, в том числе систему автоматической оптимизации правил ИИ.

LLM
Документ Karpathy: 4 принципа для корректного написания кода с ИИ

Файл Markdown из 65 строк — проект andrej-karpathy-skills — стал одной из самых обсуждаемых практик разработки ИИ в истории GitHub. За месяц он набрал 176 000 звёздочек. При этом в файле нет исполняемого кода. Проект стартовал в апреле 2026 года — в том же месяце официальный магазин Anthropic (с 151 000 звёздочек) был закрыт. Это свидетельствует о сдвиге в программировании на основе ИИ: акцент смещается с вопроса «может ли модель быть написана правильно» на «может ли модель быть написана правильно, когда никто на неё не смотрит».

Андрей Карпати подчёркивает: модели способны делать ложные предположения от имени пользователя и реализовывать их, усложнять код и API, нагромождать абстракции, удалять или изменять код и комментарии, которые им непонятны. Чтобы решить эти проблемы, в документе сформулированы четыре принципа.

Первый: при двусмысленности нужно сначала задать вопросы и предложить компромисс. Это пресекает тенденцию, когда модель по умолчанию делает предположения о продукте (например, как передавать параметры на интерфейсном уровне, как проверить состояние пользователя и как устранить ошибку) и принимает их за факты. После внедрения правила CLAUDE.md процент выполнения заданий по кодированию с помощью ИИ, по сообщениям разработчиков, вырос с 65% до 94% (число не подтверждено авторитетными источниками).

Второй принцип направлен против чрезмерной инженерии: вместо раздутой архитектуры из 1000 строк стоит использовать компактное решение из 50–100 строк. Карпати отмечал: если можно обработать 100 строк, приходится писать 1000.

Третий принцип — «хирургическая модификация»: каждая строка изменений должна соответствовать первоначальным требованиям. Это ограничивает свободу редактирования кода со стороны ИИ.

Четвёртый принцип — целенаправленная реализация: ИИ должен преобразовать расплывчатую команду («исправьте ошибку») в проверяемые критерии успеха (например, «напишите тест, который воспроизводит ошибку, прежде чем писать код, а затем добейтесь прохождения теста»).

Цель документа — не сделать модель умнее, а заставить её останавливаться на ключевых этапах и подтверждать действия. CLAUDE.md позволяет устранить поведенческие ограничения программирования ИИ: его легко установить (за две минуты с помощью команды curl), и все агенты ИИ будут его выполнять.

Тенденция быстро распространилась по GitHub: появились исследовательские проекты в том же направлении. Например, разработчик VoidLight00 предложил систему, которая позволяет ИИ автоматически оптимизировать правила. Процесс выглядит так: сначала определяется набор тестовых утверждений в формате JSON для оценки эффекта файла правил; затем система входит в цикл «изменить правила — повторно запустить оценку». Если оценка улучшается, изменения сохраняются, если нет — происходит откат к предыдущей версии. Это превращает ручную доработку подсказок в стандартизированный процесс, похожий на автоматизированное тестирование кода.

Эксперименты показали: если расширить правила Карпати до 200 строк, качество генерируемого ИИ кода не улучшается — напротив, может снизиться. Чем длиннее файл правил, тем сложнее модели выделить ключевые ограничения среди избыточных описаний. Поэтому документ Карпати выдержан в минималистском стиле: четыре принципа, десятки строк, нет особых требований к техническому стеку.

// оригинал
雷峰网 (Leiphone) ↗ Читать оригинал
5 просмотров
// поделиться Telegram VK