6 июля 2026 года в Сеуле (Южная Корея) стартовала 43‑я Международная конференция по машинному обучению (ICML 2026) в конгрессно‑выставочном центре COEX. Конференция установила исторический рекорд по количеству заявок — было получено 23 918 действительных заявок (в 2025 году — 12 107). На мероприятие поступило 6352 доклада (26,6 % от общего числа принятых). Из них 536 работ отобраны для программы Spotlight papers (2,2 % от общего числа представленных материалов), а 168 работ допущены к устному докладу (0,7 %).
Организаторы ICML столкнулись с проблемой злоупотребления LLM при написании отзывов в обзорных статьях: выявлено 795 нарушений, в которых участвовали 506 рецензентов. В связи с этим оргкомитет внедрил новые правила рецензирования (опубликованы в январе 2026 года): если рецензент не справляется с обязанностями, все представленные от его имени статьи могут быть отклонены. Кроме того, в документы в формате PDF внедрены водяные знаки, а также применяются «более сложные всесторонние методы исследования и оценки».
Команда Университета Цинхуа получила награду за выдающуюся работу на ICML 2026. Команда профессора Хуан Гао в статье «Ловушка гибкости: переосмысление ценности произвольного порядка в моделях диффузионного языка» выявила «ловушку гибкости» в DLLM. В задачах общего характера (математические рассуждения, программирование) свобода порядка генерации токенов тормозит производительность — модель избегает ключевых проблем за счёт преждевременного сужения пространства решений. Исследователи предложили решение JustGRPO: на этапе интенсивного обучения модель использует только стандартную последовательность автоматической регрессии слева направо (групповая оптимизация относительной политики, GRPO). Точность метода: 89,1 % в тесте математического анализа GSM8K (512), 45,1 % в тесте MATH‑500 (512). Метод сохраняет способность DLLM к параллельному декодированию без ущерба для скорости анализа.
https://blog.icml.cc/2026/03/18/On-violations-of-llm-review-policies/
Исследователи из Массачусетского технологического института и Йельского университета в статье «Высокоточная выборка для диффузионных моделей и логарифмически вогнутых распределений» предложили новый алгоритм для решения проблемы выборки диффузионных моделей. При несовершенных оценках по баллам возможна высокая точность при малом количестве этапов выборки. При доступе к оценкам L2 с высокой (δ) точностью для достижения δ‑ошибки требуются только шаги полилога (1/δ) — это экспоненциальное улучшение по сравнению с предыдущими результатами. Алгоритм подходит для диффузионных моделей и реализует общую логарифмическую выборку вогнутого распределения со сложностью полилога (1/δ) путём оценки градиента. Приведены границы сложности при трёх предположениях о данных:
* минимальная гипотеза: √(d· полилог(1/δ)), основана на измерении данных d;
* неравномерное условие Липшица: √√(dL) полилог(1/δ), использует гладкость распределения;
* присущая низкоразмерная структура: сложность может быть уменьшена до √(d· полилог(1/δ)) для достижения адаптивности к измерениям.
В диссертации «Атлас обфускации: отображение того, где честность проявляется в RLVR с проблемами обмана» исследуется, как сделать ИИ‑системы честными с помощью детекторов обмана («белый ящик») в контексте RLVR (обучение с подкреплением с проверяемыми вознаграждениями). Предлагается подавлять поведение обфускации с помощью строгой регуляризации KL и детекторного наказания; метод проверен в среде реального кода.
Статья «Атрибуция движения для генерации видео» изучает влияние обучающих данных модели генерации видео на характеристики движения контента. Предложена система мотивации: с помощью маски потерь, взвешенной по движению, динамика времени в видео отделяется от статичного внешнего вида; для фильтрации ключевых данных используется метод, основанный на атрибуции. В VBench получен показатель выигрыша в 74,1 % в пользу пользователей.
Тезис «Как много могут запомнить языковые модели?» обсуждает, сколько обучающих данных может запомнить языковая модель. Предложена теоретическая основа, основанная на соотношении количества параметров модели к объёму обучающих данных. Объём памяти GPT‑модели — около 3,6 бит на параметр, объём памяти языковой модели пропорционален количеству параметров. Существует «критическое соотношение»: когда объём обучающих данных превышает определённое кратное количество параметров модели, модель начинает забывать, а не запоминать новое.
В статье «Взгляд случайной матрицы на согласованность диффузионных моделей» теория случайных матриц используется для объяснения феномена «согласованности» диффузионных моделей. Модель упрощена до линейной ситуации; влияние конечных наборов данных на выходные данные охарактеризовано методами детерминированной эквивалентности. Выходные данные определяются общей гауссовой статистикой (средним значением и ковариацией) данных; на различия влияют три фактора: анизотропия данных, структура входного шума, размер выборки. Теоретическое предсказание применимо к линейной диффузионной модели и может качественно проверять её в UNet и DiT.
В статье «To Grok Grokking: Доказуемый гроккинг в регрессии хребта» приведено строгое математическое доказательство феномена «гроккинга». Описан трёхэтапный динамический процесс модели от переоснащения до обобщения. Дана количественная оценка границы между «временем задержки грокинга» и скоростью обучения, весом затухания и другими гиперпараметрами. Доказано, что гроккинг можно контролировать или устранить корректировкой гиперпараметров; явление не является неотъемлемым недостатком глубокого обучения.
Аналитическая работа «Позиция: сообщество по согласованию неосознанно создаёт инструментарий цензора» (лауреат Outstanding Position Paper Award в рамках конкурса ICML position Paper) указывает на тенденцию в области безопасности ИИ и исследований по согласованию: исследователи непреднамеренно создали инструментарий для крупномасштабного анализа. Отмечено, что технологии (фильтрация контента, обнаружение намерений, ограничение ценности, вмешательство в результаты и др.) могут быть использованы для политической цензуры, контроля информации, подавления речи. Ставится под сомнение предположение, что «выравнивание ценностей — сила добра»; содержится призыв внедрять принципы борьбы с цензурой в разработку технологий и продвигать прозрачные механизмы управления.
Исследование глубоких подделок ИИ/ML не согласовано с AIG-NCII (неконсенсусной визуализацией интимных зон). Статья номинирована на «Почётное упоминание за выдающийся доклад с изложением позиции» на ICML. В исследованиях по «глубокой подделке» в ИИ/ОД наблюдается перекос: большинство технических мероприятий направлено на выявление подлинности глубоко фальсифицированного контента (предотвращение ложных видеороликов с общественными деятелями, борьба с мошенничеством). При этом игнорируется наиболее важная форма злоупотребления генеративным ИИ в реальном мире — непроизвольные интимные изображения (AIG-NCII). В статье проводится различие между «эпистемологическим ущербом, ориентированным на зрителя» и «ущербом, ориентированным на достоинство субъекта»: осознание синтетичности изображения не уменьшает вред жертве, а иногда усугубляет его. Призыв к исследовательскому сообществу переключить внимание на AIG. NCII рекомендует обновить модель угроз и включить связанные вопросы в исследования безопасности ИИ. Исследователям следует сотрудничать с экспертами и принимать меры безопасности в высокорисковых областях.
Премия ICML «Испытание временем» присуждается статьям, оказывающим глубокое влияние на отрасль спустя 10 лет после публикации. В этом году премию получила книга «Асинхронные методы обучения с глубоким подкреплением» (опубликована командой Google DeepMind на ICML в 2016 году). Первый автор — Владимир Мних (один из основателей области глубокого обучения с подкреплением, ранее возглавлял работу DQN). В исследовательскую группу вошли Алекс Грейвс и Дэвид Сильвер. Проблема глубокого обучения с подкреплением — низкая эффективность: алгоритмы вроде DQN зависят от GPU и механизмов эмпирического воспроизведения, что ведёт к высоким затратам на обучение, большой нагрузке на память и сложностям масштабирования. Команда разработчиков предложила асинхронную многопоточную обучающую платформу A3C: она позволяет нескольким агентам параллельно выполнять исследования в независимых копиях среды, асинхронно обновлять и совместно использовать глобальную сеть без блокировок. A3C исключает эмпирическое воспроизведение, полагаясь на многоядерные процессоры, поддерживает непрерывные задачи управления. Систематическое сравнение четырёх асинхронных вариантов показало, что A3C в сочетании с функцией advantage даёт наилучшие результаты. A3C на 16‑ядерных процессорах в 57 играх Atari превосходит DQN по производительности, значительно повышает скорость обучения, демонстрирует универсальность в непрерывном управлении движением и навигации по 3D‑лабиринтам. Градиентный шум от асинхронных обновлений играет роль декорреляции — это открывает новое направление для теоретического анализа. Статья опровергает представление о том, что стабильное обучение должно основываться на эмпирическом воспроизведении, решает задачи распределённого обучения с минималистичным инженерным дизайном, переносит глубокое обучение с подкрепления с кластеров GPU на персональные рабочие станции.
Репортёры Leifeng AI Technology Review будут на месте событий на следующей неделе в конгрессно-выставочном центре COEX. Сеть Lei Feng Leifeng Network.
Подписаться в Макс
