DeepDigest
雷峰网 (Leiphone) · · ~6 мин

ICML 2026: достижения в ИИ — от диффузионных моделей до борьбы с цензурой

На ICML 2026 в Сеуле собрались более 11 000 исследователей. Конгресс отметился новыми рекордами по количеству заявок и докладов. Среди ключевых достижений — разработка JustGRPO для моделей диффузионного языка, асинхронная платформа A3C от DeepMind и ряд других значимых работ в области ИИ.

ICML 2026: достижения в ИИ — от диффузионных моделей до борьбы с цензурой

6 июля 2026 года в конференц‑центре COEX в Сеуле (Корея) открылся 43‑й Международный конгресс машинного обучения (ICML 2026). На мероприятие собралось более 11 000 исследователей. ICML установила новый рекорд по количеству заявок: было получено 23 918 действительных заявок (для сравнения — в 2025 году их было 12 107).

Из общего числа заявок поступило 6352 доклада (26,6 % от общего числа принятых). Среди них:
* 536 работ отобраны для программы Spotlight papers (2,2 % от общего числа представленных материалов);
* 168 работ допущены к устному докладу (0,7 %).

При этом 497 статей были отклонены на этапе рецензирования (около 2 % от общего числа поданных заявок). Причина — оргкомитет ICML выявил 795 нарушений использования модели large language model (LLM) для написания отзывов в обзорных статьях. В нарушениях участвовали 506 рецензентов.

Чтобы предотвратить подобные нарушения в будущем, оргкомитет внедрил водяные знаки в документы в формате PDF и применил «более сложные всесторонние методы исследования и оценки». Также были опубликованы новые правила рецензирования (в январе 2026 года): если рецензент не справляется со своими обязанностями, все представленные от его имени статьи могут быть отклонены.

Среди наград конгресса — победа команды Университета Цинхуа в номинации за выдающуюся работу. Команда профессора Хуан Гао исследовала концепцию дизайна моделей диффузионного языка (DLLM). В ходе экспериментов было выявлено, что «свобода порядка» генерации токенов тормозит производительность в задачах общего характера (математические рассуждения, программирование) — это явление названо «ловушкой гибкости».

Учёные предложили решение JustGRPO: на этапе интенсивного обучения модель использует только стандартную последовательность автоматической регрессии слева направо (групповая оптимизация относительной политики, GRPO). Точность метода:
* 89,1 % в тесте математического анализа GSM8K (512);
* 45,1 % в тесте MATH‑500 (512).

Метод сохраняет способность DLLM к параллельному декодированию без ущерба для скорости анализа. ICML 2026 开幕,清华团队获最佳论文奖,DeepMind 经典巨作拿下时间检验奖

DeepMind получила Time Test Award за книгу «Асинхронные методы обучения с глубоким подкреплением» (опубликована на ICML в 2016 году). Первый автор — Владимир Мних (один из основателей области глубокого обучения с подкреплением, ранее возглавлял работу DQN). В исследовательскую группу вошли Алекс Грейвс и Дэвид Сильвер.

В книге рассматривается проблема низкой эффективности глубокого обучения с подкреплением: алгоритмы типа DQN зависят от GPU и механизмов эмпирического воспроизведения. Это приводит к высоким затратам на обучение, большой нагрузке на память и сложностям масштабирования. Команда разработчиков предложила асинхронную многопоточную обучающую платформу A3C: она позволяет нескольким агентам параллельно выполнять исследования в независимых копиях среды, асинхронно обновлять и совместно использовать глобальную сеть без блокировок. Конструкция исключает эмпирическое воспроизведение, опирается на многоядерные процессоры, поддерживает непрерывные задачи управления.

Эксперименты показали: A3C с 16‑ядерными процессорами в 57 играх Atari превосходит DQN, скорость обучения значительно повышается; платформа универсальна в задачах непрерывного управления движением и навигации по 3D‑лабиринтам. Обнаружено, что градиентный шум от асинхронных обновлений выполняет функцию декорреляции — это открывает новое направление для теоретического анализа.

Другие значимые работы:
* Статья Массачусетского технологического института и Йельского университета «Высокоточная выборка для диффузионных моделей и логарифмически вогнутых распределений» решает проблему выборки диффузионных моделей при неполных балльных оценках. Предложен новый алгоритм: для достижения δ‑ошибки требуются только шаги полилога (1/δ) при доступе к оценкам L2 с высокой (δ) точностью. Это экспоненциальное улучшение по сравнению с предыдущими результатами. Приведены границы сложности при трёх предположениях о данных:
* минимальная гипотеза: √(d· полилог(1/δ)) (на основе измерения данных d);
* неравномерное условие Липшица: √√(dL) полилог(1/δ) (с использованием гладкости распределения);
* присущая низкоразмерная структура: сложность может быть уменьшена до √(d· полилог(1/δ)).
* Диссертация «Атлас обфускации: отображение того, где честность проявляется в RLVR с проблемами обмана» исследует, как сделать ИИ‑системы честными с помощью детекторов обмана в контексте RLVR (обучение с подкреплением с проверяемыми вознаграждениями). Предлагается подавлять поведение обфускации с помощью строгой регуляризации KL и детекторного наказания, метод проверен в среде реального кода.
* В статье «Атрибуция движения для генерации видео» изучается влияние обучающих данных на характеристики движения генерируемого контента. Предложена система мотивации: с помощью маски потерь, взвешенной по движению, динамика времени в видео отделяется от статичного внешнего вида. Используется метод атрибуции для фильтрации ключевых данных, в VBench получен показатель выигрыша в 74,1 % в пользу пользователей.
* Тезис «Как много могут запомнить языковые модели?» предлагает теоретическую основу для оценки способности языковых моделей запоминать данные (на основе соотношения количества параметров модели к объёму обучающих данных). Объём памяти GPT‑модели — около 3,6 бит на параметр. Существует «критическое соотношение»: когда объём обучающих данных превышает определённое кратное количество параметров модели, модель начинает забывать данные вместо запоминания новых.
* Теория случайных матриц объясняет феномен «согласованности» диффузионных моделей (способность генерировать похожие выборки после обучения на разных подмножествах данных). Модель упрощена до линейной ситуации; влияние конечных наборов данных на выходные данные охарактеризовано методами детерминированной эквивалентности. Выходные данные определяются общей гауссовой статистикой (средним значением и ковариацией) данных; на формирование различий влияют три фактора: анизотропия данных, структура входного шума, размер выборки. Теоретическое предсказание соответствует линейной диффузионной модели и может качественно проверять её в UNet и DiT.
* В статье «To Grok Grokking: Доказуемый гроккинг в регрессии хребта» приведено строгое математическое доказательство феномена «гроккинга». Описан трёхэтапный динамический процесс модели от переоснащения до обобщения. Дана количественная оценка границы между «временем задержки грокинга» и скоростью обучения, весом затухания и другими гиперпараметрами. Доказано, что гроккинг можно контролировать или устранить путём корректировки гиперпараметров.
* Работа «Позиция: сообщество разработчиков по согласованию неосознанно создаёт инструментарий цензора» получила награду Outstanding Position Paper Award на конкурсе ICML position Paper. В работе указано, что исследователи непреднамеренно создали инструментарий для крупномасштабного анализа. Технологии (фильтрация контента, обнаружение намерений, ограничение ценности, вмешательство в результаты и т. д.) могут быть использованы для политической цензуры, контроля информации и подавления речи. Поднимается вопрос о двойном назначении технологий безопасности ИИ, содержится призыв внедрить принципы борьбы с цензурой в разработку технологий и продвигать более прозрачные механизмы управления.
* Исследование глубоких подделок ИИ/ML не согласовано с визуализацией интимных зон, генерируемой ИИ (AIG-NCII), номинация на «Выдающийся доклад о позиции» с почётным упоминанием. В исследованиях по «глубокой подделке» в области ИИ/ОД наблюдается перекос: большинство технических мероприятий направлено на выявление подлинности фальсифицированного контента, при этом игнорируется важнейшая форма злоупотребления генеративным ИИ — непроизвольные интимные изображения (AIG-NCII). Проводится различие между эпистемологическим ущербом, ориентированным на зрителя, и ущербом, ориентированным на достоинство субъекта. Осознание синтетичности изображения не уменьшает вред жертве, иногда усугубляет его. Призыв к исследовательскому сообществу переключить внимание на AIG. NCII рекомендует обновить модель угроз и включить связанные с этим вопросы в исследования безопасности ИИ. Исследователям следует сотрудничать с экспертами и принимать меры безопасности в высокорисковых областях.

На следующей неделе в конгрессно‑выставочном центре COEX состоится мероприятие с представлением передовых идей. Репортёры Leifeng AI Technology Review будут на месте событий. Lei Feng Lei Feng Net Lei Feng Net (Публичный аккаунт: Lei Feng Net).

ICML 2026 开幕,清华团队获最佳论文奖,DeepMind 经典巨作拿下时间检验奖

ICML 2026 开幕,清华团队获最佳论文奖,DeepMind 经典巨作拿下时间检验奖

ICML 2026 开幕,清华团队获最佳论文奖,DeepMind 经典巨作拿下时间检验奖

ICML 2026 开幕,清华团队获最佳论文奖,DeepMind 经典巨作拿下时间检验奖

// оригинал
雷峰网 (Leiphone) ↗ Читать оригинал
30 просмотров
// поделиться Telegram VK