За десять лет на конференции ICML (Международная конференция по машинному обучению) прозвучало множество важных идей, отражающих развитие отрасли. В июне 2016 года в Нью-Йорке Дэвид Сильвер, главный архитектор AlphaGo, представил на ICML дорожную карту развития глубокого обучения с подкреплением — от Q-Learning до Policy Gradient и других подходов. Он утверждал, что при чётко определённой функции вознаграждения интенсивное обучение может превзойти человека в любых задачах. Спустя три месяца AlphaGo одержала победу над Ли Се Доком со счётом 4:1.
В 2017 году в Сиднее Сильвен Гелли и Дэвид Сильвер получили премию ICML «Испытание временем» за работу, объединившую онлайн-знания (поиск по дереву MCTS) и автономные знания (функция ценности, полученная на основе опыта) в Go AI. Гелли показал, что с 2007 по 2017 год показатель Elo в компьютерном Go вырос с 1800 до 4500. В тот же период на arXiv появилась статья «Внимание — это всё, что вам нужно», заложившая основу для развития трансформеров.
В 2018 году в Стокгольме Дон Сонг предупредила о хрупкости систем глубокого обучения. Она продемонстрировала, как добавление специально подобранного шума может заставить модель распознать панду как гиббона, а также рассказала о возможности кражи коммерческих моделей классификации изображений через API. Сонг подчеркнула растущий разрыв между повышением компетентности в области ИИ и осознанием уязвимостей.
В 2019 году в Лонг-Биче Элисон Гопник, психолог по развитию из Беркли, заявила, что большие языковые модели (LLM) — это не «агенты», а «культурные технологии», подобные письменности или библиотекам. Она отметила, что дети занимаются «поиском истины», проводя собственные причинно-следственные эксперименты, в то время как LLM не заботятся о правде или лжи — в их целевой функции такого измерения нет.
В 2020 году онлайн-конференция ICML собрала 10 800 человек из 75 стран. Бренна Аргалл из Северо-Западного университета рассуждала о том, как должны распределяться полномочия между людьми и машинами. Она утверждала, что истинная автономия заключается не в том, чтобы позволить машинам принимать больше решений за людей, а в том, чтобы позволить людям сохранять контроль над своими действиями.
В 2021 году Дафна Коллер, профессор Стэнфорда и генеральный директор insitro, говорила о трансформации разработки лекарств с помощью цифровой биологии. Она обратила внимание на проблему нехватки качественных данных в фармацевтике: несмотря на успехи ImageNet в маркировке данных, ключевые данные о фенотипе клеток по-прежнему хранятся под ручным микроскопом, в бумажных журналах экспериментов, в несовместимых форматах.
В 2022 году в Балтиморе Регина Барзилай из MIT задала вопрос о том, правильно ли мы решаем задачи. Она привела пример из медицины: многие работы по машинному обучению оптимизируют прогнозирование частоты повторных госпитализаций, хотя в клинической реальности корреляция между этим показателем и качеством медицинской помощи гораздо ниже, чем предполагалось.
В 2023 году в Гонолулу Марзие Гассеми из Университета Торонто и MIT рассказала о структурном насилии в медицинских данных. Её лаборатория использовала 7 миллионов рентгеновских снимков грудной клетки для обучения модели, определяющей, достаточно ли здоров пациент, чтобы вернуться домой. Однако в обучающих данных метка «здоровье» распределена неравномерно: у цветных пациентов меньше шансов получить отметку «без отклонений».
В 2024 году в Вене Сумит Чинтала, основатель PyTorch и вице‑президент Meta, заявил, что открытый исходный код — это не благотворительность, а стратегия. Он разобрал разные интересы сторон в споре об открытом исходном коде: учёные нуждаются в вычислительных мощностях, крупные компании опасаются ответственности, стартапы AGI стремятся к прорыву, предприниматели в сфере вертикального ИИ сосредоточены на узких областях.
В 2025 году в Ванкувере Анка Драган представила таксономию неудач ИИ в достижении целей. Она выделила три категории: систематическая предвзятость в отзывах людей, разрыв покрытия (ситуации, которые модель не видела на тренировках) и уязвимость судей LLM (когда одна модель оценивает результаты другой). Драган показала на примере роботизированной руки, которая постоянно поднимает чашку над головой, что цель оптимизации не является чем‑то само собой разумеющимся — её нужно выявлять, согласовывать и постоянно корректировать.
За десять лет индустрия прошла путь от слепой веры в способности алгоритмов до осознания сложности этических и практических вопросов, связанных с ИИ. От вопроса «что ещё мы можем заставить делать алгоритмы?» перешли к более сложным: «что именно мы должны позволить машине делать?», «для кого?», «кто устанавливает правила?» и «какой ценой, кто будет нести ответственность за последствия?».
Подписаться в Макс
