Как понять мысли ИИ: новый подход к интерпретируемости
Авторы предложили метод интерпретации ИИ как агентов, разработав критерии и тесты для понимания «убеждений» и «желаний» моделей с учётом их взаимосвязи.
561 статьи по теме
Авторы предложили метод интерпретации ИИ как агентов, разработав критерии и тесты для понимания «убеждений» и «желаний» моделей с учётом их взаимосвязи.
Учебное пособие по NeuraDock Agent — инструменту для обработки ЭЭГ и анализа когнитивной нагрузки в реальном времени с контролем качества данных и интеграцией LLM.
DiCoBench — тест для оценки способности MLLM анализировать несколько изображений высокого разрешения; выявил значительный разрыв в точности между моделями и человеком.
TempoWave — интерфейс для LLM, который повышает точность прогнозов временных рядов за счёт особого представления числовых данных с использованием вейвлетов.
Предложен инструментарий для управляемых медицинских экосистем ИИ — он позволяет отслеживать и контролировать ИИ‑решения в медицине, пример применения — уход за пациентами с остеопорозом.
Разработан метод оценки надёжности LLM с помощью разреженных автоэнкодеров; предложена стратегия тонкой настройки для повышения безопасности языковых моделей.
SOLAR — фреймворк для автоматического расчёта предельной производительности ИИ-моделей на разном оборудовании. Помогает оптимизировать ПО, алгоритмы и железо.
Новый метод извлекает из научных статей задачи и методы с помощью десенсибилизации шаблонов и контекстно-зависимого преобразователя, улучшая F1 на 2,67–3,71%.
SOLAR выравнивает представления токенов в разных языках для согласованных межъязыковых рассуждений, повышая точность многоязычных моделей.
Разработан гибридный метод подбора нежёстких 3D‑форм по принципу «от грубого к точному» — он эффективен в сложных сценариях и превосходит существующие решения.
Создан тест MKG-RAG-Bench для оценки систем RAG на основе мультимодальных графов знаний — он поможет улучшить работу ИИ в работе с разнородными данными.
Учёные выяснили, как ИИ-модели интерпретируют полярное сияние — модель улавливает сезонные циклы и структуру штормов без явных инструкций.
Кайли Энглин предложила методы более точной оценки производительности классификаторов для текстов: протестировала разные способы расчёта доверительных интервалов и выявила лучшие подходы.
OpenAI демонстрирует быстрый рост выручки, однако расходы компании, особенно на НИОКР, остаются значительно выше доходов. Ежедневные операционные и чистый убытки продолжают расти. Чтобы выйти на прибыль к 2030 году, OpenAI придётся оптимизировать затраты и повысить отдачу от инвестиций.
Берни Сандерс выдвинул план создания суверенного фонда за счёт 50‑процентного налога на акции крупнейших ИИ‑компаний. Фонд может достичь 7 трлн долларов, средства направят на выплаты гражданам и финансирование социальных программ. Представители индустрии ИИ не разделяют радикальности предложений сенатора.
Авторы эссе доказывают, что опасения по поводу замены инженеров-программистов ИИ преувеличены. На примерах из бизнеса показано, что увольнения часто объясняют влиянием ИИ, хотя реальные причины иные. Данные исследований также не подтверждают массового сокращения рабочих мест из‑за внедрения ИИ.
Локеш Лагуду из IEEE и Walmart Global Tech дал советы начинающим инженерам, как преуспеть в сфере ИИ. Он рекомендует осваивать технические навыки, изучать принципы работы LLM и GPT, участвовать в бенчмарках и применять знания на практике. Также важно следить за исследованиями и развивать междисциплинарные навыки.
Учёные из Университета Аризоны создали акустическое устройство на основе нейронных синапсов — оно имитирует обучение мозга и потребляет гораздо меньше энергии, чем стандартные чипы ИИ. Разработка может стать важным шагом в моделировании работы мозга.
ProvenAI — фреймворк для оценки соответствия ответов ИИ источникам: проверяет правильность, цитирование и влияние источников. Тестировался на HotpotQA, показал точность ответов 53,53 %, цитирования — 71,55 %.
AnySimLite — лёгкая модель для классификации речи на устройствах: занимает мало памяти, сохраняет высокую точность. Показала конкурентоспособные результаты.