// AI на русском
16 статьи по теме
Кайли Энглин предложила методы для более точной оценки неопределённости в работе классификаторов на основе LLM, особенно при работе с небольшими выборками и вложенными данными.
ProvenAI — фреймворк для оценки соответствия ответов ИИ источникам: проверяет правильность, цитирование и влияние источников. Тестировался на HotpotQA, показал точность ответов 53,53 %, цитирования — 71,55 %.
Разработан метод снижения эскалации конфликтов в диалогах с LLM за счёт подсказок на основе принципов ненасильственного общения (NVC).
Аудит тестов на Deepfake показал, что они могут не отражать реальные угрозы — универсальные модели приближаются по эффективности к специализированным детекторам.
Разработана платформа Clue2Group: она выявляет группы по отмыванию денег, работая от конкретной зацепки и объединяя данные о рисках и структуре финансовых операций.
Модель FHPLF объединяет обучение хэшированию и федеративное обучение, снижая затраты на вычисления и повышая защиту данных при сохранении высокой точности.
Антонио Феррара предлагает новый подход к алгоритмической справедливости — с учётом структурного контекста, а не только упрощённых оценок. Это поможет снизить предвзятость в ИИ.
Исследование показало нестабильность оценок безопасности с помощью LLM-as-judge даже при настройках для детерминированности; предложены рекомендации по улучшению воспроизводимости результатов.
Система KG-TRACE объясняет, почему бактерии устойчивы к лекарствам, объединяя геномные данные и биологические знания; показала высокую точность на данных о туберкулёзе.
Разработана система NoT для структурирования этических рассуждений в ИИ: она снижает число упущенных факторов в моральных дилеммах и помогает достигать консенсуса в дебатах.
Статья предлагает Qualitative Engine for Science (QES) как способ преодолеть ограничения ускорения технологического прогресса в научных открытиях и сократить разрыв между ИИ и человеческим мышлением.
Предложена модель управления ИИ-агентами: агенты автономны в рассуждениях, но рискованные действия требуют подтверждений от независимых источников и фиксируются в защищённом журнале.
Создана ИИ-платформа, объединяющая официальные отчёты и данные от пациентов о лекарствах для психического здоровья; выявлены более ранние сигналы о побочных эффектах в сообществах.
Google представила дорожную карту управления ИИ, чтобы обеспечить безопасность агентов по мере роста их возможностей. Подход включает систему моделирования угроз на основе MITRE ATT&CK, средства контроля ИИ и измерение ключевых показателей производительности. Компания также опубликовала техническое руководство для разработчиков политики «Три уровня безопасности агентов».
Обучение языковых моделей на полезность может снижать уровень сострадания и моральных рассуждений, тогда как обучение кодированию лучше сохраняет ценности. Исследование проведено на Llama 3.1 8B с критериями AHB и MORU.
Компания Anthropic отключила модели Mythos после ультиматума администрации Трампа, требующего ограничить доступ к ним для неграждан США. Переговоры между Anthropic и властями продвигаются медленно из‑за отсутствия чёткой правовой базы для экспортного контроля ИИ-систем. Ситуация создаёт риски для американской индустрии ИИ и влияет на мировой рынок технологий.