// AI на русском
724 статьи по теме
Anthropic изучила, насколько модель Claude 3 следует заданным ценностям и принципам в общении. Модель демонстрирует схожие базовые ценности на разных языках, при этом её ценности близки к западным. Исследование также показало, что Claude 3 следует правилам Constitutional AI, даже когда отвечает на арабском языке.
Anthropic, OpenAI и Google обвиняют конкурентов в масштабном использовании выходных данных их моделей («дистилляции») для создания более дешёвых решений. Это вскрыло противоречия в индустрии ИИ: ранее компании оправдывали сбор данных принципом «разумного использования», а теперь протестуют против аналогичного применения к своим моделям. Эксперты видят в ситуации игру в «кошки‑мышки».
Atal Tinkering Labs запускает пилотную версию ATL Saathi — веб‑приложения на базе модели Gemini, которое должно помочь учителям лабораторий в планировании и обучении. Инструмент упрощает подбор контента и генерацию проектов, поддерживает несколько языков. Пилотный проект охватит 100 школ Индии.
Harness Engineering — это инженерная среда вокруг AI-модели, которая обеспечивает стабильное и безопасное внедрение AI в крупных проектах. Она включает пять элементов контроля: Context, Skills, Boundaries, Verification и Learning. Конкурентное преимущество будет у направляющих механизмов, а не у моделей.
В США ускоряется процесс удаления продуктов Anthropic из военных систем: AFRL требует выполнить эту задачу до 1 сентября. Инициатива связана с заявлением министра обороны о рисках для нацбезопасности. При этом удаление продуктов компании осложняется сложностями в обнаружении скрытого кода и судебными разбирательствами.
В Цинхуа университете показали возможности системы Unisonmind на примере робота-собаки «Сяо Тянь». Система демонстрирует Physical AGI: способна ориентироваться в пространстве, координировать действия людей и решать неожиданные задачи. Один и тот же когнитивный фундамент может работать на разных физических платформах.
В OpenAI продолжается ротация кадров в отделе безопасности — недавно об уходе объявил Йоханнес Хайдеке, руководитель системы безопасности. Параллельно компания реорганизует команду безопасности и выпускает GPT-5.6, которая демонстрирует повышенные риски в работе с агентами и выполнении команд. Эксперты отмечают, что ускорение выпуска моделей создаёт сложности в обеспечении их безопасности.
Разработана система AgentKGV для проверки фактов в графах знаний. Метод включает динамическую маршрутизацию и двухэтапное обучение. На T-REx система улучшила macro-F1 на 5,5–9,4 п.п., сократив число запросов к поиску.
Модель GPT-5.6 Sol Ultra за час доказала гипотезу о циклическом двойном покрытии — задачу, которая оставалась нерешённой 50 лет. Для решения задействовали 64 под-агента и особый подход к составлению промпта. OpenAI раскрыла принципы работы с моделью для решения сложных математических задач.
Apple обвинила OpenAI в использовании своих технологий при разработке AI‑устройств. Илон Маск прокомментировал ситуацию, высмеяв главу OpenAI. Также Маск рассказал о планах запустить спутники AI1 для AI‑вычислений.
Учёные из Университета Колорадо исследовали опыт общения людей с AI-симуляциями умерших близких. Участники предпочли версию ИИ, говорящую от первого лица. При этом они терпимы к мелким фактическим ошибкам, но не допускают искажений в обращении. Исследователи опасаются риска зависимости и планируют оценить психологические последствия такого взаимодействия.
Компания MorphMind представила инструмент Academic Humanizer для удаления признаков написания текстов с помощью ИИ из научных работ. Инструмент вызвал споры в академической среде: его создатели говорят о помощи в чётком изложении мыслей, а критики опасаются, что он может маскировать некачественный контент. Также поднимается вопрос влияния ИИ на качество образования.
Методы борьбы со стереотипами в NLP могут усиливать стереотипизацию других групп. Эффект замечен у разных моделей и стратегий обработки данных.
Anthropic добавила во встроенный инструмент Claude Code браузер, позволяющий взаимодействовать с веб‑сайтами. Функция работает в песочнице, а пользователь сам решает, сохранять ли состояние браузера между задачами. Компания разграничивает встроенный браузер и расширение Claude для Chrome — каждое решение подходит для разных сценариев использования.
Fidji Simo уходит из OpenAI с полной занятости и переходит на роль консультанта из‑за обострения хронической болезни. Ранее она отвечала за развёртывание AGI в компании. Сэм Альтман поблагодарил её за вклад в работу OpenAI.
Хуан Жэньсюнь из NVIDIA заявил, что ИИ кардинально изменил работу инженеров: теперь они больше сосредоточены на создании AI-агентов, а не на написании кода. Он не согласен с мнением о том, что ИИ приведёт к массовой безработице, и считает, что эта технология создаст много новых рабочих мест. Хуан видит в распространении ИИ потенциал для реиндустриализации США.
Китайский комитет по промышленности и информатизации предупредил о уязвимости в Claude Code от Anthropic — инструмент мог отправлять чувствительные данные без согласия пользователя. Представитель Anthropic объяснил, что это была экспериментальная функция для защиты модели от злоупотреблений. Компания ранее обвиняла китайские лаборатории в «дистилляции» модели.
Joshua Achiam, главный футуролог OpenAI, объявил об уходе из компании 24 июля. Он проработал в OpenAI с 2017 года, занимался вопросами безопасности ИИ и возглавлял команду Mission Alignment. Его уход вписывается в ряд перестановок в команде безопасности компании за последние годы.
DeepSeek разрабатывает собственный AI-чип для этапа инференса, чтобы снизить зависимость от Nvidia и Huawei. Проект находится на ранней стадии, но уже вызывает опасения у конкурентов. Компания привлекает крупные инвестиции для финансирования разработки.
Репортёр Business Insider провела эксперимент в LinkedIn: разместила рядом реальное фото и изображение, сгенерированное ИИ, и попросила пользователей определить подлинность. Около двух третей участников предпочли фото с ИИ. LinkedIn разрешает использовать ИИ для редактирования снимков, но требует сохранять истинный облик. Эксперты считают, что подлинность важнее изысканности.