Обход правил в ИИ: новый тест выявляет уязвимости моделей
Создан тест CoC‑Seduce для проверки соблюдения правил ИИ‑моделями в текстовых средах; выявлены уязвимости и межкультурные различия в работе моделей.
566 статьи по теме
Создан тест CoC‑Seduce для проверки соблюдения правил ИИ‑моделями в текстовых средах; выявлены уязвимости и межкультурные различия в работе моделей.
Анализ трассировок помогает понять и улучшить поведение агентов. Платформа LangSmith от LangChain Labs позволяет отлаживать решения агентов и оценивать изменения. В Terminal Bench 2.0 с помощью трассировок удалось повысить эффективность на 13,7 %. Данные станут ключевым фактором развития агентов.
Google представила OKF — спецификацию для организации знаний агентами ИИ. OKF хранит данные в виде взаимосвязанных концептуальных файлов Markdown с метаданными YAML. Подход дополняет RAG: вместе они позволяют сочетать точность и структурированность с масштабируемостью. Для сложных систем рекомендуется гибридная архитектура.
История ИИ насчитывает несколько веков — от философских идей и механических автоматов до современных систем машинного обучения. Ключевые вехи включают тест Тьюринга, конференцию в Дартмуте 1956 года, создание экспертных систем и прорывные победы ИИ в играх (Deep Blue, AlphaGo). В последние годы ИИ активно коммерциализируется — примером служит ChatGPT.
На ICML 2026 в Сеуле собрались более 11 000 исследователей. Конгресс отметился новыми рекордами по количеству заявок и докладов. Среди ключевых достижений — разработка JustGRPO для моделей диффузионного языка, асинхронная платформа A3C от DeepMind и ряд других значимых работ в области ИИ.
Модель Kimi K2.7 успешно справляется с поиском багов, созданием 3D‑игр и рефакторингом кода. В ходе тестирования она сократила объём кода на 55 %, исправила скрытые ошибки в проекте MiniDB и создала рабочую версию 3D‑игры в петанк. При этом остаются сложности при внедрении в масштабные проекты.
Hon Hai Technology Group запустила платформу Project Genesis для превращения традиционных фабрик в интеллектуальные производственные площадки. Проект использует мультиагентную архитектуру, чтобы преобразовать опыт мастеров в цифровые активы. Платформа уже имеет шесть рабочих решений и иерархическую систему для распространения интеллектуальных приложений.
На конференции ICML 2026 представлены новые разработки в области искусственного интеллекта: от тестов для верификации кода до систем управления нейронной микросредой. Среди новинок — система RFM для онлайн‑обучения, тест DRPBench для оценки понимания параллельного кода, технология встраиваемого перевода и другие решения.
Fable 5 от Anthropic обладает усиленной системой безопасности с классификатором и буферной зоной. Пользователи нашли способы обхода ограничений модели, хотя большинство уязвимостей касаются лишь буферной зоны. Модель демонстрирует высокие результаты в долгосрочных задачах и генерации контента, но её стоимость и агрессивная стратегия защиты вызывают споры.
17 июля 2026 года на WAIC 2026 пройдёт форум MemTensor о переходе от агента и терминала ИИ к долгосрочному интеллекту. На мероприятии выступят эксперты из разных компаний и академической среды. Обсудят архитектуру больших моделей, инфраструктуру ИИ и кросс‑модальную персонализацию. MemTensor подготовит билеты для партнёров и установит стенды на выставке.
Система LuxSQA позволяет задавать вопросы на люксембургском и получать устные ответы с помощью TTS; протестирована на разных системах синтеза речи, показала хорошие результаты.
Предложен метод FCPA для согласования работы генератора и валидатора в LLM — он повышает их производительность на 27% по метрикам IFEval и HumanEval.
Нобелевский лауреат Джон Джампер перешёл в Anthropic. Компания запустила инструмент Claude Science и открыла гранты на исследования. Tencent выпустила открытую модель Hunyuan Hy3, а Mistral анонсировала новую модель с открытым весом. ИИ доказывает эффективность в образовании и медицине, а также набирает популярность в потребительских приложениях.
Южная Корея анонсировала масштабный инвестиционный план в области чипов и ИИ. Компании активно разрабатывают новые чипы и ограничивают расходы на ИИ. X запускает финансовый сервис X Money, сталкиваясь с регуляторными вызовами.
SemiAnalysis сообщила о переносе выпуска архитектуры Kyber от Huida с 2027 на 2028 год из‑за проблем с печатной платой. Также возможны задержки в производстве системы NVL576. Отсрочка решений Huida даёт преимущества её конкурентам.
Илон Маск ввёл лимит на расходы сотрудников Tesla на ИИ. Ряд крупных компаний, включая Uber, Meta*, Walmart и Coinbase, также ограничивает доступ к ИИ‑инструментам из‑за роста затрат. На фоне этих тенденций аналитики и бизнес‑лидеры обсуждают проблемы бизнес‑моделей в сфере ИИ и важность суверенитета ИИ.
Компания Fable достигла значительного ускорения вычислений за счёт оптимизации кода. Исследователи отмечают рост эффективности ИИ в автоматизации онлайн‑проектов. Параллельно разрабатываются новые тесты (например, OSWORLD 2.0) и решения для бизнеса (например, Oxygen AIIC от JD), а также изучаются перспективы аналоговых вычислений.
В 2026 году в сфере ИИ разворачивается трансформация: наблюдается переход от моделей с закрытым исходным кодом к открытым, усиливается конкуренция между облачными сервисами, а токенмаксинг приводит к пересмотру расходов на ИИ. Ограничения со стороны правительства США и санкции против Anthropic меняют ландшафт отрасли.
Daxiao Robot представила модель ACE‑Brain‑0.5 — первую унифицированную модель на основе тела с открытым исходным кодом. Она объединяет восприятие, планирование, исполнение, оценку и саморазвитие в одну когнитивную архитектуру, превосходя множество других моделей в различных тестах. Модель обещает повысить эффективность и стабильность робототехнических систем.
Система Agentic от Volcano Engine оптимизирует качество видео с помощью агентной системы, заменяя человеческий конвейер постобработки. Она учитывает разные типы видео и их требования, используя модели оценки восприятия и набор инструментов для обработки. Ключевой оператор GenVR нацелен на охват различных типов контента и снижение затрат на моделирование сцен.