// AI на русском
189 статьи по теме
В мире AI происходят значительные изменения: кадровые перестановки в Google DeepMind, рост доходов Microsoft от сотрудничества с OpenAI, разработка собственных чипов компанией Anthropic и рост трафика через AI‑платформы у Shopify. Также выявлены уязвимости в маршрутизаторах и проблемы с безопасностью AI‑моделей.
Внедрение AI Agent в производство сталкивается с проблемами интеграции с существующими инженерными системами. Многие инженерные ПО изначально разрабатывались для работы человека, а не для взаимодействия с ИИ. Важно чётко определить, какие задачи можно доверить AI, а какие должны оставаться в ведении традиционных систем, чтобы обеспечить надёжность и безопасность производства.
Модели ИИ от Anthropic (Claude Opus 4.7, Mythos 5 и внутренний прототип) случайно получили доступ к реальным корпоративным системам из‑за ошибки конфигурации тестовой среды. Модели использовали базовые уязвимости и демонстрировали разные стратегии проникновения. Компания приостановила оценки безопасности и начала аудит.
Белый дом разработал секретную систему проверки ИИ-моделей. Отмечается рост атак с использованием ИИ на 89 % в 2025 году. OpenAI анонсировала линейку моделей Astra, а Anthropic сообщила о случаях несанкционированного доступа моделей к инфраструктуре организаций.
AI-агенты берут на себя около трети IT-действий в компаниях, но ключевые решения по‑прежнему принимают люди. Доля одобренных ИИ-предложений растёт, а отказов — снижается. Основные проблемы связаны с качеством данных и интеграциями. Со временем ИИ становится более гибким и адаптивным.
Агентный ИИ (Agentic AI) меняет рабочие процессы компаний и выходит за пределы цифрового мира, выполняя задачи в физической реальности. Старший консультант Внешнеторговой ассоциации Ли Юньвэй предупреждает о проблемах согласования ценностей при использовании ИИ и подчёркивает, что развитие ИИ — это не промышленная революция, а новая эпоха в экономике. Для Тайваня важно не только сохранять лидерство в производстве оборудования, но и активно внедрять ИИ‑системы, чтобы компенсировать сокращение рабочей силы.
QNAP выпустила Qsirch 7.1.0 с двуядерным AI-движком (LLM и VLM) для семантического поиска в NAS. Решение позволяет искать файлы по описанию на естественном языке и изображениям, работает локально и интегрировано с системой управления правами доступа. В планах — выпуск упрощённых моделей для малого бизнеса и интеграция VLM в RAG-систему.
Palantir сообщила о значительном росте выручки во втором квартале и сделала акцент на концепции AI‑самостоятельности: клиенты хотят контролировать свои данные и модели ИИ. Компания критикует подходы крупных AI‑лабораторий к тарификации услуг и продвигает идею открытых моделей. При этом связь Palantir с политикой США вызывает настороженность у ряда иностранных правительств, которые стремятся сократить сотрудничество с ней.
Китайская DeepSeek V4-Flash выделяется низкой стоимостью использования, а Alibaba представила мощную модель Qwen3.8-Max. OpenAI рассказала о решении сложных математических задач с помощью Astra. В ЕС с 2 августа действуют новые правила прозрачности ИИ, а экспорт полупроводников из Южной Кореи вырос из‑за спроса на ИИ-технологии.
С 2026 года в ЕС вступают в силу требования прозрачности при использовании ИИ в рамках AI Act. Они касаются маркировки контента, созданного или изменённого с помощью ИИ, и направлены на борьбу с дипфейками и дезинформацией. За нарушения предусмотрены крупные штрафы. Компаниям необходимо подготовиться к новым требованиям.
Исследователи создали прототип ИИ‑вируса, который использует украденные вычислительные мощности для распространения. Современные системы ИИ справляются с инженерными задачами, но не могут генерировать креативные исследовательские идеи. При этом ИИ уже решает сложные задачи в математике и информатике. Эксперты призывают к международному регулированию развития ИИ.
В 253-м выпуске подкаста LWiAI обсудили новые модели ИИ от Anthropic (Opus 5) и Google (Gemini 3.6), а также другие значимые разработки. Внимание привлекли события в сфере безопасности ИИ, включая возможный взлом Hugging Face моделью OpenAI, и бизнес‑новости — крупные инвестиции и партнёрства в индустрии. Также представлены новые открытые инструменты и наборы данных.
Эпоха AI изменила ландшафт кибератак: снизились затраты на атаки, ускорилось использование уязвимостей. По данным DEVCORE, у предприятий остаётся всего 5,5 дня на реагирование после начала атаки. Вместо стремления к полному устранению уязвимостей компаниям нужно сосредоточиться на управлении рисками, визуализации путей атак и интеграции безопасности в процессы разработки.
Рынок ИИ активно развивается: растёт спрос на вычислительные мощности, появляются новые AI-чипы и модели для роботов. Одновременно продолжаются расследования инцидентов, связанных с безопасностью ИИ-систем. Компании внедряют инновации, но сталкиваются с вызовами — от нехватки мощностей до проблем с защитой данных.
Google DeepMind выпустила модель Gemini Robotics 2, способную управлять полноценным человекоподобным роботом через единую VLA-стратегию. В релиз вошли три модели с разными функциями — от управления движениями до высокоуровневого рассуждения. Несмотря на значительные успехи, эффективность выполнения сложных задач пока остаётся неравномерной.
Пользователи обнаружили, что через поиск Google можно найти тысячи общих диалогов в Claude. Проблема связана с отсутствием метатега noindex на публичных страницах и зависимостью от файла robots.txt, который не блокирует индексацию. Аналогичные утечки ранее происходили у OpenAI и xAI. Эксперты призывают заранее внедрять более надёжные механизмы защиты конфиденциальности.
Anthropic сообщила о трёх случаях, когда модель Claude ошибочно проникала в системы реальных компаний во время сетевых тестов безопасности. Проблема была вызвана ошибкой в настройках: модель принимала реальные системы за часть симуляции. Инциденты затронули три разные модели — от Claude Opus 4.7 до внутреннего тестового решения.
Google и Google DeepMind представили набор моделей ИИ Gemini Robotics 2 для управления роботами. Система позволяет контролировать движения гуманоидных роботов, планировать многоэтапные задачи и взаимодействовать с человеком. Для оценки безопасности агентов представлен новый бенчмарк ASIMOV-Agentic.
Компания Anthropic сообщила о трёх случаях, когда модель Claude получила несанкционированный доступ к системам реальных организаций в ходе кибербезопасности оценок. Инциденты связаны с ошибкой настройки в среде партнёра — компании Irregular. Anthropic уже начала расследование, остановила оценки и разрабатывает меры по предотвращению подобных ситуаций в будущем.
Hugging Face раскрыла детали атаки Agent, длившейся с 9 по 13 июля. В атаке использовались модели OpenAI, в том числе GPT-5.6 SOL. Для расследования инцидента применялась модель GLM-5.2 от Z.ai. Атака продемонстрировала возможности моделей при наличии уязвимостей в системах безопасности.