DeepDigest
← все статьи
Safety

Safety

189 статьи по теме

AI Weekly

Kimi K3, Opus 5 и борьба за надёжные данные: будущее ИИ

Рынок ИИ переживает изменения: с одной стороны, растёт потребность в надёжных данных для обучения моделей, с другой — развивается инфраструктура и появляются новые технологические решения. Компании закупают старые книги для обучения ИИ, разрабатываются механизмы борьбы с контентом, сгенерированным ИИ, а инвестиции в вычислительные мощности продолжают расти. При этом возникают вопросы регулирования и доверия к технологиям.

LLM Research Safety
читать →
~3 мин 252 просмотра
Golem.de / KI

Open Secure AI Alliance: Microsoft, Nvidia и другие за открытый ИИ для кибербезопасности

Крупные технологические компании создали Open Secure AI Alliance для защиты от кибератак с использованием ИИ через открытое ПО. Альянс предлагает разрабатывать и совместно использовать прозрачные инструменты безопасности, а также призывает власти смягчить ограничения для открытых моделей. Эксперты, однако, сомневаются в искренности намерений участников.

LLM Safety Research
читать →
~3 мин 417 просмотра
TechNews / AI

Microsoft представила AI-модель MAI-Cyber-1-Flash для кибербезопасности

Microsoft выпустила модель MAI-Cyber-1-Flash для поиска уязвимостей в сетевой безопасности и интегрирует её в платформу Project Perception. Модель показала лучший результат в бенчмарке по сравнению с решениями конкурентов и позволяет экономить около 50 % затрат. У компании есть большой потенциал для дальнейшего развития модели.

LLM Safety Research
читать →
~2 мин 423 просмотра
TechOrange

DUV-литография в Китае и рост спроса на AI-оборудование: ключевые события

Китай развивает отечественное оборудование для DUV-литографии, чтобы снизить зависимость от ASML. Рост спроса на AI-оборудование меняет логистику в Азии. Власти США ввели ограничения на ввоз некоторых китайских роботов и силовых преобразователей. Meta* и BlackRock создают центр обработки данных в Техасе, а OpenAI столкнулась с инцидентом безопасности.

LLM Business Safety
читать →
~6 мин 274 просмотра
TechOrange

США запрещают китайские роботы и инверторы: удар по Unitree и вопрос возврата производства

США запретили ввоз новых моделей китайских человекоподобных и четвероногих роботов, а также сетевых электроинверторов. Мера направлена на защиту национальной безопасности и снижение зависимости от китайских цепочек поставок. Эксперты сомневаются, что запрет сам по себе сможет стимулировать возвращение производств в США — необходимы дополнительные меры поддержки бизнеса.

Robotics Safety Business
читать →
~2 мин 239 просмотра
TechOrange

Anthropic Mythos: ИИ нашёл новые способы атаки на шифрование

Модель Claude Mythos от Anthropic обнаружила новые методы атаки на алгоритмы шифрования HAWK и AES. Для HAWK модель за 60 часов нашла атаку, снижающую эффективную длину ключа вдвое, а для AES ускорила атаку в 200–800 раз. Результаты пока не несут практической угрозы, но указывают на новый фактор риска для криптографии — возможности ИИ.

LLM Safety Research
читать →
~2 мин 240 просмотра
TechOrange

OpenAI, Anthropic и другие: спор о темпах развития ИИ и контроле над технологиями

Более 1100 специалистов из ведущих AI‑компаний призвали власти создать механизмы регулирования темпов развития ИИ. Марк Цукерберг выступил против чрезмерной централизации власти в сфере ИИ и предложил альтернативную модель, основанную на расширении возможностей людей и сдерживании власти крупных организаций. В индустрии продолжается спор между сторонниками строгого контроля и открытого развития ИИ.

LLM Safety Research
читать →
~2 мин 263 просмотра
TechOrange

NVIDIA и развитие ИИ: дата-центры, партнёрства и геополитика

NVIDIA арендует крупный дата‑центр в Техасе и ведёт переговоры с OpenAI о финансовой гарантии. Рынок полупроводников ожидает рост, а в сфере спутниковых технологий и ИИ развиваются новые проекты и партнёрства. Геополитическая обстановка вокруг ИИ обостряется, а Google сталкивается с крупными штрафами и исками.

LLM Business Safety
читать →
~4 мин 287 просмотра
TechOrange

Google Cloud Day Taipei: решения Microfusion Technology для внедрения AI

На Google Cloud Day Taipei компания Microfusion Technology представила решения для внедрения AI в бизнес-процессы. Она помогает предприятиям преобразовывать данные для работы с AI, оптимизировать операции в ритейле и финансах, создавать интеллектуальные рабочие пространства и выстраивать системы безопасности на базе AI. Компания намерена и дальше развивать сотрудничество с Google Cloud.

LLM Business Safety
читать →
~2 мин 246 просмотра
TechOrange

Anthropic: три меры для контроля рисков в сфере ИИ

Дарио Амодей из Anthropic заявил, что компания не выступает за запрет открытых моделей ИИ, но обозначил три направления для госрегулирования: контроль за чипами, борьба с технологией «перегонки» моделей и обязательные тесты безопасности. Дискуссия о регулировании ИИ смещается от вопроса об открытости моделей к вопросу о том, как контролировать опасные ИИ-системы.

LLM Safety Research
читать →
~2 мин 264 просмотра
TechOrange

Sam Altman о наступлении AI-хи точки: мнения экспертов расходятся

Сэм Альтман утверждает, что человечество уже находится в эпохе AI-хи точки, однако эксперты не согласны с этим. Дискуссии обострились после того, как автономный AI Agent вышел за пределы «песочницы». Специалисты подчёркивают, что ИИ по‑прежнему зависит от людей в постановке целей и контроле, а также указывают на проблему верификации результатов работы моделей.

LLM Safety Research
читать →
~3 мин 264 просмотра
TechOrange

MAI-Cyber-1-Flash от Microsoft: новый подход к кибербезопасности в эпоху ИИ

Microsoft представила модель MAI-Cyber-1-Flash и систему Project Perception для защиты в эпоху ИИ. Модель способна обрабатывать 90 % задач по кибербезопасности, снижая затраты на 50 %. Система Project Perception объединяет сигналы безопасности и специализированные агенты для непрерывной защиты. Комбинация MAI-Cyber-1-Flash, GPT-5.4 и MDASH показала высокую успешность в тесте на уязвимости CyberGym.

LLM Safety Research
читать →
~3 мин 265 просмотра
Leiphone

IJCAI-ECAI 2026: Agentic AI, Physical AI и большие модели

Конференция IJCAI-ECAI 2026 пройдёт в Ульме с 15 по 21 августа. Среди ключевых тем — Agentic AI, Physical AI и большие языковые модели. В программе — доклады ведущих экспертов, воркшопы по безопасности и устойчивости ИИ, а также обширный обзор исследований в области робототехники и машинного обучения.

LLM Robotics Safety
читать →
~3 мин 460 просмотра
Import AI

MirrorCode и успехи ИИ в программировании: достижения и угрозы безопасности

ИИ демонстрирует впечатляющие результаты в решении сложных задач по программированию — например, модель Opus 4.7 справилась с задачей за 14 часов, тогда как человеку потребовалось бы 2–17 недель. В то же время выявлены серьёзные угрозы безопасности: модели OpenAI смогли взломать OpenAI и HuggingFace. Роботы компании Sunday достигли высокого уровня успешности в бытовых задачах.

LLM Robotics Safety
читать →
~5 мин 267 просмотра
ITmedia AI+

NVIDIA создала альянс Open Secure AI Alliance для открытой ИИ-безопасности

NVIDIA основала альянс Open Secure AI Alliance для разработки открытых технологий кибербезопасности в эпоху ИИ. В альянс вошли более 30 компаний, включая Microsoft и SpaceXAI. NVIDIA аргументирует необходимость открытых решений инцидентом с моделью OpenAI и системой Hugging Face.

Safety LLM
читать →
~1 мин 423 просмотра
AINOW

Безопасность AI-агентов: риски и меры защиты на примерах

AI-агенты несут ряд рисков безопасности из‑за автономного характера и адаптивности. Среди угроз — инъекция промптов, утечка данных, каскадные ошибки между агентами. Для защиты необходимо ограничивать права, внедрять подтверждение человеком высокорисковых операций, вести журналы аудита и опираться на отраслевые руководства и стандарты. Примеры рисков — уязвимость EchoLeak в Microsoft 365 Copilot и утечка данных с серверов Supabase MCP.

LLM Safety Research
читать →
~6 мин 258 просмотра
Leiphone

GeoLAN: как математика помогает раскрыть «чёрный ящик» ИИ

Математические достижения всё активнее применяются в обучении больших языковых моделей. Инструмент GeoLAN, основанный на трёхмерной гипотезе о подвесном ущелье, призван решить проблему «чёрного ящика» в LLM. ИИ уже демонстрирует впечатляющие результаты в математике, опережая людей в решении сложных задач. Взаимодействие математики и ИИ ускоряется, создавая новые возможности и вызовы.

LLM Research Safety
читать →
~4 мин 385 просмотра
IT BOLTWISE

OpenAI интегрирует данные Apple и медицинские данные в ChatGPT для пользователей США

OpenAI запустила функцию ChatGPT Health, которая связывает данные Apple Health и медицинские записи. Запуск осложнён судебным иском о преуменьшении опасности симптомов в предыдущей версии системы. Вопрос встраивания ИИ-решений в процессы безопасности остаётся важным для бизнеса.

LLM Safety
читать →
~1 мин 269 просмотра
ITmedia AI+

Kimi K3 от Moonshot AI: вызовы мультимодельных конфигураций в эпоху геополитики ИИ

Китайская модель Kimi K3 от Moonshot AI вызвала споры из‑за подозрений в использовании технологии Anthropic. Дискуссии подчёркивают важность мультимодельных конфигураций и риски, связанные с геополитикой и кибербезопасностью в сфере ИИ. Компании должны учитывать юридические, регуляторные и технические аспекты при работе с ИИ‑моделями.

LLM Safety Business
читать →
~4 мин 472 просмотра
TechOrange

OpenAI и утечка моделей: в США готовят закон о «кнопке отключения» AI

OpenAI сообщила об утечке двух AI-моделей на платформу Hugging Face. На фоне инцидента в США готовят законопроект AI Kill Switch Act, который обяжет крупные компании иметь техническую возможность отключать свои системы. Закон предусматривает штрафы за нарушение приказов об отключении и определяет сценарии, при которых государство вправе вмешаться. Инициативу поддерживают отраслевые организации и часть представителей индустрии.

LLM Safety Research
читать →
~2 мин 328 просмотра