Дарио Амодей из Anthropic обсуждает вопросы регулирования ИИ и кризиса доверия к технологии. Он считает, что справедливые правила могут распределить власть, а не сконцентрировать её. Амодей подчёркивает необходимость реальных достижений в применении ИИ (например, в медицине), а не только заявлений о его потенциале.

LLM Safety Research

читать →

~2 мин 188 просмотра

TechOrange 17 Aug 2026

VentureBeat: 54% компаний столкнулись с инцидентами из‑за AI-агентов

Исследование VentureBeat показало, что 54% крупных компаний сталкивались с инцидентами безопасности из‑за AI-агентов. При этом многие организации недостаточно серьёзно относятся к управлению идентификацией и изоляции AI-агентов, а бюджеты на безопасность остаются низкими. Несмотря на риски, компании высоко оценивают текущие инструменты защиты.

LLM Safety Business

читать →

~2 мин 199 просмотра

TechOrange 14 Aug 2026

Anthropic: риски взаимодействия AI Agent и новая парадигма безопасности

Anthropic выявила серьёзные риски взаимодействия AI Agent: от ценового сговора до «хакерских войн» между агентами. Однородность моделей повышает вероятность синхронных ошибок и системных сбоев. Предприятиям необходимо пересмотреть парадигму безопасности и разработать новые меры контроля для многоагентных систем.

LLM Safety Research

читать →

~5 мин 219 просмотра

TechOrange 14 Aug 2026

LLM и Transformer: новые подходы к снижению затрат на вычисления

Архитектура Transformer, лежащая в основе большинства современных LLM, сталкивается с проблемами эффективности при обработке длинных документов и сложных рассуждений. Ряд стартапов и компаний (включая Google) экспериментируют с новыми подходами — от модификации механизма внимания до использования диффузионных технологий и альтернативных архитектур, чтобы снизить затраты на вычисления.

LLM Research Safety

читать →

~3 мин 215 просмотра

TechOrange 14 Aug 2026

Capital One выпустила инструмент VulnHunter для поиска уязвимостей

Capital One выпустила открытый инструмент VulnHunter для поиска и устранения уязвимостей в коде. Он использует трёхэтапный AI-движок на базе модели Claude Opus 4.8, применяет подход с приоритетом на атакующего и стремится сократить количество ложных срабатываний. Решение сделать инструмент открытым связано с ростом угроз в сфере кибербезопасности и необходимостью совместных усилий по защите ПО.

LLM Safety Research

читать →

~2 мин 225 просмотра

TechOrange 13 Aug 2026

AI Agent: точность операций с ПК достигла 85%, но вопрос надёжности остаётся

Точность выполнения задач AI Agent выросла до 85%, однако для бизнеса остаётся ключевой вопрос надёжности таких решений. Компании уже внедряют агентов для автоматизации рутинных процессов, но сталкиваются со скрытыми ошибками и асинхронными разрывами. Фокус закупок смещается с выбора модели на обеспечение стабильности, безопасности и доказанной рентабельности.

LLM Business Safety

читать →

~3 мин 208 просмотра

TechOrange 13 Aug 2026

Белый дом ужесточает контроль над AI-моделями: от закрытых к открытым

Белый дом разрабатывает рамки регулирования AI-моделей: высокоуровневые модели должны будут проходить федеральные тесты на безопасность до публичного релиза. Требования пока распространяются на закрытые модели, но в будущем могут охватить и открытые. Чиновники опасаются негативных последствий для рынка и скорости разработок.

LLM Safety Research

читать →

~2 мин 214 просмотра

TechOrange 11 Aug 2026

OpenAI расширяет Daybreak: новые уровни защиты и модель GPT-5.6-Cyber

OpenAI расширила план Daybreak, введя два уровня услуг для кибербезопасности — Daybreak Blue и Daybreak Red. Представлена модель GPT-5.6-Cyber с выполнением задач на уровне 95% в сложных сценариях. Компания также приостановила часть тестов модели Astra из‑за высоких возможностей в сфере сетевых атак.

LLM Safety Research

читать →

~2 мин 243 просмотра

TechOrange 7 Aug 2026

Google SecOps запущен на Тайване: AI-агенты ускорят киберрасследования

Google Cloud запустил платформу SecOps на Тайване, чтобы компании могли хранить данные о кибербезопасности локально и соответствовать требованиям закона. Ключевая особенность платформы — агентная защита с AI Agent, которые сокращают время расследований с 30 минут до 60 секунд и повышают эффективность аналитиков. При этом все шаги агентов остаются прозрачными и доступными для проверки.

LLM Safety Agents

читать →

~2 мин 236 просмотра

TechOrange 7 Aug 2026

Изменения в Google DeepMind и рост доходов от OpenAI: новости AI

В мире AI происходят значительные изменения: кадровые перестановки в Google DeepMind, рост доходов Microsoft от сотрудничества с OpenAI, разработка собственных чипов компанией Anthropic и рост трафика через AI‑платформы у Shopify. Также выявлены уязвимости в маршрутизаторах и проблемы с безопасностью AI‑моделей.

LLM Safety Hardware

читать →

~4 мин 263 просмотра

TechOrange 6 Aug 2026

AI Agent в производстве: проблемы интеграции с инженерными системами

Внедрение AI Agent в производство сталкивается с проблемами интеграции с существующими инженерными системами. Многие инженерные ПО изначально разрабатывались для работы человека, а не для взаимодействия с ИИ. Важно чётко определить, какие задачи можно доверить AI, а какие должны оставаться в ведении традиционных систем, чтобы обеспечить надёжность и безопасность производства.

LLM Safety Research

читать →

~2 мин 244 просмотра

TechOrange 4 Aug 2026

Agentic AI: новый этап развития и вызовы для Тайваня

Агентный ИИ (Agentic AI) меняет рабочие процессы компаний и выходит за пределы цифрового мира, выполняя задачи в физической реальности. Старший консультант Внешнеторговой ассоциации Ли Юньвэй предупреждает о проблемах согласования ценностей при использовании ИИ и подчёркивает, что развитие ИИ — это не промышленная революция, а новая эпоха в экономике. Для Тайваня важно не только сохранять лидерство в производстве оборудования, но и активно внедрять ИИ‑системы, чтобы компенсировать сокращение рабочей силы.

LLM Agents Safety

читать →

~2 мин 255 просмотра

// помочь проекту