Искусственный интеллект уже влияет на науку и экономику, предлагая решения сложных задач в математике и биологии, ускоряя автоматизацию экспериментов. Ожидается, что к 2030 году ВВП США может достичь 44 трлн долларов благодаря автономному выполнению задач ИИ. Необходимо тщательно планировать использование ИИ и разрабатывать правила его применения.

LLM Research Safety

читать →

~6 мин 83 просмотра

T TechOrange

TechOrange 19 Oct 2026

NVIDIA и рынок Neocloud: риски в сфере AI-вычислений

NVIDIA поддерживает облачные компании в сфере AI (Neocloud) инвестициями и гарантиями, но этот сектор сталкивается с серьёзными рисками: высокой задолженностью, быстрой сменой технологий и усиливающейся конкуренцией. Прогнозы говорят, что большинство таких компаний могут исчезнуть или быть поглощены к 2030 году. При этом обязательства NVIDIA перед партнёрами достигают сотен миллиардов долларов, и проблемы у Neocloud могут обернуться финансовыми рисками для самой компании.

LLM Business Safety

читать →

~3 мин 82 просмотра

AI Weekly 17 Oct 2026

ИИ в политике и безопасности: от рекламы до полицейских технологий

Реклама с использованием ИИ стоит более 137 млн долларов, при этом в 70 % случаев маркировка об использовании ИИ отсутствует. Технологии на основе ИИ применяются в политике, правоохранительных органах, медицине и других сферах. При этом многие считают, что развитие ИИ идёт слишком быстро, а его возможности имеют ограничения.

LLM Safety Business

читать →

~7 мин 107 просмотра

ITmedia AI+ 17 Oct 2026

Anthropic и METR: новый уровень оценки рисков в сфере ИИ

Anthropic предоставила METR доступ к своим системам на уровне сотрудников. METR планирует публиковать анализ рисков и инцидентов, связанных с деятельностью компании. CEO OpenAI поддержал идею оценки рисков и заявил о намерении реализовать аналогичные меры.

LLM Safety Research

читать →

~2 мин 152 просмотра

T TechOrange

TechOrange 16 Oct 2026

Bank of America задействовал 1000 подрядчиков для устранения уязвимостей Mythos

Bank of America привлёк 1000 внешних подрядчиков для устранения уязвимостей, обнаруженных моделью ИИ Mythos от Anthropic. Банки ускоряют исправление проблем безопасности, но это создаёт новые риски, связанные с привлечением внешних специалистов. При этом ИИ также помогает банкам экономить средства.

LLM Safety Business

читать →

~2 мин 103 просмотра

L Leiphone

Leiphone 16 Oct 2026

Anthropic: от дорожной карты 2021 года до Claude 5.5

Компания Anthropic за пять лет реализовала план, заложенный в дорожной карте 2021 года. Она последовательно развивала большие генеративные модели, уделяя внимание безопасности и масштабированию. Среди достижений — серия моделей Claude, внедрение протокола MCP и лидерство в исследованиях безопасности ИИ.

LLM Safety Research

читать →

~8 мин 147 просмотра

AI Weekly 16 Oct 2026

ИИ-инциденты и новинки: требования FTC, модели Nvidia и другие события

FTC требует от OpenAI и Anthropic предоставить данные об инцидентах безопасности и мерах защиты. Компании активно внедряют ИИ-решения: Accenture платит за Claude, Bank of America нанимает подрядчиков для устранения уязвимостей. Nvidia выпустила новую модель для локального кодирования, а корейское приложение zeta поднимается в чартах США.

LLM Safety Research

читать →

~6 мин 118 просмотра

T TechOrange

TechOrange 16 Oct 2026

TSMC и Terafab, Anthropic и защита моделей: новости из мира ИИ и чипов

TSMC ведёт переговоры с проектом Terafab Маска, Anthropic усилила защиту от несанкционированного извлечения моделей, NVIDIA выделит 250 млн долларов на исследования безопасности ИИ в Великобритании. Восемь штатов США подали иски против OpenAI из‑за работы ChatGPT, Applied Materials и партнёры открыли исследовательский центр EPIC, SK hynix добивается разрешений на поставку оборудования в Китай, AWS представила Physical AI Toolchain с инструментами от NVIDIA.

LLM Safety Research

читать →

~1 мин 103 просмотра

Google DeepMind 16 Oct 2026

Google DeepMind и правительство Сингапура создают модель для обнаружения мошенничества

Google DeepMind и GovTech Singapore создают модель обнаружения мошенничества на основе дообученной модели Gemma. Модель обрабатывает данные прямо на устройстве пользователя, предупреждая его о подозрительных разговорах в реальном времени. При разработке соблюдались строгие правила защиты данных.

LLM Safety

читать →

~2 мин 228 просмотра

TechOrange 3 Sep 2026

Управление AI Agent: как обезопасить предприятия от рисков

С ростом числа AI Agent возрастают риски для предприятий, включая угрозы безопасности. Чтобы эффективно управлять агентами и минимизировать риски, компаниям нужны специальные платформы. Они должны обеспечивать контроль прав, аудит, ручное одобрение операций и фиксацию всех действий. Практичный подход — начать с автоматизации 1–2 проверенных процессов и постепенно повышать автономность агентов.

LLM Safety Business

читать →

~6 мин 81 просмотра

ITmedia AI+ 3 Sep 2026

Anthropic представила EFS для защиты корпоративных клиентов

Anthropic запустила механизм EFS для корпоративных клиентов: он обеспечивает конфиденциальность на уровне ZDR и позволяет выявлять неправомерное использование системы. Данные для мониторинга хранятся в облаке клиента, а уведомления о угрозах поступают его команде безопасности. Решение разрабатывалось совместно с более чем 100 компаниями.

LLM Safety Business

читать →

~2 мин 133 просмотра

TechOrange 2 Sep 2026

Anthropic выпустила Fable 5.1 и Mythos 5.1: новые возможности и система EFS

Anthropic выпустила модели Fable 5.1 и Mythos 5.1 с улучшенными возможностями и механизмом контроля использования ИИ. Fable 5.1 ориентирована на длительные сложные задачи, при этом компания снизила затраты на кэширование. Также анонсирована система EFS для повышения безопасности использования ИИ в предприятиях.

LLM Safety Business

читать →

~3 мин 93 просмотра

// помочь проекту