Hugging Face представила открытую модель Carbon-X для анализа ДНК с помощью естественного языка. Модель показала результаты, близкие к GPT-6.1 Sol, при значительно более низкой стоимости вычислений. Она предназначена для исследователей и может использоваться для интерпретации генетических данных, но пока не прошла клинические испытания и не подходит для медицинских решений.

LLM Research Safety

читать →

~3 мин 67 просмотра

T TechOrange

TechOrange 23 Oct 2026

Контроль над ИИ: стратегии и риски от экспертов отрасли

Эксперты обсудили риски и стратегии контроля над ИИ на форуме TechOrange. Обсуждались проблемы понимания данных, рисков отключения и стандартизации. Предложены подходы к внедрению AI Agent, обеспечению семантической согласованности данных, контролю доступа и управлению рисками. Прогнозы указывают на возможные отмены 40% проектов с агентским ИИ к 2027 году.

LLM Safety Business

читать →

~6 мин 48 просмотра

T TechOrange

TechOrange 22 Oct 2026

Уязвимости в PHP: экстренное исправление и роль AI в анализе угроз

PHP экстренно исправил две серьёзные уязвимости, позволяющие удалённо выполнять код без аутентификации. Утечка информации об уязвимостях произошла раньше запланированного срока, что привело к временным приостановкам работы ряда сайтов и порталов. Исследователи используют AI-модели для анализа угроз и разработки методов защиты.

LLM Safety Research

читать →

~4 мин 62 просмотра

T TechOrange

TechOrange 21 Oct 2026

Сингапур ищет подходы к регулированию AI-агентов

Сингапур изучает, как ответственно внедрять агентные ИИ-системы, и пересматривает регуляторные рамки под растущую автономность таких систем. Власти рассматривают дополнительные меры безопасности для высокорисковых применений ИИ, при этом опираясь на уже действующие законы и практики. Параллельно обсуждаются вопросы ответственности разработчиков ИИ-систем.

LLM Safety Research

читать →

~2 мин 74 просмотра

T TechOrange

TechOrange 21 Oct 2026

Дело Bartz v. Anthropic: новые правила использования данных для AI

Решение по делу Bartz v. Anthropic установило новые правила использования данных для обучения AI-моделей. Компании теперь вынуждены предварительно лицензировать данные и проводить аудит баз данных. В перспективе ожидается появление коллективных организаций по лицензированию авторских прав для AI.

LLM Safety Research

читать →

~4 мин 60 просмотра

T TechOrange

TechOrange 21 Oct 2026

ECHOTRIBBLE: армия США разрабатывает автономные AI-агенты для кибератак

Армия США разрабатывает автономные AI-агенты в рамках проекта ECHOTRIBBLE для выполнения кибератак с минимальным участием человека. Эксперты опасаются, что такие агенты могут случайно нанести ущерб гражданским системам, особенно малозащищённым организациям. Проект пока находится на ранней стадии — победитель конкурса ещё не объявлен, а детали контракта и развёртывания неизвестны.

LLM Safety Research

читать →

~2 мин 83 просмотра

T TechOrange

TechOrange 20 Oct 2026

Microsoft и Nscale: проблемы с дата-центром в Великобритании и другие новости AI

Microsoft прекратила соглашение с Nscale о строительстве дата-центра в Великобритании. Финансовые учреждения усиливают контроль над AI-агентами. В Южной Корее одобрено проведение испытаний 20 человекоподобных роботов. CERT-In предупредил о случаях превышения полномочий AI-агентами в Индии.

LLM Safety Robotics

читать →

~4 мин 108 просмотра

T TechOrange

TechOrange 19 Oct 2026

NVIDIA и рынок Neocloud: риски в сфере AI-вычислений

NVIDIA поддерживает облачные компании в сфере AI (Neocloud) инвестициями и гарантиями, но этот сектор сталкивается с серьёзными рисками: высокой задолженностью, быстрой сменой технологий и усиливающейся конкуренцией. Прогнозы говорят, что большинство таких компаний могут исчезнуть или быть поглощены к 2030 году. При этом обязательства NVIDIA перед партнёрами достигают сотен миллиардов долларов, и проблемы у Neocloud могут обернуться финансовыми рисками для самой компании.

LLM Business Safety

читать →

~3 мин 82 просмотра

T TechOrange

TechOrange 16 Oct 2026

Bank of America задействовал 1000 подрядчиков для устранения уязвимостей Mythos

Bank of America привлёк 1000 внешних подрядчиков для устранения уязвимостей, обнаруженных моделью ИИ Mythos от Anthropic. Банки ускоряют исправление проблем безопасности, но это создаёт новые риски, связанные с привлечением внешних специалистов. При этом ИИ также помогает банкам экономить средства.

LLM Safety Business

читать →

~2 мин 103 просмотра

T TechOrange

TechOrange 16 Oct 2026

TSMC и Terafab, Anthropic и защита моделей: новости из мира ИИ и чипов

TSMC ведёт переговоры с проектом Terafab Маска, Anthropic усилила защиту от несанкционированного извлечения моделей, NVIDIA выделит 250 млн долларов на исследования безопасности ИИ в Великобритании. Восемь штатов США подали иски против OpenAI из‑за работы ChatGPT, Applied Materials и партнёры открыли исследовательский центр EPIC, SK hynix добивается разрешений на поставку оборудования в Китай, AWS представила Physical AI Toolchain с инструментами от NVIDIA.

LLM Safety Research

читать →

~1 мин 103 просмотра

TechOrange 3 Sep 2026

Управление AI Agent: как обезопасить предприятия от рисков

С ростом числа AI Agent возрастают риски для предприятий, включая угрозы безопасности. Чтобы эффективно управлять агентами и минимизировать риски, компаниям нужны специальные платформы. Они должны обеспечивать контроль прав, аудит, ручное одобрение операций и фиксацию всех действий. Практичный подход — начать с автоматизации 1–2 проверенных процессов и постепенно повышать автономность агентов.

LLM Safety Business

читать →

~6 мин 81 просмотра

TechOrange 2 Sep 2026

Anthropic выпустила Fable 5.1 и Mythos 5.1: новые возможности и система EFS

Anthropic выпустила модели Fable 5.1 и Mythos 5.1 с улучшенными возможностями и механизмом контроля использования ИИ. Fable 5.1 ориентирована на длительные сложные задачи, при этом компания снизила затраты на кэширование. Также анонсирована система EFS для повышения безопасности использования ИИ в предприятиях.

LLM Safety Business

читать →

~3 мин 93 просмотра

// помочь проекту