Deep Digest

TechNews / AI 16 Jul 2026

Проблема «чёрного ящика» и галлюцинаций в ИИ: вызовы для бизнеса

ИИ активно внедряется в разные сферы, но остаётся проблема «чёрного ящика» и риска «галлюцинаций», когда система выдаёт ложную информацию. Компании сталкиваются с необходимостью балансировать между потенциальной выгодой и затратами на проверку результатов. Учёные работают над повышением объяснимости ИИ, но многие вопросы остаются открытыми.

LLM Safety Research

читать →

~2 мин 618 просмотра

Google DeepMind 16 Jul 2026

Google DeepMind и Isomorphic Labs: подход к биоустойчивости с помощью ИИ

Google DeepMind и Isomorphic Labs представили подход к обеспечению биоустойчивости с помощью ИИ. За последний год компании наладили более 15 партнёрств для борьбы с угрозами в сфере биобезопасности. Ключевую роль играют разработки вроде AlphaFold, IsoDDE и AlphaGenome — они позволяют заранее выстраивать защиту от эпидемий и ускорять поиск лекарств.

LLM Safety Research

читать →

~2 мин 982 просмотра

TechNews / AI 15 Jul 2026

Япония запускает новый этап развития ИИ: от чипов до роботов

Япония выстраивает комплексную стратегию развития ИИ, объединяя усилия технологических и энергетических компаний. Акцент делается на создании центров обработки данных, развитии аппаратного обеспечения и интеграции ИИ с реальным производством. Цель — построить экосистему, которая обеспечит стране конкурентные преимущества в эпоху сверхинтеллектуальных технологий.

LLM Robotics Hardware

читать →

~2 мин 628 просмотра

Leiphone 15 Jul 2026

OpenAI: уход Fidji Simo и перераспределение полномочий в компании

Fidji Simo, отвечавшая в OpenAI за внедрение AGI, покидает пост CEO подразделения из‑за проблем со здоровьем. Её полномочия распределены между тремя топ‑менеджерами компании. Уход Simo совпал с выпуском инструмента ChatGPT Work, что добавляет неопределённости в планы OpenAI по развитию на B2B‑рынке.

LLM Business Research

читать →

~2 мин 596 просмотра

TechNews / AI 15 Jul 2026

PNG-изображения как инструмент атаки на AI-помощники для кода

Исследователи показали, что PNG-изображения могут использоваться для атак на AI-помощники для работы с кодом. Вредоносные инструкции, скрытые в изображениях, активируются позже и могут привести к утечке конфиденциальных данных. Уровень риска зависит от особенностей реализации AI-помощника, а не только от LLM.

LLM Multimodal Safety

читать →

~2 мин 571 просмотра

TechOrange 15 Jul 2026

Agentic AI в бизнесе: 4 проблемы управления и готовность компаний

AI Agent всё активнее внедряется в бизнес-процессы, но компании не всегда готовы к таким изменениям. Внедрение автономных систем порождает проблемы управления, вопросы ответственности и безопасности. Ключевое значение имеет состояние данных и процессов в компании, а также обучение сотрудников.

LLM Business Safety

читать →

~4 мин 387 просмотра

Computerwoche 15 Jul 2026

Нобелевские лауреаты предупреждают: ИИ может уничтожить рабочие места

Около 200 экспертов, включая нобелевских лауреатов, призвали политиков активнее реагировать на экономические последствия развития ИИ. Они предупреждают о риске массового сокращения рабочих мест в ближайшие десять лет и подчёркивают, что общество должно заранее готовиться к изменениям, которые принесёт ИИ.

LLM Safety Research

читать →

~2 мин 395 просмотра

Leiphone 15 Jul 2026

Virtue AI и Meta*: безопасность ИИ в эпоху персонализированных агентов

Virtue AI разрабатывает систему безопасности ИИ для корпоративных клиентов. Компания доказала свою ценность для Meta*, предложив не отдельный продукт, а целую инфраструктуру безопасности. Персонализированные агенты увеличивают риски, поэтому безопасность должна внедряться на всех этапах — от проектирования до эксплуатации. В будущем акцент сместится с безопасности модели на безопасность системы и агентов.

LLM Safety Agents

читать →

~7 мин 589 просмотра

Leiphone 15 Jul 2026

GPT 5.6 от OpenAI: новые агентные технологии и возможности

OpenAI представила GPT 5.6 и связанные с ним решения: ChatGPT Work, десктоп-приложение ChatGPT, Hosted Sites, модели Soul, Terra, Luna. Цель разработок — превратить ChatGPT в исполнительную систему, способную принимать и выполнять рабочие задачи. Особое внимание уделено вопросам безопасности, контроля рисков и эффективности работы многоагентных систем.

LLM Agents Safety

читать →

~5 мин 618 просмотра

TechNews / AI 15 Jul 2026

Anthropic продлила доступ к Claude Fable 5 до 19 июля

Anthropic продлила срок продвижения модели Claude Fable 5 с 12 до 19 июля. Пользователи с платными подписками могут бесплатно использовать модель в пределах 50% недельного лимита. Компания также увеличила лимит использования Claude Code на 50%. Конкуренцию Claude Fable 5 составляет модель GPT-5.6 от OpenAI.

LLM

читать →

~1 мин 650 просмотра

Golem.de / KI 15 Jul 2026

Claude 3: проверка следования заданным принципам

Anthropic изучила, насколько модель Claude 3 следует заданным ценностям и принципам в общении. Модель демонстрирует схожие базовые ценности на разных языках, при этом её ценности близки к западным. Исследование также показало, что Claude 3 следует правилам Constitutional AI, даже когда отвечает на арабском языке.

LLM

читать →

~1 мин 648 просмотра

TechNews / AI 15 Jul 2026

Anthropic, OpenAI и Google против «дистилляции» AI-моделей

Anthropic, OpenAI и Google обвиняют конкурентов в масштабном использовании выходных данных их моделей («дистилляции») для создания более дешёвых решений. Это вскрыло противоречия в индустрии ИИ: ранее компании оправдывали сбор данных принципом «разумного использования», а теперь протестуют против аналогичного применения к своим моделям. Эксперты видят в ситуации игру в «кошки‑мышки».

LLM

читать →

~2 мин 604 просмотра

Всё важное об ИИ — в одной ленте