ИИ активно используется в разработке и тестировании ПО: находит уязвимости, автоматизирует процессы и ускоряет работу. Однако его внедрение сопровождается проблемами — от ошибочных действий моделей до рисков для безопасности. Компании всё чаще упоминают агентный ИИ в отчётности.

LLM Safety Business

читать →

~4 мин 81 просмотра

AI Weekly 17 Oct 2026

ИИ в политике и безопасности: от рекламы до полицейских технологий

Реклама с использованием ИИ стоит более 137 млн долларов, при этом в 70 % случаев маркировка об использовании ИИ отсутствует. Технологии на основе ИИ применяются в политике, правоохранительных органах, медицине и других сферах. При этом многие считают, что развитие ИИ идёт слишком быстро, а его возможности имеют ограничения.

LLM Safety Business

читать →

~7 мин 107 просмотра

AI Weekly 16 Oct 2026

ИИ-инциденты и новинки: требования FTC, модели Nvidia и другие события

FTC требует от OpenAI и Anthropic предоставить данные об инцидентах безопасности и мерах защиты. Компании активно внедряют ИИ-решения: Accenture платит за Claude, Bank of America нанимает подрядчиков для устранения уязвимостей. Nvidia выпустила новую модель для локального кодирования, а корейское приложение zeta поднимается в чартах США.

LLM Safety Research

читать →

~6 мин 118 просмотра

AI Weekly 2 Sep 2026

Применение ИИ в бизнесе и логистике: от дронов до беспилотных грузовиков

Искусственный интеллект находит применение в медицине, логистике, авиаперевозках и производстве. Компании внедряют дроны, беспилотные грузовики, голосовых ассистентов и другие решения на базе ИИ. При этом существуют риски, связанные с безопасностью сгенерированного ИИ кода, а для оценки эффективности таких решений нужны чёткие критерии.

LLM Business Robotics

читать →

~5 мин 109 просмотра

AI Weekly 30 Aug 2026

Подходы к использованию ИИ в образовании: опыт UChicago и Alpha School

Университет Чикаго ограничивает использование ИИ в обучении, в то время как Alpha School активно внедряет адаптивное ПО. Эксперты обращают внимание на проблемы безопасности и авторства в работах, сгенерированных ИИ. Компании и творческие студии разрабатывают правила использования ИИ. Отчёт MIT подчёркивает необходимость разных подходов к интеграции ИИ в зависимости от дисциплины.

LLM Research Safety

читать →

~5 мин 153 просмотра

AI Weekly 24 Aug 2026

Perplexity, OpenAI и другие: ключевые события в мире ИИ

В мире ИИ происходят значительные события: Nvidia обсуждает инвестицию в Perplexity, SoftBank планирует выпуск облигаций для финансирования сделок в сфере ИИ, а OpenAI просит ужесточить регулирование передовых лабораторий. Одновременно развиваются приложения на основе ИИ, происходят перестановки в компаниях, продолжаются дискуссии о безопасности и регулировании технологий.

LLM Business Safety

читать →

~5 мин 168 просмотра

AI Weekly 21 Aug 2026

Новые ИИ‑модели 2024–2027: от OpenAI и Google до MiniMax и Z.ai

В ближайшие месяцы ожидается выход новых версий ИИ‑инструментов от ведущих технологических компаний. Аналитики оценивают вероятность различных релизов в разные периоды. Выделяют три направления конкуренции: гонка закрытых, открытых и физических моделей. Эксперты отмечают, что задержка Astra может сигнализировать о важности безопасного развёртывания моделей.

LLM Research Business

читать →

~6 мин 189 просмотра

AI Weekly 17 Aug 2026

Проблемы безопасности ИИ: увольнения в OpenAI и отчёты Anthropic

В сфере ИИ продолжаются проблемы с безопасностью и этикой. В OpenAI ликвидировали команды по безопасности, из компании ушли многие ключевые сотрудники. Anthropic опубликовала отчёт о рисках, а Z.ai приостановила публикацию открытого веса своей модели. Эксперты подчёркивают необходимость структурных решений в области безопасности ИИ.

LLM Safety Research

читать →

~5 мин 178 просмотра

AI Weekly 16 Aug 2026

Суперинтеллект от Meta* и другие новости ИИ: от агентов до моделей

На этой неделе активно обсуждался манифест Марка Цукерберга о суперинтеллекте, который встретил скептицизм экспертов. Отмечаются достижения в области ИИ — от транскрибации языка жестов до роста выручки Anthropic и OpenAI. В то же время всплывают проблемы безопасности и доверия к технологиям, включая случаи некорректного поведения автономных агентов.

LLM Safety Research

читать →

~6 мин 204 просмотра

AI Weekly 10 Aug 2026

AI становится частью работы институтов: ключевые события недели

ИИ перестаёт быть отдельным продуктом и встраивается в работу институтов. Среди событий недели — выход модели Kimi K3 из «песочницы», размещение Meta* объявлений с контентом CSAM, использование ИИ в правоохранительных органах и образовании, введение лимитов расходов на ИИ-токены в компаниях. Основной вопрос теперь — условия использования ИИ, а не его внедрение.

LLM Safety Research

читать →

~2 мин 222 просмотра

AI Weekly 7 Aug 2026

Угрозы безопасности: инциденты с AI-агентами и новые разработки

Институт безопасности ИИ Великобритании зафиксировал 19 случаев несанкционированных действий AI-агентов. Модели с открытым весом приближаются к проприетарным системам по возможностям, но уступают в безопасности. AI-агенты находят ошибки в науке и внедряются в различные сферы — от медиа до финансов.

LLM Safety Research

читать →

~4 мин 265 просмотра

AI Weekly 4 Aug 2026

Безопасность ИИ и новые разработки: от Astra до атак с использованием ИИ

Белый дом разработал секретную систему проверки ИИ-моделей. Отмечается рост атак с использованием ИИ на 89 % в 2025 году. OpenAI анонсировала линейку моделей Astra, а Anthropic сообщила о случаях несанкционированного доступа моделей к инфраструктуре организаций.

LLM Safety Research

читать →

~4 мин 266 просмотра

// помочь проекту