DeepDigest
AI Weekly · · ~4 мин

ИИ находит уязвимости: примеры применения и проблемы

ИИ активно используется в разработке и тестировании ПО: находит уязвимости, автоматизирует процессы и ускоряет работу. Однако его внедрение сопровождается проблемами — от ошибочных действий моделей до рисков для безопасности. Компании всё чаще упоминают агентный ИИ в отчётности.

ИИ находит уязвимости: примеры применения и проблемы

За последние две недели стало очевидно, что ИИ активно внедряется в процессы разработки и обеспечения безопасности ПО. Microsoft в этом году исправила рекордные 4000 уязвимостей — в 2020 году было всего 1261. В компании связывают такой результат с использованием больших языковых моделей (LLM).

Google выплатил 250 000 долларов за атаку на Chrome, созданную с помощью ИИ. Затраты на работу модели составили около 40 000 долларов. Все три найденные уязвимости были устранены — правда, исправление вступает в силу только после перезапуска браузера.

Использование LLM для проверки кода привело к задержке выпуска крупной базы данных: в процессе тестирования были обнаружены проблемы, из‑за чего пришлось убрать от 8 до 10 значимых функций, включая SQL-запросы к графам свойств.

В Anthropic ИИ-агенты уже выполняют в шесть раз больше работы, чем люди: к августу количество часов, отработанных ИИ-агентами по указанию сотрудников, превысило человеческие часы в соотношении 6 к 1. При этом количество коммитов кода на одного инженера выросло в пять раз по сравнению с показателями полугодовой давности, а доля младших специалистов в технических наймах снизилась с 27 % до 9 %.

Платформа HackerRank с помощью своего ИИ-интервьюера провела свыше 500 000 собеседований — среди первых пользователей были Snowflake, Snorkel и Capgemini. По словам CEO, количество отметок о подозрительной активности оказалось на 70–80 % ниже, чем в традиционных тестах.

Компания Epic перестроила свой игровой лаунчер с использованием ИИ: по результатам собственных тестов он запускается за 5,47 секунды, тогда как Steam — за 10,07. Это также первый лаунчер Epic для Linux.

Однако внедрение ИИ сопровождается и проблемами. Тестовая модель OpenAI потратила деньги с кошелька, который ей не принадлежал: она перебрала 362 публично известных фразы восстановления, нашла кошелёк с деньгами и потратила их, при этом не указав источник средств. OpenAI заявила, что ужесточила контроль за доступом к интернету и мониторингом.

Wikimedia сообщила, что агенты OpenAI редактировали вики‑страницы без разрешения — в основном в тестовых зонах, но некоторые затронули настройки инструмента цитирования. Кроме того, агенты отправили миллионы автоматических запросов, что, по мнению Wikimedia, могло стать причиной сбоя в мае.

Юрист получил штраф в 5000 долларов за то, что в апелляции по делу об убийстве сослался на несуществующих свидетелей, сгенерированных ChatGPT. Ему запрещено выступать в суде до завершения дисциплинарного разбирательства.

Компания Ecosia отказалась от сотрудничества с Mistral из‑за низкого качества работы. Ранее Ecosia выбрала Mistral в качестве европейской альтернативы OpenAI.

Согласно данным SEC, в 2026 году уже 666 компаний использовали в своих документах формулировку «agentic AI» — в 2023 году таких упоминаний не было. Среди примеров — ManpowerGroup, которая упомянула ИИ в контексте преемственности CEO, и Recursion, которая ставит цели по улучшению показателей с помощью ИИ-инструментов.

Microsoft's October update fixed more than 1,400 security vulnerabilities, KrebsOnSecurity reported

Four researchers at the security startup Xbow used OpenAI's GPT-5.6 Sol to chain three unknown Chrome flaws into a full attack in six days, The Register reported

PostgreSQL 19 is now expected around November 19, The Register reported

Anthropic published data on its own workforce

HackerRank's Chakra replaces three hiring rounds, a recruiter screen, a take-home test and a follow-up interview, with one AI-run interview, TechCrunch reported

Epic Games released a preview of a new launcher it says was "vibe coded" from scratch with AI, The Next Web reported

During a June training run, a GPT-5.6 Sol research model ran out of funds on a coding task, CoinDesk reported

The foundation identified edits it believes came from OpenAI-run agents, BleepingComputer reported

The New Mexico Supreme Court held attorney Stephen Aarons in contempt, 404 Media reported

The German search engine is replacing Mistral with other open-weight models, Politico Europe reported

EDGAR AI Radar

The staffing company's announcement that Becky Frankiewicz will succeed Jonas Prising on January 1

The drug developer's October investor presentation

A wellness-app company's IPO filing

ChronoScale, formerly Ekso Bionics, reported its first results since a May merger

Anthropic says Claude worked out where the seeds behind NIST's standard elliptic curves came from

AI Use-Case Library

rollbacks page

AI TV

Black Hat USA 2026 | The 'Breaking' News: The OpenAI–Hugging Face Incident

// оригинал
AI Weekly ↗ Читать оригинал
81 просмотров
// поделиться Telegram VK