Google DeepMind совместно с Агентством технологических услуг Сингапура (GovTech Singapore) разрабатывает модель обнаружения мошенничества на основе дообученной модели Gemma. Проблема актуальна: мошенничество (в том числе инвестиционные аферы, поддельные предложения о работе, выдача себя за госслужащих) составляет более половины зарегистрированных в Сингапуре преступлений, а на схемы с применением социальной инженерии приходится до 80 % потерь.
В отличие от традиционных методов, где сообщения сканируются на сервере в облаке, новая модель обрабатывает данные прямо на устройстве пользователя — при этом личная информация остаётся защищённой. Модель дообучали на местных примерах мошеннических разговоров: от выдачи себя за государственные учреждения и банки до популярных региональных схем. Когда модель внедрят в приложения, она в реальном времени будет предупреждать пользователя о подозрительных разговорах — и тем самым поможет избежать утечки данных и финансовых потерь.
Работа модели построена в два этапа. На первом лёгкий классификатор с минимальным энергопотреблением отфильтровывает входящие сообщения и выявляет потенциальные угрозы. На втором — дообученная модель Gemma анализирует более объёмный фрагмент беседы, чтобы подтвердить угрозу или отклонить ложное срабатывание.
При разработке строго соблюдались правила управления данными: дообучение проходило в управляемой среде GCP от GovTech Singapore, при этом использовались анонимизированные данные из отчётов о мошенничестве — личная информация не задействовалась. Модель протестировали на синтетических диалогах и локальных корпусах данных — это позволило охватить разные категории мошенничества и новые тактики выдачи себя за других лиц.
Развёртывание модели в приложениях будет поэтапным — в партнёрстве с правительством Сингапура. Модель сможет получать доступ к разговорам на устройстве только с согласия пользователя. Ни правительство Сингапура, ни Google не смогут получить доступ к разговорам пользователей через эту модель.
Проект продемонстрировал, как технологии ИИ могут бороться с преступностью, не ущемляя права и приватность людей. Также он показал, что правительства и разработчики моделей могут сотрудничать ради общественного блага.
S$4 billion in losses since 2019
National AI Partnership
Подписаться в Макс
