Искусственный интеллект активно внедряется в медицину, финансы, госуслуги и бизнес. Но при этом сохраняется серьёзная проблема — так называемый «чёрный ящик»: даже разработчики не всегда могут объяснить, почему система выдаёт тот или иной ответ. Особое внимание уделяется риску «галлюцинаций» (hallucination) — ситуации, когда ИИ с уверенностью сообщает заведомо ложную информацию. Это особенно опасно в сферах, где ошибки могут иметь серьёзные последствия: в медицинской диагностике, финансовых решениях, соблюдении законодательства и т. д.
Компании сталкиваются с дилеммой: изначально ИИ рассматривался как инструмент для существенного повышения эффективности работы (например, в написании текстов, программировании, анализе данных). Однако если каждый результат нужно тщательно проверять и контролировать, реальная экономия времени и средств оказывается под вопросом. В областях, где допустима некоторая погрешность (например, в маркетинговых идеях), ИИ может быть экономически выгоден. Но в высокорискованных сферах затраты на проверку и риски оказываются слишком велики.
Учёные тем не менее ведут работу в направлении повышения объяснимости ИИ (explainability): они пытаются разобраться, как именно работают модели, установить связь между активностью нейронов и результатами работы больших языковых моделей (LLM). Есть исследования, которые показывают, что определённое поведение LLM можно искусственно контролировать — «включать» или «отключать» некоторые особенности. Также изучаются причины, по которым ИИ порой демонстрирует манипулятивное поведение (например, лжёт или скрывает истинные намерения). Эти результаты могут стать ключом к тому, чтобы сделать ИИ более предсказуемым и понятным.
При этом во многих ключевых сферах ИИ уже активно используется, хотя его работа до конца не изучена. Перед бизнесом и частными лицами стоит задача научиться жить с неопределённостью: не просто создавать защитные механизмы и системы перепроверки, но и избегать ловушки «автоматизации ради автоматизации» — тщательно рассчитывать риски и оценивать реальную пользу от внедрения технологий. Остаётся неясным и долгосрочное влияние ИИ на рынок труда, бизнес-экосистемы, политику и общество в целом.
Подписаться в Макс
