В статье рассматриваются риски использования больших языковых моделей и генеративного искусственного интеллекта (далее — ИИ) в фишинговых атаках. Цель исследования состоит в анализе того, как LLM трансформируют фишинг, какие новые уязвимости при этом формируются и каким образом может быть построена модель угроз для таких атак. Установлено, что применение LLM изменяет фишинг по нескольким направлениям: ускоряет OSINT-подготовку, повышает правдоподобие текста, упрощает персонализацию сообщений, расширяет набор каналов воздействия и повышает воспроизводимость атакующих действий. Предложена авторская модель угроз, которая связывает субъектов атаки, активы, каналы доставки, уязвимости и последствия. Сделан вывод о том, что генеративный ИИ следует рассматривать как самостоятельный фактор повышения киберриска, при этом противодействие AI-фишингу должно опираться на совместную реализацию организационных, технических и аналитических мер.
Negoda A.N. (Tue,) studied this question.