代理人工智能的LLM可扩展性风险与模型供应链安全

大型语言模型（LLMs）和生成性人工智能正在改变网络安全，既推动了先进的防御措施，也带来了新的攻击方式。组织现在使用LLMs进行威胁检测、代码审查和DevSecOps自动化，而对手则利用它们来制作恶意软件和开展针对性的社会工程活动。本文提出了一种统一分析，整合了以GenAI驱动的网络安全的攻防视角。通过70个学术、行业和政策来源，分析了AI促进的威胁的崛起及其对全球安全的影响，以确立可扩展防御机制的必要性。我们介绍了两个主要贡献：LLM可扩展性风险指数（LSRI），一个参数框架，用于在安全关键环境中对部署LLMs的操作风险进行压力测试；以及一个模型供应链框架，可在模型生命周期内建立可验证的信任根。我们还综合了来自Google Play Protect、Microsoft Security Copilot等平台的防御策略，并概述了安全大规模LLM部署的治理路线图.