数字安全观察

边缘AI将模型执行、模型知识产权、客户数据及系统权限迁移至客户自有并运营的基础设施中。这一转变改变了在敏感资产释放之前，由谁负责验证技术栈的问题。

边缘AI。所涵盖的AI系统，其推理过程在设备、传感器或其他本地环境（即数据产生并据此采取行动之处）上或附近运行，而非完全依赖集中式云服务。选择边缘AI的原因包括成本、模型选择、数据主权、延迟以及断网运行能力。

边缘AI改变了AI系统的信任模型。

在云AI中，硬件、平台和模型权重由不同公司分别拥有并认证。而边缘AI部署通常让客户掌控AI技术栈的更多部分。这改变了安全模型，因为客户现在需负责在AI运行的环境中建立信任。

在边缘AI中，提示注入、模型篡改或恶意固件更新等攻击，可能发生在存储模型、客户数据、凭据及物理系统访问权限的同一环境中。这使原本由云提供商处理的信任决策转移至客户。模型提供商和客户现在共同承担风险：提供商的模型在客户自有基础设施上运行，而客户必须保护该环境中运行的系统、数据和模型。

边缘AI带来了哪些变化？

组织应采取哪些措施？

我们关于。AI系统威胁建模的文章。涵盖了与底层模型相关的安全与保障问题。这些问题同样适用于边缘AI。边缘AI还提出了另一个问题：在释放权重、密钥或数据之前，有哪些证据能证明运行时及加载的组件值得信赖？

为何边缘AI增加了风险暴露。

边缘AI部署可能包括在提供商云环境之外的基础设施上运行的模型、提示、代理、检索数据、策略、本地数据存储及更新机制。

这将敏感的AI资产和决策逻辑移至可能敌对的环境中。攻击者可能物理接触设备、本地访问模型工件、篡改检索数据或工具配置、破坏模型供应链，并从模型行为到现实后果获得更直接的路径。

断网边缘部署无法依赖实时云检测、策略更新或撤销机制。在云连接不可用时，它们必须维持本地验证和执行。高风险AI操作应仅在硬件能保护资产并提供可接受证据的环境中运行。否则，该操作应被推迟或重新验证。

为何AI改变了安全问题。

与传统软件不同，AI模型可能在使用合法接口和凭据的同时，受到不可信内容的影响。本文聚焦于安全应对措施：约束模型行为并保护模型、凭据及其周围数据的架构。

传统软件执行开发者发布的代码。AI系统则可能根据提示、检索数据、代理指令及其他运行时输入改变行为。仅保护代码已不再足够；组织还必须对模型周围的数据、上下文和行动建立信任。

原文内容较长，本文保留主要内容节选；完整信息请参考下方来源链接。

来源：Microsoft Security Blog。；内容经中文翻译改写，采集时间：2026-09-08 01:28:30。

(责任编辑：数字安全观察)