我们为什么应当开始对大语言模型进行代码签名

多年来我们一直在探讨代码签名。这是一项已被广泛认知的实践：为代码签名，即可明确当前运行的内容来源可靠。但当“代码”不再仅仅是过程化逻辑时，会发生什么？当一个系统开始自主思考、自主行动时，又会发生什么？

在最新一期 Root Causes Toronto Sessions 播客中，我和 Tim 探讨了一个一直在悄然酝酿的话题：模型签名。随着人工智能越来越深地嵌入从智能手机到 IoT 传感器的各类日常设备，我们正见证一个趋势：原本部署在云端的大型语言模型，正逐步转向在边缘侧离线运行的小型甚至微型语言模型。

这类模型效率高、针对性强，且能力持续增强。但问题在于：你能确定设备上运行的模型就是你预期部署的那个版本吗？

水面下的隐藏风险

可以把 AI 想象成一座冰山。吸引眼球的云端大语言模型是露出水面的尖端，可见且为人熟知。但 AI 未来的大部分价值潜藏在水面之下：即嵌入在设备中的小型语言模型，这类模型往往在设备生产阶段就已植入。它们属于静态模型，包含统计权重，且极少（甚至完全没有）经过签名。

这是一个隐患。

如果我们不对这些模型进行签名，就等于为恶意篡改或意外改动敞开了大门。而且和传统代码不同，模型本身几乎不具备确定性，这使得篡改行为更难被发现，潜在风险也更高。

模型签名的重要性

我们已经了解未签名固件的风险。试想一下，如果这些风险发生在能够影响决策、自动执行任务、并与敏感数据交互的 AI 模型上，其影响将十分巨大。

因此我想向各位提出几个问题：

• 你的边缘设备上运行的是可信模型吗？
• 你是否具备验证模型完整性的机制？
• 你的组织是否做好了应对模型部署“野蛮生长”阶段的准备？

因为目前模型签名领域既没有行业联盟，也没有统一规则，更没有配套基础设施，甚至连一套通用的术语体系都尚未建立。我们是时候着手构建这套体系了。

这不仅仅是技术问题，更是信任问题。随着 AI 的普及，模型签名必须像多年前的代码签名一样，成为标准实践。但二者的区别在于，我们现在要签名的不再只是代码，而是具备思考能力的机器。

机器已经具备思考能力，我们是时候开始为它们签名了。这只是相关讨论的开端。Sectigo 将致力于引领这一领域的探索。敬请关注后续更多相关内容。