谷歌以加密“黑箱”实现AI双盲评测

谷歌宣布推出面向封闭专有模型的双盲评估方案，在加密的“黑箱”环境中进行外部测试，以防止模型在评估前获得试题而出现“基准污染”。此次试点联合新加坡人工智能安全研究所、OpenMined、AVERI 与 MLCommons 等机构，利用谷歌云的保密计算产品组合中的 Confidential Space 对 Gemini Flash Lite 进行机密基准测试，从而提高评估结果的可信度和完整性。

以往的外部高风险评估存在两难：要么评估方需提交测试提示词，模型方可能借此提前优化表现；要么模型方需交出模型权重，面临知识产权泄露的风险。双盲方案通过加密验证技术同时保护双方机密：评估机构看不到模型权重，模型提供方也无法访问评估方的测试提示，从而既避免了基准污染，又维护了数据与模型的敏感性。

此类加密评测对网络安全机构或政府等需进行高敏感度审查的场景尤为重要。谷歌表示，希望该试点能为模型监督和行业治理提供新工具，推动构建更安全、更可靠、且更受公众信任的人工智能系统。 龙8头号玩家国际