微軟CEO：超級智能時代需建立“可控”架構，不能將責任外包給AI

微軟 CEO Satya Nadella 發佈長文表示，隨着超級智能（Super Intelligence）系統的發展，行業需要重新審視 AI 信任架構，不能簡單依賴模型提供方的承諾，也不能將 AI 行爲帶來的責任外包。納德拉稱，過去幾十年傳統軟件系統被部署到各行業時，開發者通常能夠追蹤行爲對應的具體代碼路徑。但如今的前沿 AI 模型能力已超過傳統軟件系統，卻無法明確將模型輸出歸因於具體訓練數據或模型權重配置。企業正在將具有自主行動能力的 AI 系統接入敏感數據，並賦予其執行關鍵任務的權限，因此需要構建具備可觀察性、可測試性和可控性的系統，將“智能供給”與“權限控制”分離。納德拉提出，應採用工程化方式治理超級智能，通過確定性的系統設計、人工控制和操作流程約束非確定性模型，並將 AI 系統視爲潛在“內部風險”進行管理，包括限制權限、記錄行爲、建立隔離邊界等。他還提出超級智能系統應遵循多模型協作、全程可觀察、持續驗證、獨立控制、獨立審計、風險隔離和事件披露等原則。其中，他強調模型思維鏈（CoT）透明度是基礎要求，但僅依靠 CoT 透明並不足夠，因爲模型輸出本身仍可能缺乏可靠的可解釋性。納德拉最後表示，未來最值得信任的超級智能系統，並不是“最值得信任的模型”，而是“即使不完全信任模型，也仍能安全運行的系統”。