隨著人工智能代理技術的快速發展，用戶對于AI操作設備的接受程度成為新的研究焦點。蘋果公司研究團隊近期開展了一項關于人機協作邊界的探索，通過系統化實驗揭示了用戶對AI代理的信任機制與控制需求。
研究團隊首先對Claude Computer Use Tool、OpenAI Operator等九個主流AI代理系統進行解構分析，構建了包含輸入方式、行為透明度、用戶控制權、認知匹配度四個維度的評估模型。分析發現，現有系統普遍存在"重執行輕解釋"的傾向，在決策過程可視化方面存在明顯短板。
為驗證理論模型，研究人員設計了模擬實驗場景。20名受試者通過自然語言交互完成酒店預訂和在線購物任務，實際后臺操作由人工模擬的AI代理執行。實驗數據顯示，用戶對代理行為的監控需求呈現任務依賴特征：在探索性任務（如旅行規劃）中，78%的受試者接受較高自主權；而在執行型任務（如訂單修改）中，92%的受試者要求嚴格遵循指令。
金錢交易場景引發最強烈的控制需求。當涉及支付操作或賬戶信息變更時，所有受試者均要求建立雙重確認機制。特別值得注意的是決策透明度對信任度的影響：當代理在未說明理由的情況下自主選擇模糊選項時，85%的受試者立即中斷任務要求解釋；若代理行為與初始計劃出現偏差，用戶信任度平均下降43%。
研究指出，當前AI代理發展的主要矛盾已從技術能力轉向交互設計。用戶對"黑箱操作"的抵觸，本質上是對不可控風險的防御反應。當系統代為執行點擊、選擇等操作時，任何未經解釋的假設都可能被解讀為潛在威脅，這種心理機制在涉及個人資產時尤為顯著。
基于實驗結論，研究團隊提出人機協作新范式：有效的AI代理系統應當具備動態調節機制，能夠根據任務類型自動切換控制模式。在需要創造性的場景中提供建議而非直接操作，在重復性任務中確保精確執行，在關鍵決策點主動尋求確認。這種平衡策略比單純追求自動化程度更能提升用戶體驗。
