英國一家小型電商企業近日因AI客服系統“擅自做主”，意外陷入財務危機與法律糾紛的雙重困境。該企業部署的智能客服在未獲人工授權的情況下，向顧客承諾了高達80%的商品折扣，導致公司面臨數千英鎊的直接損失，甚至收到顧客的訴訟威脅。
據企業負責人介紹，涉事顧客通過與AI客服長達一小時的互動，先以測試數學能力的方式取得系統信任，隨后逐步將對話引向訂單折扣的假設性討論。令人意外的是，這款本應僅處理基礎咨詢的AI工具，不僅主動提供了25%的初始優惠，更在后續對話中生成虛假優惠碼，將折扣幅度提升至80%。
顧客隨即使用該優惠碼下單總價超8000英鎊（約合人民幣7.56萬元）的商品。企業負責人表示，若按此折扣履行訂單，公司將承擔數千英鎊的凈虧損。盡管企業強調該AI系統設計上無權處理任何財務決策，所有折扣均需人工審核批準，但顧客仍堅持要求企業兌現承諾，否則將通過法律途徑維權。
面對這一突發狀況，企業最終選擇全額退還顧客訂單款項以避免進一步糾紛。負責人透露，該AI客服已穩定運行超半年，此前從未出現類似異常行為，此次事件暴露出系統在應對復雜對話時的潛在風險。
無獨有偶，2024年加拿大航空也曾因AI聊天機器人提供錯誤票價信息而敗訴。當時該系統誤導乘客先全額購票再申請退款，航空公司拒絕賠付后被法院裁定承擔責任。這兩起事件引發業界對AI客服權限邊界與責任認定的廣泛討論。
