2月11日消息，隨著AI的普及，越來越多的企業選擇部署AI客服來降低人力成本，但沒想到英國一家小型電商卻因此陷入了一場始料未及的財務與法律風波。

這家電商部署的AI客服助手在未獲任何人工授權的情況下，竟向顧客承諾高達80%的折扣，導致公司面臨數千英鎊損失與訴訟威脅。

據該公司老板透露，涉事顧客花費約一小時與AI助手閑聊，先測試其數學計算能力并表達贊賞，隨后巧妙引導話題至假設性訂單折扣。

但沒想到的是，這款原本僅用于解答基礎問題的AI助手竟自作主張，先是給出了25%的優惠，隨后更是直接生成了一個虛假優惠碼，將折扣幅度提高到了驚人的80%。

該顧客隨即利用此優惠碼下單了總價超過8000英鎊（約人民幣75654元）的商品，老板表示，如果按照這個折扣兌現訂單，公司將直接蒙受數千英鎊的凈損失。

但顧客態度強硬地表示，如果企業不履行其AI助手做出的承諾，他將向法庭提起訴訟。

老板強調，這款聊天AI已經成功運行了超過六個月，從未出現過任何類似的意外狀況，且該系統在設計上根本無權做出任何財務決策，所有的折扣和特別優惠都必須經過人工手動批準，絕不可能由系統自動生成。

最終，該公司選擇將訂單全額退款給顧客。

此類事件并非孤例，2024年加拿大航空就曾遭遇類似敗訴，其AI聊天機器人向乘客提供錯誤票價信息，指引其先全價購票再申請退款，事后航空公司拒賠卻被法院裁定擔責。