工信部等十部門近日聯(lián)合發(fā)布《人工智能科技倫理審查與服務(wù)辦法（試行）》，標(biāo)志著我國在人工智能領(lǐng)域構(gòu)建起覆蓋研發(fā)、應(yīng)用全鏈條的倫理治理框架。該文件首次系統(tǒng)提出人工智能科技倫理原則，要求將倫理審查嵌入技術(shù)活動(dòng)各環(huán)節(jié)，為技術(shù)向善發(fā)展提供制度保障。

隨著生成式人工智能、腦機(jī)接口等前沿技術(shù)加速突破，算法歧視、數(shù)據(jù)濫用、深度偽造等倫理風(fēng)險(xiǎn)日益凸顯。某搜索引擎輸入"情緒操控"關(guān)鍵詞，可檢索到大量未經(jīng)科學(xué)驗(yàn)證的"技術(shù)指南"，部分人機(jī)融合技術(shù)甚至觸及生命健康底線。這些現(xiàn)象反映出，部分研發(fā)活動(dòng)偏離了"科技服務(wù)人類"的本質(zhì)要求，亟需建立倫理約束機(jī)制。

《辦法》確立了八項(xiàng)核心倫理原則，包括尊重生命權(quán)利、保障公平公正、強(qiáng)化責(zé)任擔(dān)當(dāng)?shù)取ａ槍?duì)不同風(fēng)險(xiǎn)等級(jí)的科技活動(dòng)，文件設(shè)計(jì)了差異化審查程序：常規(guī)項(xiàng)目由研發(fā)單位自行組織審查，高風(fēng)險(xiǎn)項(xiàng)目則需經(jīng)國家指定的專家委員會(huì)復(fù)核。這種分級(jí)管理機(jī)制既保證了審查效率，又實(shí)現(xiàn)了重點(diǎn)領(lǐng)域精準(zhǔn)管控。

在審查重點(diǎn)領(lǐng)域方面，文件明確三類技術(shù)需接受嚴(yán)格復(fù)核。首先是直接影響人類認(rèn)知與行為的人機(jī)融合系統(tǒng)，如腦機(jī)接口、神經(jīng)調(diào)控等技術(shù)。專家指出，這類技術(shù)若缺乏倫理約束，可能導(dǎo)致人類自主性喪失、人格異化等嚴(yán)重后果。某醫(yī)療研究機(jī)構(gòu)曾嘗試用腦機(jī)接口治療抑郁癥，但因未充分考慮倫理風(fēng)險(xiǎn)被緊急叫停。

第二類需重點(diǎn)審查的是具有輿論引導(dǎo)能力的算法模型。當(dāng)前，部分社交平臺(tái)利用算法推薦制造信息繭房，甚至出現(xiàn)"算法水軍"操縱公共輿論的現(xiàn)象。某深度合成技術(shù)曾被用于偽造名人言論，引發(fā)社會(huì)信任危機(jī)。文件要求此類技術(shù)研發(fā)必須通過倫理復(fù)核，從源頭防范"算法權(quán)力"濫用。

高度自主決策系統(tǒng)的審查被列為第三大重點(diǎn)。在交通、醫(yī)療等涉及公共安全的領(lǐng)域，算法錯(cuò)誤可能導(dǎo)致災(zāi)難性后果。某自動(dòng)駕駛汽車測(cè)試中曾因算法偏見未能識(shí)別特定人群，暴露出自主系統(tǒng)存在的倫理缺陷。文件明確要求這類系統(tǒng)必須經(jīng)過千百次驗(yàn)證才能投入實(shí)際應(yīng)用。

據(jù)參與文件起草的專家介紹，此次建立的倫理審查制度具有三大創(chuàng)新：首次將倫理要求貫穿技術(shù)全生命周期，首次明確高風(fēng)險(xiǎn)技術(shù)清單，首次構(gòu)建多方參與的審查機(jī)制。某人工智能企業(yè)負(fù)責(zé)人表示，倫理審查雖然增加了研發(fā)成本，但有助于提升公眾對(duì)技術(shù)的信任度，從長遠(yuǎn)看利于行業(yè)健康發(fā)展。

隨著全球人工智能競(jìng)爭(zhēng)加劇，倫理治理已成為技術(shù)發(fā)展的關(guān)鍵變量。我國此次出臺(tái)的專項(xiàng)審查制度，不僅填補(bǔ)了制度空白，更為國際社會(huì)提供了中國方案。文件明確，違反倫理規(guī)范的項(xiàng)目將面臨取消資助、限制應(yīng)用等處罰措施，這標(biāo)志著我國人工智能治理正從被動(dòng)應(yīng)對(duì)轉(zhuǎn)向主動(dòng)引領(lǐng)。