清明節前,紅果短劇下架了AI短劇「桃花簪」,并暫停了出品方的上傳權限。
緊接著,紅果短劇又發布了「關于持續治理AI短劇素材違規使用行為的公告」,披露了僅是第一季度就下架了1718部違規漫劇的數據。
這不是一個能讓所有人都滿意的結果,但是否存在這么一個算無遺策的結果,我是存疑的。
外界在反對什么,紅果是知道的,紅果想表達什么,外界也是清楚的,這里面有多少重疊的,又有多少背離的,很重要。
新技術的應用,一定會帶來未曾有過的新問題,而讓這些問題盡快的有法可依,才是真正合理的解決思路。
規則最終會被制定成什么形態尚不可知,但現在能確信的是,它一定不會是一個許愿機的樣子。
如果我沒記錯,「紅旗法案」從頒布到廢除,中間差不多在英國實施了近半個世紀,那是汽車剛被發明出來的時候,為了避免嚇到馬匹,每個司機都必須配置一個助手,也不干別的,就舉著一面紅旗走在車前「不低于六十碼」,提醒大家有車路過。
在歷史上,「紅旗法案」被嘲笑的次數居多,常被歸為盧德主義的一種,但它確實構建了世界最早的機動車交通法規雛形,比如限速、警示和避讓三大原則,以及對于路權的尊重。
事實證明,人類容忍技術、直到駕馭技術的共存過程,從來都是「邊發展、邊治理」的模式,只要發展不要治理,就是「反烏托邦的末日假象」,只要治理不要發展,就是「把孩子連洗澡水一起潑掉」。
和AI去換名人的臉相比,這次對于普通人的形象盜用更加隱蔽。平臺顯然也不樂見這種情況,畢竟紅果也不可能對每個人的肖像都在數據庫里做一個存檔,判斷侵權仍然必須依賴主張和舉證。
這就是上面說過的,不可能讓所有人滿意的最大矛盾。
在很多人的想象里,平臺是近乎全知全能的,即便不能事前洞悉一切,那它也應該在有人按下投訴按鈕的幾十秒內,就做出絕對正確的反應。
這很純真。
紅果短劇列舉了幾部被查處的典型違規作品,分別是盜用某知名卡通人物、某注冊品牌商標、某游戲原創角色、某演員形象等等,這些例子是有共性的,即相對容易「客觀判斷」。
因為足夠簡單,所以上了案例,懂了嗎?
更多復雜的爭議情況,則不具備這種標準化的認定特征,「長得像」本身就是一個主觀感知,要被錘成鐵案,必須結合公眾認知、角色情境、使用場景等多個因素。
可以預見的是,AI短劇的制片方們一定會吸取教訓,在改編、融合、微調等「打擦邊球」的方向上更加努力,用來規避平臺的審核,這會是一個長期的拉鋸戰。
不過有一點可以確定的是,這當然是需要紅果主動牽頭做的事情,得把平臺、出品方、權利人拉到一張桌上,打開天窗說亮話。
目前來看,紅果是在朝著這個方向努力:
對出品方,平臺啟動了全面核查、嚴厲追責的模式——「莫伸手,伸手必被抓」——哪些素材是能用的,哪些又是不能用的,規范清晰了,才能有理有據的懲罰。
在我看來,這是最值得紅果利用市場地位的一集,被紅果「驅逐出境」的出品方,可能就很難在短劇行業繼續混下去了,大家多半也不會在意給出品方的腦袋上懸掛這么一把「達摩克利斯之劍」,威懾那些動機不純的念頭。
而對權利人,平臺也開放了公開的舉報通道,以求實現快速處置,這個動作倒是標配了,光「有」是不夠的,還要「有用」,這涉及到運營資源的再分配,包括郵件回復是否及時,對于那些上門喊冤的權利人來說,情緒價值的滿足很多時候都是先于經濟價值的。
簡單來講,就是從有訴必應,到源頭追溯,讓AI短劇這個新生行業,告別野蠻生長的摸索階段,盡早成年。
其實市面上優質且合規的AI短劇也在爆發,真正決定內容精彩程度的,還是取決于背后操盤的那群人,一個行業的繁榮,必然劣幣良幣混著涌入,而健康發展下去的條件,就是持續識別并排出劣幣。
平臺和行業、和用戶的利益,根本上是一致的。
而且我一直很想說的是??AI是可以用來降本增效,但咱們能別這么降本降到塵土里嗎?
就像前幾天刷到過AI漫劇公司為了節省算力,將上班時間調到凌晨的做法,硬生生的把先進生產力干成了「媲美」制造業電費套利的格局,實在離譜。










