內地違規AI生成影像禁之不絕 業界認同應加強規管惟憂太多限制影響創作

內地新規定，所有人工智能(AI)生成影像，必須加上明確標示。但違規片段仍禁之不絕，更有人用作詐騙。業界認同應加強規管，但擔心太多限制，反而會影響創作。「高比拜仁」復出，還懂唱中文歌；維港兩岸「大雪紛飛」，香港迎來白色聖誕。這些人工智能生成短片，今年在內地網絡世界湧現，題材、形式千變萬化，而且非常逼真。北京市民黃先生說：「以前說耳聽為虛、眼見為實，現在感覺眼見也不一定為實。」北京市民柴先生指：「有一定擔心，我覺得會影響孩子的邏輯判斷能力。」內地九月起要求所有這類短片，必須表明是「人工智能生成」，透過水印或文字標示，同時寫入檔案內，以便驗證來源。社交及影片分享平台亦有責任把關。新例被形容為，設立「人工智能身份證」，但我們發現，網上仍有不少人工智能生成短片，無清楚標示。北京市民張女士認為：「它確實會令人誤導，因為看上去像真的一樣，但其內容有引導性質。」內地近期更有人在網購平台，利用人工智能偽造影片，聲稱貨品受損要求退款，是否反映現行監管有不足？關注組織認為，人工智能檢測技術仍在起步階段，難免有疏漏，建議當局主動在網上巡查，並加強罰則以提高阻嚇力。但不希望監管延伸至內容創作，擔心影響行業發展，相信業界能自行調節。中國文化產業促進會元宇宙分會副會長吳瑞凱表示：「大家都喜歡看短視頻的爽，希望有視覺感官的刺激，但如果我們打壓這一塊，確實會影響創作積極性。2025是人工智能視頻行業，多模態這塊進展爆發的元年，之後肯定會往高質量視頻發展。」全球各地陸續訂立法例，規範人工智能使用。創新與防範濫用之間如何平衡，是各地都在探索的問題。業界就指內地發展較快，加上用戶多，有助累積更多經驗。