來稿|從港大論文引虛構文獻事件 看建立AI時代學術問責制的迫切

撰文:01論壇
出版:更新:

來稿作者:譚永昌

一篇發表於《當代中國人口與發展》(China Population and Development Studies)的論文,被揭發引用多篇由人工智能虛構的文獻,61篇引用中有約40%文獻並不存在。論文第一作者為港大社工系博士生白同學,通訊作者為香港大學社會科學院副院長葉兆輝教授。葉教授回應指「博士生用AI沒檢查」、「非誠信問題」,處理方式是要求博士生「修讀AI課程」。

在人工智能時代,我們的學術誠信機制似乎出現了新漏洞。關鍵也是它暴露了一個危險的監管落差:學生使用人工智能,有檢測系統、明確懲罰;而研究方卻沒有相應檢查機制、處分模糊。當門未能守好,破壞的不只是一篇論文,而是整個學術問責系統的可信度。

為何學術把關機制會失效?

香港大學事件固然是個別研究團隊的失誤,但更深層的問題是制度設計未跟上人工智能時代的步伐。據葉兆輝教授所指,此學術論文通過兩次同儕評審,但評審者沒有發現近半引用文獻屬虛構。這並非完全是評審者失職——同儕評審的設計前提是作者已盡職核實引用,評審者的職責是審視論證邏輯與學術貢獻,而非逐條核實文獻真偽。人工智能虛構的文獻格式完整,包括作者、年份、期刊名稱、DOI(數字對象識別符),靠肉眼難以察覺真偽。但當AI可以批量生成「看似真實」的虛假文獻,這個信任前提已被打破。

不少本地大專院校已發布生成式人工智能在「教與學」層面的政策,主要針對學生使用與課程評核。雖然個別院校(如港大)已推出研究端AI指引,但這些多屬「原則性建議」而非「強制規程」,且各校標準用字各異,缺乏統一、可執行的框架。

三個關鍵缺口尤其明顯:第一,引用核證流程——雖然港大有AI使用指引,但缺乏如「逐一核實並提交聲明」的流程與審核機制;其次,AI使用申報——現有要求多屬倡議,缺乏類似利益申報那樣可由倫理委員會稽核的制度;最後,違規分級與問責——現行學術誠信條例未針對AI濫用細化處分標準,導致處理個案時標準模糊、問責困難。如本次事件,葉兆輝稱「博士學生用AI沒檢查」,但現行制度並無明文要求「人工智能生成引用必須核實」的操作細則,而處分該學生去「修讀AI課程」——違規成本之低,令人咋舌。

連鎖學術污染不堪設想

這種學術犯錯如不及早把關,恐怕會出現連鎖效應。涉事這篇論文研究香港生育率低迷因素,四成虛構的引用,意味着論文建基的實證基礎有近半是空中樓閣。生育問題是重要的公共政策領域,若政策制定者或其他研究者引用這篇論文,可能導致錯誤的政策方向。第一層污染是這篇論文的論證可信度存疑;第二層污染是其他研究者引用這篇論文,將錯誤資訊再傳播;第三層污染是基於錯誤文獻的研究可能影響政策制定、教學內容。事件的重要性遠超「技術問題」,而是會透過引用網絡擴散的學術污染。

現狀呈現明顯的監管落差。在學生端,有明確政策禁止未申報使用AI,有Turnitin檢測系統,違規有明確懲罰如不及格、開除學籍。但在研究端則模糊——缺乏規範,僅依賴同儕評審(已證實失效),無技術檢測,處分同樣模糊地「正調查」,但未有明確時間表和標準。這種不對稱性製造了監管真空。

葉兆輝教授將問題定義為「技術問題」,而非「誠信問題」。但學術誠信的核心是作者對其發表內容的真實性負責。如果「不知道AI會虛構」可以成為免責理由,那麼「不知道助理會抄襲」是否也可以?此次事件中,博士生白逸銘作為第一作者,使用AI協助整理引用資料時未檢查內容,應承擔直接責任。但葉兆輝作為通訊作者,對論文質量負有最終把關責任。在學術倫理中,通訊作者對論文品質承擔最大責任,涉及學術不端的稿件甚至要承擔法律責任。然而,當博士生的處分是「修讀AI課程」,通訊作者的問責又在哪裏?這種責任歸屬的模糊,正是研究端監管機制的核心問題。把關者未能守好門,破壞的不只是一條規則,而是整個規則系統的權威性。

建立應對AI學術問責制

期刊編輯部正調查,可能撤稿 。但撤稿只是補救措施,無法阻止下一次同類事件發生。更重要的是建立預防機制:港大或者相關單位是否會要求所有研究者申報AI使用?是否會建立引用核實流程?是否會對涉事的第一作者和通訊作者有實質處分?這些才是關鍵。

首先是建立研究端AI使用指引。現有人工智能政策聚焦教學與學生評核,對研究端缺乏明確規範。改革應包括三個方向:明確AI可用於文獻搜尋、數據分析、語言潤色等輔助性工作,但不可用於生成引用文獻、實驗數據等核心學術內容;強制核實所有由AI協助生成的引用文獻,論文提交時需附上「引用核實聲明」,類似研究倫理聲明;透明申報AI使用情況,類似利益申報,例如「本研究使用AI協助文獻搜尋,所有引用已人工核實」。

其次是建立統一問責標準。現時研究使用AI的違規處分模糊,核心原則其一,是問責制度可參考學生違規處分的設計。可以分級處理:輕微違規如AI使用未申報但引用真實,處分為警告、要求更正;嚴重違規如引用虛構文獻,處分應為撤稿並公開更正、停職檢討、扣減研究資助、暫停招收研究生資格,通訊作者需承擔連帶責任;極嚴重違規如偽造數據、惡意誤導,處分應為解僱、撤銷學術資格等。處分應匿名公告,建立公開案例庫,每年公佈各院校學術誠信違規統計。透明化是問責的基礎,只有讓公眾知道違規後果,才能建立阻嚇作用。

駕馭工具維護教育質素

人工智能時代,模型日新月異,人們常言道人工智能有朝一日會取代人類。在書寫這篇文章時,筆者亦有請教人工智能,唯我與諸位一樣需要學習駕馭,而非被其凌駕。當工具變得如此強大,我們如何保持人性中珍貴的部分——誠實、責任、對真相的執着?學術誠信不只是一套規則,而是一種文化。人工智能可以是助力,但規則必須由人來守護。教授、學生、評審者、政策制定者,我們每個人都是這個制度的守護者,每個人都是守門人。

預防勝於治療,制度升級刻不容緩。教育當局應牽頭制定跨院校人工智能使用指引,大學教育應將學術誠信機制升級納入院校質素保證框架,各院校應建立透明的違規處分公告機制,學術界應主動擁抱變革,而非被動等待醜聞爆發。這是學術界的責任,也是維護香港教育質素的公共責任。我們不能等到下一次醜聞,才發現制度仍然沒有改變。

作者譚永昌是香港中文大學城市研究系學生。

文章僅屬作者意見,不代表香港01立場。

01論壇歡迎投稿。請電郵至01view@hk01.com,附上作者真實姓名、自我簡介及聯絡方法。若不適用,恕不另行通知。香港01保留最終編輯權。