恒生大學研AI偵測網絡欺凌 懂粵英夾雜語境及早辨識介入

撰文:林澤鋒
出版:更新:

本港網上討論文化盛行,且充斥中英夾雜、廣東話口語及本土潮語,令傳統人工智能(AI)難以辨識暗藏諷刺或間接攻擊的網絡欺凌行為。恒生大學最新一項研究突破技術限制,利用具備私隱保護的數據集及大型語言模型(LLM),從對話整體語境深入剖析網絡欺凌,成功開發出一套能夠在欺凌互動逐漸形成過程中及早識別的AI框架,為識別相關行為及建立更安全的數碼社群提供新方向。

香港恒生大學利用具備私隱保護的數據集及大型語言模型(LLM),從對話整體語境深入剖析網絡欺凌,成功開發出一套能夠在欺凌互動逐漸形成過程中及早識別的AI框架。(恒大提供)

破解中英口語混合難題 分析多輪對話捕捉暗諷

研究由恒大計算機科學系助理教授朱振輝領導,成果於2026年先後發表於國際學術期刊《Data》及《Intelligent Systems with Applications》。朱振輝表示,項目早在數年前開展,惟當時技術無法處理涉及多名參與者的複雜對話,直至近年大型語言模型的快速發展,才令跨語境分析得以實現。

本港網民在網上溝通時,經常混合使用廣東話、書面中文、英文及本地網絡潮語。欺凌者往往未必直接使用粗言穢語或明顯的冒犯字眼,而是採取諷刺、嘲笑或間接攻擊等手段,傳統單憑關鍵字過濾的系統極易走漏。為此,團隊耗時逾6個月,從社交平台X(前稱Twitter)數十萬個原始帖文中進行清理及標註,建立包含1.4萬多條人工標註帖文、逾1,600段對話的「具私隱保護中英夾雜網絡欺凌數據集」。

朱振輝表示,項目早在數年前開展,惟當時技術無法處理涉及多名參與者的複雜對話,直至近年大型語言模型的快速發展,才令跨語境分析得以實現。(恒大提供)

系統評估權力失衡 助優先介入高風險個案

與過往單純審查個別單一帖文的機制不同,新系統會分析多名參與者及多輪交流的完整對話。由LLM驅動的框架不僅能識別受害者、施暴者及欺凌互動行為,更能追蹤相關行為如何隨時間演變,從而精準捕捉重複針對、間接提及或人際關係變化等動態。

此外,研究團隊更提出一套有系統的評估方式,綜合考慮欺凌互動的頻率、施暴者人數以及參與者之間的權力失衡程度,科學評估欺凌事件的嚴重性。這種分析機制有助教育機構、社交平台或前線輔導人員優先鎖定高風險個案,以便在情況惡化前及早進行人為介入。

研究提出一套有系統的評估方式,綜合考慮欺凌互動的頻率、施暴者人數以及參與者之間的權力失衡程度,科學評估欺凌事件的嚴重性。(恒大提供)

強調AI不取代人手判斷 未來擬擴至圖像及迷因

朱振輝強調,AI並非要取代人類的專業判斷。他解釋,網上語言變化迅速,且沒有任何自動化系統是完全準確,因此人手審查仍然必要,相關數據集亦需定期更新及重新標註。研究同時證明,個人私隱保障與有效推動AI科研可以並存,在減少訓練數據中的雜訊及偏誤後,更可提升模型的表現。

研究證明,個人私隱保障與有效推動AI科研可以並存。(恒大提供)

團隊計劃未來將研究範疇由純文字進一步拓展至圖像、網絡迷因(meme)及其他多模態內容,期望善用科技力量,協助減少網絡欺凌造成的傷害,並為更安全的數碼環境作出貢獻。

HK01 Space Promotion