專訪:中學老師如何用Mac打造本地AI教學及行政系統 零Token成本
專訪中學老師如何用Mac打造本地AI教學及行政系統,零Token成本。近年AI大行其道,就連不少學校及老師都要活用AI來協助教學,不過發現應用雲端大型語言模型(Cloud LLM)時,發現往往受限於高昂的Token使用成本以及連線限制,而且處理校務與學生個人資料時更面對私隱外洩疑慮。早前記者就訪問了明愛胡振中書院資訊及通訊科技科與STEAM科主任李曉嵐老師(Ms. Li Hiu Nam Hilaria),就透過Mac成功將學校從雲端AI過渡至本地AI(Local AI),在MacBook Pro及Mac mini等裝置上流暢執行開源大型語言模型,開發出專屬的互動式教學套件與行政應用程式,為本港科技教育樹立了全新範本。
本地AI大模型優勢
李曉嵐老師說:「過去學校使用雲端AI工具時,主要依賴大公司提供的免費版本。不過,當免費配額用盡後,學校便會面對無法繼續使用的困境。若要自行開發網頁並串接雲端AI功能,教師必須將API綁定信用卡的付費帳戶,在學校行政體制上難以估算與審批預算,亦難以保障經費的持續性。」而她指出,轉用開源的本地大型語言模型後,由於模型直接下載至學校裝置內運行,學校毋須再支付雲端 Token 費用,只要開動電腦並維持供電,即可為全校師生提供無限次的AI運算服務。同時,學校能完全掌握模型微調的絕對控制權,將敏感的行政資料鎖定在校園內部網絡,杜絕資料上傳至第三方雲端供應商的私隱風險,全面提升資訊安全管理。
Mac 硬件發揮流暢效能
要在校園內部順暢執行複雜的開源大型語言模型,硬件配置正是不少學校需要克服的關口。李老師示範中透露,在本地跑AI並不一定需要購置極為昂貴且耗電的高階伺服器或獨立顯示卡。當中Mac機內的Apple Silicon 的統一記憶體架構將中央處理器、圖形處理器及神經網絡引擎整合,使數據存取效率大幅提升,成為降低本地AI門檻的關鍵技術。
現時校方主要採用 Mac mini 及 MacBook Pro 作為基礎運算裝置,利用 Mac 硬件高效能且具成本效益的優點,讓開源模型(如千問、Deepseek等)的運作變得非常流暢。校方目前正積極測試將這套本地系統進一步集中與強化,未來計劃引入效能更強大的 Mac Studio 作為校內本地AI伺服器,以應付全校數百名師生同時連線運算的需要。
教學套件加強學生互動
在實際教學應用層面,這套完全基於本地LLM驅動的互動式教學套件,突破了以往AI只能「一問一答」的直線性互動。李老師透過本地化介面,融入了因材施教的教學邏輯。當系統偵測到學生答對題目時,本地AI會自動組裝出難度較高、具挑戰性的新問題;若學生答錯,系統則會調低難度,並由另一組預先設定好、具鼓勵性質的AI大模型引導學生思考。這種多模型協作的流程圖設計,不但能照顧到不同學習進度的學生,更能持續激發學生的自主學習意欲。
除了課堂學習外,本地AI在減輕教職員行政工作上亦發揮了成效。李老師睿:「學校經常需要處理大量的家長查詢,然而教師日常教學行程緊密,難以即時回覆。校方嘗試將一本長達 60 多頁、包含校規與常用資訊的家長手冊數據匯入本地AI系統內。家長只要在介面上輸入提問,系統便會自動在手冊中搜尋相應的條文並即時解答,大幅縮短了家長等待回覆的時間。」
此外,面對新入職教職員不熟悉校內繁複行政程序的問題,本地AI亦化身為行政助理;當新職員輸入「椅子損壞」等校務問題時,系統便會根據內部文件,自動推斷並提供正確的維修申請表,提升校務運作效率。
本地AI大模型成未來科技教育關鍵
學校其實正努力利用硬件優勢與創新思維來推動本地AI教學計劃,李老師經過約 1 年時間的調校、測試與優化,目前已成功應用於部分課堂教學及家長行政查詢中。更表示學校未來將會繼續探索更多開源大型語言模型在跨學科教學上的可能性。這種既能確保私隱安全,又能實踐低成本、可持續發展的科技教育方案,可以改變了教學文化,更在人工智能時代下的數碼轉型,開闢了一條極具參考價值的教學發展路線。
明愛胡振中書院現時採用甚麼 Apple 硬件來運行本地AI大模型?
學校目前在測試階段主要採用 Mac mini 及 MacBook Pro 作為執行本地大型語言模型(LLM)的裝置,並計劃於未來引入運算效能更強大的 Mac Studio,以構建更穩定的校內AI伺服器。
學校引入本地AI後,對師生的私隱與經費預算有何實質幫助?
本地AI不需要將數據上傳至雲端,所有敏感的校務及學生個人資料均儲存於校內網絡,保障私隱安全。同時,本地運算免除了雲端供應商按用量收取的 Token 費用,學校毋須再面對預算超支或API付費審批的行政困難。