HPE推AI工廠助企業控Token成本 倡中小企先釐清營運需要再部署AI

撰文:陳志壯
出版:更新:

人工智能(AI)逐步融入企業營運,企業關注的已不只是模型效能,亦包括運算成本、數據安全及投資回報。隨着AI代理應用增加,Token(令牌)消耗及管理更成為企業部署AI時的重要考量。

慧與科技 (Hewlett Packard Enterprise, HPE)早前舉行「HPE Discover More Hong Kong 2026」,分享企業AI基建及網絡發展方向。HPE大中華區、香港及澳門副總裁兼董事總經理朱海翔表示,公司目前正透過AI工廠、混合雲及自動化網絡等方案,協助企業建立可擴展的AI基建,並建議中小企引入AI前,先釐清營運需要及預期效益,避免盲目投資。

HPE透過AI工廠、GreenLake及自動化網絡等方案,協助企業建立可擴展的AI基建、控制Token成本,並按業務需要靈活調配資源,推動AI應用落地。

朱海翔指出,HPE正推動以開源模型為基礎的AI工廠(AI Factory)方案,讓企業按需要在本地或混合雲環境部署私人AI,處理內部數據及生成Token。企業可按自身業務需求管理AI運算資源,亦有助掌握成本及數據安全。

隨着企業使用AI模型及AI代理的次數增加,Token的生成及消耗將直接影響營運開支。HPE香港及澳門總經理郭榮忠表示,企業使用AI代理時,不能只着眼於工作效率,亦須設立清晰的權限及管治機制。他指出,企業可透過HPE的編排層(Orchestration Layer)調配不同模型,按任務需要選擇合適工具,並監察及限制Token用量,避免系統過度調用模型而令成本失控。

HPE香港及澳門首席技術總監Lawrence補充,企業可採用混合模型策略,由本地小型語言模型處理日常或較簡單的工作,較複雜的任務才交由雲端大型模型處理,並設定相應門檻,平衡運算需求與成本。

郭榮忠在主題演講中闡述 HPE 如何進一步推動旗下解決方案,以配合政府《香港第一 個五年規劃》的發展方向,鞏固香港作為國際創新科技中心的地位。(HPE提供圖片)

GreenLake按需擴展 網絡方案助減服務中斷

除AI工廠外,HPE亦提供GreenLake服務模式,讓企業按實際需要使用及擴展基建資源,毋須一開始便大規模購置設備。郭榮忠表示,企業可先進行小規模概念驗證,再按實際成效逐步擴大部署,相關模式亦可支援大型企業的基建升級。

網絡方面,他說HPE推動自動化網絡方案,透過監察及預測分析,及早識別潛在故障並作出處理,減低服務中斷風險。

郭榮忠又說,透過 HPE Discover More Hong Kong 2026,將匯聚客戶、合作夥伴及業界專家,共同探討網絡、AI 與混合雲技術如何協同運作,打造具韌性的數碼環境。

HPE香港及澳門總經理郭榮忠建議,中小企引入AI前應先釐清業務問題及預期效益,再按實際需要選擇合適的模型、運算資源及基建,避免盲目投資。

中小企部署AI 先找業務痛點再投資

對資源相對有限的中小企而言,郭榮忠建議,部署AI前應先釐清業務問題,而非先購買設備或追逐最新技術。他認為,企業須先決定希望透過AI降低成本、提升生產力,還是開拓收入及新客源,再按具體需要選擇合適方案。

Lawrence表示,企業亦須在部署初期考慮AI代理的身分、存取權限及工作流程,將管治機制納入整個系統設計,避免代理執行任務時出現不必要的模型調用,令Token開支超出預算。

HPE大中華區、香港及澳門副總裁兼董事總經理朱海翔表示,企業部署AI不應只着眼於選擇模型,更須建立穩定、安全及具成本效益的基建,並有效管理Token使用,以推動AI融入業務營運。

內地生物醫藥積極應用AI 香港可助跨境合作

除企業營運外,生物醫藥亦是AI應用較活躍的領域之一。朱海翔表示,內地不少生物醫藥及製藥企業已利用AI進行模型訓練、建模、微調及推理,全球藥企亦會到內地尋求藥物研發及合作機會。半導體業界則利用AI改善生產流程及效率。

他指出,生物醫藥涉及大量研究及企業數據,跨境使用數據時須考慮不同地區的規定,認為香港在連接內地與國際市場方面具一定條件,若能配合合適的數據管理及合規安排,可望在國際藥企與內地科研資源的合作中發揮橋樑作用。

HK01 Space Promotion

你可能感興趣