美國紐約州州長霍楚爾（Kathy Hochul）星期三（10月28日）正式簽署一項新法，嚴禁未成年人使用具備虛擬伴侶屬性的人工智能（AI）聊天機械人。這是迄今為止全美針對消費級AI模型出台的覆蓋面最廣的監管舉措之一。

新法明確要求，聊天機械人營運商如擁有ChatGPT的OpenAI，採取合理的年齡核實措施。對於未滿18歲的用戶，或尚未確認用戶已成年，平台不得提供新法所列的高風險聊天機器人功能。

機械人嚴禁輸出任何可能誤導未成年人認為它擁有生命、人類屬性或真實情感的內容；不得誘導青少年產生雙方具備私人情感、專業諮詢或權威指導關係的錯覺；不得將生成內容包裝為個人觀點。同時，系統被明令禁止留存未成年人的身心健康等私隱敏感數據。

霍楚爾在新法簽署儀式上指出，這項立法的核心目標是斬斷AI冒充未成年人「朋友、戀人」的情感綁定鏈條，築牢青少年的心理與生理健康防線。

非營利倡導組織「常識媒體」（Common Sense Media）對新法表示高度認可，稱之為全美最嚴格的兒童AI安全法，有效防范潛伏的青少年心理傷害風險。

但這一法規卻遭到科技業界的強烈反彈，抨擊新法條款定義過於寬泛，強調不應剝奪未成年人接觸前沿學習的工具。

截至目前，OpenAI與Anthropic等頭部AI企業均未就此作出公開回應。

本文獲《聯合早報》授權轉載。