隨著AI服務越來越成熟，不少學校都會使用AI服務輔助教學，兒童接觸AI的機會也越來越多。早前Google宣布向13歲以下兒童開放Gemini人工智慧聊天機器人，但這卻引來各界的憂慮。

早前Google宣布推出Gemini人工智慧聊天機器人（Gemini artificial intelligence (AI) chatbot），為13歲以下的兒童提供服務，服務現於美國推出。推出後會預設開啟，Google會透過Family Link系統通知家長。如果不想使用這服務，就要主動關閉。

有兒童權益與隱私保護團體指出，「預設開啟」的做法不恰當，可能觸犯美國的《兒童在線隱私保護法》（COPPA），因為法律規定需要「明確可驗證的家長同意」。但是，現在是家長要特意去關閉服務，變相將責任推轉嫁家長。

Gemini幫助學習亦存在安全疑慮

Gemini人工智慧聊天機器人能根據使用者提供的查詢或提示，來建立新的或圖像文字回應。例如兒童可以要求系統畫一隻貓，系統會掃描貓的外觀模式，並產生包含這些貓形細節的圖像。Google亦強調，不會使用兒童的對話資料來訓練AI模型。

Google為兒童提供AI聊天服務的舉動帶來不少爭議，雖然乍聽之下能為兒童學習帶來不少益處，例如幫助兒童解答課業問題，激發創意等，但是各界擔憂兒童過早接觸AI相關服務，或會帶來龐大風險。

孩子容易被AI誤導　影響判斷與心理發展

兒童未有足夠的判斷力能辨別AI對話的真確性。Google亦承認Gemini在對話時會產生「幻覺」，即是杜撰錯誤的內容。如果兒童分辨能力未成熟，就可能誤信內容。AI更可能分享有害、扭曲現實的內容，甚至提供危險建議。即使系統設安全措施來防止產生不適當或不安全內容，但兒童仍能透過不同方法來繞過系統控制。

在心理發展方面，兒童可能會開始依賴AI，視之為朋友，甚至誤以為AI有真實情感。這種依賴會對他們的心理健康、社交技巧和批判性思考有長遠影響。當成年人都會對AI產生情感錯覺，更何況是仍然成長階段，思維未發展成熟的兒童。

同時有不少家長都憂慮，兒童或會逐漸依賴AI提供意見和資訊，從而削弱自主思考的能力，更可能逐漸疏離真實的人際交流。

有部分國家已開始討論為AI設定年齡限制，就像對社交平台和遊戲平台的限制，來保護兒童。

4招為孩子使用AI把關

家長亦可於日常生活中擔當把關的角色：

1.主動檢查：當Gemini的人工智慧聊天機器人正式推出後，可以留意有否啟用Family Link的功能。如果不想讓孩子使用就要記得關閉功能。

2.保持懷疑：提醒孩子AI的答案未必真實和正確，要保時刻持懷疑和思考。

3.設定界線：可以限制孩子使用AI的時間，或者限定只可以用來查閱資料，不要把AI視為朋友。

4.觀察反應：觀察孩子會否太過沉迷或者依賴，一有苗頭要即時處理。