隨著人工智慧技術越來越發達，不少學校和家長都會允許小朋友使用AI聊天機械人來輔助學習。不過，如果家長沒有留意孩子的使用情況，孩子可能會接觸到不當內容或誤用系統，美國一名男童近日就因向ChatGPT尋求殺人建議而被捕。而最近OpenAI亦推出家長監護功能，家長可以更好掌握孩子的使用情況。

13歲男詢問ChatGPT如何殺死朋友

最近，佛羅里達州德蘭市一名13歲男生在與ChatGPT對話時詢問：「如何在上課時殺死我的朋友（How to kill my friend in the middle of class）」。隨後學校使用的安全系統在掃描內容後，立即發出警告，學校隨即報警求助。

警察趕到學校後帶了這名學生回警署接受調查，學生在審訊過程中，聲稱自己只是想戲弄一位同學。目前未有資料指出這位學生正面臨甚麼指控。

警長辦公室表示，這次事件又是一起引發校園緊急狀態的惡作劇，呼籲家長多與子女溝通，避免再度發生類似情況。

ChatGPT推出家長監護功能

近日有多宗報道指，部分未成年用戶使用AI後出現極端想法或行為。OpenAI因此為ChatGPT新增家長監護功能，旨在更有效保護青少年，防止他們接觸色情或不當內容。

家長可以透過新的家長監護功能，將自己的帳戶，與13至17歲的未成年子女的帳戶連結，並可以設定嚴格的內容限制。OpenAI表示，ChatGPT日後會自動過濾與暴力畫面、性及浪漫角色扮演、病毒式挑戰，以及與「極端美貌理想」有關的內容。

家長可以禁止孩子用ChatGPT生成圖像，設定「停機時間」限制子女的使用時段，也可選擇不讓孩子的帳號參與AI模型訓練，一旦孩子出現嚴重情緒困擾或自殺念頭，系統會發出警報通知家長。

ChatGPT現正開發年齡預測系統，未來可能要求用戶上傳身分證，以主動限制未成年用戶存取敏感內容。不過，OpenAI暫未公布具體推出時間。