只用AI不經大腦會怎樣?Anthropic專家警告:太依賴恐思考力退化

撰文:快科技
出版:更新:

Anthropic旗下Claude Code工程師Addy Osmani近日發表報告警告稱,當AI模型表現越趨精準可靠,人類反而正逐漸喪失質疑、驗證與理解系統的核心能力。

他將此現象定義為「認知投降(Cognitive Surrender)」,並指出這將在技術領域引發難以察覺且代價高昂的「認知債務(Cognitive Debt)」。

AI工程師警告,當大模型表現越趨精準可靠,人類反而正逐漸喪失質疑、驗證與理解系統的核心能力。(Unsplash@Emiliano Vittoriosi)

Osmani引述華頓商學院研究學者Steven Shaw與Gideon Nave的理論,將人類對AI的依賴路徑劃分為三個階段。

第一階段為「認知卸載」:指的是將任務交由AI處理,但人類仍掌握運作邏輯並對最終決策負責。
第二階段為「判斷延後與依賴」:不再將AI產出視為待驗證的假設,而是直接納為後續作業的基礎前提。
第三階段為「認知投降」:徹底將AI的答案視為自身結論,完全喪失核查意願與念頭。

Osmani警告這三個階段的轉變往往在不知不覺中發生。工程師或分析師起初可能僅是粗略瀏覽產出內容,接著只檢視文件結構,直到系統發生異常或需要解釋關鍵架構決策時,才驚覺團隊內部無人能理解底層邏輯。

Osmani指出,這並不意味著工程師必須強記每行程式碼,而是必須清楚掌握自己究竟還有哪些環節尚未理解,並具備隨時重建認知模型的能力。

Osmani表示,工程師必須清楚掌握自己究竟還有哪些環節尚未理解,並具備隨時重建認知模型的能力。(GettyImage)

相同風險也蔓延至企業營運,若管理層僅依賴AI彙整客戶訪談、產出競爭對手分析或制定策略方針,卻未檢驗原始資料,極可能在無形中採納偏頗或錯誤的結論。

Osmani還提出了「意圖債務(Intent Debt)」,指的是當使用者輸入模糊的提示詞(指令 / Prompt)時,AI往往會自行填補未說明的細節,這些隱含假設並未經過實質考量,人類在毫不知情的狀態下將多項隱性決策權交給模型。

長此以往,AI的普及將令人類變得極度依賴,同時失去學習與思考的訓練,若下一代完全不了解背後原理、全靠AI協助達到目的,人類將面臨智商退化的危機。

【延伸閲讀】OpenAI推Images 2.6模型!支援文字一鍵製作GIF動圖 產圖提速50%(點擊連結看全文)

+3

【本文獲「快科技」授權轉載,微信公眾號:mydrivers】