中美AI競賽|Anthropic創辦人籲拖慢華AI發展步伐 打擊蒸餾攻擊
目前中美雙方正就人工智能(AI)模型,互相指斥對方企業進行「蒸餾攻擊」,同時中美企業亦就「開源」﹑「閉源」模型進行爭辯。中美人工智能(AI)競爭加劇,Anthropic創辦人阿莫迪(Dario Amodei)在一篇博客文章中呼籲美國採取政策干預措施,延緩內地AI的發展速度,並表示所有模型,無論是開放權重還是封閉模型,在發布前都應接受強制性安全測試。
美國政府上周指摘中國AI大模型初創月之暗面Kimi K3模型蒸餾美國同業,形容這是竊取美國企業技術,並警告可能限制使用部分中國AI模型。
上周多間美企促政府免對開源模型設限
包括OpenAI在內的數十家科技公司早前聯合起來,敦促華盛頓避免對開源模型實施限制。他們指,開放系統有助於讓先進AI更加易於獲取、更具適應性,並得到更廣泛應用。不過,Anthropic並未簽署這封公開信,此舉引發批評人士認為Anthropic正在游說限制那些挑戰封閉模型商業模式的中國競爭對手。
明言未禁止開放權重
阿莫迪澄清外界關於Anthropic支持禁止開放權重模型的說法,稱該公司從未主張禁止開放權重模型。不過,他同時強調,這類模型存在風險,因為很難實施安全護欄或監測其使用情況。
阿莫迪稱,自己不同意聯名公開信中有關開放權重模型更有利於建立安全防護體系的觀點。相反,他重申其長期立場,即開放權重模型更容易被用於實施網絡攻擊或生物安全攻擊。為降低風險,他主張加強先進晶片管制、打擊中國競爭對手涉嫌濫用美國模型的行為,並對開放模型和封閉模型一律實施強制測試。