OpenAI與Anthropic及Google就AI安全商合作 奧特曼認有理由恐懼
美國近日掀起一陣有關如何規管人工智能(AI)發展速度的討論。OpenAI表示,正與其他AI企業,包括Anthropic和谷歌(Google)進行磋商,探討如何攜手解決安全問題。OpenAI行政總裁奧特曼(Sam Altman)則承認,外界對AI的憂慮是有道理的,因為這些工具的能力發展迅速。
Open AI的發言人9月15日(周二)向美媒CNBC表示,自從GoogleDeepMind的董事長哈薩比斯(Demis Hassabis)在7月提出一項提案,呼籲成立一個由美國主導的「標準機構」(Standards Body)以來,各方一直在進行討論。
Hassabis曾在網上發文,建議成立公私營合作的自律組織,並接受聯邦政府的監管,類似美國金融業監管局(FINRA)。
報道指,OpenAI、Anthropic和Google在AI領域是激烈的競爭對手,但最近數週,這些企業都面臨巨大的壓力,需要解決日益嚴重的AI安全問題。
12日(上周六),Anthropic的行政總裁阿莫迪(Dario Amodei)呼籲AI公司放慢發展最前沿模式的速度,這一呼籲得到哈薩比斯及奧特曼的表揚。
哈薩比斯在網上發文指:「達里奧(阿莫迪的名字)的文章指明了正確的前進方向,細節仍需要完善,但方向對於應對當前的關鍵時刻而言是正確的。」
奧特曼表示,他同意阿莫迪有關需要控制業內最先進模型開發速度的觀點。他在網上發文稱,放緩開發速度一直是OpenAI近數週來討論的「主要議題」,公司「很快」將公佈更多資訊。
據《英國廣播公司》(BBC)15日報道,奧特曼在三藩市舉行的Salesforce年度會議上表示:「世界應該相信我們會做正確的事,因為這是正確的事,而且我們深知此事的重要性。」
奧特曼坦承:「現在我們不用費太多想像力就能想像到這件事可能會如何出錯。我認為世界對此感到擔憂是理所當然的。」