AI教父Geoffrey Hinton離職 談AI危險性「對畢生志業感後悔」

撰文:成依華
出版:更新:

「AI教父」欣頓(Geoffrey Hinton)5月1日公布他已辭去在Google的職務,並在接受傳媒訪問時講述對自己的畢生職志感後悔,又談到AI(人工智能)的危險之處,如「目前它們不比我們聰明,但我認為很快就會」、「很難看到如何防止壞人利用它做壞事」。

欣頓自2013年初起在Google工作,擔任工作研究員(engineering fellow),至今逾10年,他研究深度學習(deep learning)、神經網絡(neural networks)等方面,同時也在多倫多大學擔任教授。

在離開Google後,他向傳媒談到自己已經75歲,是時候退休,又指如今可以自由地談論人工智能的風險,以及他對自己畢生的工作感到後悔,「我會用藉口安慰自己:若然不是我做,也會有別人做」。

「AI教父」欣頓(Geoffrey Hinton)既在Google工作,也在多倫多大學擔任教授(多倫多大學網站)

他認為AI聊天機器人的一些風險相當可怕,「目前它們不比我們聰明,但我認為很快就會」,他又指GPT-4(OpenAI公司研發的一種人工智能技術)之類的技術擁有大量知識,已可使人類黯然失色,在推理方面,AI沒有那麼好,但已做到簡單推理,他認為「隨着這發展速度,我們能預計會進展得很快,我們需要擔心這一點。」。

他稱「很難看到如何防止壞人利用它做壞事」。