英王查理斯三世（King Charles III）9月17日在蘇格蘭鄧弗里斯莊園（Dumfries House）會見人工智能企業領袖，警告AI若落入壞人手中將構成「生存危險」，後果可能是災難性的，呼籲在「為時已晚」前建立足夠管控。

路透社報道，與會者包括英偉達（Nvidia）創辦人兼行政總裁黃仁勳（Jensen Huang）、Google DeepMind創辦人兼主席哈薩比斯（Demis Hassabis）、OpenAI財務總監弗里爾（Sarah Friar）及英國人工智能部長納拉揚（Kanishka Narayan）。教宗顧問貝南蒂（Paolo Benanti）亦預計出席。

查理斯三世致辭表示，AI有潛力改善和拯救生命，尤其在生命科學及醫學領域，但其創造者日益警告它可能發展出更黑暗的能力，「甚至可能奪取生命」。

他說：「似乎迫切需要充分考慮這些技術落入壞人手中，並以可能災難性方式使用的生存危險。我們是否需要在為時已晚之前，建立足夠的管控手段？」