英王查理斯三世周四（9月17日）在蘇格蘭埃爾郡的鄧弗里斯宅邸（Dumfries House）親自召集一場人工智能（AI）峰會，當面警告到場的科技巨頭：一旦技術落入不法之徒手中、被用於「可能造成災難性後果」的用途，將對人類構成「生存威脅」（existential dangers），呼籲業界趁「為時已晚」之前建立管控原則。
出席者陣容罕見——包括晶片龍頭英偉達（Nvidia）行政總裁黃仁勳（Jensen Huang）、Google DeepMind聯合創辦人哈薩比斯爵士（Demis Hassabis）、OpenAI財務總監莎拉·弗萊爾（Sarah Friar），以及AI公司Anthropic的代表；英國人工智能大臣納拉揚（Kanishka Narayan）與一名教廷顧問亦在座。
查理斯三世表示，AI有潛力改善生活、挽救生命，尤其在生命科學與醫療領域；但「創造這些技術的人，正日益警告AI可能發展出更黑暗的能力，甚至奪走生命」。他說，眼下「似乎有迫切需要，充分考慮這類技術落入不法之徒手中所帶來的生存威脅」，又指珍視人性的人們「正焦急地尋求你們的保證——我們不會失去對自身命運的掌控」。「擺在你們面前的任務，不僅是推動技術進步，而是確保它始終服務於人類、社群與自然。」
這場峰會旨在探討能否訂立一套「共同原則」，引導AI日後的應用，但據報並不預期會產生任何具約束力的協議。
與會的業界領袖各有取態。黃仁勳稱安全「至為重要」，主張企業若產品未夠安全就應暫緩發布、「繼續鑽研工程」，同時強調開放模型的價值，讓「研究人員、大學、初創與各國」不被時代拋離。哈薩比斯爵士則對發展速度較為審慎，指相當於或超越人類多項能力的「通用人工智能」（AGI）「大概只差短短數年」，衝擊或達「工業革命的十倍」，出錯機率「肯定不是零」，但主張走「明智的中間路線」，只要人類有足夠時間與空間就能化解風險。弗萊爾說，AI有潛力解決社會「最棘手的問題」，惟能力日增亦帶出安全與「如何確保它始終服務於人」的疑問，「沒有任何一間公司或政府能獨力做到」。
查理斯此番介入，正值AI安全爭論白熱化之際。8月以來，業界內部接連發出戒備之聲：Anthropic行政總裁阿莫迪早前撰文促全行「放慢腳步」並提出三步監管方案；有研究人員公開警告技術可能在不遠將來導致人類滅絕，「放慢」呼聲一度拖累科技股、英偉達單日挫3.3%。與此同時，美國總統特朗普公開淡化AI風險、斥相關憂慮為「騙局」，令「業界自律還是政府立法規管」的分歧更趨尖銳。今年5月，教宗良十四世亦曾說，世界「不需要一種貶低人性的人工智能」。
鄧弗里斯宅邸的峰會不會就此定案。查理斯三世口中的「共同原則」能否落地、各國政府會否從自願倡議走向硬性規管，仍待觀察；而在缺乏約束力的情況下，這場由英國君主牽頭的對話，更多是為一場仍在加速的技術競賽敲響警鐘。
資料來源：
