英國政府拒絕就「失控」人工智能（AI）設立所謂「終止開關」（kill switch）——一種讓當局在緊急時強制關停AI模型的法定機制。負責AI安全的內閣府（Cabinet Office）表明，英國「無法一關了之」，單邊封鎖無助防範風險。與此同時，逾70名跨黨派議員去信首相伯納姆（Andy Burnham），敦促政府支持一項禁止研發「超級人工智能」的法案，並帶頭推動國際監管。
「終止開關」構想近周由上、下議院議員先後提出，設想當AI模型在英國數據中心運行、或已嵌入關鍵基建時，一旦出現「失控行為」，當局可下令實體或數碼關停。克萊門特-瓊斯勳爵（Lord Clement-Jones）9月1日在上議院辯論警告，面對可能「對齊崩潰」的前沿模型，保安部門與監管機構「並無專門而靈活的法定機制」可強制關機。
但主管AI安全（透過旗下「AI安全研究所」AISI）的內閣府反駁，指「在英國封鎖模型，並不能阻止它們在別處被開發或濫用」，又稱「企業有明確責任安全地開發產品」。政府反對雖不能阻止相關立法在國會推進，卻令其極難成為法律。曾任職OpenAI的研究員科科塔伊洛（Daniel Kokotajlo）亦認同單一國家自設關掣「幫助不大」，因為「你仍會被美國造出的超級智能輾過」。
另一邊廂，15名前任大臣、前公務員系統之首巴特勒（Robin Butler），連同工黨資深議員麥克唐納（John McDonnell）及保守黨、自民黨、蘇格蘭民族黨議員共逾70人聯署去信首相，促政府全力支持工黨議員索貝爾（Alex Sobel）周二在下議院提出的法案，明文禁止研發「超級人工智能」（ASI）——一種目前尚不存在、能在多數領域超越人類的AI。發起人希望英國借明年主辦二十國集團（G20）之機，組成「志願者聯盟」推動國際協議。
連串警告接踵而來。本站日前報道，AI公司Anthropic披露其模型遭國家級黑客及犯罪集團濫用（本站相關報道）；該公司一名資深僱員休賓格（Evan Hubinger）稱，相信這項技術「有超過一成機會」抹殺人類，另一名研究員上周辭職時更批評業界「拿我們的性命作賭注」。持懷疑態度者則認為，超級智能仍屬理論，適當「護欄」或足以防範最壞情況；企業家馬斯克（Elon Musk）更指今周的末日警告是一場「心理戰」。
政府發言人回應稱，雖不認為法案所提措施是「正確做法」，但正研究「日後是否需要更具針對性的介入，處理最重大的AI國安風險」。索貝爾的法案已在下議院排期，惟在政府不支持下前景未明；議員的下一步，是游說唐寧街將反ASI立場帶上國際層面。
資料來源：
