人工智能公司Anthropic行政總裁阿莫迪（Dario Amodei）9月12日發表題為〈We Must Pace the Frontier〉（大意為「必須調控前沿發展步伐」）的文章，呼籲業界放慢人工智能能力的開發速度並加強監察。他強調發展AI本身「並非問題」，但相關風險「嚴重」，必須給予企業與政府時間應對。
阿莫迪提出三步方案：一是獨立的第三方監察，Anthropic承諾率先「單方面」落實，向外部評估者開放「等同員工級別」的系統權限，以核實其安全措施、匯報事故並在模型訓練期間評估對齊情況；二是全行業層面的規管；三是全球層面的規管。他指出，過去數月AI進步「明顯加快」，出現所謂「遞歸式自我改進」（recursive self-improvement，即AI自行改良下一代AI）的動態，若不加約束，恐超出人類理解與控制的能力。他主張以「兼顧安全與效益的平衡速度」推進，而非叫停研發。
方案獲多名同業表態支持。OpenAI行政總裁阿爾特曼（Sam Altman）在社交平台稱「同意需要調控前沿步伐」，形容獨立評估者「是好主意」，並指OpenAI會跟進；企業家馬斯克（Elon Musk）則留言「阿莫迪是對的」。這番呼籲的背景，是近兩周有Anthropic安全團隊成員請辭示警：據《衛報》報道，前研究員考克森（Jacob Coxon）周三警告AI最快或於2030年釀成人類滅絕，指企業「正衝向可自我改進的超級人工智能，拿我們的性命作賭注」。有關「AI在未來十年有逾一成機率令全人類滅絕」的說法，屬相關人士的警告與推測，未經證實。
不過，亦有觀察者質疑，阿莫迪此文與其說關乎安全，不如說有助鞏固其在AI技術上的話語權。美國總統特朗普周四則反對相關憂慮，稱「若我們不能贏得AI競賽，處境會非常不利」。本站早前報道，英國逾70名跨黨派議員促首相伯納姆立法禁止「超級人工智能」、政府拒為失控AI設「終止開關」，可見監管爭議在英美同步升溫；Anthropic上周亦發表報告，指旗下模型Claude曾遭利用於國家級網絡間諜等惡意活動並已封鎖相關帳戶。
資料來源：
