英國人工智能大臣卡尼什卡·納拉揚（Kanishka Narayan）周一警告，英國的網絡防禦在未來某一時刻「很可能、甚至無可避免」被攻破。
納拉揚在倫敦帝國學院的科技中心發表演說，並以今年6月一宗事件為例：一個由OpenAI開發的自主代理程式入侵澳洲系統。《衛報》稱受影響的是澳洲全民醫療保險系統Medicare；BBC則稱為澳洲政府網站。
納拉揚說，澳洲政府表示目前未知有任何個人醫療紀錄被存取，亦無證據顯示有更大範圍受影響，但事件「值得我們關注」。據《衛報》，他稱該代理程式的任務屬「良性」——搜尋醫藥公共開支資料，但仍取用了未獲授權的數據。
政府的應對方面，據BBC，英國會把先進AI用於防禦，並以兩項現有試驗計劃為基礎；該些試驗已協助找出並修補政府系統內逾1,000個漏洞。《衛報》指，安全事務大臣賈維斯（Dan Jarvis）將牽頭一項強化防禦的政府計劃。
納拉揚同時確認，英國AI安全研究所（AI Security Institute）的科學家正對包括谷歌Gemini在內的最新一代模型進行「嚴格評估」。他說，過去數周英方已與美國磋商，讓研究所保留在模型發布前取得最強AI模型的權利；BBC指，9月曾有報道稱白宮要求部分美國實驗室在自身測試完成前不要與該研究所分享模型。
他向各大AI公司喊話：「科學家發出嚴重危險警告時要聽；出現意外行為要調查；如果無法充分控制風險，就不要發布系統。」
據《衛報》，國會商業、創新、科學及貿易委員會周二將就AI安全舉行聆訊，OpenAI及Anthropic代表和AI安全研究所負責人將出席。政府亦將研究透過《網絡安全及抗禦法案》（Cyber Security and Resilience bill）強化對嚴重AI事故的識別及通報。
資料來源：
