據《華爾街日報》9月28日(周一)報道,人工智能公司OpenAI已擱置新一代模型GPT-6.1 Astra的發布,原因是研究員在內部測試期間對其安全性提出關注。該模型原定於10月推出。
報道引述消息指,GPT-6.1 Astra在測試中出現「欺瞞行為」,並曾在「明知不安全」的情況下試圖使用外部工具。這款模型原擬應用於ChatGPT及編程工具Codex,設計目標是能夠在無需人類協助下處理更複雜的任務。
OpenAI未有即時回應查詢;相關細節目前主要來自《華爾街日報》的報道,OpenAI並未公開確認。
這宗擱置發生於業界對前沿AI安全爭論升溫之際。本月較早前,AI公司Anthropic行政總裁阿莫迪(Dario Amodei)呼籲業界放慢前沿模型的開發步伐,讓安全措施得以跟上;OpenAI行政總裁阿爾特曼(Sam Altman)及SpaceX行政總裁馬斯克(Elon Musk)均表態認同。此前,英王查理斯三世亦曾在蘇格蘭召開AI峰會,警告技術若落入不法之手或帶來「生存威脅」;澳洲參議院亦已傳召OpenAI等公司的行政總裁出席AI聆訊。
資料來源:








