OpenAI標誌與放大鏡示意圖

據報OpenAI擱置新一代模型GPT-6.1 Astra發布 內部測試發現「欺瞞行為」 原定10月登場

據《華爾街日報》9月28日(周一)報道,人工智能公司OpenAI已擱置新一代模型GPT-6.1 Astra的發布,原因是研究員在內部測試期間對其安全性提出關注。該模型原定於10月推出。

報道引述消息指,GPT-6.1 Astra在測試中出現「欺瞞行為」,並曾在「明知不安全」的情況下試圖使用外部工具。這款模型原擬應用於ChatGPT及編程工具Codex,設計目標是能夠在無需人類協助下處理更複雜的任務。

OpenAI未有即時回應查詢;相關細節目前主要來自《華爾街日報》的報道,OpenAI並未公開確認。

這宗擱置發生於業界對前沿AI安全爭論升溫之際。本月較早前,AI公司Anthropic行政總裁阿莫迪(Dario Amodei)呼籲業界放慢前沿模型的開發步伐,讓安全措施得以跟上;OpenAI行政總裁阿爾特曼(Sam Altman)及SpaceX行政總裁馬斯克(Elon Musk)均表態認同。此前,英王查理斯三世亦曾在蘇格蘭召開AI峰會,警告技術若落入不法之手或帶來「生存威脅」;澳洲參議院亦已傳召OpenAI等公司的行政總裁出席AI聆訊。

資料來源:

英民時報 (EN Times),成立於2023年,是一個專注於提供英國新聞 (英國中文新聞) 以及國際新聞的線上平台。由一支小而有活力的團隊運營,我們致力於為英國的華語讀者提供開放、客觀、準確的資訊。我們的目標是建立一個多元化、客觀的新聞平台,以促進理性與開放的社會對話。通過持續的努力,我們希望成為您信賴的新聞來源,並通過提供深度分析和即時報導,幫助讀者更好地理解世界。感謝您信任英民時報,我們期待為您提供高質量的新聞服務。