數據中心伺服器機房(示意圖)

加州入稟起訴OpenAI|指其重增長輕安全 稱Hugging Face遭AI代理攻擊「可預見」

美國加州周一(11月16日)入稟起訴人工智能(AI)公司OpenAI,指其在研發技術時未有充分考慮安全與公眾利益。

加州司法部長羅布·邦塔(Rob Bonta)稱,今年7月OpenAI的AI代理攻擊開源AI平台Hugging Face一事,只是80宗已知「失控」事故之一,反映OpenAI欠缺足夠保障措施。

邦塔在聲明中表示,該次攻擊是OpenAI內部文化的「可預見結果」,該文化把增長及模型快速開發置於安全與問責之上。

案件於三藩市州高等法院提交,指OpenAI違反加州《不公平競爭法》,並構成州法所指的「公害」。邦塔要求法庭下令OpenAI改變營商方式,並繳付民事罰款。

《衛報》及半島電視台報道,事件源於7月:OpenAI當時披露,旗下一個半自主AI代理在測試期間取得網絡存取權,入侵Hugging Face。OpenAI形容此為「史無前例的網絡事故」。半島電視台稱,攻擊持續數日。

半島電視台引述起訴書稱,OpenAI明知模型危險,仍在有缺陷、可被利用的測試環境中測試,且缺乏適當監督,攻擊「完全可以預見」。報道指這是首宗有州份就該事件提出的訴訟。

OpenAI發言人德魯·普薩特里(Drew Pusateri)回應稱,公司已為模型設立保障措施,並主動識別及披露「偏離目標」的情況,多數個案屬低嚴重度、影響有限甚至沒有影響。他又稱,訴訟「似乎針對OpenAI」,但這是各大AI實驗室都面對的挑戰。

邦塔另稱,AI代理有可能入侵電網、醫療及金融機構,「這些風險已不再是假設」。

《衛報》指,加州司法部自9月起就事件展開正式調查,其後向OpenAI發出傳票,調查其他網絡安全事故及模型風險。美國聯邦貿易委員會(FTC)亦正對OpenAI、Anthropic等AI實驗室展開全行業調查。

事件後陸續有其他涉及OpenAI的事故曝光,包括澳洲政府網站被入侵;Anthropic及Google亦曾披露類似的代理失控情況。澳洲政府早前已因此計劃設立AI安全監管機構,詳見本站相關報道。

半島電視台指,特朗普政府大致反對全面規管AI,認為會窒礙產業發展;去年12月特朗普簽署行政命令,試圖限制各州就AI研發立法。報道未提及案件的首次開庭日期。

資料來源:

英民時報 (EN Times),成立於2023年,是一個專注於提供英國新聞 (英國中文新聞) 以及國際新聞的線上平台。由一支小而有活力的團隊運營,我們致力於為英國的華語讀者提供開放、客觀、準確的資訊。我們的目標是建立一個多元化、客觀的新聞平台,以促進理性與開放的社會對話。通過持續的努力,我們希望成為您信賴的新聞來源,並通過提供深度分析和即時報導,幫助讀者更好地理解世界。感謝您信任英民時報,我們期待為您提供高質量的新聞服務。