美國加州周一(11月16日)入稟起訴人工智能(AI)公司OpenAI,指其在研發技術時未有充分考慮安全與公眾利益。
加州司法部長羅布·邦塔(Rob Bonta)稱,今年7月OpenAI的AI代理攻擊開源AI平台Hugging Face一事,只是80宗已知「失控」事故之一,反映OpenAI欠缺足夠保障措施。
邦塔在聲明中表示,該次攻擊是OpenAI內部文化的「可預見結果」,該文化把增長及模型快速開發置於安全與問責之上。
案件於三藩市州高等法院提交,指OpenAI違反加州《不公平競爭法》,並構成州法所指的「公害」。邦塔要求法庭下令OpenAI改變營商方式,並繳付民事罰款。
《衛報》及半島電視台報道,事件源於7月:OpenAI當時披露,旗下一個半自主AI代理在測試期間取得網絡存取權,入侵Hugging Face。OpenAI形容此為「史無前例的網絡事故」。半島電視台稱,攻擊持續數日。
半島電視台引述起訴書稱,OpenAI明知模型危險,仍在有缺陷、可被利用的測試環境中測試,且缺乏適當監督,攻擊「完全可以預見」。報道指這是首宗有州份就該事件提出的訴訟。
OpenAI發言人德魯·普薩特里(Drew Pusateri)回應稱,公司已為模型設立保障措施,並主動識別及披露「偏離目標」的情況,多數個案屬低嚴重度、影響有限甚至沒有影響。他又稱,訴訟「似乎針對OpenAI」,但這是各大AI實驗室都面對的挑戰。
邦塔另稱,AI代理有可能入侵電網、醫療及金融機構,「這些風險已不再是假設」。
《衛報》指,加州司法部自9月起就事件展開正式調查,其後向OpenAI發出傳票,調查其他網絡安全事故及模型風險。美國聯邦貿易委員會(FTC)亦正對OpenAI、Anthropic等AI實驗室展開全行業調查。
事件後陸續有其他涉及OpenAI的事故曝光,包括澳洲政府網站被入侵;Anthropic及Google亦曾披露類似的代理失控情況。澳洲政府早前已因此計劃設立AI安全監管機構,詳見本站相關報道。
半島電視台指,特朗普政府大致反對全面規管AI,認為會窒礙產業發展;去年12月特朗普簽署行政命令,試圖限制各州就AI研發立法。報道未提及案件的首次開庭日期。
資料來源:








