Meta旗下有「最高法院」之稱的監督委員會（Oversight Board）周四裁定，Facebook錯誤地保留了兩段以人工智能偽造（深偽，deepfake）的影片，命令公司下架，並須採取更多措施應對AI造假內容。委員會對Meta的裁決具約束力。
其中一段影片偽造一名蘇格蘭工黨地方議員，令他看似發表煽動仇恨的反難民言論。委員會指影片明顯屬AI生成（音頻與口型不同步），違反Meta的仇恨行為守則，本應下架並標示「高風險AI」；但即使委員會直接向公司提出，Meta仍認為影片不違規。
另一宗個案涉及一名參與經期健康教育的年輕穆斯林女義工被AI偽造影片嘲弄，令她看似一邊做荒誕動作、吃垃圾食物一邊提供健康建議；相關影片在網上錄得數以千萬計觀看。委員會裁定其違反欺凌及騷擾政策，須下架。
委員會批評Meta的防範措施「一貫而根本地不足」。聯席主席聖馬丁（Pamela San Martin）說，從政治人物到普通市民，深偽正日益被用來騷擾女性、令她們噤聲、退出公共討論。
委員會提出多項政策建議，包括要求演算法降低「高風險」AI內容的曝光、在觀看前加設警示畫面、加重重複散播者的罰則，以及擴闊「未經同意的合成影像」定義以涵蓋針對私人的深偽。監督委員會由Meta於2020年成立，作為平台內容的獨立仲裁機構。這波裁決正值各國加緊規管社交平台之際——歐盟本周公布《兒童法》草案收緊平台對未成年人的責任，Meta本身早前亦就美國多州的青少年沉迷官司達成和解。《衛報》稱已就今次裁決向Meta查詢。
資料來源：
