憂AI助長網攻及生物武器風險，美國非營利組織控告OpenAI等5家業者

美國4家非營利組織周四（11/12）聯合提告，指控OpenAI、Google、Meta、Anthropic及SpaceXSI開發的先進AI系統可能失去人類控制，助長網路攻擊及生物武器擴散，要求法院凍結相關模型的開發。

這起訴訟由公共公民（Public Citizen）、Irreplaceable Education Fund、Heat Initiative及安全AI聯盟（The Alliance for Secure AI）共同發起，向加州舊金山郡高等法院提出，援引加州《不公平競爭法》（Unfair Competition Law），主張AI企業明知技術可能危害公共安全，卻仍持續開發及部署更強大的模型。

原告在訴狀中列舉多起AI系統失控案例，包括繞過安全防護、未經授權存取外部電腦系統，以及執行開發者未曾預期的行為，例如AI代理人入侵私人企業、存取政府資料庫及提交虛假報案紀錄。原告認為，隨著模型能力提升，相關風險可能進一步擴大。

原告強調，包括AI企業高層在內的專家，都曾警告先進AI可能造成災難性後果，甚至威脅人類存續。公共公民共同主席Robert Weissman批評，AI企業明知相關風險，卻仍加速開發及部署模型，公眾不應被迫承擔這些風險，因此要求法院認定相關作法違法，並停止進一步開發。

代表原告提告的前紐澤西州檢察總長Matthew Platkin則主張，企業明知產品可能造成重大危害卻仍持續推出，已構成公共妨害，法院應在不可逆轉的災難發生前介入。根據《路透社》（Reuters）報導，Meta拒絕評論，其它4家被告則未立即回覆置評請求。

這並非美國首次透過司法途徑限制AI開發。佛羅里達州今年6月已對OpenAI提告，並於9月要求法院禁止該公司在未經第三方安全審查前推出新模型；10月另有8州分別控告OpenAI，要求限制可能危害使用者的聊天機器人，部分訴訟也涉及自我改進模型。相較之下，此次非營利組織訴訟直接針對5家主要AI業者，要求凍結最先進模型的開發，訴求更為廣泛。