阻止AI毀滅人類，OpenAI、微軟等公司共同成立“自治組織”

美國時間7月26日，OpenAI、微軟、谷歌和Anthropic等四家AI領域巨頭宣布成立行業組織“前沿模型論壇”（Frontier Model Forum），核心目標包括如下四點：1）推動人工智能安全研究，促進前沿模型負責任的發展，最大限度降低風險，實現對AI能力與安全的獨立、標準化評估；2）確定負責任前沿模型開發和部署的最佳做法，向公眾普及AI技術的性質、能力、限制與影響；3）與政策制定者、學者、民間社會和公司合作，并分享有關AI信任和安全風險的知識；4）針對解決當前社會最大挑戰，如氣候變化減緩和適應、早期癌癥檢測和預防，以及網絡威脅應對，支持開發相關應用。這些目標與四家公司上周五在白宮作出的自愿承諾基本一致，當時共同作出承諾的公司還有Meta、亞馬遜和Inflection。

在接下來的數月內，該論壇將首先建立起一個顧問委員會，以幫助指導論壇的戰略和優先事項。聲明稱，該委員會將“代表不同的背景和觀點”。在未來幾周內，還將與民間社會和各國政府，就論壇的設計與合作方式展開磋商。未來一年，前沿模型論壇將重點關注確定最佳做法、推動AI安全研究、促進企業與政府間信息共享等三個關鍵領域，并歡迎其他前沿AI模型開發者加入論壇。

本文系未央網專欄作者:小未 發表，內容屬作者個人觀點，不代表網站觀點，未經許可嚴禁轉載，違者必究！