歐盟立法機構通過里程碑式的人工智能法規

2023年6月14日，歐洲議會（European Parliament）以499票贊成、28票反對和93票棄權通過了其關于人工智能（AI）法案的談判立場，并將在隨后與歐盟成員國就該法律的最終形式進行談判。這些規則將確保歐洲開發和使用的人工智能完全符合歐盟的權利和價值觀，包括人類監督、安全、隱私、透明、非歧視以及社會和環境福祉。

人工智能實踐禁令范圍

這些規則遵循基于風險的方法，并根據人工智能可能產生的風險水平，為提供商和部署人工智能系統的機構明確義務。因此，對人類安全具有不可接受的風險水平的人工智能系統將被禁止，例如那些用于社會評分（根據社會行為或個人特征對人進行分類）的系統。在本次討論中，歐洲議會議員擴大了清單，包括禁止侵入性和歧視性使用人工智能，如:

公共場所的“實時”遠程生物識別系統；“后”遠程生物特征識別系統，唯一的例外是用于起訴嚴重犯罪的執法，并且必須經過司法授權；使用敏感特征（如性別、種族、民族、公民身份、宗教、政治取向）的生物識別分類系統；預測性警務系統（基于特征分析、位置或過去的犯罪行為）；執法、邊境管理、工作場所和教育機構中的情感識別系統；和從互聯網或閉路電視錄像中無針對性地抓取面部圖像，以創建面部識別數據庫（侵犯人權和隱私權）。高風險人工智能

MEPs確保高風險應用程序的分類現在將包括對人們的健康、安全、基本權利或環境造成重大損害的人工智能系統。此外，用于影響選民和選舉結果的人工智能系統以及社交媒體平臺（擁有超過4500萬用戶）使用的推薦系統也被添加到高風險名單中。

一般目的人工智能服務商的義務

基礎模型的提供商——人工智能領域一個新的快速發展的領域——必須評估和減輕可能（對健康、安全、基本權利、環境、民主和法治產生）的風險，并在歐盟市場發布之前在歐盟數據庫中注冊他們的模型。基于這種模型的生成式人工智能系統，如ChatGPT，必須符合透明度要求（披露內容是人工智能生成的，也有助于區分所謂的深度偽造圖像和真實圖像），并確保防止生成非法內容。用于培訓的版權數據的詳細摘要也必須公開。

支持創新和保護公民權利

為了促進人工智能創新和支持中小企業發展，歐洲議會增加了對研究活動和開源許可證下提供的人工智能組件的豁免。新法律增加了對所謂由公共當局建立的的監管沙盒的支持，以在部署人工智能之前對其進行測試。

最后，歐洲議會議員希望提高公民對人工智能系統提出投訴的權利，并獲得對基于高風險人工智能系統的決定的解釋，因為這些決定嚴重影響了他們的基本權利。歐洲議會議員還改革了歐盟人工智能辦公室的角色，該辦公室將負責監督人工智能規則手冊的實施情況。

本文系未央網專欄作者:高旭 發表，內容屬作者個人觀點，不代表網站觀點，未經許可嚴禁轉載，違者必究！