歐盟制定人工智能技術監管條款 以保障人們權利不受侵害

據外媒報道，歐盟委員會21日提出了一系列關于人工智能技術應用的監管條款，認為高風險的人工智能應用應當被禁止或受到限制，以保障人們的安全和正當權利不受侵害。

此舉是歐盟加強數字領域監管，以期在該領域保持領先地位的最新行動。歐盟按照安全風險的高低，將人工智能應用場景分為從“安全”到“不可接受”四個等級，以在鼓勵該領域創新與保護人們的安全和隱私等權利之間更好地進行平衡。

風險最低的應用場景包括基于人工智能的電子游戲和垃圾郵件識別軟件等;風險有限的場景包括機器聊天軟件等，對此歐盟建議，應該讓用戶知曉自己在與機器互動，并有權決定繼續對話還是退出。

高風險應用場景是指可能對人們生活的重要方面造成嚴重影響的場景，如包括自動駕駛軟件在內的交通等重要基礎設施、刑事法庭、邊境、精神病院和移民管理等。歐盟建議，這類功能在啟用前應履行嚴格義務，包括足夠的風險評估、高質量的數據，以及必要的人工監督等。比如，篩選入學、簡歷和信用卡申請等應用，必須滿足透明度和數據質量方面的規定。

某些明顯威脅人們安全和權利的人工智能應用被劃為不可接受的場景，包括控制人的行為，違反兒童意愿和潛意識的教化等，比如通過聲音輔助功能誘導未成年人做出危險行為的玩具等。這類應用須被禁止。

歐委會執行副主席瑪格麗特·韋斯塔格在新聞發布會上說，若有企業不遵守規定，首先是受到警告，然后產品可能會被下架，如屢犯不改，則可罰沒其年收入的6%。

這些條款不僅約束企業行為，也對政府使用人工智能的行為進行約束。歐委會強調，所有遠距離生物識別系統都被認為具有高風險，禁止執法部門在公共場合使用這一技術，只有少數情況可例外，如尋找失蹤兒童或是防止恐怖襲擊、甄別犯罪分子和可疑人員等。這類應用需要得到司法部門或獨立機構授權。

這些監管條款中的一些即刻生效，主要是禁止那些風險過高的人工智能應用，比如根據人們的行為進行評判的“社會評分系統”。其他大部分條款尚需經過歐洲議會和成員國政府的通過。外媒的報道稱，這一過程可能會持續數月甚至數年。

標簽： 歐盟 人工智能技術 監管條款