一文看懂全球首部《人工智慧法》:歐盟如何保護消費者、如何確保「真實」與「AI生成」的區分?

OpenAI的聊天機器人ChatGPT是生成式人工智慧最具代表性的成果之一。(美聯社)

隨著人工智慧(AI)技術在企業和消費者中的普及,AI對人類的潛在風險也引起了廣泛的討論。歐洲議會於13日通過了全球首套全面的《人工智慧法案》(AI Act),這標誌著監管AI技術邁出了重要的一步。該法案將根據風險程度來管理歐盟市場上的AI產品,確保科技公司推出遵守法律規範的AI產品。

OpenAI開發的生成式人工智慧技術,讓世人見識到AI的威力。(美聯社)

根據《》(The Guardian)報導,年利達律師事務所(Linklaters)合夥人庫尼森(Guillaume Couneson)指出:「用戶將能夠相信他們所使用的AI工具已經過仔細審查並且可以安全使用,就像銀行應用程式的用戶能夠信任銀行已經採取嚴格的安全措施,使他們能夠安全地使用應用程式一樣。」

除了對歐盟約4.48億人口的影響,該法案可能在全球其他地區也產生重要影響。庫尼森補充說:「許多國家都將關注歐盟AI法案通過後的情況。只有在證明有效的情況下,其他地區才可能效仿歐盟的做法。」那麼,這個法案將如何保護消費者權益,並且科技公司對此有何看法?以下將為讀者介紹:

如何應對AI帶來的風險?

◆用於操縱他人的系統。

◆如中國根據居民個人特質或行為進行「評分」的社會信用評分系統。

◆在工作場所或學校監控人們情緒的情緒監控系統。

◆基於生物特徵(例如視網膜掃描、人臉識別、指紋)對人們進行篩選以推斷種族、性取向、政治觀點或宗教信仰等方面的「生物特徵分類」系統。

◆通過從網路或監視器擷取人臉圖像來建立人臉識別數據庫的系統。

創造出ChatGPT的OpenAI。(美聯社)

國安用途豁免

臉部識別技術是立法期間的一大爭議點。即時生物特徵識別系統(包括對現場人群的臉部識別技術)被禁止使用,但在某些情況下,執法機構可以這麼做。執法機構可運用此技術尋找失蹤人員或防止恐怖攻擊,但須經過當局批准。此外,在特殊情況下,甚至可在未經批准的情況下利用臉部識別技術。

由於豁免了針對軍事、防衛或國家安全用途的AI工具,這引起了許多科技安全倡導者的警惕。德國非營利組織Algorithmwatch的政策副主任菲特-迪特爾曼(Kilian Vieth-Ditlmann)表示:「我們擔心AI法案中的國家安全豁免條款給了成員國繞過重要AI規定並濫用權力的可能性。」

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

相關文章