澳洲企業隱瞞AI使用情況，政府計劃推動強制AI規範

根據一項調查，三分之一的澳洲企業在使用人工智慧（AI）技術時，並未告知其員工或顧客。

這份針對AI使用企業高層的調查顯示，許多公司在負責任地使用AI方面仍處於「發展中」階段。

這些企業在客服、自動化產品推薦和根據顧客過往行為調整價格等方面使用了AI，但其中近半數未進行人權或風險評估，也無計畫進行此類評估。

聯邦政府正著手制定針對高風險AI技術的「強制護欄」，其中可能包括一部AI法案，甚至禁止某些被認為風險過高的技術。

工業部長埃德·胡西克強調，雖然AI帶來了巨大機遇，但當前的標準不足以應對潛在風險。他表示，澳大利亞人希望在AI技術失控時有保障，因此政府決定從現在開始實施這些保護措施。

政府提出了三種監管AI的選項，從對現行法規進行微調的輕度監管，到針對整個經濟體的單獨法案。

這些規則之一要求AI開發者和使用者必須告知個人在與AI互動或AI對其進行決策時。政府也在探討是否應該禁止用於「社會評分」的AI工具，如基於個人工作表現、行為或位置等數據進行評分的技術。

儘管AI具備巨大經濟潛力，但其可能帶來的傷害也愈發明顯。

調查顯示，部分AI技術已對個人造成不良影響，如AI簡歷篩選工具對某些種族或性別的求職者進行不公平的歧視，或在未經同意的情況下使用原住民材料來訓練AI。

此外，國際上已有大量涉及AI生成的深偽色情影片被發布，甚至有名人和政要遭到攻擊。

澳洲政府希望參考歐盟和加拿大的AI監管措施，將重點放在風險評估、企業責任制以及在AI決策中保留人類干預的能力上。

零售和餐飲業在AI責任使用方面表現最差，許多企業未告知員工或顧客其使用AI的情況。政府為此推出了AI安全標準，為企業提供如何保護自身和消費者的指導。

資料來源：https://www.abc.net.au/news/2024-09-05/ai-mandatory-guardrails-laws-business-customer-disclosure/104308250