加州AI安全法影響深遠

美國加州議會上周通過一項名為SB 1047的前沿人工智能（AI）安全法案，引發廣泛爭議。法案主要目的是要求從事大規模AI開發的公司採取必要措施，確保其技術不會對社會造成重大傷害及損失。 法案規定，訓練成本超過一億美元或擁有相當算力的AI模型開發者，必須遵循一系列安全標準，包括進行預部署測試、模擬黑客攻擊、建立網絡安全保護措施，以及為舉報公司不當行為的員工提供保護。法案還要求AI開發者在模型出現問題時，能夠迅速關閉系統，擁有一個「強制終止開關」。 事實上，法案在推動過程期間已引起科技界廣泛關注和爭議，許多科企領袖和創投人士擔心法案會遏制創新和技術發展，尤其是在AI這一新興領域。然而，也有不少業內人士支持法案，認為面對AI技術快速發展，有必要作出適當監管。在法案投票前的最後階段，包括馬斯克（Elon Musk）在內一些科技界重量級人物表態支持法案。 另一方面，政界對這項法案亦出現分歧。眾議院前議長佩洛西（Nancy Pelosi）和其他一些政治人物均在反對行列，當中大部分人認為，應該由聯邦政府而非州政府來制定此類重要政策。他們擔心相關州級法案或會妨礙加州在全國乃至全球AI技術發展的領導地位。 法案主要提案人、美國民主黨加州參議員維納（Scott Wiener）為法案辯護，強調創新與安全應該並行。他指出，法案已回應了部分批評意見及作出修改，並會落實一些大型公司正在實施的安全措施，進一步保障公共利益。他支持在聯邦層面制定相關法律，但鑑於國會行動遲緩，加州有責任在這問題上發揮領導作用。 SB 1047法案將提交加州州長紐瑟姆（Gavin Newsom），由他選擇是否簽署，9月30日前作決定。若簽署通過，法案將對加州乃至全美AI發展方向產生深遠影響。 本文作者車品覺，為香港科技園有限公司董事、香港大學中國商學院客座副教授、阿里雲資深顧問，為《信報》撰寫專欄「全民大數據」。