AI治理研究刻不容緩

世界人工智能大會上周開幕，上海市委書記李強指出，上海將打造面向全球的前沿創新平台，AI將作為上海的優先戰略。全球很多城市都想大力發展人工智能，但像上海這樣成立了國家級別人工智能創新發展試驗區則相當鮮有。在隨後的5年行動計劃中，探索新路徑及機制是如何讓AI健康發展的關鍵。 二十一世紀的商業變革中，資訊科技改變了訊息的流通及連接方式，而流動終端及5G的到來，已經及將會衍生出更大的數字生態。但這些數據資源與人工智能所產生出來的法治及倫理問題「嶄露頭角」，問題的本質來自當人類把控制權交給自動化機器（包括機器人）的一刻開始。 當人工智能代替了你作出錯誤決定後，誰應該承擔這個責任。再往前一步看，如果是數據的輸入出錯，導致決策錯誤時，責任又怎樣分擔。就如人工智能大會上有講者提出，人類自從發明汽車，才訂立必須佩戴安全帶的法律。 為了全力打造上海人工智能成為新一代創新生態，開展人工智能治理研究與實踐刻不容緩，立足當前的人工智能階段，對算法公平、數據濫用、深度造假、隱私洩露等問題以試驗區的方式探索各類協同治理的長效機制，共同引領人工智能健康發展。 有效的試驗機制是鼓勵企業把最新成果在上海率先「試水」的重要條件。根據試驗區的行動計劃草案的描述，總體來看有六大方向，包括交通出行、智慧社區、衞生健康、智慧金融、智慧製造及智慧教育。我作為試驗區20位諮詢委員會委員之一，特別感興趣的是崇明區的智慧農業，希望透過衞星高分辨率的農田圖像及各方的物聯網數據的高度融合，經過試驗平台去促進更精準農村補貼、更好的提防天然災害。 委員會的成員星光熠熠，作為小粉絲我，有幸與聯合國科學和技術促進發展委員會副主席Peter Major同在創新生態的小組中，機會難得，也發覺自己要學習的東西太多了。