人工智能觸發倫理大辯論

人工智能的迅速發展和反覆運算正在催生一種社會矛盾,到底我們是在快速成長,抑或接近安全極限?從人臉識別到聊天機器人,再到可為我們作出「最佳決策」的各種演算法,任何一種創新都可能被用於好的和不好的目的。例如產生巨大經濟利益的廣告演算法,也有可能引發性別和種族歧視。 因此,我們若把社會描述為一個生態系統,隨着世間萬物都變得數位化,或將從根本上改變我們的行為模式,並帶來潛在危機。數字化引申的智識革命,伴隨大數據和AI提供了前所未有的機遇,也帶來很多全新問題。我先舉兩個鮮明例子作討論方向:

1. 網路空間數據愈來愈多,大數據全程記錄了人類的經濟、生活、文化等活動趨勢。將來無論什麼人,在什麼地點,都會被不同的方式收集數據,但這些數據的歸屬權問題尚待解決。正因數據對於打造未來智能系統必不可少,數據應否在缺乏問責和審查之下被任意使用?同時,有大型機構因業務之便收集了大量數據,亦可能因此壟斷了客戶的選擇權。自主演算法難避免歧視

2. 人工智能的進展對人類有巨大潛力,但也存在被濫用的風險,因為AI的透明度並未隨着其複雜性而提高。上月美國住房及城市發展部起訴一間廣告巨頭,因後者涉嫌對不同種族、性別和宗教的人群進行訂制化廣告投放。事實證明,以行為數據為驅動的自主演算法效益更高,卻更難以避免出現歧視情況。例如小學教師的職位空缺廣告展示給女性的比例較高,清潔工廣告則較多展示給少數族裔。最近有新聞指出,Google成立不久的AI倫理委員會現正徘徊於崩潰邊緣,先是受邀的AI專家相繼離開,隨後又有大批員工請願,要求裁掉另一名與軍工業務有關的委員。委員會的本意是監督公司在應用AI等新興技術時遵循相關的倫理標準,我相信Google正在預演了一場即將發生的社會衝突。大家要選擇靜觀其變抑或積極面對,就要看AI在企業主管的心中是志在必得還是可有可無了。從投資角度看,科技安全與經濟發展的交叉點或許正是未來的主賽道。

車品覺_紅杉資本中國專家合夥人、阿里巴巴商學院特聘教授暨學術委員會委員