代码即法律

無人駕駛技術的出現代表着什麼？以前當汽車取代馬車時所帶來的改變，不外乎是速度及持久續航力的改善。相比於自動駕駛汽車對人類思考的衝擊，又會是什麼呢？

那麼後者就是當今的智能技術已經具備了學習能力，能通過大數據及人工智能的演算法，吸納過去累積的經驗，乃至幾秒前發生的事情，幫助我們作出最佳的決策。今天的智能技術已經擴展到自學能力功能，進而可以自我演化，它可以在現有的知識層面上探索更多的可能性，這是人類歷史上在人工智能領域的一大突破。

隨着大數據及機器學習發展，坊間流傳着掌控未來世界的兩句話，（1）一切皆算法；（2）代碼即法律。換句話說，社會公義有機會掌握在代碼設計者手中，算法上的邏輯判斷可影響深遠。因此，我們對過度智能化的世界應時常保持謹慎及警惕。

舉一個很殘酷的例子，當一部自動駕駛汽車即將遇上一宗交通意外，演算法如何選擇減少司機傷害的同時，又怎樣平衡路上行人的安全，比如無可避免要做一個抉擇時，它會怎樣取捨？又例如為什麼我的小區在使用程式找出租車時，總是較附近的另一小區難。總之眾多無法解釋的不公平，未來都可能被各種算法支配。

從前筆者在企業中推動數字化時，很容易把重點放在追求效率上，舉例在淘寶網工作時，算法團隊會更傾向把目標放在如何提高顧客的購買轉化率上，鮮有算法工程師會提出讓顧客得到更公平的購物選擇。愈是追求智能化的步伐，也可能讓客戶得到更不公平的待遇，到頭來卻影響到企業的長遠利益。近年因為多了時間參與政府的數字化轉型，倍感到效率與公平之間的兩難取捨。

在數字經濟高速增長下，如何可保證被數字社會排擠之外的群體權利？由踏入高齡社會的今天，數字世界裏應該某程度上維持非數字化服務，「數字包容」這一話題具有深遠意義，需要持續提出在追求效率之餘，也應照顧被忽略的群體。無論技術走得有多快，科技發展也應回歸到平等生活的原點上思考。

車品覺_紅杉資本中國專家合夥人、阿里巴巴商學院特聘教授暨學術委員會委員