何謂人工智能倫理三定律

人工智能倫理最早進入公眾討論，可能是來自科幻小說作家阿西莫夫提出的「機械人三定律」。阿西莫夫不僅是哥倫比亞大學化學博士，更是世界聞名的全能作家，曾獲代表科幻界最高榮譽的雨果獎和星雲終身成就大師獎。

阿西莫夫一生著述多達數百本，內容遍及科學、天文、生物等，其中有一本小說I, Robot（曾拍成電影《智能叛變》），在1950年出版，淵博的學識使他筆下世界具備了奇幻的想像、高度的預言性。阿西莫夫在書中提出「機械人三定律」，幾乎成了以後科幻作家創作有關機械人作品時必須遵循的法則。

第一定律：機械人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管。

第二定律：機械人必須服從人類給予它的命令；該命令與第一定律衝突時例外。

第三定律：機械人在不違反第一、第二定律的情況下要盡可能保護自己的生存。

阿西莫夫就在三定律的框架下創作了一系列短篇機械人科幻小說。在他筆下的小說，機械人都是穿插於這些法則的前提下逐漸展開故事。同時，三定律的影響力也具有一定現實意義，有人在三定律基礎上建立了「機械倫理學」，旨在研究人類和機械之間的關係，也可以說是創立了人工智能倫理學的先河。

以人類整體利益為大前提

你可能會問，倫理是什麼？翻查百度的答案：倫理是指在處理人與人、人與社會相互關係時應遵循的道理和準則。舉個例子，如果你懼怕被警員發罰單而不敢亂過馬路，這是因為你不想因此而招致財務損失。但如果在你確定絕對不會被人發現下，依然循規蹈矩安份過馬路，這可能就是你所認可的倫理觀念，或是你的道德底線。

從人工智能現有能力給人類社會帶來的負面後果角度來看，我們正面對着兩大類問題：一、人工智能被委以對人類事務作出決策的能力，但它對決策結果的倫理判斷能力不足；二、人類缺乏引導人工智能發揮作用的終極倫理準則。

值得注意的是，例如雖然人類要為垃圾處理作出額外代價，但我們有部分人願意付出代價處理垃圾，來換取更大的長遠利益，為地球環保盡點力。如果把這種倫理思想放置於剛才的三定律中，這可能就是後來補充的「機械人零定律」：機械人必須保護人類的整體利益不受傷害，其他三條定律都是在這一前提下才能成立。