共生AI與超智能危機

上周説到「共生人工 智能」（Symbiotic AI） 是在人工智能（AI）領域備受關注的概念，它代表了一種觀念上的轉變：從將 Al 視為單純工具或潛在對手，轉變為增強人類智慧與能力的協作夥伴 。 那什麼是共生AI？ 共生AI的核心是指，人類與AI系統之間的一種協作夥伴關係，雙方共同實現任何一方都無法單獨有效完成的目標。 這種關係是互惠互利的：即為「共生」。這個術語直接借用了生物學中的「共生」概念， 描述兩種不同生物體之間密切、長期互相依賴的關係(例如蜜蜂與花朵、小丑魚與海葵）。不過，對於人類與AI達到共生，很多專家都充滿懷疑。 最近又有另一個負面概念叫 「Recursive Self-improvement Cycle」（遞歸式自我改進循環），意思是一旦通用人工智能 (AGI) 擁有與人類同等水平的智能時，它就可以開始改進自己的代碼，在極短時間內從人類的水平，迅速達到遠超人類的「超級智能」 ( Superintelligence) 這爆炸式時刻，可能在幾天甚至幾小時內發生，使人類沒有時間作出反應，或實施安全保護措施。正如 IA安全專家亞姆波爾斯基 (Roman Yampolskiy) 所強調，根本問題在於控制，歷史上沒有一個能力較弱的物種成功對一個能力更強的智能體，保持無限期控制的先例。 從共生AI 框架內常見的兩種模型，其一是人類直接參與每一個決策，其二是AI系統在大多數任務中自主運行，但人類監督其整體情況。我們的應對措施是否足夠 ? 答案似乎不容我們太樂觀，被譽為現代「人工智能教父」的科學家班吉歐 ( Yoshua Bengio) 及辛頓 (Geoffrey Hinton）、蘋果公司聯台創辦人沃茲尼克 ( Steve Wozniak ) 等全球逾 3200多名公眾人物，都在呼籲各界立即暫停研發超級智能。他們指出，如果太急進打造超越人類認知的超級智能，可能導致經濟損失、自由與權利被掠奪，甚至人類滅絕。在未獲得公眾支持前，禁止開發超級智能。 專家們幾乎一致的呼籲是明確地告訴我們應把 AI的風險提升到與核戰爭、流行病同等程度的全球優先事項。