控制論與AI發展

控制論創始人維納（Norbert Wiener），生前是美國麻省理工學院榮休教授。維納的奠基著作Cybernetics在1948年出版，有趣的是他把這本書的副標題，命名為「關於在動物和機器中控制及通訊的科學」。在1946年到1953年間，共舉行了10次以控制論為主題的會議（著名的梅西會議）。 按照維納的定義，控制論旨在發展一種語言和技術，使我們能夠真正解決高級計算技術領域中的控制與通訊問題。正好論證了強人工智能之下的系統設計者更應該考慮人類、計算機以及更廣泛的生態世界之間的關係。 控制論的核心問題，涉及三個基本方面：首先，通訊與控制之間的關係。一切系統為了達到預定目的，必須經過有效控制。有效的控制一定要有訊息反饋，人控制機器或計算機控制機器，都是一種雙向訊息流的過程；其次，適應性與訊息和反饋的關係。適應性是系統得以在環境變化下，能保持原有性能或功能的一個特性；第三，學習與訊息及反饋的關係。反饋具備以過去行為來調節未來行為的功能，它可以是簡單或複雜反饋。複雜反饋中，過去的經驗不僅用來調節特定動作，而且用來對系統行為全盤策略，使之具有學習功能。 舉一個日常生活例子，假設你在等候一部據稱以人工智能自動驅動的升降機時，有沒有懷疑過它的公平性及安全？可能以下問題，對你的疑問有幫助： 一、電梯是如何預測並回應需求的，例如，它通過一系列算法預先調整優先次序，以提供節能及高效服務； 二、電梯製造商有否考慮在緊急情況下，可以用鑰匙取代智能系統； 三、如何確保系統安全、可靠及可管理； 四、乘客與電梯系統如何交互； 五、電梯的生產力和效率是否可持續、安全和負責任； 六、電梯系統設計之目的及目標，以及這背後的思考。 控制論在技術、生物學，以至複雜的社會系統領域，都給我們很大的啟示。尤其在當下人工智能高速發展下，它的思考原則有助人類檢測人工智能是否仍然受控。