比爾蓋茨：人工智能會強大到令人擔憂的地步

除了創建微軟公司（Microsoft）外，比爾·蓋茨（Bill Gates）被認為是一個全能型人才，在拯救世界這一問題上他更是絕無空談。當他告訴我們，和聰明勤奮的史蒂芬·霍金（Stephen Hawking）以及特斯拉（Tesla Motors）創始人、素有“鋼鐵俠”之稱的埃倫·穆斯克（Elon Musk）一樣，自己也擔心人工智能可能會對人類構成威脅時，他那一向的實干風格似乎更容易讓人們引起重視。

周三，在Reddit新聞社區的AMA問答板塊（Ask Me Anything），蓋茨呼應了過去一年來由霍金和穆斯克等人提出的擔憂：如果人工智能的潛力沒有被嚴肅對待，那么一些類似《終結者》（Terminator）和《黑客帝國》（Matrix）中科幻場景的東西就可能成為現實。

“我和那些擔心超級智能的人同處一個陣營。起先，機器將幫我們做許多工作，更不用說超級智能。如果控制得好，人工智能應該會非常有利。”蓋茨寫道，“不過，幾十年后人工智能會強大到足以令人擔憂的地步。在這一點上我贊同埃倫·穆斯克等人的看法，而且我不明白為什么一些人會對此仿佛若無其事。”

本月初，埃倫·穆斯克自掏腰包，拿出1,000萬美元資助一項讓人工智能保持友好的研究。考慮到人工智能很可能在微軟以及穆斯克麾下SpaceX和特斯拉的未來發展中扮演重要角色，蓋茨和穆斯克都有興趣確保人工智能不僅友好而且可行（例如，公眾態度和國會議員不反對智能網絡和智能設備的基本概念）。

拋開個人利益，在人工超級智能所構成的威脅方面，穆斯克和蓋茨可能想得沒錯。當最為可能的受益者都覺得有必要對該技術加以牽制時，可能就有一些真的值得擔心的東西了。

為了真正理解穆斯克和蓋茨所說的那種潛在威脅，我強烈建議閱讀尼克•博斯特羅姆（Nick Bostrom）的新書《超級智能》（Superintelligence）。該書呈現了超級人工智能的概貌——包括其所構成的威脅。以前穆斯克曾提到過并做過推薦，近來許多關于人工智能的擔憂似乎都是以這本書為主要基礎。