毋庸置疑，人工智能已成為當下全球的關鍵詞之一，言必談人工智能甚至變成一些行業領域的時髦之舉。
人工智能可以下棋、開車和診斷醫療問題。例如，谷歌DeepMind團隊的AlphaGo、特斯拉的自動駕駛汽車以及IBM的沃森等。
這種類型的人工智能被稱為窄域人工智能（ANI），即能夠執行某種特定任務的非人工系統。我們每天都能遇到這種類型的應用，并且它的使用正在迅速增長。
盡管窄域人工智能已經展示了許多令人印象深刻的能力，但是隨之而來的問題也日益浮出水面。去年7月，IBM的沃森為癌癥患者提供了不安全的治療建議遭到曝光，惹來一眾批評與質疑，曾經是公眾心目中“人工智能”代名詞的沃森甚至被美國媒體稱為“一無是處”。
最糟糕的案例發生在2018年3月18日，一輛正在進行自動駕駛測試的沃爾沃XC90與一名行人相撞，行人送往醫院搶救無效死亡。這項測試是由Uber組織，車輛也由其進行了專門的改裝，事故發生時，車輛正處于自動駕駛模式開啟狀態。事故發生后，Uber負責人宣布將暫停在舊金山、多倫多等多地的自動駕駛測試項目，而事故仍在調查中。
下一代人工智能
基于當前人工智能引發的眾多問題與質疑，人們對下一代人工智能寄予了極高的期待。
通用人工智能（AGI）將擁有先進的計算能力和人類智能。AGI系統將能夠學習、解決問題、適應和自我改進，它們甚至會做超出自身設計范圍的任務。
重要的是，它們的進步速度可能是指數級的，因為它們比人類創造者先進得多。而且，AGI的引入可以迅速帶來超級人工智能（ASI）。
雖然功能完備的AGI系統尚未建立，但幾乎可以肯定的是，它們最終會實現。到那時，我們會不可避免地心生擔憂，擔心自己無法控制它們。
毫無疑問，能夠完成各種任務的AGI系統可以為世界帶來翻天覆地的變化。其中也包括了一些更強大的應用，比如治療疾病，解決諸如氣候變化和糧食安全等復雜的全球挑戰，以及在全球范圍內掀起一場技術熱潮。
這樣的前景無不讓人向往。但如果不能實施適當的控制，可能會導致災難性的后果，類似的場景早已在好萊塢科幻電影里預先演繹。
事實上，“我們真正應該擔心的不是人工智能的惡意，而是它的能力。”麻省理工學院教授Max Tegmark曾在2017年出版的《生活3.0：人工智能時代的人類》一書中如是指出。
基于此，以人類因素和人體工程學著稱的人機系統的科學將脫穎而出。不過，我們不能忽視這樣的風險，即超級智能系統將識別出更有效的做事方式，為實現目標制定自己的策略，甚至制定自己的目標。
想象一下這些情況一旦發生，將會帶來怎樣的可怕后果。
情況一：一個AGI系統的任務是預防艾滋病病毒，它決定通過殺死所有攜帶這種病毒的人來根除這個問題，或者一個AGI系統的任務是治愈癌癥，它決定殺死所有具有這種疾病遺傳易感性的人。
情況二：一架自主的AGI軍用無人機決定，確保敵人目標被摧毀的唯一方法是消滅整個地區。
情況三：致力于環境保護的AGI決定減緩或逆轉氣候變化的唯一方法是消除導致氣候變化的技術和人類。
這些假想中的場景無疑讓我們倒吸一口冷氣，其中的這些人工智能系統都沒有將人類的關注作為它們的核心任務。
值得注意的是，一些不那么極端但仍具有重大影響的干擾，比如惡意使用AGI進行恐怖主義和網絡攻擊、大規模監控等同樣令人擔憂。
因此，有必要采用以人為本的方式，對設計和管理AGI的最安全方式進行調查，以最大限度地降低風險，并將效益最大化。
控制AGI
控制AGI并不像應用同樣的控制方法來控制人類那樣簡單。
對人類行為的許多控制依賴于我們的意識、情感和道德價值的應用。而AGI系統則不需要這些。不過，目前控制AGI的形式顯然是不夠的。
科研人員指出，目前有三組控件需要立即進行開發和測試：一是確保AGI系統的設計人員和開發人員創建安全AGI系統所需的控件；二是需要構建到AGI系統自身中的控件，如“常識”、道德、操作流程、決策規則等等；三是需要添加到AGI將運行的更廣泛的系統中的控件，如法規、操作規范、標準操作程序、監控系統和基礎設施。
在AGI系統出現之前，人類因素和人體工程學提供了可以用來識別、設計和測試這些控件的方法。例如，可以對特定系統中存在的控件進行建模，對該控制結構中AGI系統的可能行為進行建模，并識別安全風險。這將讓我們得以識別哪些地方需要新的控制，設計它們，然后重新建模，以查看是否因此消除了風險。
此外，我們的認知和決策模型可以用來確保AGI系統行為表現得當，并具有人文價值。
實際上，這類研究正在進行中，但還遠遠不夠，涉及的學科也不夠。
就連備受矚目的科技企業家Elon Musk也對人類面臨著來自高級人工智能的“生存危機”發出了警告，并表示有必要在一切還來得及之前對人工智能進行監管。
眼下，球在人類這邊，但并不會持續太久。對人工智能而言，未來十年左右將是一個關鍵期。人類有機會創建安全高效的AGI系統，為社會和人類帶來深遠的利益�！�