智能不是人腦（或類腦）的產物，也不是人自身的產物，而是人、物、環境系統相互作用的產物。人工智能的優勢在于龐大的信息存儲量和高速的處理速度，但是無法處理如休謨之問，即從“是”（being）能否推出“應該”（should），也即“事實”命題能否推出“價值”命題。
目前，國內外人工智能的核心在于兩個方向，一個是“機器學習”，另一個是“自主系統”。在機器學習各方法中，深度學習方法容易導致局部（非全局）最優，強化學習很難識別意圖的隱藏和偽裝，遷移學習的跨域能力很差等等，這些機器學習的缺點很難實現真正的智能；另外，現在的自主系統還處在“偽自主”階段，究其原因是由其底層的技術架構——機器學習和大數據處理機制局限所致。無論行為主義的強化學習、聯結主義的深度學習，還是符號主義的專家系統都不能如實準確地反映人類的認知機理，比如直覺、情感、價值等。
目前人工智能技術的核心問題
當前的人工智能及未來的智能科學研究存在兩個致命的缺點：一是把數學等同于邏輯。弗雷格、羅素等邏輯主義者一般是把數學歸于邏輯學(logic)之下（“+logy”也成為許多學科(非所有學科)的字尾，譬如生物學Biology=bio+logy）。
邏輯是探索、闡述和確立有效推理原則的學料。數學不等同于邏輯，數學研究空間形式和數量關系結構，是一種基于公理的邏輯體系；邏輯研究思維的形式結構。二者一致之處在于“研究對象都是高度抽象的結構”。二者不同之處在于，一方面，數學和邏輯的研究對象不同，數學的研究對象是客觀事物的空間形式與數量關系，而邏輯學的研究對象是思維的形式及規律；另一方面，數學和邏輯的任務和目標不相同，數學的主要目標和任務是揭示客觀事物的空間形式與數量關系的特征，探索其規律性，而邏輯的主要目標和任務卻是為了解決思維推理形式的有效性或真實性問題。
另一個致命的缺點便是把符號與對象的指涉混淆。符號重點在于表征，而對象重點在于意向性。一般來說，一種意向可以對應一種或多種符號，而一種符號代表的意向性也可以有多個指向（如能指、所指、意指），人類可以用“一花一世界，一樹一菩提”靈活地表征任何事物，而目前的機器卻只能用固定打標的方式孤立、靜止、片面地表征一個事物。
這兩個缺點直接誘發了以下幾個很難解決的智能領域及軍事智能領域問題：一是客觀數據與主觀信息、知識的彈性輸入——靈活的表征；二是公理與非公理推理的有機融合——有效的處理；三是責任性判斷與無風險性決策的無縫銜接——虛實互補的輸出；四是人類反思與機器反饋之間的相互協同調整；五是深度態勢感知與其逆向資源管理過程的雙向平衡；六是人機之間的透明信任機制生成；七是機器常識與人類常識的差異；八是人機之間可解釋性的閾值；九是機器終身學習的范圍/內容與人類學習的不同。
人機混合智能是未來智能領域的發展方向
智能是一種由人、機、環境系統相互作用而產生的組織形式，是物理、生理、心理、數理、管理、哲理、文理、機理、藝理、地理、倫理、宗理等多事實、多價值、多責任的混合適應體系，所以智能可能不是單純的類腦（比如狼孩的人腦就沒有人類智能）。
人工智能只是人類智能可描述化、可程序化的一部分，而人類的智能是人、機（物）、環境系統相互作用的產物。智能生成的機理，簡而言之，就是人物（機屬人造物）環境系統相互作用的疊加結果，由人、機器、各種環境的變化狀態所疊加衍生出的形勢、局勢和趨勢（簡稱勢）共同構成，三者變化的狀態有好有壞、有高有低、有順有逆，體現智能的生成則是由人、機、環境系統態、勢的和諧共振大小程度所決定的，三者之間具有建設性和破壞性干涉效應，或增強或消除，三位一體則智能強，三位多體則智能弱。
如何調諧共頻則是人機融合智能的關鍵。當代人工智能由最初的完全人工編譯的機器自動化發展到了人工預編譯的機器學習，接下來的發展可能是通過人機融合智能的方法來實現機器認知，最終實現機器覺醒。
在智能領域中，對自動化、智能化概念的厘清非常重要，自動化是確定性的輸入，可編程的處理，確定性的輸出；人工智能是部分確定性的輸入，可編程的處理，部分確定性的輸出；智能是不確定性的輸入，部分可編程的處理，不確定性的輸出。人工智能（含自動化）與智能的區別在于，一個是功能，一個是能力。
很多人期望得到的往往是能力，而不是功能，即通過人工智能功能實現智能能力，這就是期望與現實的矛盾之所在，同時也是人們失望之所在：把功能錯看成了能力。智能需要實現的是一種合成：功能+能力（簡稱功能力）。機器功能邏輯的基礎是映射關系，而人類直覺能力的基礎則是漫射、散射、影射，其中人類的想象力、創造力是一種情理融合之能力，也是“智能”的邊界。所以僅開發出高性能智能產品或系統仍不可能提高體系的組織力和創造力，該模型必須集成到運行技術系統、組織流程和人員運行流程中才能發揮其威力和效力。
然而，智能化的瓶頸和關鍵問題在于不是單純的快、單純的準、而是對，例如單純機器計算的越精細、越準確、越快速，危險性越大，因為博弈對方可以隱真示假、造勢欺騙、以真亂假，所以有專家參與的人機融合/混合智能顯得相對更重要、更迫切、更有效。
人機混合常常是指人+機（側重事實性數理物理結合，價值性結合較少）；人機融合往往是指人*機（既包括事實，也涉及價值，既有數理物理交互，也有心理倫理交流）。對于軍事界而言，大多數認為：人必須在人—裝備—環境系統中并掌控著該系統的關鍵使用（如許多科學家支持致命性自主武器系統宣言，以反對脫離人類控制的自主武器系統開發），這就要求兩點，首先是必須可靠的人在系統中，而不能是不可靠的人在系統中；其次，要求人、機不能是平等的關系，可靠的人必須要掌控關鍵作用。所以從這個角度看，對軍事智能而言，“人機混合”要比“人機融合”一詞要準確一些（可以保證人主機輔關系的一致性）。
如何實現人的算計（經驗）與機的計算（模型）融合后的計算計系統呢？東方思想里的“易”就是一個典型的計算計（計算+算計）系統，有算有計，有性有量，有顯有隱，計算交融，情理相依。其中的“與或非”邏輯既有人經驗的、也有物（機）數據的，即人價值性的“與或非”+機事實性的“與或非”，人機融合智能及深度態勢感知的任務之一就是要打開與、或、非門的狹隘，比如大與、小與，大或、小或，大非、小非……大是（being）、大應（should）、小是（being）、小應（should）。人的經驗性概率與機器的事實性概率不同，它是一種價值性概率，可以穿透非家族相似性的壁壘，用其它領域的成敗得失結果影響當前領域的態勢感知SA，比如同情、共感、同理心、信任等。
凡事有利就有弊，手機不例外，智能也不例外。在人機環境系統動態交互（產生智能）時，由于時間、空間、對象、屬性、關系、條件、規則、情緒、狀態、趨勢、感知等的變化，智能中的方式、方法、方案、手段、工具都會做適當的調整和重新組合，正可謂時變法亦變。智能需要解決的常常是面對的真實問題，比如安全威脅、高效處理、準確預測等等。智能包含著過去的經驗和數據，但不會僅僅依賴這些過去，它還包含著未來對此時的影響，比如期望的反饋。一般而言，不能隨機應變的智能應該不是真智能。人機交互、人機混合、人機融合智能……中人工智能AI可以幫助人，也可以阻礙人，還可以毀掉人，比如過度依賴AI易造成失去人性中的自信、果敢和勇氣等，做這些工作或申請項目時，望不要光看人機融合中計算計系統好的一面，還希望管理者、評審者也能客觀地看到其不好的一面，在不少情境任務下，不好的概率可能更高一些！
主流人工智能學科仍無法理解人機融合智能領域
AI追求數據化、確定性和理性的解釋，假定任何問題都有標準答案，把每個決策簡單地變成約束條件下求解，變成數據計算。但是，真實世界里具有大量的不確定性，沒有標準答案，需要人的想象力和算計，不是循規蹈矩。
研究一個事物如果不從未來看它，往往會被它迷惑。計算是算計的產物，計算常是算計的簡化版，不能體現出算計中主動、辯證、矛盾的價值。計算可以處理關鍵場景的特征函數，但較難解決基本場景的對應規則，更難對付任意場景的統計概率，可惜這些還僅僅只是場景，遠未涉及情境和意識……
智能僅是解決問題的一種工具手段，若不與日常生活中的風俗習慣、倫理道德中的仁義禮智信勇、法律中的邊界規則統計概率等諸多方面相結合，就很容易泛濫成災而不可控制。真實的智能不是萬能，它不但涉及事實性的真假問題，還應該包括價值性的是非問題，更與責任性的大小輕重密切相關。所以，嚴格意義上講，軍事智能是許多領域的一連串組合應用。
對于人、機而言，雖然都是將一個問題拆成幾個子問題，分別求解這些子問題，即可推斷出大問題的解，但是人的動態規劃與機器的動態規劃卻是不同的：有經驗的人可以游刃有余地將一個復雜性大問題拆成事實、價值、責任等不同性質的小問題來求解，即用事實、價值、責任的不同化法進行大事化小，小事化了，還可以避免各種鼠目寸光和畫地為牢，而目前的機器對此異質合取化解問題依然望塵莫及，人工智能只會對比（不是類比），也許這也是人類智能的又一個瓶頸和難點——如何有效地處理異質性的非形式化問題。
計算是事實性推理關系，低階的算計則是價值性推理關系，高階的算計更是事實價值混合/融合的推理關系，計算與算計是不同的因果關系。人類的“既…又…”關系往往不是“并”的計算關系，與具體態勢算計有關。是非不同于對錯，也不同于真假和01，正如孟子所云：是非之心，智也……
美國諾貝爾獎得主卡內曼在《快與慢》一書中將人類的本能意識快決策稱為系統一，將人類的理性邏輯慢決策稱為系統二，并考察了系統一與系統二之間的區別。經過我們進一步研究，人機環境系統的深度態勢感知中應該還有決策系統三——人類理性與感性結合的不快不慢的right決策系統，即人機融合的計算計決策系統�！�
(作者系北京郵電大學人工智能學院研究員)