「人機結合」並不能阻止機器人的崛起

人機結合生的問題在於人在這當中可以發揮什麼作用。

下國際象棋、下圍棋、玩德州撲克……機器人的表現比人類更出色的案例越來越多了。這不禁引發了人類存在的意義問題。關心人工智慧倫理的OpenAI （SmartM註：是一個非營利性的人工智慧研究公司，目標是「推動數位智慧的發展，同時不被財務收益所限制，從而造福全球人類」）創始人Elon Musk提出，其實人類可以通過與機器結合來增強自己。雖然這個觀點聽起來很有吸引力，但昆士蘭科技大學的助理教授Michael Milford認為，腦機結合的一些深層次的問題並不能為此提供有力的支撐。不過他的觀點一樣有唯技術論之嫌。

OpenAI創始人兼CEO Elon Musk提出，人類可以延緩因為機器崛起變得無足輕重的命運，辦法是與機器結合，成為「電子人」。

然而，目前軟體型的人工智慧和深度學習技術對這一主張提出了嚴重質疑，尤其是從長期來看。這一質疑不僅因為硬體限制，也與人類大腦在這場比賽當中擔任的角色有關。

Musk的觀點直截了當：通過利用機器學習的技術和對涉入學習這樣的技術，人類大腦與計算機之間足夠先進的介面，可以讓人類極大地增強自身能力。

但交換必須是雙向的。在執行目前演算法上不擅長的任務，比如做出相對應的決定上，通過讓人來「彌補差距」，腦機介面也許能幫助提高機器學習演算法的表現。

這種想法並不新鮮，在二十世紀中葉的時候，J. C. R. Licklider（SmartM註：美國心理學家和計算機科學家，並且為互聯網先驅）等人就考慮過「人機結合」的可能性和影響。

然而，這方面的進展很慢。原因之一是硬體的研發。iPod之父Tony Fadell 說：「硬體（hardware）之所以叫硬體的原因之一，是做起來很難（hard）。」而建立與有機系統對接的硬體更是難上加難。

相對於我們在《黑客帝國》之類電影裡面所看到的那些腦機介面，目前的技術還非常原始。

假設硬體挑戰問題最終被解決了，也還有更大的問題等著你。過去10年深度學習研究所取得的不可思議進展，披露了一些根本性的挑戰還有待克服。

第一點很簡單，那就是我們對於這些複雜的神經網路究竟是怎麼運作的，仍難以理解和歸納。

我們信任簡單的技術，比如計算機我們知道它會一直像我們希望那樣計算精確。結果錯誤幾乎永遠是因為人輸入的錯誤。

腦機增強的願景之一是讓我們成為算術超人。所以有了腦機介面的話，我們可以不必掏出計算機或者智慧手機，只需要腦子過一遍公式然後「輔助」機器就可以把答案告訴我們了。

但如果我們試圖接入由深度學習這樣的機器學習提供的更先進功能時，情況就開始變得有些怪異了。

假設你在機場擔任保全的角色，並且有了一個增強的腦機介面，機器可以自動掃描你每天看到的成千上萬張人臉，然後警告你可能出現的安全風險。

大多數機器學習系統都受到一個長期問題的困擾，也就是一個人或者對象的外觀出現一點小小的變化都會導致系統對此分類做出災難性的錯誤判斷。把一張人的圖片變動不到1%，機器學習系統可能突然就會以為自己看到的是自行車。

恐怖分子或者犯罪分子可能會利用機器不同的漏洞來繞開安全檢查，目前的在線安全已經出現了這種問題。人類自身儘管存在限制，但可能對這類漏洞具備免疫力。

儘管機器學習技術有不感情用事的美譽，但一樣會像人類那樣存在偏見，如果給它輸送合適的數據的話，甚至還會表現出種族主義的行為。這種不可預測性對人類如何植入機器，更重要的是如何信任機器具有重大影響。

這還是一條雙向車道。人類思想是複雜的、高度動態的活動。在上一節相同的安全場景下，就算有了足夠先進的腦機介面，機器如何才能知道需要忽略哪些人類偏見呢？畢竟，無意識偏見是我們每個人都面臨的挑戰。如果該技術是在幫助你面試應聘者呢？

通過看看全球各地的國防力量在日益人與自動化混合的戰場上如何處理腦機介面的信任問題，我們可以在一定程度上預覽一下腦機介面信任方面的問題。

戰爭機器人必須對人類下達的非法命令做出道德決定，腦機介面發生的事情正好與之呼應：機器既要解析人的想法，同時也要對人類思維當中深層次的無意識偏見進行過濾。

在防禦的場景下，人類大腦理性的角色正在檢查這一決定是否道德。但當人類大腦接入機器時，在由於機器利用的數據規模大到大腦無法理解的地步而造成干擾的情況下，人類又該作何判斷呢？

從長期來看，這個問題將是人類是不是需要（如果是的話如何）參與到日益由機器來做出決策的過程當中的問題。很快，機器就將做出沒人能看得明白的醫療決策。在這個過程當中，人類大腦可以以及應該扮演什麼樣的角色呢？

在某些情況下，自動和人類工人的結合可以增加就業崗位，但這種效應似乎轉瞬即逝。那些機器人和自動系統會不斷改進，有可能最終消滅它們所局部創造出來的崗位。

類似地，儘管人類最初在腦機系統中也許扮演著「有用」角色，但隨著技術的不斷改進，把人納入到這個循環裡面的理由也許會越來越少。

通過把人類大腦與人工大腦集成起來以保持人類的重要性這個想法很吸引人。有待觀察的是在這裡面人腦能作何貢獻，尤其是在技術的發展節奏相對於人腦的進化速度是天壤之別的情況下。