2018年4月30日 香港仔《從心所欲》

史蒂芬霍金除了擔心高智慧外星生物會給人類帶來毀滅性的災禍之外，對人工智能的發展也抱有很大戒心。他警告說，人工智能可能帶來人們不願看到的後果，例如生產自主武器、引發經濟災難，以及製造出具有自己意志的機器，與人類發生衝突。不少從事創新科技的人，都有類似的憂慮，尤其在「深度學習」出現之後。

AlphaGo 打敗圍棋九段高手、電腦辨認樣貌和說話，以及新一代無人駕駛汽車的研發，靠的都是人工智能的深度學習。人們相信，憑著深度學習，在不久的將來，會計、醫療、法律服務以至企業管理等大量專業工作，機器都可勝任，不需要由人去處理。

深度學習厲害之處，是機器（電腦）並非依循一套人類為它編寫的程式去解決問題；它能夠通過從人類身上的學習，自行「想出」解決問題的方法。最令科學家不安的，是人類不能洞悉深度學習的思考過程和決策機制，無法預測機器的所有行為表現。正如 AlphaGo 在棋盤上可以下出人類圍棋大師想像不到的奇著，控制無人駕駛汽車的機器，也可以作出一個正常的人類司機意不可能作出的決定，造成人們不願見到的後果。

失控的機器成為人類的敵人，威脅著人類安全和生存，這也是科幻小說常用的題材，而這種想像成為現實的可能性似乎愈來愈高。人們要問：一旦我們製造出來的機器產生了自己的意志，不再服從我們的指令，並且反過來與我們為敵，我們憑甚麼可以克服它們，不被它們克服？

無可懷疑，機器比我們快，比我們準，比我們聰明，比我們冷靜，在很多方面都比我們強，而且差距只會愈來愈大。機器會不會取代人類成為萬物的主宰，而人類被消滅，或者被征服，成為機器的奴隸？

我們如果要逃脫被消滅的命運，就要維護和發揚人類賴以成功的特質。這些特質，包括寬容、博愛、忘我；懂得以合作代替競爭、以對話代替對抗、以多贏方案取代零和博奕；具有構建人類命運共同體的能力和意願。

或許你會問：怎知道機器不能從人類身上學會這些特質，而且比人類更優勝？答案：如果是這樣，我們就可以放心和機器和平共處，不用擔心機器要消滅我們了。（完）