2018年5月21日 香港仔《從心所欲》

最近，在谷歌舉辦的名為「Google I/O」的網絡開發者年會上，谷歌做了一個人工智能（AI）新產品演示。新產品是名為Duplex的AI，它可以提供私人助理服務，為主人打電話安排約會。它的主要賣點，是說話酷似真人：谷歌播出的兩段電話錄音，是Duplex分別打電話到一家髪型屋約時間，以及到一間餐館訂座；人們聽到Duplex的說話，不但語音完全沒有機械人的味道，連表示等待或遲疑的停頓和沉吟，都十分自然，與真人無異，令在電話另一方的人，沒法知道自己是在和AI通話。

可能出乎谷歌所料，這場示範竟引起了頗多爭議。首先，有傳媒質疑錄音的真實性。質疑者指出，從錄音聽到的AI的說話的確很自然，但另一方的回應卻有點不正常，例如在接聽電話時，沒有按一般做法自報姓名和店鋪名稱；此外，錄音裏完全聽不到來自髮型屋或餐館裏面的雜音，這也是不合常理的。

但更令人關注的是谷歌研發這新產品所涉及的道德問題。有AI專家認為，Duplex的目的是要令跟它對話的人以為它是真人；這是弄虛作假的欺騙行為，是不道德的。專家說，我們對不同的談話對像，會有不同的期望和考量；我們有權清楚知道和我們對話的是甚麼人、是人抑或機器，不應被瞞騙。

另有批評說，這產品在人們和真實世界之間又增加了一道隔閡。過度的「數碼化」，已經使人和人之間的關係愈來愈疏遠，這對我們的社會有不健康的影響。一旦Duplex成為流行產品，它將會被大量利用來取代人和人的直接對話，令人們互相之間進一步疏離。

圍繞Duplex的爭議，只是AI發展涉及的道德問題的冰山一角。例如無人駕駛汽車的研發，也涉及重大的道德問題。AI怎樣控制汽車，遇到危急情況怎樣應對，要視乎AI有甚麼「道德標準」；它會否把乘客利益放在路人利益之上（為保乘客安全不惜傷及路人）？遇到有人攔截，要不要停車（攔截者可能是綁匪或劫匪）？目前全球每年有一百多萬人死於交通意外，AI駕車應否做到「路上零意外」（汽車保險沒有生意；器官移植沒有了主要來源）？

不少科學家對發展人工智能抱有很大的戒心，不是沒有理由的。（完）