《香港仔》從心所欲

AI道德

2018年5月21日 香港仔《從心所欲》

最近,在谷歌舉辦的名為「Google I/O」的網絡開發者年會上,谷歌做了一個人工智能(AI)新產品演示。新產品是名為Duplex的AI,它可以提供私人助理服務,為主人打電話安排約會。它的主要賣點,是說話酷似真人:谷歌播出的兩段電話錄音,是Duplex分別打電話到一家髪型屋約時間,以及到一間餐館訂座;人們聽到Duplex的說話,不但語音完全沒有機械人的味道,連表示等待或遲疑的停頓和沉吟,都十分自然,與真人無異,令在電話另一方的人,沒法知道自己是在和AI通話。

可能出乎谷歌所料,這場示範竟引起了頗多爭議。首先,有傳媒質疑錄音的真實性。質疑者指出,從錄音聽到的AI的說話的確很自然,但另一方的回應卻有點不正常,例如在接聽電話時,沒有按一般做法自報姓名和店鋪名稱;此外,錄音裏完全聽不到來自髮型屋或餐館裏面的雜音,這也是不合常理的。

但更令人關注的是谷歌研發這新產品所涉及的道德問題。有AI專家認為,Duplex的目的是要令跟它對話的人以為它是真人;這是弄虛作假的欺騙行為,是不道德的。專家說,我們對不同的談話對像,會有不同的期望和考量;我們有權清楚知道和我們對話的是甚麼人、是人抑或機器,不應被瞞騙。

另有批評說,這產品在人們和真實世界之間又增加了一道隔閡。過度的「數碼化」,已經使人和人之間的關係愈來愈疏遠,這對我們的社會有不健康的影響。一旦Duplex成為流行產品,它將會被大量利用來取代人和人的直接對話,令人們互相之間進一步疏離。

圍繞Duplex的爭議,只是AI發展涉及的道德問題的冰山一角。例如無人駕駛汽車的研發,也涉及重大的道德問題。AI怎樣控制汽車,遇到危急情況怎樣應對,要視乎AI有甚麼「道德標準」;它會否把乘客利益放在路人利益之上(為保乘客安全不惜傷及路人)?遇到有人攔截,要不要停車(攔截者可能是綁匪或劫匪)?目前全球每年有一百多萬人死於交通意外,AI駕車應否做到「路上零意外」(汽車保險沒有生意;器官移植沒有了主要來源)?

不少科學家對發展人工智能抱有很大的戒心,不是沒有理由的。(完)

發表迴響

在下方填入你的資料或按右方圖示以社群網站登入:

WordPress.com 標誌

您的留言將使用 WordPress.com 帳號。 登出 /  變更 )

Google+ photo

您的留言將使用 Google+ 帳號。 登出 /  變更 )

Twitter picture

您的留言將使用 Twitter 帳號。 登出 /  變更 )

Facebook照片

您的留言將使用 Facebook 帳號。 登出 /  變更 )

連結到 %s