外媒批智慧語音AI存在欺騙行為有道德疑慮 Google回應了
要分辨 Siri、Alexa 以及 Google 助理等人工智慧的語調並不困難，它們講話中規中矩、有條理，且缺乏人類的習慣與腔調。然而，上週 Google 於 I/O 開發者大會中展示的語音機器人技術 Duplex 獲得全場觀眾熱烈掌聲。Google Duplex 震驚科技業的同時，許多媒體開始擔憂技術的道德與風險。未來，我們會不會被機器人所欺騙？
Duplex 是 Google 結合自然語言、深度學習以及語音合成各領域研究，所綜合誕生的作品。在開發者大會的開幕演講中，執行長 Sundar Pichai 展示 Duplex 實際運作的情況，雖然並非現場測試，而是事前錄製的影片，但仍獲得全場觀眾的驚呼。Google 助理透過 Duplex 技術打電話給髮廊、餐廳預約服務，並且在整段過程中，沒有被發現是機器人，能夠流暢與店員進行問答，還會加入「嗯」、「嗯哼」等人類常有的說話習慣。
這項技術除了有機會解救對於撥打電話感到厭煩的大忙人，同時對於機器人更貼近人類也邁出一大步，但當 AI 與人類越來越像，任何技術總是存在相對的隱憂，例如《華盛頓郵報》就以「是否需要告訴對方，這是一台機器人撥打的電話」為題，質疑 Duplex 技術所存在的道德與安全隱憂。科技網站《TechCrunch》更直言「Google Duplex 在 AI 設計的道德與創造性上都是失敗」。
Duplex 之所以引發外媒擔憂，最大的癥結點在於，展示技術的過程中，Google 是以「欺騙」為前提進行，這項技術的目標是要讓人類無法區分機器人與真人。牛津網路學院數位道德研究室的 Thomas King 教授表示，「在我所任教的大學，如果你要進行涉及欺騙相關的行為，必須證明這是有科學價值的。」
「Google 的實驗看起來，確實是為了欺騙所進行。」King 教授認為，若要得出相同的結論，實驗不見得需要進行欺騙，但技術本身可能不具有欺騙性，只是沒辦法說出 Google 的意圖，「我不能說，這絕對是騙人的，只是應該要有一項機制，讓人們知道他們在與誰對話。」
Google 上周四也發表聲明，表示會在 Duplex 的系統中，安裝公開自我身分的功能，透過某種形式讓接聽電話的人，明白自己正在與機器人對話。Google 表示該項技術主要是幫助聽力受損以及非使用當地語言的使用者，能夠運用助理完成某些需要對話的工作，不會運行在廣泛的日常對話，包含行銷電話。Google 工程師在官方 Blog 中寫道，「系統創造如同人類一樣的對話體驗，讓人們自然地對話，不必適應機器人。」
事實上，多數人若接聽錄音電話或是明顯的語音留言，當下反應都會直接掛斷電話，將機器人對話變得更加擬人，可以有效改善這些問題，有效讓人類適應機器人的聲音，不過當技術廣泛運用，我們是否會對於每一通電話都抱有遲疑，「對方不會是機器人吧？」
「如果機器人的聲音不明顯，人們會開始預期每一通電話都是假的。」King 教授點出技術所帶來的風險，並說明許多實驗已經證明，若長期與機器人對話，部分使用者說話會越來越粗魯，講話不再像是平常一樣彬彬有禮，「就算對方是真實的人類來電，但你無法辨別真偽，或者即使你相信對方是真人，但人與人間的互動模式也已經產生變化。」
麻省理工學院教授 Erik Brynjolfsson 認同，需要有辨識的機器人方式，同時也拋出一個疑問，有必要讓所有機器人都像人類一樣講話嗎？「如果人類問它是否為機器人，AI 應該要如實回答，或者回到最開始，應該讓機器人有足以辨識的聲音、風格甚至用詞與外觀，我不認為這會降低機器人的工作效率，相反的，還可能獲得改善。」
除了道德層面的問題，Duplex 在法律上也遭遇困難，美國許多州規定，除非獲得對方同意，否則就算是1、2秒的錄音都是違法禁止的。儘管 Google 不會讓系統錄下對話過程，但 Duplex 系統必須錄下內容進行語意分析，接著才會銷毀檔案，這段過程已經違反相關法律。Google 發言人回應，該項技術還在早期測試階段，最終版本會以某種形式告知使用者錄音的問題，且不見得會在全美上市。
取材自：ETTODAY/記者黃肇祥
(2018/5/15)
https://www.ettoday.net/news/20180515/1169095.htm