TAIROA 

中文 | English

  產業動態
南韓參與工業機器人標準制定消極 未來恐失去主導市場權
〈人物專訪〉原見精機董事長蘇瑞堯苦蹲8年 讓機器人有觸覺
機器人做手術有利有弊 醫界建議勿追風
看蛇爬水管!日本研發新型勘災機器人
新光保全 跨足機器人生活服務
陸工業機器人猛增 國產市占反下滑
消費級機器人:重新火爆還是新一輪泡沫?
南韓醫療服務與AI接軌 Carebot商談機器人進駐150家醫院
魏哲家:AI和5G改變人類生活 AI天天都在進步
義大利推出免電外骨骼套裝「MATE」 靠彈簧卸下工人 50% 肩膀重擔
法國機場導入智能機器人,能自動幫你找車位、停好車!
能幫消防員探路的SmokeBot,還能檢測是否有爆炸危險
從蒼蠅獲得靈感!RoboFly 昆蟲機器人藉由雷射供電起飛
居家夥伴新選擇?波士頓動力機器狗SpotMini明年開賣
廣明攜手歐姆龍 開發人機協同機器人
外媒批智慧語音AI存在欺騙行為有道德疑慮 Google回應了
全能機器人大賽 祥儀要讓桃園亮起來
德工業機器人迅速普及並未削弱就業數據
無人駕駛巴士可試乘 機器人帶路
特斯拉工廠工人受傷頻繁,勞工問題引關注

文章列表

外媒批智慧語音AI存在欺騙行為有道德疑慮 Google回應了

 要分辨 Siri、Alexa 以及 Google 助理等人工智慧的語調並不困難,它們講話中規中矩、有條理,且缺乏人類的習慣與腔調。然而,上週 Google 於 I/O 開發者大會中展示的語音機器人技術 Duplex 獲得全場觀眾熱烈掌聲。Google Duplex 震驚科技業的同時,許多媒體開始擔憂技術的道德與風險。未來,我們會不會被機器人所欺騙?

Duplex 是 Google 結合自然語言、深度學習以及語音合成各領域研究,所綜合誕生的作品。在開發者大會的開幕演講中,執行長 Sundar Pichai 展示 Duplex 實際運作的情況,雖然並非現場測試,而是事前錄製的影片,但仍獲得全場觀眾的驚呼。Google 助理透過 Duplex 技術打電話給髮廊、餐廳預約服務,並且在整段過程中,沒有被發現是機器人,能夠流暢與店員進行問答,還會加入「嗯」、「嗯哼」等人類常有的說話習慣。
這項技術除了有機會解救對於撥打電話感到厭煩的大忙人,同時對於機器人更貼近人類也邁出一大步,但當 AI 與人類越來越像,任何技術總是存在相對的隱憂,例如《華盛頓郵報》就以「是否需要告訴對方,這是一台機器人撥打的電話」為題,質疑 Duplex 技術所存在的道德與安全隱憂。科技網站《TechCrunch》更直言「Google Duplex 在 AI 設計的道德與創造性上都是失敗」。
Duplex 之所以引發外媒擔憂,最大的癥結點在於,展示技術的過程中,Google 是以「欺騙」為前提進行,這項技術的目標是要讓人類無法區分機器人與真人。牛津網路學院數位道德研究室的 Thomas King 教授表示,「在我所任教的大學,如果你要進行涉及欺騙相關的行為,必須證明這是有科學價值的。」
「Google 的實驗看起來,確實是為了欺騙所進行。」King 教授認為,若要得出相同的結論,實驗不見得需要進行欺騙,但技術本身可能不具有欺騙性,只是沒辦法說出 Google 的意圖,「我不能說,這絕對是騙人的,只是應該要有一項機制,讓人們知道他們在與誰對話。」
 
Google 上周四也發表聲明,表示會在 Duplex 的系統中,安裝公開自我身分的功能,透過某種形式讓接聽電話的人,明白自己正在與機器人對話。Google 表示該項技術主要是幫助聽力受損以及非使用當地語言的使用者,能夠運用助理完成某些需要對話的工作,不會運行在廣泛的日常對話,包含行銷電話。Google 工程師在官方 Blog 中寫道,「系統創造如同人類一樣的對話體驗,讓人們自然地對話,不必適應機器人。」
事實上,多數人若接聽錄音電話或是明顯的語音留言,當下反應都會直接掛斷電話,將機器人對話變得更加擬人,可以有效改善這些問題,有效讓人類適應機器人的聲音,不過當技術廣泛運用,我們是否會對於每一通電話都抱有遲疑,「對方不會是機器人吧?」
「如果機器人的聲音不明顯,人們會開始預期每一通電話都是假的。」King 教授點出技術所帶來的風險,並說明許多實驗已經證明,若長期與機器人對話,部分使用者說話會越來越粗魯,講話不再像是平常一樣彬彬有禮,「就算對方是真實的人類來電,但你無法辨別真偽,或者即使你相信對方是真人,但人與人間的互動模式也已經產生變化。」
 
 
麻省理工學院教授 Erik Brynjolfsson 認同,需要有辨識的機器人方式,同時也拋出一個疑問,有必要讓所有機器人都像人類一樣講話嗎?「如果人類問它是否為機器人,AI 應該要如實回答,或者回到最開始,應該讓機器人有足以辨識的聲音、風格甚至用詞與外觀,我不認為這會降低機器人的工作效率,相反的,還可能獲得改善。」
除了道德層面的問題,Duplex 在法律上也遭遇困難,美國許多州規定,除非獲得對方同意,否則就算是1、2秒的錄音都是違法禁止的。儘管 Google 不會讓系統錄下對話過程,但 Duplex 系統必須錄下內容進行語意分析,接著才會銷毀檔案,這段過程已經違反相關法律。Google 發言人回應,該項技術還在早期測試階段,最終版本會以某種形式告知使用者錄音的問題,且不見得會在全美上市。



取材自:ETTODAY/記者黃肇祥 (2018/05/15)
https://www.ettoday.net/news/20180515/1169095.htm



發表回應

您的名字:


您的Email:


回應:


請輸入下方圖片內的文字(點擊圖片兩下可更換圖片,大小寫不拘)
圖形驗證碼