本論壇文章反映作者意見,不代表《遠見》立場

子導覽列
首頁 > 產業創新 > 張瑞雄台北 > 聲音也能Deepfake!AI是改善生活,還是招來新噩夢?

聲音也能Deepfake!AI是改善生活,還是招來新噩夢?

發文時間: 2022/07/31   文 / 張瑞雄台北 瀏覽數 / 2,600+

26歲百萬YouTuber「小玉」夥同助理以深偽(Deepfake)技術,把政界人士、網紅、藝人的臉部圖像,移植到色情片女演員身上,製成換臉謎片販售,導致多位名人受害。

在國外,有一家國際公司的會計接到一通來電,裡面說話的人聽起來就是有德國口音的執行長本人,他對公司指示要在一小時內,向一間匈牙利供應商匯出22萬歐元,不過這也是一樁詐騙,執行長本人從未打過這通電話。 

今年在拉斯維加斯舉辦的亞馬遜人工智慧大會上,有一個技術演示一開始是一個小男孩的聲音:「奶奶能讀綠野仙踪給我聽嗎?一秒鐘後,機器中出現了很像小孩奶奶的聲音,但事實並非如此。這是一個由人工智慧生成的過世奶奶的聲音複製品。 

延伸閱讀

歐巴馬最容易被Deepfake?金融科技也要當心「刷臉」詐欺

不只圖像,聲音也有Deepfake風險 

亞馬遜的首席科學家在台上解釋說,聲音是通過不到一分鐘的錄音產生祖母的真實聲音。這含義是顯而易見的在因新冠肺炎或戰爭許多人失去了我們所愛的人的當下,這種技術變得更加重要雖然人工智慧無法消除那種失落的痛苦,但它絕對可以讓感情的聯繫和記憶持久。 

毫無疑問,我們生活在人工智慧的黃金時代,我們的夢想和科幻小說正在成為現實,但這項技術真的會改善我們的生活,還是會導致新的噩夢? 

大家可以看到深偽的風險,有人偷錄了你的聲音,突然間你的朋友會向你借錢,或告訴你轉帳到什麼地方。

然而,也有向善的可能性,一位失去丈夫的婦女每週還是可以透過人工智慧的科技和先生交談,這對舒緩心理的創傷很有幫助。或許有人說這是對現實的扭曲,但這確實幫助她度過了難關。 

不是每個人都能負擔得起拜訪通靈者的費用(或者首先相信這個概念),但是能夠完美模仿死去的親人的人工智慧,可以為任何因失去親人而苦苦掙扎的人提供了類似的安慰體驗,也可以避免假靈媒的詐騙 

但不是所有人都那麼相信和熱心,對許多人來說,這種感覺像是Netflix的反烏托邦科幻影集《黑鏡》中的劇情。

一位女士花錢請一家公司為她死去的男朋友創造一個AI複製品(栩栩如生的身體和聲音等等)。起初他似乎是一個完美的複製品,但日常生活種的微小的差異越來越讓人感到沮喪,可能反而變成很不好的經驗

即使用人工智慧能夠讓人永垂不朽,它終究不是那個人,僅為情境配圖。圖片來自unsplash圖/即使用人工智慧能夠讓人永垂不朽,它終究不是那個人,僅為情境配圖。圖片來自unsplash

延伸閱讀

網軍vs.陰謀論者普遍存在?

AI複製品,數位讓人永生了嗎? 

自從電腦發明以來,數位永生就引起了人類的興趣,隨著人工智慧變得越來越先進,這個概念突然似乎觸手可及。

有一位記者出身的科技企業家使用了類神經網路開發了一個機器人,它從一位在車禍中不幸喪生的朋友那裡提取圖片和像,以及個人所有資料,以重建他的一個數位版本。未來如果全息投影Hologram的技術更加進步普遍,傳統祭拜祖先的方式可能就要改變了。 

即使用人工智慧能夠讓人永垂不朽,它終究不是那個人。而且一個人不會停止成長,機器人將永遠是靜態的,即使它可以從與親人互動中學習,機器人的學習永遠不同於人類的學習,而且人類有七情六慾,人類的數位分身可能擁有多少情慾?

誠如羅馬西亞的哲學家蕭沆所說:「人就是有缺陷的機器人。」我們寧可要有人類喜怒哀樂缺陷的機器人呀! 

本文章反映作者意見,不代表《遠見》立場

(作者為國立台北商業大學教授)