遠見華人精英論壇 | 贏不了機器人,拔電源嗎?
首頁 > 人物 > 盛治仁台北 > 贏不了機器人,拔電源嗎?
贏不了機器人,拔電源嗎? 發文時間: 2016/7/8   文 / 盛治仁台北 瀏覽數 / 58,150+

微軟在幾個月前做了一個實驗,設計了一個線上聊天機器人Tay,定位是一個純真少女,她會在社群網站上跟人對話,並在過程中學習。沒想到在24小時之內,這個純真少女變成了一個納粹支持者、種族歧視者及痛恨女性主義者,迫使微軟即刻將她下架。

後續分析認為,微軟可能太輕忽而未把刻意要教壞Tay的惡意攻擊做有效阻擋。事實上,我認為這是不必要的,因為這才是網路的現實。兩年前,微軟在大陸就已經推出過類似的聊天機器人小冰,但並未遭到相同命運,很受歡迎且能正常互動,甚至在去年底進入東方衛視晨間新聞擔任氣象主播。我相信這絕非大陸社群網路用字較文明,而可能是負面字眼被遮蔽或是以程式保護的結果。

這個實驗讓我們有許多可以深思之處。首先是網路的特性。Tay會學習到這些想法和用語,對熟悉網路的人應該並不意外。網路形成的社群,其實和群眾行為有許多類似之處。

學者Gustave Le Bon認為群眾行為有下列的特性:因為其「匿名性」造成一種「無敵感」及「不需負責」的認知,而且其想法有「傳染性」,領導者的行為對群眾又有「暗示性」。這些群眾行為表現的特性,在網路行為上也都存在;同樣一個人,在網路和現實生活上的表現,可能判若兩人。網路上有相當比例的粗鄙用語和極端想法,是不爭的事實。Tay只是把人類的行為學會之後,呈現出來,結果嚇到了大家而已。

一個更值得憂心的發展,是隨著網路生活化,以及政治事件的推波助瀾,網路語言開始進入現實生活裡。我們在台灣和美國近期的競選過程中都可以觀察到這個現象。社會必須集體省思,這是不是我們希望建立的價值觀和生活方式?

另一個思考點,則是人工智慧發展的快速及其未來可能性,恰巧最近在生活中碰到了幾個案例,特別有感觸。有個車廠邀請我試乘新車,無意間發現其定速裝置,竟然可以自動偵測前方車距和速度來自動調整車速,已經有些自動駕駛的味道了,而且在高速公路上運作起來很順暢,相信未來駕車習慣和方式的改變是必然的。

自己最近也剛透過遠端學習,完成了麻省理工學院的一門大數據課程,一方面體驗網路學習平台的便利性,不但可以跟頂尖教授學習,還可以有討論平台互動。另一方面也瞭解大數據的本質及其在醫學、交通和金融等領域的運用,對未來世界會持續產生重大影響。

微軟小冰還有一個讀心術軟體,在問你十幾個問題後,就可以猜到心中在想哪一個人,命中率頗高。未來每個人都能夠有自己的數位助理,幾年前的雲端情人電影場景已經不遠,人類的日常生活模式,也將大幅度改變。最近的電影人造意識,則提供另一個比較灰暗的可能,當機器人有自己的意識反撲人類時,是很可怕的。不記得曾經在哪裡閱讀到這句話:「當我們下棋都下得贏你們時,難道不知道你們心裡想的是最壞就拔掉電源嗎?」

不管從那個角度看,人工智慧的發展都將是未來世界的基礎,國家和個人都應該思考如何能夠不缺席。

(原文刊載於2016年7月1日《聯合報》;本文獲作者授權刊載​)

天下文化 / 小天下 / 未來少年 / 遠見雜誌 / 30 雜誌 / 哈佛商業評論  Copyright© 1999~2017 遠見天下文化出版股份有限公司. All rights reserved.
讀者服務部電話:(02)2662-0012 時間:週一 ~ 週五 9:00 ~ 17:00 服務信箱:gvm@cwgv.com.tw