至於字數多一些,像到了1,000字,不一致就會開始出現了,人不會那樣寫的,但因為現在都很輕薄、短小的溝通居多,像IG是圖為主,也不會有人寫超過幾十個字,Twitter當然也是這樣,PTT的推文也是這樣,所以在這樣的情況之下,LINE也是這樣,沒有人想說500字一次送出。也許這個才是跟email最大的不同,因為email如果是寫一行送一封給你,再寫一行再送一封給你,一般來講是很沒有禮貌的,但是這個在LINE上是很正常的。
雖然通常的技術語言,但是大家習慣正常與否的常規不同,因為norm在新時代這邊,是以不要超過半個手機螢幕為原則,因為要打字回他,所以自然可見的範圍就變成很少的字數,但是這個字數的文本生成方面,目前通過測試,這是毫無問題。
對。接著是語意理解,也就是回你一句話,要在裡面抽取出你的想法、概念、情緒等等,這個語意理解,其實本來可以說是做不到的東西,因為如果你只有50個字,而沒有上下文,到底是反諷或是開玩笑,其實人也沒有辦法知道,所以大概都會腦補,腦補大概都是錯的,這是為什麼在網路上你一言、我一語,吵架特別沒有建設性,因為都在腦補。
我們先不講語意理解,是不是理解到跟發送者的意圖一樣,因為這往往連人類都做不到,常常會有腦補的情形。
目前的發展,以我的理解,有一些挑戰,好比像中文的文法裡面很容易有一些多重判讀的可能,所以如果要很精準說哪一些意思才是真正的意思,我講的並不是那一種很特別的「下雨天留客天留我不留」,就算是一般的談話也有多重意向的解讀可能,所以這一個部分,我覺得中文的挑戰性稍微高一些。
英文或者其他的歐美語稍微容易一點,但我覺得大概到那邊英美的研究尖端,也許有七、八成了吧!
對,也許有。但都很特定的領域,好比像我如果給他一個目的,就是要瞭解對方寫的言論裡面,提到哪一個關鍵字回他,會激怒,這個是我們叫narrow domain,就好像你打電話去,請你唸出身分證字號,你會唸的就是那幾個數字,所以這個時候,就算我剛剛講的種種限制,這不是問題,只是要激怒對方而已。
但是如果現在回了一個東西,也就是誠心請問,你要在知識庫裡面找出一個真正的答案來,這其實還滿困難的,當然英文也沒有做得很完美。
如果你說的是要操縱政治言論,似乎不需要做到這麼好。
因為操控政治言論的目的,並不是要讓對方相信特定的事實,只是要調動特定的情緒。
對,以目前AI的能力,也就是找一張圖片會想讓你摔電腦,比起具體回答你的問題,要來得容易許多。
你說paper嗎?paper大家都發很多了,你說實際案例是用在?
像FB從來不隱瞞開發這一些chatbot的最新進度,包含他們今年才發了一篇 paper ,可以把積極性、主動性變成一個權重,所以拒絕你的時候不覺得失禮,或者是明明答應你,但是讓你火冒三丈,所以這兩個把它拆開了,有沒有回到問題或者是回的時候有什麼感受,這兩個拆開了,這兩個其實看paper就好了,這是很新的研究領域,但我覺得目前成效都還不錯,還行。
是接一個客服電話的時候,如果對方很生氣,像機器人感覺比較柔軟,比較人性、比較傾聽,但如果他來的時候,是覺得很憂愁恐懼,這時反而要很積極,很主動讓他覺得有安全感等等,就是要配合顧客的情緒狀態,這是商業上很常見的。
對,大家都open source。
概念是一樣的,並沒有任何的差別。
我是覺得滿成熟的,至少在找出正確圖片的這一件事上。
像Twitter直接發關於香港,從PRC方面,還不需要經過VPN的一組IP,他們做的事大概是20萬個帳號,這一些帳號本來是捧韓國明星這一些有的沒的,所有之間追星族都收到反送中的不實訊息,而且他們的互動性很高,20萬個帳號不是同一個人控制的,也不可能是20萬的人控制的,所以這裡面用了半自動化的裝置,這是很具體的例子,而且Twitter不只公布了他們的推文內容,也包含了有雜湊過的IP或者是上線時間之類的,所以可以推斷有時的作息,也許有人在操作,因為可以看到一些作息,有一些帳號是全自動,也就是有觸發條件就做了,因為作息跟人類的不一樣等等。
臺灣當然有對話機器人的產業。你說的是不能對外透露的政治操作的對話機器人產業?
對話機器人的產業,像你看到LINE@或者是FB Messenger的訊息,這幾個大的,他們都有自己的API方案,也有他們的開發者論壇等等,所以你只要看誰買了API方案,誰在開發者論壇,誰一天到晚辦分享會,你大概知道生態系長什麼樣,這並不是秘密。
你參與這一些之後,你學到這一些技巧,你拿的要怎麼灌進去,這個就每個人自己發揮了。
對,我想那個是伯洋老師的專業,我不碰機密的。他們那邊能夠掌握的資料比我多。
我們主持的一切都公開,按照國家機密法,一個系統只要一個輸入是機密,整個系統就機密了,我就不用做這個了,因為我做的是基進式的透明,像資通安全,我也只能處理通案。重要的個案是請資安長處理,細節我連知道都不知道。
對。那個部分伯洋一定比我熟。
嗯,這個有一點擴充這個字的意思,因為這個指的是你的系統有後門,像網路攝影機,沒有設定好密碼、沒有改,所以被人控制了,因此做任何事,這裡面包含了癱瘓一個網站等等,你剛剛講的是社交媒體上的假帳號,只能做發文這一類的事情,並不是能夠去癱瘓不相干的網站。
當然也許兩種你都講botnet,我只是講資安上的botnet是另外一個意思。
當然我們這邊你要叫botnet,我也沒有什麼意見,但是Twitter那邊是叫Coordinated Inauthentic Behavior,這包含純五毛跟機器人的狀態,還有這兩者之間的任何狀態,因為目前的情況沒有辦法到純機器人,但是純五毛也太貴了,所以都是半自動化。你觀察到有沒有這個狀態,像Facebook,Google也跟著FB停權了,有啊!怎麼會沒有呢?像PTT也有站規跟版規,也有做一些分析。
只是他們的技術進步滿快的,好比像PTT,也就是前一陣子弄了揭露IP國名的東西,但很快就會一整片都臺灣,因為找一個跳板真的不難,只是可以揭露以前操作的痕跡而已,但現在你在臺灣找一個跳板,並不是非常困難的事情,所以大家都在演化,我只是要講這個。
當然。
可以用境內的跳板。
我也是看Foreign Policy對不對?裡面有幾個自稱騰訊的員工幫忙操作某個市長候選人的粉專,那個看起來是一些量化資料的,那是滿好的例子,因為他們同一組人也在做LinkedIn的假帳號,也在做FB的假帳號,這個表示資源相對充足。
像Twitter最近跟我們揭露的他們上這一種網站都不用翻牆,如果都不用翻牆,意思是網信辦默許他,或甚至支持他,因為如果都不支持,如果網信辦不知道他們的話,他們想必一定得翻牆,表示是網信辦是默許或者是支持他們的活動,這個Twitter都講得很清楚,我不用贅言。
他手上有一些量化資料,問他比較準。
2014年就有例子了。當年某一位分局長的臉書,有特別非常多的人按讚,可都變成俄羅斯人,可見並不是現在才有的事情。
我想有幾個。現在可以看到的是,成本變低了,也就是任何人都可以操作,當時還是要找這一種專門盤商一樣的,因為養帳號養很久,當然一方面FB收緊得比較厲害,因為FB也有自己的AI,那個叫Sigma,想辦法來偵測這一些活動,第二個是FB裁了一堆管理員,但是後來發現靠AI,還是不行,所以弄了一堆管理員回來。
《網路監護員》在講外包給菲律賓的團隊,也就是讓人跟機器人演化,來判斷出這一種不合理活動的軌跡來,因此花了不少的力氣在這個上面。
這樣的好處是,完全只是同樣指令操作10萬次的,一下子就被看穿了。壞處是更多的工作不是在完全重複一樣的指令,而是盡可能釋出會讓人寄轉發的訊息來,所以那一種衝聲量並不是重點,也沒有人覺得聲量很好衝,也沒有人覺得是真的,你做出一堆梗,然後每個人都會有機幫你宣傳,那是親朋好友,明顯不是機器人,事實上是被感染了。
圖片生成技術,就比文本生成技術重要了。
因為轉一張圖片只要兩個動作,轉一篇文本你還要複製。
對,而且圖片調動的情緒能力比較強。現在也有非常多,你只要給他文案,就會給你100種不同的配色跟文字等等。
而且看到即時轉發的狀況,就可以知道哪一種文案更有感染力,但這些都是商業已經使用了,2016年雙十一就已經有人使用了,叫「魯班」。
像「動新聞」嗎?
這個很早以前就有了。
以前是導演,像拍《魔戒》,要做「咕嚕」的時候,要用這個技術,付很多錢租電腦來算,現在是這一台iPad就可以來算。這個是基本的技術,都一樣的。
所以我覺得影像這一部分,都是漸進式的進展,反而聲紋合成變得比較自然了,像wavenet出來之後,聲紋合成變得非常好,這一種抑揚頓挫完全是人講的,你聽不出任何問題來。
所以以前你看到的Deepfake,大部分是沒有聲音的,當然如果在某些成人應用的話,或許有呻吟的聲音。但是現在是真的可以講話,你打什麼字,他講什麼話,所以這大概是最近一年才成熟的技術,這跟長篇文本的能力一樣,都是今年才有的東西。
你剛剛講的Deepfake,如果在圖片跟影像領域的話,是早就成熟的技術。
不過你講了三個,一個是政策、一個是法令、一個是規範,就是新芝加哥學派理論裡面的三個點了。
首先,機器學習不只是用在一個地方,機器學習是用在任何你有大量資料進來,而且每一個人來做,只差在速度的地方,你都可以用到機器學習,所以這一種也是一樣的,像我們剛剛講的每一個領域都是機器學習研究的最前沿。
你現在問的是,這一些研究是不是有倫理規範,這是一種問法。