當然。
可以用境內的跳板。
我也是看Foreign Policy對不對？裡面有幾個自稱騰訊的員工幫忙操作某個市長候選人的粉專，那個看起來是一些量化資料的，那是滿好的例子，因為他們同一組人也在做LinkedIn的假帳號，也在做FB的假帳號，這個表示資源相對充足。
像Twitter最近跟我們揭露的他們上這一種網站都不用翻牆，如果都不用翻牆，意思是網信辦默許他，或甚至支持他，因為如果都不支持，如果網信辦不知道他們的話，他們想必一定得翻牆，表示是網信辦是默許或者是支持他們的活動，這個Twitter都講得很清楚，我不用贅言。
他手上有一些量化資料，問他比較準。
2014年就有例子了。當年某一位分局長的臉書，有特別非常多的人按讚，可都變成俄羅斯人，可見並不是現在才有的事情。
我想有幾個。現在可以看到的是，成本變低了，也就是任何人都可以操作，當時還是要找這一種專門盤商一樣的，因為養帳號養很久，當然一方面FB收緊得比較厲害，因為FB也有自己的AI，那個叫Sigma，想辦法來偵測這一些活動，第二個是FB裁了一堆管理員，但是後來發現靠AI，還是不行，所以弄了一堆管理員回來。
《網路監護員》在講外包給菲律賓的團隊，也就是讓人跟機器人演化，來判斷出這一種不合理活動的軌跡來，因此花了不少的力氣在這個上面。
這樣的好處是，完全只是同樣指令操作10萬次的，一下子就被看穿了。壞處是更多的工作不是在完全重複一樣的指令，而是盡可能釋出會讓人寄轉發的訊息來，所以那一種衝聲量並不是重點，也沒有人覺得聲量很好衝，也沒有人覺得是真的，你做出一堆梗，然後每個人都會有機幫你宣傳，那是親朋好友，明顯不是機器人，事實上是被感染了。
圖片生成技術，就比文本生成技術重要了。
因為轉一張圖片只要兩個動作，轉一篇文本你還要複製。
對，而且圖片調動的情緒能力比較強。現在也有非常多，你只要給他文案，就會給你100種不同的配色跟文字等等。
而且看到即時轉發的狀況，就可以知道哪一種文案更有感染力，但這些都是商業已經使用了，2016年雙十一就已經有人使用了，叫「魯班」。
像「動新聞」嗎？
這個很早以前就有了。
以前是導演，像拍《魔戒》，要做「咕嚕」的時候，要用這個技術，付很多錢租電腦來算，現在是這一台iPad就可以來算。這個是基本的技術，都一樣的。
所以我覺得影像這一部分，都是漸進式的進展，反而聲紋合成變得比較自然了，像wavenet出來之後，聲紋合成變得非常好，這一種抑揚頓挫完全是人講的，你聽不出任何問題來。
所以以前你看到的Deepfake，大部分是沒有聲音的，當然如果在某些成人應用的話，或許有呻吟的聲音。但是現在是真的可以講話，你打什麼字，他講什麼話，所以這大概是最近一年才成熟的技術，這跟長篇文本的能力一樣，都是今年才有的東西。
你剛剛講的Deepfake，如果在圖片跟影像領域的話，是早就成熟的技術。
不過你講了三個，一個是政策、一個是法令、一個是規範，就是新芝加哥學派理論裡面的三個點了。
首先，機器學習不只是用在一個地方，機器學習是用在任何你有大量資料進來，而且每一個人來做，只差在速度的地方，你都可以用到機器學習，所以這一種也是一樣的，像我們剛剛講的每一個領域都是機器學習研究的最前沿。
你現在問的是，這一些研究是不是有倫理規範，這是一種問法。
這一些研究，是不是不能被這樣拼起來，這是另外一種問法。
這樣被拼起來之後，是不是有一個法律來抑制它，這又是一個問法，這三個未必相干。
好啊！
首先這個研究本身的道德性，像OpenAI，為何把長文本模型分成分階段釋放，主要的原因是長文本很容易來生成新聞稿，不是那個領域的人，完全看不出是假的東西來。
但因為用的訓練模型，其實不管內在一致性，他們是用Reddit，就是美國的PTT，上面所有按讚比較多的貼文全部放進去，所以其實訓練出來的目的是要讓他在網路上被推、轉發，鄉民看來覺得合理、刺激，而不是內在正確性，我不知道你有沒有玩過talk to transformer，就可以看到目前OpenAI的模型。
就是這一支，我覺得很有教育意義。
他們現在是用一半大的模型，也就是700m的模型。為何OpenAI願意釋出比較大的模型，大概是兩個原因：一個是壞人都有了，好人連這個都不瞭解的話，好像很慘，這個是當初加密技術，美國沒有禁運的原因，但是後來是壞人用加密技術，本來就犯法了，不差這一條罪名，但是好人要用加密技術來保障彼此的通訊，後來就犯法了。
同樣的道理，OpenAI是把整個站砍下來做訓練，他們做得到，別人也做得到，而且壞人早就做到了，這樣的情況下，不釋出又怎樣？所以這個是一件事。
別的領域是可以類推，雖然有一個可以把內衣直接拿掉的APP，當然馬上就下架了，因為倫理上有一些困難，但實際上去Github上，程式碼還是在那裡，自己下載編譯、執行，還是有一份。
就像好比最近的自由時報有一份很好的報導，像在韓國發展的某一位，很多人喜愛的演藝界朋友，不但影響了上次的總統、立委選情，而且現在在韓國因為換臉的技術蓬勃，所以把他的臉換進去的成人影片，現在有很多人點閱。
當然對於這一位朋友來說，是非常不好、不舒服的一件事，所以你在檯面上大概看不到它流通了，但實務上因為有那個需求，所以即使是你自己下載程式、自己跑，你不能說google image取得這一位明星的臉違法，所以你只要抓一下下來，自己訓練一下就做到了。
對，這個技術已經民主化了，即使道德上有問題的應用，要如何能讓它沒有辦法再發展？這個跟生殖技術或者是核子技術是不太一樣的狀態，這個是純技術的部分。
第二，選舉期間是不是可以拼在一起用？美國當然現在有一些議員開始提案，有一點像南北戰爭的時候，互相不射擊彼此的將軍，是一樣的道理。如果你開始打我的將軍、我也打你的將軍，兩軍就沒剩幾個將軍了，這樣還要不要打仗？因此在君子協定之下，即使將軍有中彈也往往是被誤傷的，各個黨派都承諾不在選舉期間把這一些技術拼在一起，誰把技術拼在一起，我們鳴鼓而攻之，即使這對我的選舉有利，也要鳴鼓而攻之，所以好像靠這一種類似君子協定的常模。
當然跨黨派經過一、兩次選舉，都建立這一次的常模，我想網路平台就會開始被要求，最好的例子是現在AI會自動偵測直播砍頭，用來招募自願軍的一些訊息，這些即時的影音或者錄影，當然不只是讓看的人非常地不舒服，也是有它的社會外部性，這個我想沒有人反對。
但是傳統上按照美國的概念，平台不為第三方所上傳的資料負責任，爭議通常要等法院判決，但這種即時把人砍頭的影響，大概等不了法院判決，因此大部分的平台都同意這一類不算言論自由了，但是這還是最近幾年的發展。其實這都是一攻一守，因為某些招募人員的能量太強了，逼著他們改變立場。
所以我想的是，如果在選舉期間，不能使用這一些技術湊在一起為各黨派所默許作為準則的話，很快平台就會接受到這一種自律的要求了，就會跟我剛剛所講的，像一些極端分子能用直播砍頭來招募人員，或是一些好比像對於不足年齡朋友們的一些性剝削影片等等，可能會被放在有一點類似的位置，也就是法有明訂，而即使法無明訂，讓這一些東西流傳的平台，會公認為不道德，我的回答是這樣。
第三，現在要不要為這個立一個法？我認為立法必須要有目的、範圍、你對這一些範圍施加什麼限制，目的當然也許我們說得出來，確保一個公正的選舉環境，但範圍跟限制，現在有人說得出來嗎？我們還沒有幾次真正的選舉是用這個技術打的，所以當他的範圍、目的不明的時候，造成連帶傷害的可能性就很大，造成連帶傷害的例子，好比像軍事衝突時，對立雙方的事實查核工作報告都被武器化，反而變成激化對立的方法。
我們想避免這樣的情況，因此通常我們的做法是先自律，自律到一個程度再他律，他律到一個程度，大家都已經很確定這個他律是對的，也許有一些部分到法律，因此還是自律、他律的精神，我想臺灣的網路治理是這樣的情況。
好比像換臉這一件事，確實有這樣的協調出現，就是誰換對方的臉，也就是誰道德上有瑕疵。
主要的問題是，我們還沒有碰到真的狀況。
因為已經有很多人在公布這樣的影片，像很有名的是，大家一起唱約翰藍儂《Imagine》，但是是合成各國領導人的照片，在那邊唱「imagine there’s no country」，是非常療癒人心的，對我作為一個安那其來說。
不過片頭就已經寫說「這個不是真的，但或許有成真的一天」。
大家都看到了這一件事發生在自己的臉上，這個時候自然會稍微比較重視一點。我們這裡可能不太多。
對，而且我覺得「動新聞」在臺灣這麼久了，大家腦裡都有一些抗體了，也就是演出來未必是真的，因為動新聞在新聞界引發一些討論，你看到這一些演出來的，後來記者給了更正、搞錯了，但是那個影像已經深入腦海，已經比文字的更正更困難，因為沒有辦法取消掉看過的影像，尤其長得維妙維肖，這是對於動新聞的道德反映，但是大家發現看久了就知道演出來的，而且誰都可以演，反而又沒有這個問題，因為都知道是假的。
「一切的新聞都是動新聞」？
當然現在有很多技術正在做這一件事，像我之前在Twitter用了一個Truepic，可以證明幾點幾分在哪一個經緯度、用哪台手機，拍了什麼樣的影片或者是照片寫在分散式帳本，也就是區塊鏈上，然後核可說這個就是當時當地用這一台手機發生的，這個影像絕不偽造的可能。
這裡面有非常多好處，在拍照的當下有很多資料可以拿，包含如果你是手拿的，還有你是翻拍另外一張照片在螢幕上，光影的角度就會不一樣，有很多在最終照片裡面拿不到的資訊，像陀螺儀資訊、GPS資訊等等，都可以用來交互檢證是在這邊拍的。
當然也沒有辦法預防有人刻意卡一個看起來不是事實的版本，這個是沒有辦法，這個真的只能用360的全景攝影機才可以解決的問題。
