這一些研究,是不是不能被這樣拼起來,這是另外一種問法。
這樣被拼起來之後,是不是有一個法律來抑制它,這又是一個問法,這三個未必相干。
好啊!
首先這個研究本身的道德性,像OpenAI,為何把長文本模型分成分階段釋放,主要的原因是長文本很容易來生成新聞稿,不是那個領域的人,完全看不出是假的東西來。
但因為用的訓練模型,其實不管內在一致性,他們是用Reddit,就是美國的PTT,上面所有按讚比較多的貼文全部放進去,所以其實訓練出來的目的是要讓他在網路上被推、轉發,鄉民看來覺得合理、刺激,而不是內在正確性,我不知道你有沒有玩過talk to transformer,就可以看到目前OpenAI的模型。
就是這一支,我覺得很有教育意義。
他們現在是用一半大的模型,也就是700m的模型。為何OpenAI願意釋出比較大的模型,大概是兩個原因:一個是壞人都有了,好人連這個都不瞭解的話,好像很慘,這個是當初加密技術,美國沒有禁運的原因,但是後來是壞人用加密技術,本來就犯法了,不差這一條罪名,但是好人要用加密技術來保障彼此的通訊,後來就犯法了。
同樣的道理,OpenAI是把整個站砍下來做訓練,他們做得到,別人也做得到,而且壞人早就做到了,這樣的情況下,不釋出又怎樣?所以這個是一件事。
別的領域是可以類推,雖然有一個可以把內衣直接拿掉的APP,當然馬上就下架了,因為倫理上有一些困難,但實際上去Github上,程式碼還是在那裡,自己下載編譯、執行,還是有一份。
就像好比最近的自由時報有一份很好的報導,像在韓國發展的某一位,很多人喜愛的演藝界朋友,不但影響了上次的總統、立委選情,而且現在在韓國因為換臉的技術蓬勃,所以把他的臉換進去的成人影片,現在有很多人點閱。
當然對於這一位朋友來說,是非常不好、不舒服的一件事,所以你在檯面上大概看不到它流通了,但實務上因為有那個需求,所以即使是你自己下載程式、自己跑,你不能說google image取得這一位明星的臉違法,所以你只要抓一下下來,自己訓練一下就做到了。
對,這個技術已經民主化了,即使道德上有問題的應用,要如何能讓它沒有辦法再發展?這個跟生殖技術或者是核子技術是不太一樣的狀態,這個是純技術的部分。
第二,選舉期間是不是可以拼在一起用?美國當然現在有一些議員開始提案,有一點像南北戰爭的時候,互相不射擊彼此的將軍,是一樣的道理。如果你開始打我的將軍、我也打你的將軍,兩軍就沒剩幾個將軍了,這樣還要不要打仗?因此在君子協定之下,即使將軍有中彈也往往是被誤傷的,各個黨派都承諾不在選舉期間把這一些技術拼在一起,誰把技術拼在一起,我們鳴鼓而攻之,即使這對我的選舉有利,也要鳴鼓而攻之,所以好像靠這一種類似君子協定的常模。
當然跨黨派經過一、兩次選舉,都建立這一次的常模,我想網路平台就會開始被要求,最好的例子是現在AI會自動偵測直播砍頭,用來招募自願軍的一些訊息,這些即時的影音或者錄影,當然不只是讓看的人非常地不舒服,也是有它的社會外部性,這個我想沒有人反對。
但是傳統上按照美國的概念,平台不為第三方所上傳的資料負責任,爭議通常要等法院判決,但這種即時把人砍頭的影響,大概等不了法院判決,因此大部分的平台都同意這一類不算言論自由了,但是這還是最近幾年的發展。其實這都是一攻一守,因為某些招募人員的能量太強了,逼著他們改變立場。
所以我想的是,如果在選舉期間,不能使用這一些技術湊在一起為各黨派所默許作為準則的話,很快平台就會接受到這一種自律的要求了,就會跟我剛剛所講的,像一些極端分子能用直播砍頭來招募人員,或是一些好比像對於不足年齡朋友們的一些性剝削影片等等,可能會被放在有一點類似的位置,也就是法有明訂,而即使法無明訂,讓這一些東西流傳的平台,會公認為不道德,我的回答是這樣。
第三,現在要不要為這個立一個法?我認為立法必須要有目的、範圍、你對這一些範圍施加什麼限制,目的當然也許我們說得出來,確保一個公正的選舉環境,但範圍跟限制,現在有人說得出來嗎?我們還沒有幾次真正的選舉是用這個技術打的,所以當他的範圍、目的不明的時候,造成連帶傷害的可能性就很大,造成連帶傷害的例子,好比像軍事衝突時,對立雙方的事實查核工作報告都被武器化,反而變成激化對立的方法。
我們想避免這樣的情況,因此通常我們的做法是先自律,自律到一個程度再他律,他律到一個程度,大家都已經很確定這個他律是對的,也許有一些部分到法律,因此還是自律、他律的精神,我想臺灣的網路治理是這樣的情況。
好比像換臉這一件事,確實有這樣的協調出現,就是誰換對方的臉,也就是誰道德上有瑕疵。
主要的問題是,我們還沒有碰到真的狀況。
因為已經有很多人在公布這樣的影片,像很有名的是,大家一起唱約翰藍儂《Imagine》,但是是合成各國領導人的照片,在那邊唱「imagine there’s no country」,是非常療癒人心的,對我作為一個安那其來說。
不過片頭就已經寫說「這個不是真的,但或許有成真的一天」。
大家都看到了這一件事發生在自己的臉上,這個時候自然會稍微比較重視一點。我們這裡可能不太多。
對,而且我覺得「動新聞」在臺灣這麼久了,大家腦裡都有一些抗體了,也就是演出來未必是真的,因為動新聞在新聞界引發一些討論,你看到這一些演出來的,後來記者給了更正、搞錯了,但是那個影像已經深入腦海,已經比文字的更正更困難,因為沒有辦法取消掉看過的影像,尤其長得維妙維肖,這是對於動新聞的道德反映,但是大家發現看久了就知道演出來的,而且誰都可以演,反而又沒有這個問題,因為都知道是假的。
「一切的新聞都是動新聞」?
當然現在有很多技術正在做這一件事,像我之前在Twitter用了一個Truepic,可以證明幾點幾分在哪一個經緯度、用哪台手機,拍了什麼樣的影片或者是照片寫在分散式帳本,也就是區塊鏈上,然後核可說這個就是當時當地用這一台手機發生的,這個影像絕不偽造的可能。
這裡面有非常多好處,在拍照的當下有很多資料可以拿,包含如果你是手拿的,還有你是翻拍另外一張照片在螢幕上,光影的角度就會不一樣,有很多在最終照片裡面拿不到的資訊,像陀螺儀資訊、GPS資訊等等,都可以用來交互檢證是在這邊拍的。
當然也沒有辦法預防有人刻意卡一個看起來不是事實的版本,這個是沒有辦法,這個真的只能用360的全景攝影機才可以解決的問題。
至少在人、事、時、地這四個部分都已經可以做到驗證,因為大家都不相信了,所以這一種賣信任的分散式帳本的技術就開始出現了。
放在APP就好了。
如果沒有蓋這個,就很像你都是假的,也可能會變成這樣子。
像有帶這個,變成像參與式驗證的方式,也就是跟我們有機農法一樣,不能只通過有機標章,還要允許你跟農友互動等等,到最後會變成這樣子。
羅政委有非常完整的論述,可能很快會有發表一本類似白皮書的文件。
我尊重羅政委的看法,他是主責的政委,我只是跟他說有一些技術很容易、有一些不容易,有一些很貴、有一些不那麼貴,有一些可行、有些還不太可行,這個是我的角色,但是方向上是他在幫忙的。
我們有現成的法律,好比像剛剛所說的不實訊息,如果在一個民主、言論自由的社會裡面,我們儘量不要說一個部長或者是政委講一句話,一定比新聞記者講的要高明,雖然新加坡可以有這樣的傳統,但這不是我們的傳統。
新加坡說不定很有效,但是我們要做的方法並不是這樣子。我們要做的方法像事實查核中心等等,或者是他們組成一個聯盟,下次大選,候選人講的每一句話都是群眾外包、打成逐字稿,逐一事實查核,要候選人一說謊,馬上被發現,簡單來講就是這樣。
很多新媒體,當然也包含華視等等都有參與,像公視新聞實驗室等等,我想這個很重要,我們會把權力集中在社會部門,讓社會利益來擔任類似守門員的角色,而不會讓公權力來擔任守門員的角色,不然反對黨很難再選上,我們也很難主張我們是民主國家。因此只要記得戒嚴的人,都會同意社會力茁壯是比較好的,絕對會比公部門的力量茁壯好。
像有幾個立委,在SARS的時候,很少有人主張衛福部應該等社會部門都確認了,才能發這個訊息,或者才能說某一個傳染病流行的訊息是假的,而且要罰很多錢或是要抓去關,為什麼?因為如果很多人死了,沒有民主可言,因為民主建立在有人民身上的,所以如果違反傳染病防治法,人死一票,這一些人不會因為事後更正,就起來投票,因此這個道理非常明白。
在這一種情況之下,其實也沒有人反對我們甚至立刻就要用法律來處理,事實上我們有這一整堆討論之前,傳染病法本來就在罰假訊息的散布,我想這個大概也沒有人反對。
因此我們可以發現跟災防、公衛有關的,簡單來講會死人的,這個好像大家都覺得這個言論自由不太行(得通)。
而且Twitter現在也主張如果是機器人在操作CIB的話,不能主張隱私權,因此把你的所有作息、推文公布,那也只是剛好而已,因為你不是人,你怎麼主張隱私權呢?
像如果過世的話,死因分析這些資料,衛福部是可以公布的,因為你不能主張隱私權,你不是活人。
有。
這個叫做「data disclosure」。他們是一批批做的,但是未來說不定可以每天做。
是。
他們有做很多,但是在PRC這一個管轄領域裡面,他們是第一次做,而且還做了一個一般不預期會做的事,指出這一群人來自不用翻牆的網段。這樣一講,大概就是不想在PRC做生意了。
這樣講,基本上就是說PRC政府支持或至少默許這一種行為。他這樣講,如果還想繼續和PRC作生意,這個就有一點困難。
因為你要進入一個管轄領域,要先同意他的法體系,也就是守法,但是他們的見解跟我們這一些都不一樣,他們的法見解是情報工作在需要的時候,可以徵用你的團隊或組織,包括在大公司裡面都要放共產黨的黨支部,來進行路線上跟國家一致,總之對他們來說,就是使用非市場手段本來就是法制的一部分,很多寫在法律裡面。
但是Twitter這樣子揭露出來,而且好像這是一件不好的事情,這個就挑戰了法制見解。因為對PRC來說,一定會覺得情報戰當然是情報工作的一部分,情報工作徵用民營的企業,這個在PRC,這個是理所當然,一切都是為了黨國服務,黨國一體,這我們也很有經驗。
但是無論如何Twitter這樣講,好像這個是一件壞事。