所以像我們最近剛開幕的評測中心,就發了這十個訊號,說接下來任何模型,從原型開始,這十件事情我們會覺得是重要的:安全、彈性、準確、當責、隱私、可解釋、公平、透明、可靠、資安。如果在這十件事情上背道而馳,這就是一個訊號說,雖然現在沒有要禁用,但我們不鼓勵市場往這些方向發展。
應該這樣講,就是當你有兩個能力相當的選擇,有一個犯錯時你調整他有用,第二個犯錯時不當責、完全沒有辦法對那種情況負責,這時你當然選願意當責的那個,假設他們能力一樣。現在大家擔心的狀況是,你要做出取捨:也就是當責、可解釋的那個,能力非常弱;而胡說八道、無法解釋的,反而能力比較強。這個時候就會造成困難。
比如,如果我是高度規管的行業,像律師之類的,我就沒有那個動機去用亂講的,但是如果我是犯罪集團,我有很強的動機去用那個亂講的。在這個情況下,整個社會就會開始往魔高一丈的方向發展。
我們能給出來的訊號就是,首先,我們透過像評測中心這樣的機制,給我一個模型,我來告訴你它負責的程度,這第一個。第二個是,我們會盡可能地把我們政府的投資方向,或者是透過外交,協助全世界來轉向到更準確、更當責而不犧牲太多能力的這些產品。這些產品出現的時候,市場上的消費者,包含高度規範行業裡面的人,就有好的選擇可以選了。一旦他們有好的選擇,他們的投資和消費,就不會流向相對不好的方向。
所以這裡面有兩個要點:一個是要很明確地說,那台冰箱會破壞臭氧層、這台不會。第二個是說,這台不會的,它的製冷效率也沒有差多少,所以大家趕快去買這個。只要這兩個元素都存在,市場就會往比較好的方向走。
這也是很好的問題。當然以 OpenAI 的角度來看,他們也不想變成到最後只有罪犯在使用的技術。先前有些新興技術,因為很多洗錢、資助恐怖分子都採用,所以那種技術的市場就受到影響。虛擬資產技術當然有很多好的用途,但因為不法之徒找到某些規避監管的方式,所以你也可以看到他們正在轉向,朝著 web3 是基礎建設、研發對大家都好的公共財,這類的方向在發展。因為他們也發現,如果這些技術被認為主要是犯罪集團使用,那市場是不認同的。
簡單來說,目前當然有使用 AI 技術犯罪的人。但是,我們要有一個很強的訊號,是這個技術可以往安全的方向發展,也就是往抵抗攻擊能力、增強防禦能力的方向發展。只要有這個訊號,那就不會整個行業都被當成壞人,簡單來講是這樣子。
我舉一個蠻實際的例子,像之前大家都提到 deepfake,影像或者是聲音什麼,現在都可以簡單的仿冒。解決這個問題的方式並不是禁止所有人研發這個技術,而是說我們很明確的說,如果用它來散播未經同意的私密影像,或者是用它來做違反金融消費者保護的線上詐騙,或者是在接近選舉的時候冒充候選人意圖使他不當選。在這三件事情上,立法院都已經通過說,我們不是禁止這個技術,但是你用在這三件事情上,那就是犯罪了。
也就是說,明確的在它造成社會損害之前,你要畫一個標誌出來說,你跑車不管開多快,到這邊就是違規了。這樣市場就會知道我投資這些技術的時候,至少在臺灣這三件事情是違法的,不要往這個方向發展。
對,我想有兩個,一個是說 AI 評測中心評測的項目這 10 個是大原則,但底下具體的項目,我們會透過不斷的滾動檢討,大家覺得我們評測需要加什麼項目,或者是現在 AI 造成的新的損害是我們現在無法了解到的,我們希望有個機制,讓我們合作的這些研究機構、社群的夥伴們告訴我們說還有哪些要評測的,這是所謂民主化的對齊。
也就是說,對齊的這 10 個目標,裡面的細項,甚至是第 11 個、第 12 個原則,如果有的話,都可以透過即時的方式來回饋給我們。AI 評測中心,並不是現在明確的說我們未來一年只評測這些,而是會從社會繼續收集意見,運用類似審議式工作坊的那種方式,來收集我們要評測什麼。這是第一個。
第二個,我還是強調說「超智慧對齊」,雖然 OpenAI 是取這個名字,但是它嚴格來講,其實就是從半自動慢慢到全自動對齊、減少人類在這裡需要消耗的力氣,又可以更好地達到對齊的目標。所以,它並不是未來的、科幻的技術,而是每天都已經在使用的技術。OpenAI 的這個研究團隊,是在強化它的自動化程度,但他們並不是從頭創一門學門。這些做法,包含剛剛講到的審議、自我辯論等等,其他的 lab 裡也有,而學術界也有人做這樣子的研究。
所以,這有點像是當時我不是很想一直講「Metaverse」,因為不想幫特定公司打廣告,是一樣的道理。所以雖然 Superalignment 這個 branding 只有 OpenAI 在用,但這件事其實大家都在做。
我們直接開始。
沒錯,個資會籌備處馬上就要揭牌了。
數產署就高齡科技會全面推動,我想這是完全扣合的。
正華有給過演講嗎?
以前國發會也有參加過你們的活動,我想問的是像李世德參事,或其他個資會籌備處的同仁,有來你們這邊演講過嗎?
因為這個禮拜就是獨立個資會的辦公室籌備處終於掛牌,憲判字第 13 號很不確定的因素終於要確定了。
大家過去 10 年都處在不確定性裡面,將來不分任何部會,等於這個獨立個資會的決定,哪一些合法、哪一些不合法就確定了。
以前還沒有像籌備處的機關可以出來分享,當然我預錄致詞,這個沒有問題,大部分的活動我都是預錄致詞,只是如果要現場給演講的話,我滿推薦請個資會籌備處的同仁,分享他們的組成、願景等等,我想會很有意義。
第二,因為高齡科技等等,數位產業署都有相關的規劃,所以我倒是覺得如果我的致詞裡面,多放一些明年正要推動的政策,這樣會比較有意義。
因為這個時間我確實本來有排事情,也因為比較靠近選舉了,我們的資安工作責任會越來越重,所以剛好這個時間比較困難,但是預錄絕對沒有問題。
攻擊方的技術很先進。
DDoS 的話,去年 8 月成長到以前最高峰的 23 倍,今年 3 月蔡總統訪美的時候也還有一波,只是我們擋下來,才沒有上新聞。
我們要隨時準備。所以選前就以預錄為原則,稿子就由產業署來整理。
好不容易可以籌備成立獨立個資會,我覺得要給他們舞臺。
而且是限期,所以及早處理是比較好的。
讓大家有確定性。
絕對沒有問題。
很願意。
一定,全力支持。
跟數位產業署的使命是非常接近的。
謝謝。
好的,我們就直接開始。
謝謝。看線上或者是現場有沒有補充的?
預錄沒問題。數產署在數位據點的工作,我們知道今年的經費可能只能支持到明年第二季,所以 NICS 有計畫來承接,是滿好的方向。
人口密集度低的地區,教育部的 DOC 在新的年度裡面,也有整合各部會的據點,也請跟 DOC 建立橋接的機制,這樣數產署後面的數位據點就後繼有人,感謝。
感謝。就把教材、教法包含跟學院單位一起制定好,之後才能規劃出錢的部分,現在主要是出力的部分。已經有幾位縣市首長,看到 Google.org 的合作,他們也覺得可以一起出力。
還有沒有要補充的?
就請盡快處理。目前是傾向建議行政院支持?
太好了。還有沒有其他要補充的?
有關「本部 112 年下半年亮點行程」之 10 月與 11 月主題部分,以及「涉外重要數位合作業務事項(英國)」案,同意解除列管。
其他沒有問題的話,我們就往下。
謝謝,本案辦理經費為 200 多萬,但是以各司署處同仁投入的心力,用不休假加班費來計算的話,早就超過這個數目了。
真的是很謝謝大家花這麼多的力氣,一起來對齊、一起來集思廣益。我們也看到策略司本身很多的提案,好比像之前的點子松,明年就可以結合國際松「數位公共建設」的相關發想等。這都是在當場討論的時候,透過領域專家提出,兩邊立刻就同意了,所以我覺得我們這樣跨單位討論的機會,真的非常好,也真的可以扣合、解決大家的共同需求,包括各地方政府的共同需求。
我覺得真的很棒,看大家有沒有要補充?
可以考慮主動服務,也就是用 email 訂閱的方式,大家不要退訂就可以一直收到,一般都是這樣子的。
應該是可以一起進來。剛剛有提到法人,我想至少我們所屬的四個法人進來,是沒有問題的。
請主秘。