所以我們剛剛講到的就是說,搭橋的這個獎勵,其實在預訓練的時候,就是很多這些語言模型的預設的做法,因為它常常在 forum 裡面這個討論串,到最後會變成好的訓練資料,就是因為有人出來打圓場、當和事佬啊,把兩邊這個牽在一起啊。所以他不管是在維基百科、在 GitHub、Common Crawl 裡面那麼多資料集,都是有這樣的能力。
j 下一段next speechk 上一段previous speech