今天我們看到的情況非常相似。公司釋出開放權重，下載的人至少可以確認模型沒有偷偷連回原廠。這是一項保證。但開放權重並沒有告訴護理師或老師：當他們發現系統有問題時，該如何修改。沒有公開訓練資料，你也無法保證所謂的開放權重裡，沒有木馬、沉睡智慧體或後門。你也不知道該到哪裡申訴，才能確定真的會有人閱讀；尤其當系統連後訓練都不容易時，更是如此。