Mayumi Nobuta

如同我在電子郵件中所提到的，我想請教你對 AI 風險的看法，以及 Plurality 的概念如何幫助我們應對這些風險。

你可以自由回答。我的第一個問題是：你認為 AI 最大的風險是什麼？

所以，你把這些風險看成我們終究能完成的使命？

我們也需要考慮惡意使用者可能濫用 AI 的情況。你對此有什麼看法？

我記錄了一些例子，像是操弄民主程序，包括選舉。所以這已經在發生了？

聽到你們把它減少了 99%，實在很驚人。

我想轉到民主這個主題。聯合國 AI 小組和其他專家警告，生成式 AI 可能放大某些觀點，強化既有信念。我前幾天訪問了 Yoshua Bengio。

他也強調了這些風險。研究也發現 AI 會產生幻覺，有時會告訴使用者他們想聽的話，而不是事實。你認為這些風險有多嚴重？

反過來，AI 要怎麼用，才能反映更多元的意見？

要怎麼實現，又該由誰負責？目前 AI 發展由少數幾家公司主導，例如 Anthropic 和 OpenAI。應該由他們打造這種 AI 嗎？還是政府該制定政策來鼓勵，或者自行開發 AI 系統？

你認為我們該如何達成？

你認為誰應該負起責任？

我之前不知道這些。

我現在手邊沒有 Mac。

AI 發展愈來愈集中在少數幾家公司和國家手中，例如美國和中國。某些模型最初只開放給特定公司使用。

你認為這種權力集中是一種風險嗎？

你認為，在建立防禦能力的期間，有必要對存取做一些限制嗎？

所以你認為透過正確的措施，就像你稍早說的，我們可以解決這些問題？

接下來想談 Plurality。你能用簡單的話解釋它是什麼嗎？

我也讀到 Plurality 和 Singularity（奇點）的關係。能解釋一下兩者的對比嗎？

如果 Plurality 實現了——抱歉，我忘了問題——你能分享一些臺灣落實 Plurality 的例子嗎？

你們在那些對話中有使用 AI 嗎？

那 10 個人真的聚在同一個現場嗎？

我懂了。你是說即時進行？

花了多少時間？

很有意思。照你這樣說，即使有這些工具，大家還是得聚在一起討論，才能達成協議，或是某種妥協。

這個題目還可以再深入，不過我先往下問。AI 系統常被形容為黑盒子，在這種情況下，還能透過設計來建立信任嗎？

你認為實現 Plurality 其實不需要大型 AI 系統，而目前的水準已經夠用了嗎？

我懂了。所以，你說的是群體的智慧，而不是單一個人的智慧？

這是個很有意思、適合介紹給讀者的例子。這一題我問過了嗎？啊，對。

書中主張，AI 可能讓收入從勞動轉向資本，集中財富和權力，進一步加劇不平等。這會對社會造成什麼影響？社會又該如何避免這種結果？

你對日本有什麼建議嗎？

很有靈性。

那很有意思。

還有一件事，原本沒列在我的問題裡。我們常聽到 AI 會說謊、打敗人類，有時甚至會勒索人。

你談到透過設計建立信任，但我們是不是也需要更批判地思考 AI？你怎麼看？

這跟我從其他專家那裡聽到的很不一樣，也很有意思，讓我印象深刻。非常感謝。

你怎麼看奇點？你覺得它大概什麼時候會到來？你說過，它已經愈來愈近了。

As I mentioned in my email, I would like to ask about the risks you see in AI, and how the concept of Plurality can help us address them.

You can answer any way you like. So my first question is: what do you see as the biggest risks of AI?

So you see those risks as missions that we will eventually complete?

We also need to consider how malicious users might misuse AI. What do you think about that?

I noted examples such as manipulation of democratic processes, including elections. So this is already happening?

It was amazing to hear that you had reduced it by 99 percent.

I'd like to turn to democracy. The UN AI panel and other experts have warned that generative AI may amplify certain viewpoints and reinforce existing beliefs. I interviewed Yoshua Bengio the other day.

He stressed those risks too. Studies have also found that AI can hallucinate and tell users what they want to hear rather than what is true. How serious do you think these risks are?

And how can AI instead be used to reflect the wider diversity of opinions?

How can we make that possible, and who should be responsible? A few companies, such as Anthropic and OpenAI, currently lead AI development. Should they build that kind of AI? Should governments create policies to encourage it, or develop AI systems of their own?

How do you think we can achieve this?

Who should take responsibility for it?