Jahanzaib Ansari

感謝各位邀請我。主席與各位尊敬的參議員，我由衷感謝這份機會。

首先，請容我向各位為國家的服務表達敬意與感謝。今天能來到這裡，對我而言確實是一項榮幸。感謝各位給我機會在此作證，討論 AI 對加拿大人權與經濟安全的重要性，特別是它與易受影響群體，以及國際人權體系下工作權之間的關係。

我的名字是 Jahanzaib Ansari。我是 Knockri 的創辦人兼執行長。Knockri 是一家加拿大組織，已經營運大約十年。我們的使命非常簡單：確保每一位加拿大人都有公平的機會、平等的機會，不讓任何人因不公平的守門人，而被排除在他們本應享有的機會之外。

我們的平台被私部門與公共部門中大型且成熟的組織採用，用於支援招募、升遷與培訓。我們的解決方案是一套 AI 解決方案，大約十年前就開始發展。整體而言，使用我們解決方案的組織所代表的勞動力約有 300 萬人，範圍從加拿大到塔吉克，再一路到泰國。十年下來，我們已涵蓋相當龐大的勞動力。

我創辦這間公司的起點非常有意思。大約十二年前，我在找工作，但很多雇主都沒有回覆我。我有一個很長、帶有族裔色彩的名字，Jahanzaib，所以一直得不到回音。當時我非常挫折，於是我把名字英語化，從 Jahanzaib 改成 Jason、Jordan 或 Jacob。結果在短短六週內，我真的找到了一份工作。

我今天不是來博取同情的。但我當時感覺，可能有非常多有技能的加拿大人正被忽視，而我們必須有更好的解決方案，來處理偏見，並提升招募、升遷與培訓流程的效率。於是我與一位機器學習科學家，以及一位工業與組織心理學家合作，創立了 Knockri。

我們所創造的，是一套協助組織降低招募偏見、在能力基礎上提升多元性、改善效率，並提供良好候選人體驗的解決方案。不同於目前某些 AI 炒作，我們從公司創立之初，就把許多防護機制納入考量，並確保每一項決策都能追溯到它實際上是如何做出的。

我們基本上打造了一種玻璃盒演算法，透明、可稽核，並能建立信任。我的共同創辦人是 Faisal Ahmed，他是來自多倫多大學的機器學習科學家。我們的首席科學家是 David Mayers 博士，專精於甄選與評量。

各位尊敬的參議員，今天的 AI 既可能強化既有的不平等，也可能協助減少不平等。根據我十年來與私部門、公共部門客戶合作的觀察，我想簡短提出四點，之後我們再開放提問。

我必須承認，AI 正日益與國際人權體系下的工作權連結在一起，這正是我們目前在市場上所看到的，也帶來一些挑戰。但當 AI 以負責任的方式訓練時，它其實可以維護許多人權，包括國際工作權。

第三點，透過我們與私部門、公共部門和軍隊客戶的合作，我們深切感受到，透明是關鍵，問責是不可妥協的。打造可稽核的解決方案，並且能夠真正打開來理解一項決策究竟如何產生，極為重要。

最後，這當中的許多問題都直接關係到經濟安全與國家競爭力。當然，演算法存在偏見挑戰。但同時，我們也需要有不至於讓我們慢到無法採用新技術、最終落後於人的監管制度。

總結來說，AI 目前正以令人目眩的速度發展，但我們過去也曾見過類似的轉型。如果能以負責任的方式引導，AI 可以擴大機會、減少偏見、強化經濟安全，並維護人權。

再次感謝各位給我今天出席的機會。我期待各位的提問。

非常感謝這個問題。

我會從高層次分享，因為我不是非常技術背景的人，但我會讓各位對解決方案有好的理解。

在我們的組織裡，我們沒有使用任何大型語言模型，所以我們對如何訓練資料有很大的自主性。當我們創辦公司時，我們客觀地檢視職能。成長型思維客觀上意味著什麼？協作意味著什麼？敏捷意味著什麼？根據這些精確定義，我們把工作世界與勞動力中的成功相關性進行對應。

如果我參與這個流程，它並不是用歷史且帶有偏見的資料來訓練。市面上很多供應商，或我們在產業中普遍看到的做法，是用歷史資料訓練模型。如果那些資料本身存在既有偏見，當然就會滲入演算法，並進一步製造資料。

我們所做的，是不以那種方式看待歷史資料。舉例來說，如果某個組織中的某個子群體，例如南亞裔男性，是科技職位中表現最高的一群，而我們只用這一點來訓練演算法，那麼在評估白人女性或其他群體時就會產生很多挑戰。

我們很早就學到，不能這樣做。這是第一點。

第二點是，我們有來自許多不同背景與知識領域的多元評分者，也對這些候選人進行評分，以驗證兩者之間的效度。

我們必須與大學和組織進行許多研究，因為這是一個非常容易發生訴訟的領域，尤其當它用來支援這類決策時。談到聯邦公共部門，我們已經通過演算法影響評估與隱私影響評估的繁複流程，並且真正檢視決策是如何推導出來的。

我們與 ISED 團隊、PCO 團隊和 PSC 團隊一起經歷了漫長流程。多年來，我們一直確保它可稽核。這是第一點。它非常透明。第二，它是以非常客觀的方式訓練。我希望這有幫助。

我對某些管轄問題的知識並不是非常深入。不過，我可以這樣說：很多走過這個流程的人 — 我可以舉一個例子。我們曾遇到一個情況，涉及一位來自黑人社群的女性。她長期被忽視。她本來有升遷機會，但卡在那裡大約五年。他們把我們納入流程的一部分，而五年之後，她最終獲得升遷。她升上去了，這讓我們看到，當你建立一套讓競爭環境更公平、並根據能力評估個人的解決方案時，它就維護了許多基本人權，例如以有尊嚴的方式，在職涯中獲得公平且平等的進步機會。

此外，參議員，我們不保留任何資訊。我們會刪除所有資料，因為那些資料對我們反正沒有幫助。我們的功能，是探討如何幫助這些個人獲得公平機會與平等機會，同時也給予他們能動性，而不是把他們綁在某個儲存其資料的組織之上。

我可以先從我的經驗開始，之後再請我尊敬的同僚接續。

McCallum 參議員，在尚未有標準化的國際 AI 人權監管方法之前，我們看到許多大型組織已設有倫理委員會。它們有委員會，會深入分析與評估每一項解決方案。如果有任何可能對任何子群體造成不利影響，該解決方案就不會往前推進。

從我的角度來看，我還沒有看到全球採用的東西。但許多組織都有非常明確、具體的任務。如我所說，這是一個非常容易發生訴訟的領域。已經有很多公司因為演算法造成偏見而被起訴。這是第一點。

第二點，就加拿大而言，根據聯邦要求，我們作為供應商或其他演算法，必須通過這些演算法影響評估。它是根據風險標準：你的解決方案對決策有多關鍵。例如，如果它被空軍使用，而你要鎖定一棟建築物，那就是極高風險。那個決策流程必須被極為清楚地理解，因為它可能造成很多挑戰。我們的解決方案是低風險的，因為我們做的是決策支援。最終總是有人類在審查。

我在國際上所見到的是，目前還沒有一套明確指引。歐盟有法案，美國一些州也有法案。然而，川普試圖取消那些法案，所以我們會看看接下來如何發展。

我會說，目前至少在加拿大，最好的行動方案，是與像 ISED 的 Mark Schaan 這樣的人合作，理解他們所制定的某些規範，並確保每一位供應商都是真正正當的。

就我們的解決方案而言，我會說包括聯邦政府部門、空軍，以及部分武裝部隊。在私部門方面，則有大型組織，從科技公司、顧問公司、銀行、保險、教育等都有。

不同組織看到的價值也不同，對吧？有些組織有明確任務，要提高候選人短名單中的性別與種族多元性。那裡有非常具體的重點：首先，如何看待人才管道，並真正理解為什麼某些人沒有被篩選進來。因為我們所看到的，類似於我的經驗，人類智慧很棒，但其中也有挑戰。我們也不是完美的生物。

所以我會說，我們的解決方案被用來增加入選候選人短名單中的性別與種族多元性。許多組織現在則是為了效率而使用它。因為你申請一份工作，有些人要等很久才有回音。這讓招募人員與人資團隊可以專注於價值更高的工作，也就是理想上進行面對面的對話；同時，那些繁瑣、偏見可能滲入的工作，則在該階段由自動化處理。

這是我們在許多客戶身上看到的。他們在這方面已能節省大量時間與成本。

最近，主席，這套解決方案也被空軍用來創造培訓效率。

正如我剛才所說，這直接關係到經濟安全與國家競爭力。我們看到，加拿大在生產力與效率上面臨許多挑戰，大家都知道。

此外，容我補充這一點：許多年輕加拿大人正在離開這個國家，這不是好現象。舉例來說，我童年的一位朋友去了佛羅里達。高素質人才正在離開國家，但我們本地也有非常優秀的人才，卻沒有合適的工作。

我們看到這套解決方案被用於提升個人技能。它也被大學用來提升學生技能，並確保他們與組織正在尋找的職能相匹配，讓通往就業的道路可以更快。

它觸及的面向非常多。當然，在採用方面，我會說，ChatGPT 大幅加速了這一點。一開始，人們對這項技術有很多恐懼，之後開始有關於挑戰與偏見的教育。現在我感覺採用情況正在大幅增加。

我有最後一點想加入，因為我覺得關於透明性的討論有些被略過了。我們其實觀察到，個人 — 尤其是來自易受影響群體的人 — 在你分享為什麼使用 AI 解決方案時，真的很感謝。因為大家通常對它有很多恐懼。我們看到的是，一旦我們開始溝通：「我們是在協助確保每個人都有公平機會和平等機會」，整個對話的動態就改變了。所以，如果你要採用某種 AI 解決方案，我認為它不應只是軟體。你需要這種行為與人的理解，讓人們也理解為什麼要這樣做，以及它的益處是什麼。否則，他們會非常害怕它，並且非常不信任公共部門。

Thank you for having me. I greatly appreciate the opportunity, chair and honourable senators.

First, let me acknowledge and thank you for your service to the nation. It is, indeed, an honour for me to be here today. I thank you for the opportunity to appear before you to discuss the importance of AI on human rights and economic security in Canada, especially as it relates to susceptible groups and the international human right to work.

My name is Jahanzaib Ansari. I am the founder and CEO of Knockri, a Canadian organization that has been operating for a decade. Our mandate is very simple: to ensure that each and every single Canadian has a fair shot and an equal opportunity, and that no one is ever held back due to unfair gatekeepers from the opportunities they rightfully deserve.

Our platform is used by large and sophisticated organizations across the private and the public sectors to support hiring, promotions and training. Our solution is an AI-based solution, as I was sharing, which we started about 10 years ago now. Collectively, the organizations that use our solution represent a workforce of about 3 million individuals. That spans from Canada to Tajikistan all the way to Thailand, so we’re covering quite a large span of a workforce in 10 years now. It’s extremely interesting how I started this company.

About 12 years ago, I was applying to jobs, and I just wouldn’t hear back from a lot of employers. I’ve got a long ethnic name, Jahanzaib, and so I wouldn’t hear back. I was very frustrated at that juncture. So I anglicized my name. I went from Jason, Jordan to Jacob, and literally, in six weeks, I got a job.

I’m not here to gain any sympathy, but I feel like there are so many skilled Canadians who are probably being overlooked and there has to be a better solution to address biases and also create efficiencies in the hiring, promotion and training process. And so I came together with a machine-learning scientist and an industrial organizational psychologist to essentially create Knockri.

What we have created is a solution that helps organizations reduce bias in hiring, increase diversity on the basis of merit, improve efficiency and also delivers a great candidate experience. And unlike some of the other AI hype at the moment, we have started our company from the ground up with a lot of guardrails in mind and have really ensured that each and every single decision can be traced to how it was actually made.

So we have essentially created a glass box of an algorithm that is transparent, auditable and builds a lot of trust. My cofounder is Faisal Ahmed, a machine-learning scientist from the University of Toronto, and our chief scientist is Dr. David Mayers, who specializes in selections and assessments.

Esteemed senators, today, of course, AI has the potential to either reinforce existing inequities or to help reduce them. From my observation, spanning over a decade of working with our customers across the private and the public sectors, I would just like to make four brief points, and then we can open up the floor to any questions.