Évolution axée sur la technologie de la prise de décision discrétionnaire dans le droit de

l’immigration canadien
De quelle façon un conseiller juridique peut-il répondre?

Mario D. Bellissimo, J. D., répondant communautaire

I. Introduction

Le système d’immigration canadien est sur le point de s’effondrer, sous l’effet des défis posés par la
pandémie, de l’arriéré croissant, des files d’attente dont le traitement est interminable et d’une
modernisation inégale. Il convient de féliciter Immigration, Réfugiés et Citoyenneté
Canada (IRCC), qui poursuite le processus de modernisation et affine les mesures en vue de
renforcer l’exécution, l’intégrité et la conformité du programme. Il le fait notamment par la
numérisation de l’exécution, de la collecte de renseignements, l’entreposage de données, la gestion
de documents et l’utilisation élargie de solutions d’intelligence artificielle (AI). Pourtant, l’adoption
des solutions technologiques suscite encore une certaine inquiétude. On craint de plus en plus que
les évaluations personnalisées coexistent mal avec le pouvoir discrétionnaire de l’agent, ce qui
pourrait mettre celles-ci en péril, compte tenu de la nécessité d’agir rapidement et de traitement de
masse. C’est là que réside la tension entre l’attrait et les avantages que présente un traitement
accéléré et l’empiètement possible de l’IA et d’autres technologies sur le pouvoir discrétionnaire
humain.

La prise de décision individualisée par l’exercice du pouvoir discrétionnaire constitue le pilier

fondamental sur lequel reposent des décisions justes et équitables en matière de résidence
permanente et temporaire. Le présent article vise à déterminer l’incidence de certaines nouvelles
technologies sur la prise de décision discrétionnaire d’IRCC. J’y explore la façon dont un conseiller
juridique peut s’adapter à l’évolution du contexte juridique afin de préserver et de moderniser les
principaux aspects du pouvoir discrétionnaire et de l’individualisation dans les processus et
décisions d’immigrations, et comment les conseillers juridiques peuvent aider leurs clients
aujourd’hui.

II. Prise de décision discrétionnaire

a) Le contenu de la prise de décision administrative

La discrétion est au cœur des décisions en matière d’immigration; c’est là où les agents peuvent
exercer leur pouvoir afin de se prononcer sur la condition humaine au sein de cadres juridiques,
stratégiques, politiques et socio-économiques qui ne cessent de changer1. Les processus de prise de
décision discrétionnaire sont en évolution constante. Dernièrement, le rythme des changements
apportés à ces processus accélère. Leur aspect change en fonction de l’évolution de la technologie.
À bien des égards, nous sommes au bord du gouffre de la prise de décision discrétionnaire 2.0
[TRADUCTION]. Si vous croyez qu’il s’agit d’une référence à la technologie, vous avez raison2.

1
Satzewich, Vic (2015), « NO 2 Delegated Discretion. » In >Points of Entry: How Canada’s Immigration Officers
Decide Who Gets In, 37–58, UBC Press, p. 48,
http://ebookcentral.proquest.com/lib/york/detail.action?docID=3440665.
2
Cet article est inspiré de mes deux articles précédents sur les solutions d’IA, intitulé « À qui profitent la prise de
décision discrétionnaire et l’intelligence artificielle dans le droit de l’immigration canadien et la pratique?
[TRADUCTION] » (Mai 2020) et, « Partie II : À qui profitent la prise de décision discrétionnaire et l’intelligence
1
La décision rendue récemment par la Cour suprême du Canada dans l’arrêt Vavilov3 expose
clairement le rôle des décideurs administratifs et la portée du pouvoir discrétionnaire qu’exercent
ces acteurs, en ces termes :

Comme les décideurs administratifs tiennent leurs pouvoirs d’une loi, le

régime législatif applicable est probablement l’aspect le plus important du
contexte juridique d’une décision donnée. Le fait que les décideurs
administratifs participent, avec les cours de justice, à l’élaboration du contenu
précis des régimes administratifs qu’ils administrent, ne devrait pas être
interprété comme une licence accordée aux décideurs administratifs pour
ignorer ou réécrire les lois adoptées par le Parlement et les législatures
provinciales. Ainsi, bien qu’un organisme administratif puisse disposer d’un
vaste pouvoir discrétionnaire lorsqu’il s’agit de prendre une décision en
particulier, cette décision doit en fin de compte être conforme « à la raison
d’être et à la portée du régime législatif sous lequel elle a été adoptée » [...]« il
n’y a rien de tel qu’une “discrétion” absolue et sans entraves », et tout
exercice d’un pouvoir discrétionnaire doit être conforme aux fins pour
lesquelles il a été accordé 4 » [TRADUCTION].

Afin d’être raisonnable, le processus décisionnel doit respecter les régimes législatifs pertinents (y
compris les protections constitutionnelles et les exigences procédurales) en place. De façon plus
générale, cinq facteurs peuvent avoir une influence sur l’équité de ce processus, ce qui rend la
décision déraisonnable. Ces facteurs sont les suivants :

1. La nature de la décision. Selon l’obligation d’équité, il faut se demander si la décision en

est davantage une qui vise à régler un différend, à protéger des droits individuels ou à servir
une autre fin juridique plutôt qu’une qui cherche à établir un équilibre entre de nombreux
intérêts et qui examine principalement les politiques [TRADUCTION].
2. L’importance de l’intérêt en jeu dans la décision par rapport à d’autres intérêts
[TRADUCTION].
3. Le régime législatif en vertu duquel la décision est rendue, comme il a été communiqué
dans l’arrêt Vavilov (susmentionné). Ici, il s’agit principalement de savoir si la décision est
définitive et concluante ou si elle est préliminaire qu’il existe un droit d’appel
[TRADUCTION].
4. Les attentes légitimes des parties, pour ce qui est de savoir si elles pourraient être portées à
croire en l’existence d’une certaine forme de protection procédurale en raison de paroles
prononcées ou de comportements manifestés [TRADUCTION].
5. Les choix procéduraux offerts au décideur. Il faut faire preuve de retenue à l’égard des
pratiques et des politiques du décideur qui sont essentielles à l’exécution de son mandat 5
[TRADUCTION].

artificielle dans le droit de l’immigration canadien? [TRADUCTION] » – Une année après la COVID-19
(mai 2021). Je tiens à remercier Jessica Templeman, Ph. D. (sans thèse), gestionnaire de la recherche et de la
rédaction juridiques chez Bellissimo Law Group PC, de son apport inestimable à la recherche, au développement et
à l’édition du présent article. Je tiens également à remercier Kassem Mater, Karandeep Lall, et Athena Portokalidis,
qui ont participé aux recherches pour le présent article et à la rédaction de celui-ci.
3
Canada (Ministre de la Citoyenneté et de l’Immigration) c. Vavilov, 2 019 CSC 65 (ci-après Vavilov).
4
Vavilov, précité, au paragraphe 108.
5
Baker c. Canada (Ministre de la Citoyenneté et de l’Immigration), [1999] 2 RCS 817.
2
 Le décideur doit également maintenir les droits du demandeur. Ces droits découlent de deux
principes de justice naturelle : (1) le droit d’être entendu; (2) le droit d’être jugé de façon
impartiale. Ces droits sont exposés dans la Charte canadienne (la loi générale), la Déclaration des
droits, la loi habilitante du décideur et la common law.

Le caractère raisonnable ne se préoccupe pas seulement de savoir si le processus décisionnel

respectait les exigences prévues par le régime législatif. La décision doit également être justifiée,
en fonction de l’exercice d’appréciation discrétionnaire de ces exigences prévues par la loi par
rapport à un examen des circonstances entourant le cas. Comme il a été précisé dans l’arrêt
Vavilov, l’examen du caractère raisonnable se concentre sur « [le] raisonnement suivi et [le]
résultat de la décision. […] En somme, il ne suffit pas que la décision soit justifiable. Dans les
cas où des motifs s’imposent, le décideur doit également, au moyen de ceux‑ci, justifier sa
décision auprès des personnes auxquelles elle s’applique 6 ». Un agent peut avoir un pouvoir
discrétionnaire, mais il existe des limites, dont le défaut de prouver que les éléments de preuve ont
été soupesés 7. Le processus, cependant, est maintenant de plus en plus axé sur la technologie, ce
qui signifie que le fonctionnement de la technologie est devenu, selon moi, au cœur des
considérations relatives à l’exercice du pouvoir discrétionnaire et au caractère raisonnable des
décisions.

b) Étapes générales de la prise de décision à IRCC

De nombreuses étapes ont lieu, et ce, avant même qu’un agent n’ait reçu un dossier. Bon nombre
de ces étapes concernent la mise en œuvre et l’utilisation de diverses technologies comme l’IA.
Ensemble, ces processus ont peut-être une incidence sur le processus de prise de décision 8. Les
étapes à suivre afin de présenter une demande à IRCC comprennent généralement les suivantes :

1. Les renseignements publics sont mis à la disposition des demandeurs afin que ceux-ci
comprennent le processus et déterminent s’ils peuvent présenter une demande
[TRADUCTION].
2. La décision et l’option du demandeur d’être représenté ou de présenter sa demande par lui-
même [TRADUCTION].
3. L’aptitude du demandeur, établie selon une myriade de facteurs, y compris l’emplacement
géographique, les réalités socio-économiques et les problèmes de capacité qui peuvent
s’appliquer, ainsi que leur incidence sur la capacité du demandeur de s’y retrouver dans un
processus de plus en plus électronique [TRADUCTION].
4. La clarté du processus d’arrivage d’IRCC, allant de la façon de présenter une demande, aux
limites de téléchargement de fichiers et à l’endroit où présenter sa demande aux
renseignements et documents connexes qui sont pertinents [TRADUCTION].
5. Les problèmes d’accès des demandes ou de leurs représentants aux portails en ligne
[TRADUCTION].

6
Vavilov, précité, aux paragraphes 25, 83, 86 et 87, et 89 et 90 [non souligné dans l’original].
7
Henry c. Canada (Citoyenneté et Immigration), 2017 CF 1039, au paragraphe 30 [citant Mousa v. Canada
(Immigration, Refugees and Citizenship), 2016 CF 1358, au paragraphe 10.
8
Pour en savoir plus sur l’incidence de la structure et de la procédure organisationnelle sur le pouvoir discrétionnaire,
voir Hawkins, Keith (2003), Law as Last Resort: Prosecution Decision Making in a Regulating Agency. Oxford:
Oxford University Press.
3
 6. Le processus de production, qui comprend entre autres de déterminer si la demande est
complète ou inadmissible, et, encore une fois, qui est assorti de limites en ce qui concerne le
téléchargement et d’autres structures technologiques [TRADUCTION].
7. Les activités de triage, de sélection du processus approprié et hiérarchisation des demandes
font maintenant appel à l’IA dans une certaine mesure [TRADUCTION].
8. La collecte de renseignements supplémentaires pendant l’examen d’une demande,
notamment en cas de problèmes d’admissibilité ou de crédibilité, ou de changements
importants. Un processus qui s’effectue majoritairement par écrit (les appels de vérification
d’IRCC constituent une exception digne de mention) [TRADUCTION].
9. Les délais de traitement, les mises à jour et les rares points de contact d’IRCC accessibles
aux demandeurs, sans compter le traitement de demandes présentées de façon simultanée
(les étapes 1 à 10 s’appliquent encore une fois ici), comme des demandes de réhabilitation
ou de permis de résidence temporaire [TRADUCTION].
10. L’examen définitif et la fonction de prise de décision, ce qui comprend l’exercice du
pouvoir discrétionnaire 9 [TRADUCTION].

Les pressions qu’impose le traitement en masse ont, à juste titre, inspiré des organisations comme
IRCC à recourir à des solutions de traitement. L’IA présente les possibilités les plus explosives.

III. L’émergence de l’intelligence artificielle (IA)

a) Qu’est-ce que l’IA?

Premièrement, il est important de faire la différence entre l’IA, l’apprentissage (profond) machine,
et l’analytique prédictive, trois termes parfois utilisés de manière interchangeable dans les
documents produits par le gouvernement du Canada dans les discussions sur les outils
technologiques mis au point. Aux fins du présent article, j’emploierai les expressions « IA » ou
« solutions d’IA » pour renvoyer à ces trois termes. Il n’existe aucune définition singulière stricte
de l’IA. L’explication la plus simple peut-être réside dans le fait que l’IA est une « activité qui se
consacre à rendre les machines intelligentes [TRADUCTION]» qui « permet à une entité de
fonctionner adéquatement et de pouvoir prédire son environnement 10[TRADUCTION] ». Les
données sont les matières premières qui donnent les moyens à l’intelligence « machine ».
L’apprentissage machine s’entend d’une technique à laquelle recourent les machines pour faire des
prédictions de plus en plus précises, en fonction de résultats appris de grands ensembles de
données auxquels elles ont été exposées. Plus la quantité de données fournies est importante,
meilleurs sont les résultats prédictifs 1112. L’apprentissage machine est donc une forme d’IA : c’est
9
Immigration, Réfugiés et Citoyenneté Canada. « Équité procédurale » Gouvernement du Canada,
https://www.canada.ca/fr/immigration-refugies-citoyennete/organisation/publications-guides/bulletins-guides-
operationnels/prestation-services/equite-procedurale.html.
10
Peter Stone et coll. (6 septembre 2016), « Artificial Intelligence and Life in 2030 », One Hundred Year Study on
Artificial Intelligence: Report of the 2015- 2016 Study Panel, Stanford University.
11
IBM (non daté). « Data Science and Machine Learning », https://www.ibm.com/analytics/machine-learning (ci-après
« IBM, “Science des données »).
12
Il convient de mentionner que ces ensembles de données, autrement connus sous le nom de « données massives »,
sont de plus en plus accessibles, compte tenu de (traduction) « l’énorme augmentation de la quantité de
renseignements numériques créés, stockés et offerts aux fins d’analyse ». Marr, Bernard (13 mai 2019), « What Is
the Difference Between Artificial Intelligence and Machine Learning? », Forbes,
https://www.forbes.com/sites/bernardmarr/2016/12/06/what-is-the-difference-between- artificial-intelligence-and-
machine-.
4
 une activité qui appuie l’intelligence machine en permettant la prévoyance par l’apprentissage de
résultats 13. L’apprentissage machine appuie également l’analytique prédictive, qui s’entend
généralement de (traduction) « la détermination de la probabilité de résultats futurs, selon des
données historiques, au moyen de données, d’algorithmes statistiques et de techniques
d’apprentissage machine 14 ». Les fonctions prédictives peuvent s’appliquer à la prise de décision.

Les recherches menées par Maura R. Grossman et Gordan Cormack 15, des universitaires de
premier plan dans le domaine de l’informatique, concluent que (traduction) « l’examen assisté par
la technologie peut donner (et donne) des résultats plus précis qu’un examen manuel exhaustif, en
déployant beaucoup moins d’efforts 16. Des cabinets d’avocats mondiaux de premier plan, comme
Dentons et Norton Rose Fulbright, sans doute conscients des économies de coûts considérables
que permet la technologie, ou souhaitant peut-être suivre le rythme ou avoir une longueur
d’avance exécutent en mode « bac à sable 17, et utilisent 18 déjà des logiciels d’IA. Pour les
praticiens du droit dans le contexte civil canadien, le succès qu’a connu l’investigation
électronique dans le domaine juridique 19 est apparemment bien documenté. Les renseignements
stockés électroniquement (RSE) sont découvrables en raison d’un nombre important de
précédent 20. James Cote, un conseiller juridique et technologue canadien qui se spécialise en
investigation électronique, l’écrit ainsi : « Ce n’est pas simplement que la pratique du droit évolue;
le monde évolue également. Les avocats doivent suivre le rythme s’ils veulent continuer d’ajouter
de la valeur. Ce n’est pas simplement que les ordinateurs examineront bientôt des documents
mieux que peuvent le faire les humains; les documents, et les humains eux-mêmes, dépendent de
plus en plus des ordinateurs [TRADUCTION] 21 ». La thèse de la suprématie de l’homme dans le
processus d’investigation et d’examen n’est plus exacte.

b) L’utilisation de l’IA par des organismes gouvernementaux à l’échelle internationale

L’IA est utilisée partout à l’échelle internationale. Dans le monde du droit de l’immigration, les
services d’immigration et de citoyenneté des États-Unis utilisent un robot conversationnel depuis
plusieurs années. Le « robot » est essentiellement un outil numérique ancré dans l’IA et le
traitement du langage naturel qui « répond aux questions sur l’immigration et aiguille les visiteurs
vers les sections pertinentes du site Web en fonction de leurs besoins [TRADUCTION] ». Au moyen

13
IBM, « Data Science ».
14
SAS, « Analyse prédictive : Rôle et atouts », https://www.sas.com/fr_ca/insights/analytics/predictive- analytics.html.
15
Maura R. Grossman et Gordon Cormack (2011), « Technology-Assisted Review in E-Discovery Can Be More
Effective and More Efficient Than Exhaustive Manual Review », Rich.J.L. and Tech, 17:3.
16
Ibid.
17
Il convient de mentionner que l’expression « exécution en mode bac à sable » s’entend ici de l’élaboration de
matériel, de logiciels, de données, d’outils, d’interfaces et de politiques nécessaires au lancement d’une pratique
organisationnelle d’apprentissage profond.
18
Association du Barreau canadien (11 juillet 2019), Objet : L’intelligence artificielle et l’apprentissage machine dans
le droit de l’immigration,
http://www.cba.org/CMSPages/GetFile.aspx?guid=c54903f5-cd8a-4d3a-96a3-ce0c33623845 (ci-après « ABC, “Objet :
Intelligence artificielle » » [DISPONIBLE EN ANGLAIS SEULEMENT].
19
McKamey, Mark (2017), « Legal Technology: Artificial Intelligence and the Future of Law Practice ». APPEAL, 22,
p. 45 à 58.
20
Verge Insurance Brokers Limited et al. v Daniel Sherk et al., 2017 ONSC 1597 (CanLII).
21
Hamilton Health Sciences (Re), 2017 CanLII 21668 (ON IPC).
5
 d’une interface de fenêtre de clavardage 22. Si le robot conversationnel ne trouve pas la ressource
ou la réponse précise, il transfère le demandeur à un représentant du service à la clientèle 23. En
outre, Immigration and Customs Enforcement (ICE) des États-Unis, un organisme fédéral
d’application de la loi, recourt à un algorithme de détermination de la caution à la frontière entre
les États-Unis et le Mexique afin de déterminer le bien-fondé de la détention continu de
migrants 24. Cette initiative sera approfondie plus loin.

En Nouvelle-Zélande, on utilise déjà des « algorithmes opérationnels » pour le traitement des

demandes de visa dans les catégories de l’appariement biométrique, de l’évaluation des risques, de
la présélection et de la hiérarchisation des cas 25. Chaque utilisation de l’IA appuie les décisions en
matière d’immigration de la Nouvelle-Zélande, tout en « […] permettant de cibler l’expertise du
personnel vers les secteurs où les besoins sont les plus grands [TRADUCTION] 26 ». Dans un rapport
présenté par la New Zealand Law Foundation (NZLF) en 2019, on aborde l’un des principaux
éléments à prendre en considération dans la façon dont nous en sommes venus à définir l’IA. Dans
le Rapport d’évaluation des algorithmes de 2018 du gouvernement de la Nouvelle-Zélande, on
définit les « algorithmes opérationnels » comme des « processus d’analyse qui interprètent ou
évaluent des renseignements (souvent au moyen d’ensembles de données importants ou complexes,
qui donnent lieu à des décisions ayant une incidence considérable sur des personnes ou des
groupes ou les alimentent considérablement [TRADUCTION] 27 ». Dans le rapport de la NZLF, on a
déterminé que cette définition était trop vague, étant donné que certains algorithmes d’IA
demeurent explicitement exclus (c.-à-d. les algorithmes utilisés aux fins d’élaboration de
politiques et de recherche 28). Afin de donner à la définition de l’IA des fins utiles, le commissaire
à la protection de la vie privée et l’intendant principal des données de la Nouvelle-Zélande exigent
que la collecte et l’utilisation subséquente de données publique doivent offrir « un avantage clair
pour le public [TRADUCTION] », comme « une meilleure efficience, qui réduit les coûts pour les
contribuables (par exemple, les algorithmes opérationnels utilisés par le Revenu de l’intérieur
pour administrer le régime fiscal) [TRADUCTION] 29 ». En fin de compte, le gouvernement de la
Nouvelle-Zélande a justifié son recours aux « algorithmes opérationnels » en indiquant qu’aucun
processus ne prendrait fin sans une surveillance manuelle 30.

On trouve un point de mire général semblable en Australie. Là, le ministère des Affaires intérieur
a procédé à une restructuration considérable de son système de traitement des demandes de visa et,
en cours de route, a demandé d’obtenir des renseignements sur l’utilisation d’outils d’IA pour le
traitement aux fins d’immigration. Voici comment cet organisme gouvernemental s’est exprimé
sur un éventuel recours à la technologie pour exécuter les programmes d’immigration : « Le

22
de Jong, Iris, « The True Opportunity for AI in Government », The true opportunity for AI in Government. Consulté
le 30 août 2019, https://www.qrious.co.nz/blog/true-opportunity-for-ai-in-government.
23
Ibid.
24
Molnar, Petra (2019), « Technology on the margins: AI and global migration management from a human rights
perspective. », Cambridge International Law Journal, vol. 8, no 2, p. 305 à 330. (Ci-après, « Molnar, "Technology
on the margins" [DISPONIBLE EN ANGLAIS SEULEMENT] ».
25
Stats NZ (2018), Algorithm Assessment Report [DISPONIBLE EN ANGLAIS SEULEMENT] :
https://www.data.govt.nz/assets/Uploads/Algorithm-Assessment-Report-Oct-2018.pdf.
26
Ibid.
27
Ibid.
28
New-Zealand Law Foundation (2019), Government Use of Artificial Intelligence in New Zealand,
https://www.cs.otago.ac.nz/research/ai/AI-Law/NZLF%20report.pdf [DISPONIBLE EN ANGLAIS SEULEMENT].
29
Ibid.
30
Ibid.
6
 ministère s’attend à ce que trois types généraux de solutions soient lancés afin d’aider à mener les
évaluations : des services liés aux processus opérationnels, des aides techniques comme
l’automatisation et l’analyse traitées par la robotique et les technologies émergentes perturbatrices
comme l’IA et l’apprentissage machine 31 ».

Ces exemples ne sont que quelques-uns parmi tant d’autres. On a recouru à l’IA pour aider les
demandeurs d’asile naufragés. Le radeau de sauvetage robotisé nommé « Emily » (Emergency
Integrated Lifesaving Lanyard, amarre d’urgence intégrée vitale) a été déployé afin d’aider à
rescaper des réfugiés qui étaient tombés de bateaux au large des îles grecques 32. En Estonie, le
ministère de la Justice explore la possibilité d’avoir recours à un « juge robot » pour la cour des
petites créances où les litiges portent sur des montants de moins de 7 000 euros, ce qui montre
l’utilisation de l’IA dans des domaines autres que l’immigration 33. Des tribunaux juridiques dotés
de juges non humains ont été mis en œuvre en Chine, où les affaires juridiques sont tranchées
devant des « tribunaux en ligne » qui n’exigent pas que les personnes soient présentes. Ces
tribunaux entendent une multitude d’affaires différentes, dont les suivantes : « la propriété
intellectuelle, le commerce électronique, les litiges financiers liés à la conduite en ligne, les prêts
acquis ou effectués en ligne, les problèmes touchant les noms de domaine, les affaires touchant les
droits de propriété et les droits civils liées à Internet, la responsabilité de produits découlant des
achats effectués en ligne et certains litiges d’ordre administratif 34 [TRADUCTION] ».

c) Utilisation de l’IA par IRCC35 35

(i) Ajout de la partie 4.1 à la Loi sur l’immigration et la protection des réfugiés (LIPR)

Dès 2014, IRCC a annoncé le lancement d’un projet axé sur l’élaboration d’outils d’analyse
prédictive capable d’exécuter des tâches accomplies par des agents d’immigration 36. À l’appui de
ce virage vers l’IA, des modifications législatives générales ont par la suite été instaurées en 2015.
En particulier, après l’adoption de la Loi no 1 sur le plan d’action économique de 2015, la Loi sur
l’immigration et la protection des réfugiés (la « LIPR 37 ») a été modifiée afin d’inclure la
partie 4.1, qui établissait le pouvoir du ministre de la Citoyenneté et de l’Immigration et du
ministre de la Sécurité publique et de la Protection civile d’avoir recours à la technologie aux fins

31
Hendry, Justin (16 janvier 2018), « Australia’s New Visa System Could Use AI to Spot Dubious Applicants » ITnews,
https://www.itnews.com.au/news/australias-new-visa-system-could-use-ai-to-spot-dubious-applicants-481148
[DISPONIBLE EN ANGLAIS SEULEMENT].
32
Franz, Julia (1er mai 2017), « It’s a buoy, it’s a life raft, It’s Emily – the robotic craft that’s saving refugees off the
coast of Greece. », PRI, https://www.pri.org/stories/2017-05-01/it-s-buoy-it-s-life-raft-it-s-emily-robotic-craft-s-
saving-refugees-coast-greece [DISPONIBLE EN ANGLAIS SEULEMENT].
33
Niiler, Eric (25 mars 2019), « Can AI Be a Fair Judge in Court? Estonia Thinks So. », Wired,
https://www.wired.com/story/can-ai-be- fair-judge-court-estonia-thinks-so/ [DISPONIBLE EN ANGLAIS SEULEMENT].
34
Vasdani, Tara (5 février 2020), « Robot Justice: China’s use of Internet court », The Lawyer’s Daily.
35
Le présent article se concentre sur IRCC, mais de nombreuses initiatives d’IA ont été lancées par d’autres parties
prenantes, dont quelques-unes sont présentées à l’annexe A.
36
Keung, Nicholas (5 janvier 2017), « Canadian immigration applications could soon be assessed by computers », The
Toronto Star, https://www.thestar.com/news/immigration/2017/01/05/immigration-applications-could-soon-be-
assessed-by- computers.html [DISPONIBLE EN ANGLAIS SEULEMENT] (ci-après « Keung, "Immigration assessed by
computers" »). Cette annexe sera incluse dans la seconde partie du présent article, qui sera publié dans le numéro de
novembre d’ImmQuest.
37
L.C.2001, ch. 27.
7
 de l’application et de l’exécution des programmes d’immigration canadiens. Comme il a été
indiqué plus tard dans la Gazette du Canada :

Ces modifications législatives ont été élaborées dans le but d’appuyer

l’utilisation plus large des outils électroniques au sein du système
d’immigration afin de pouvoir gérer le traitement d’un nombre sans cesse
grandissant de demandes d’immigration, y compris celles des voyageurs
nécessitant des services d’immigration aux points d’entrée 38.

Les ajouts faits aux termes de l’article 4.1 de la LIPR ont été élaborés en vue d’améliorer les
applications par voie électronique et l’utilisation d’outils électronique, comme suit :

i. L’article 186.1 de la partie 4.1 permet aux ministres de s’acquitter de leurs fonctions
habituelles par voie électronique, ouvrant la voie à une utilisation accrue des systèmes
automatisés dans le domaine de l’immigration.
ii. L’article 186.2 de la partie 1 indique que toute exigence de la LIPR en ce qui concerne les
signatures, les avis, les renseignements, les documents ou leurs originaux peut maintenant
être satisfaite par voie électronique.
iii. L’article 186.3 de la partie 4.1 permet aux autorités réglementaires de rendre des décisions
sur l’utilisation de moyens électroniques dans certains cas s’il y a lieu (c.-à-d. en cas de
catastrophe naturelle ou d’accès limité en raison d’une incapacité, etc.).
iv. L’article 186.1 de la partie 4.1 donne aux agents et autres personnes le pouvoir de
continuer de soumettre des documents par des moyens autres qu’électroniques, pourvu
qu’ils soient autorisés aux termes de la LIPR 39.

(ii) Traitement de demandes de visa de résident temporaire

C’est en avril 2018 qu’IRCC a utilisé pour la première fois la technologie de l’apprentissage
machine, au lancement d’un projet pilote pour le traitement des demandes de visa de résident
temporaire (VRT) présentées par voie électronique en provenance de la Chine en particulier. Un
projet semblable a été annoncé en août de la même année, mais celui-ci portait sur le traitement
des demandes de VRT présentées par voie électronique en provenance de l’Inde. Un système pour
les demandes de VRT reçues de l’Inde par l’intermédiaire d’un centre de réception des demandes
de visa (CRDV) a par la suite été lancé en janvier 2020 40. La décision de recourir à l’IA se fondait
sur un éventail de points à prendre en considération, y compris les complexités des cas, les enjeux
pour les demandeurs, les secteurs ayant les besoins les plus grands (en ce qui concerne le volume
de demandes) et la disponibilité de données 41.

38
Gazette du Canada (26 janvier 2019), Règlement modifiant le Règlement sur l’immigration et la protection des
réfugiés, Partie 1, volume 153, numéro 4, https://gazette.gc.ca/rp-pr/p1/2019/2019-01-26/html/reg1-fra.html (ci-
après « Gazette, “Modification du règlement” »).
39
Gazette du Canada (18 octobre 2017), Décret fixant à la date d’enregistrement du présent décret la date d’entrée en
vigueur de certaines dispositions de la loi, Partie II, volume 151, https://canadagazette.gc.ca/rp-pr/p2/2017/2017-10-
18/html/si-tr58-fra.html.
40
IRCC (sans date), Overview of the Analytics-Based Triage of Temporary Resident Visa Applications (Ci-après
« IRCC, « Aperçu »).
41
McEvenue, Patrick et Mann, Michelle (2019), « Case Study: Developing guidance for the responsible use of artificial
intelligence in decision — making at Immigration, Refugees and Citizenship Canada. », Law Society of Ontario,
Special Lectures 2019 (ci-après « McEvenue et Mann, “Étude de cas”), p. 3 et 4.
8
 Grâce à l’apprentissage machine et à l’utilisation d’un « ensemble de règles découlant d’une
analyse de milliers de décisions effectuées par des agents », la technologie déployée dans le
traitement des VRT a été formée afin de « trier » l’arrivage des demandes selon leur niveau de
complexité : haute, moyenne ou faible (niveaux III, II et I respectivement 42. Les demandes simples
et à faible risque sont automatiquement approuvées, ce qui permet aux agents d’examiner ces
dossiers exclusivement en fonction de l’admissibilité. Les demandes de complexité haute ou
moyenne sont envoyées pour être examinées par un agent afin de déterminer l’admissibilité. Avant
de trier les demandes de VRT, les cas complexes dans l’arrivage sont d’abord cernés en fonction
de règles mises au point par des agents chevronnés (les « règles des agents »). Ces cas sont retirés
et envoyés directement aux agents aux fins de décision selon les procédures habituellement, sans
qu’aucun traitement ne soit effectué par un modèle d’analytique 43. Il convient de mentionner que
des données de rétroaction sur les résidents temporaires « non conformes » sont envoyées au
système lorsque le modèle est formé de nouveau. La machine s’ajuste donc « en fonction de
l’évolution de l’environnement 44 ».

L’IA permet d’accéder à d’importants volumes de comportements antérieurs des clients afin de
dégager des tendances. Les agents n’examinent pas les décisions d’admissibilité de niveau I et
n’ont pas accès aux règles des agents confidentielles 45. IRCC affirme que chaque dossier est tout
de même examiné par un agent; il n’y a aucun refus automatique et les décideurs doivent
entreprendre leur propre examen et ne pas compter de façon inappropriée sur l’IA pour rendre une
décision 46. Parmi les 160 000 cas triés en provenance de la Chine, 55 000 ont été traités au
niveau I et ont été approuvés automatiquement. Ces demandes ont par la suite été examinées
comme à l’habitude par des agents en vue de déterminer l’admissibilité et 99 % d’entre elles ont
été approuvées. Cela représente environ 38 % des cas, ce qui pourrait être important pour réduire
les délais de traitement et l’utilisation de ressources. 47 Au bout du compte, l’étude de cas sur le
VRT a conclu que la prise de décisions augmentée par l’IA offre la possibilité d’insuffler une
nouvelle vie aux cadres existants, assurant ainsi la primauté du droit soit respectée et que le
gouvernement soit tenu de rendre des comptes de façon significative 48.

Selon les instructions données aux décideurs en ce qui concerne la mise en œuvre du projet pilote
pour la Chine et l’Inde, les agents de niveaux II et III (traduction) « continuer de traiter ces
demandes, faites preuve de jugement dans vos décisions […]. et respectez les exigences en
matière d’équité procédurale. 49 Cela ne s’applique pas au niveau I, à moins de découvrir des
renseignements pendant la détermination de l’admissibilité qui exige d’évaluer de nouveau
l’acheminement et la décision automatisés. Ainsi, il devient donc crucial de comprendre les
éléments qui relèvent de l’éligibilité par rapport à ceux qui relèvent de l’admissibilité pour saisir le
processus.

42
IRCC. « Prise de décision améliorée @ IRCC ». Présentation au Symposium sur l’Algorithmique gouvernementale.
24 avril 2019. (ci-après « IRCC, “Prise de décision améliorée” »).
43
IRCC, « Aperçu ».
44
Ibid.
45
IRCC, Aperçu, aux pages 3 et 4.
46
McEvenue et Mann, Étude de cas, p. 4 et 7.
47
Ibid., p. 5.
48
Ibid., p. 26.
49
Ibid., p. 8
9
 (iii) Solution mixte d’IA et d’apprentissage machine avec le ministère de la Justice

En avril 2018, IRCC a présenté une demande de renseignements (DDR) avec le ministère de la
Justice (JUS) et Emploi et Développement social Canada (EDSC). Selon cette DDR, IRCC et JUS
cherchaient précisément à obtenir une solution d’IA et d’apprentissage machine mixte pouvant
aider à prédire l’issue de litiges et d’analyser les tendances en matière de litiges, ainsi que produire
des recherches et des conseils juridiques. Une remarque dans la DDR confirmait qu’IRCC
cherchait également à obtenir une solution d’IA et d’apprentissage machine à déployer à l’appui
du traitement des demandes d’examen des risques avant renvoi (ERAR) et des demandes fondées
sur des considérations d’ordre humanitaire 50. Il s’agissait d’une question d’ordre technique qui
pouvait servir à la recherche de données sur les litiges (jurisprudence) et à l’évaluation des risques
et des répercussions des litiges. De façon plus générale, on croyait que cette solution allait
« soutenir la détermination des positions liées aux politiques, la prise de décisions sur les
programmes et la formulation de lignes directrices sur les programmes aux fins de la prise de
décision et du traitement des litiges 51 ». Les plans liés aux solutions de soutien judiciaire
continuent de progresser.

(iv) Guide sur la prise de décision automatisée

En avril 2019, IRCC a annoncé qu’il prévoyait de créer un « guide de soutien à la prise de
décision automatisée ». Ce guide contient un ensemble de principes directeurs, y compris
l’exigence d’expliquer en détail les décisions aux clients en tout temps et de donner aux clients
accès aux mécanismes de recours offerts aux demandeurs dont la décision a été rendue par un
agent d’immigration 52. Dans l’ensemble, IRCC a adopté une approche prudente à l’égard de l’IA.

(d) Autres solutions technologies d’IRCC(« n’utilisant pas l’IA)

(i) Chinook

IRCC a mis en œuvre l’outil Chinook en 2018 afin d’accroître l’efficience et l’uniformité, ainsi
que de réduire les délais de traitement des demandes d’immigration au Canada. Par sa mise en
œuvre, cet outil tente d’éviter les retards de traitement attribuables au processus laborieux
d’utilisation de multiples onglets et écrans dans le Système mondial de gestion des cas. En
particulier, dans les bureaux d’IRCC où les ressources sont limitées, le chargement d’écrans
50
Dans la DDR de 2018, IRCC l’a mentionné en tant que fonction facultative et a ajouté qu’il explorerait, à la lumière
des réponses à la DDR, la possibilité pour les décideurs de première ligne d’utiliser eux aussi la solution d’IA et
d’apprentissage machine afin de les aider dans leur évaluation du bien-fondé des demandes. Voir : Services publics
et Approvisionnement Canada. « Solution d’intelligence artificielle (B8607-180311/A) », Gouvernement du Canada,
https://achatsetventes.gc.ca/donnees-sur-l-approvisionnement/appels-d-offres/PW-EE-017-33462. Toutefois, dans le
récent avis de projet de marché affiché en janvier 2020, IRCC a fait part de son intention à l’égard de
l’approvisionnement : « La solution de SL constituera un outil de soutien qui ne s’adressera pas aux décideurs de
première ligne sur les demandes relatives à l’immigration et ne visera pas à automatiser de quelque manière que ce
soit le processus décisionnel. Si la solution de SL s’avère utile et fiable pour aborder les questions de droit de
l’immigration, il est à espérer que le gouvernement du Canada (GC) ou l’industrie sauront tirer parti de cette
technologie au bénéfice des utilisateurs à l’extérieur du GC. Ainsi, la solution pourrait favoriser un accès équitable
aux ressources de l’IA et à celles qui appuient l’administration de la justice pour toutes les parties ». Services publics
et Approvisionnement Canada. « Solution de Soutien aux Litiges (B8607-180311/B) », Gouvernement du Canada,
https://achatsetventes.gc.ca/donnees-sur-l-approvisionnement/appels-d-offres/PW-EE-017-37260.
51
Travaux publics et Services gouvernementaux Canada (21 juin 2018), Solution d’intelligence artificielle (B8607-
180311/A), https://achatsetventes.gc.ca/donnees-sur-l-approvisionnement/appels-d-offres/PW-EE-017-33462.
52
IRCC « Prise de décision améliorée ».
10
 multiples peut causer d’importants retards, qu’il serait possible d’éviter grâce à l’outil Chinook.53
Chinook comprend cinq modules, qui sont expliqués ci-dessous :

Module 1 (Gestion des dossiers)

Ce module permet aux utilisateurs de s’attribuer des demandes ouvertes en fonction de leurs
tâches de traitement. Par exemple, un utilisateur qui est expert en éligibilité peut s’attribuer et
ouvrir quelques demandes qui se trouvent à cette étape du cycle de traitement. L’utilisation de ce
module est facultative : ce ne sont pas tous les bureaux d’immigration qui s’en servent 54.

Module 2 (Évaluation préalable)

Le module d’évaluation préalable fournit à l’utilisateur un modèle de tâches à effectuer pour une
évaluation préalable, comme la confirmation des documents de référence, la vérification de la
capacité financière d’un client et la consignation des antécédents de voyage. Une fois que les
utilisateurs ont consigné des notes sur ces étapes de l’évaluation préalables, celles-ci s’affichent
dans le module 3. L’utilisation de ce module est facultative : ce ne sont pas tous les bureaux
d’immigration qui s’en servent 55.

Module 3 (Décideur)

Le module 3 est le plus important et le plus utilisé dans le système Chinook, car il présente le
contenu des demandes attribuées dans un seul rapport, également connu sous le nom de rapport du
module 3. Ce rapport, qui ressemble à un tableur Excel, contient principalement des données sur
un ensemble de demandes. Chaque rangée présente des données sur une demande précise, ce qui
permet à l’utilisateur de consulter un lot de demandes sur le même écran 56.

Module 4 (Après la décision)

Si l’agent utilise le module 3, il utilisera aussi le module 4. Ce module est essentiellement un écran
contextuel qui s’affiche quand le décideur sélectionne un champ de données de la colonne D (le
« champ d’action ») dans le rapport du module 3. La colonne D du rapport du module 3 indique la
décision prise par les décideurs sur une demande. Si la demande est refusée, l’écran contextuel du
module 4 générera plusieurs motifs de refus rédigés au préalable que l’utilisateur peut
sélectionner 57.

Module 5 (Gestion de l’indicateur)

Le dernier module du système est lié à l’aspect administratif de Chinook et permet aux utilisateurs
de soumettre des demandes afin d’ajouter ou de modifier certains indicateurs de risque ou des
mots-clés ciblés locaux qu’ils jugent importants. Ce faisant, les administrateurs de Chinook

53
Ocran v. Canada (M.C.I.), Imm-6571-20 (non traduite).
54
Ibid.
55
Ibid.
56
Ibid.
57
Ibid.
11
 examinent ces demandes et mettent à la disposition des décideurs ces nouveaux outils, s’ils sont
approuvés, dans le rapport du module 3 du système 58.

Nous avons pu en apprendre davantage sur le système Chinook et la façon dont il traite les
demandes d’immigration au Canada dans les documents liés à l’affidavit et au contre-
interrogatoire subséquent d’Andie Daponte, le directeur actuel de l’équipe de l’optimisation et de
la modernisation du réseau international à IRCC. Ces documents ont été produits dans le cadre
d’une instance en cours devant la Cour fédérale. Fait intéressant, M. Daponte indique que Chinook
n’est pas soutenu par l’IA et qu’il ne s’agit pas d’un outil obligatoire.

(iv) Suite de traitement Hiraya

La Suite de traitement Hiraya (STH) est un autre système qui a été intégré à l’étape du traitement
des demandes d’immigration au Canada. Le système a été créé au départ afin de répondre à
l’augmentation du volume de demandes envoyées au bureau d’IRCC à Manille, aux Philippines.
Le bureau d’IRCC à Manille a exploré des technologies qui pouvaient innover et fournir des délais
de traitement plus courts, en raison de l’augmentation d’année en année du temps d’attente pour
les demandes de résidence temporaire. Le système STH joue un rôle important dans
l’augmentation de la productivité en regroupant les renseignements sur la demande et le risque et
en les présentant sous la forme d’un tableau de bord 59. Ce programme Excel réunit des données
externes au SMGC et établit des parallèles avec le système Chinook.

Dans un rapport présenté en février 2018, on mentionne que le bureau d’IRCC de Colombo avait
lancé et adopté la STH à des fins similaires. Au départ, la STH a été adoptée afin de traiter les
demandes de VRT présentées par voie électronique; elle a par la suite été élargie afin d’inclure le
traitement de toutes les demandes de VRT (électroniques et sur papier) sauf pour les permis de
travail et d’études 60.

IV. Incidence sur le pouvoir discrétionnaire

a) Existe-t-il une relation symbiotique entre le tri et la prise de décision?

Voulons-nous que la technologie joue un rôle d’appui, de sélection ou, en fin de compte, de
décision? À quel point est-il possible de dissocier le tri de la prise de décision? Même dans les cas
où un agent d’immigration rend la décision définitive sur une demande, on peut soutenir qu’il s’est
fondé sur une décision initiale ou par procuration prise par la technologie ou qu’il a été influencé
par celle-ci 61.

À titre d’exemple, nous avons appris qu’IRCC effectue le suivi du comportement « défavorable »
d’un demandeur de VRT une fois que celui-ci se trouve au Canada. De quelle façon définit-on ce
qui constitue un comportement défavorable et en quoi cela éclairera-t-il le tri à l’avenir? De même,
les agents d’IRCC n’examinent pas les décisions d’approbation des demandes de VRT de niveau I.
En cas d’erreur dans le traitement de ces demandes, cependant, comment cela définit-il le tri qui

58
Ibid.
59
Ibid.
60
Ibid.
61
Baker c. Canada (Ministre de la Citoyenneté et de l’Immigration), [1999] 2 RCS 817 [1999] au paragraphe 21.
12
 repose sur les commentaires issus de décisions favorables? Comment cela détermine-t-il en retour
les demandes qui sont envoyées aux agents au niveau I, plutôt qu’au niveau II ou III et le moment
où elles le sont? Et quelle incidence cela a-t-il sur la prise de décision?

Parmi les exemples récents de répercussions négatives possibles de la technologie sur la prise de
décision, songeons à ces nombreuses demandes de parrainage d’un époux ou partenaire qui vit à
l’étranger présentées par le conjoint parrain qui réside au Canada. Le Centre de traitement des
demandes de Sydney retournait toutes ces demandes parce qu’il semblerait que le système ne
traitait pas les demandes présentées par un conjoint résidant au Canada. Le système a-t-il
automatiquement rejeté ces demandes? S’agissait-il d’un pépin informatique? Bien que l’on ne
sache pas si le pépin était le résultat du triage, cela démontre les difficultés de croissance du
techno-solutionnisme.

Les motifs invoqués dans quelques cas récents de refus de permis d’études soulèvent des
préoccupations semblables quant au fait que des machines ou des technologies de soutien ont pris
ou aidé à prendre des décisions. Les motifs étaient si similaires, et pourtant si génériques et flous,
et tellement dissociés des éléments de preuve présentés par le demandeur aux fins d’examen qu’il
était difficile de croire que seul un agent ait rendu ces conclusions.

Cas no 1 : J’ai examiné la demande. Étant donné les liens familiaux ou les
motivations économiques à vouloir rester au Canada, les incitatifs du
demandeur à rester au Canada peuvent l’emporter sur ses liens à son pays
d’origine. Compte tenu des perspectives de carrière actuelles et futures du
demandeur, j’ai accordé moins d’importance à ses liens d’emploi à son pays
de résidence. Après avoir soupesé les facteurs dans cette demande, je ne suis
pas convaincu que le demandeur quittera le Canada au terme de sa période
de séjour autorisée. Pour les motifs susmentionnés, j’ai refusé cette demande.

Cas no 2 : J’ai examiné la demande. Étant donné les liens familiaux ou les
motivations économiques à vouloir rester au Canada, les incitatifs du
demandeur à rester au Canada peuvent l’emporter sur ses liens à son pays
d’origine. Après avoir soupesé les facteurs dans cette demande, je ne suis pas
convaincu que le demandeur quittera le Canada au terme de sa période de
séjour autorisée. Pour les motifs susmentionnés, j’ai refusé cette demande.

La vacuité de ces énoncés montre à quel point des motifs peuvent devenir rapidement dénudés de
sens, moins transparents et possiblement plus difficiles à contester, particulièrement dans les cas
où les décisions sont prises ou facilitées par des solutions technologiques comme le tri.
Petra Molnar s’occupe des préoccupations des défenseurs qui espèrent représenter des clients
ayant fait l’objet de décisions comme celles présentées ci-dessus, en faisant ressortir les obstacles
auxquels se heurte le conseiller juridique en pratique, étant donné que « les boîtes noires, le code
source, des données de formation ou d’autres intrants peuvent être exclusifs et soustraits à
l’examen du public aux termes des lois sur la propriété intellectuelle ou en tant qu’actifs
commerciaux confidentiels 62 ». Cette situation limite (à l’heure actuelle, à tout le moins) le
déploiement à grande échelle, comme l’a confirmé IRCC :

62
Molnar, Petra (2020). « AI and Migration on Management ». Dans Markus D. Dubber, Frank Pasquale et Sunit Das
(Eds.), Oxford Handbook of Ethics of AI. Oxford University Press : États-Unis d’Amérique, p. 769 à 88.
13
 Le choix de la technologie pose des problèmes de plus en plus évidents, où la
nature opaque des technologies d’IA plus complexes, comme les réseaux
neuronaux, ne permet peut-être pas de fournir une explication aussi adéquate
que celle qui pourrait être requise. Cela pourrait être pertinent dans les cas
où les questions soulevées concernent les droits de la personne, le droit
administratif~ou la protection de la vie privée [...] Nous voyons d’un bon œil
l’élaboration continue de nouvelles méthodes techniques afin de rendre les
modèles d’IA plus faciles à expliquer et à interpréter 63 [TRADUCTION].

Il faut reconnaître à IRCC d’avoir compris qu’il fallait trouver un équilibre difficile entre la
divulgation adéquate à des migrants afin de permettre des contestations complètes de ces systèmes
et la nécessité de protéger les droits en matière de confidentialité associés aux systèmes exclusifs
qui reposent sur des demandes antérieures 64 :

La plupart des critiques des systèmes algorithmiques et, en fait, la plupart des
normes et principes dans le domaine de l’IA éthique, adoptent une optique
axée sur les droits de la personne : ils cherchent d’abord et avant tout à
prévenir les préjudices pour les personnes qui sont traitées par un système. À
partir de cette optique, IRCC devrait se concentrer à faire en sorte que tout
système automatisé qui appuie la prise de décision administrative ne refuse
pas injustement un demandeur. Autrement dit, il faut donner le bénéfice du
doute aux demandeurs qui cherchent à entrer au Canada. Toutefois, l’un des
aspects fondamentaux du mandat d’IRCC est de protéger la sécurité et la
sûreté des Canadiens. Dans ce contexte, l’élaboration d’un système qui
automatise les approbations et qui résout toujours les cas problématiques en
faveur du demandeur peut entraîner de graves conséquences 65 [TRADUCTION].

Le conseiller juridique doit-il avoir accès aux ensembles de données utilisés dans l’apprentissage
machine et l’IA? Qui est propriétaire de ces ensembles de données, particulièrement quand ils sont
créés par le gouvernement du Canada, mais qu’ils comprennent des renseignements personnels de
citoyens et d’étrangers? Même si l’on reçoit ces ensembles de données, y aura-t-il des limites
quant à la façon dont l’information peut être utilisée, comme semble penser Molnar? L’article 7 de
la Loi sur la protection des renseignements personnels indique explicitement qu’à défaut du
consentement de l’individu concerné, les renseignements personnels relevant d’une institution
fédérale ne peuvent servir à celle-ci :

a) communication aux fins auxquelles ils ont été recueillis ou préparés par l’institution ou pour
les usages qui sont compatibles avec ces fins;
b) qu’aux fins auxquelles ils peuvent lui être communiqués en vertu du paragraphe 8(2) 66.

63
McEvenue et Mann, Étude de cas, p. 20 et 21.
64
Ibid., p. 7.
65
Ibid., p. 23.
66
Loi sur la protection des renseignements personnels, LRC 1985, ch P-21, <https://canlii.ca/t/6d6nk>, consulté le
2021-10-15.
14
 Comment cela sera-t-il réglementé? 67 À quel point le processus de tri est-il teinté par l’IA et la
technologie et quelle est l’influence ultime sur la prise de décision discrétionnaire? Dans les cas où
de multiples écrans liés à divers demandeurs sont ouverts en même temps, comme dans les
systèmes Chinook et la STH, ne risquons-nous pas de perdre le caractère individuel du processus?
Il y a plus de questions que de réponses à ce stade.

b) Incidence sur les évaluations individuelles

La Cour suprême du Canada, dans Hilewitz et DeJong c Canada 68, a confirmé l’exigence selon
laquelle les agents doivent examiner les subtilités de la situation d’un demandeur en recourant à
leur pouvoir discrétionnaire. Dans ces arrêts, le plus haut tribunal du Canada a exigé de mener des
évaluations individuelles des demandes comprenant des problèmes de santé susceptibles de mener
à une conclusion d’interdiction de territoire. La Cour suprême a insisté sur la nécessité pour les
agents de visa et les agents médicaux d’effectuer des évaluations équitables, diligentes et
proactives, et de délaisser la méthode unique axée sur le problème de santé plutôt que sur la
personne. Ce raisonnement s’applique à l’IA et à d’autres outils industriels étant donné que
l’exigence juridique consistant à mener des évaluations individuelles doit demeurer.

Les tendances observées dans d’autres pays, comme l’Estonie et la Chine, ont toutefois montré
que la mise en œuvre progressive de l’IA permet d’éliminer entièrement le décideur humain (et
par le fait même le pouvoir discrétionnaire et l’individualisation) du processus de prise de
décision. Cela soulève des inquiétudes quant à l’équité des décisions rendues au moyen de l’IA
uniquement ou avec le soutien de solutions technologiques. Le pouvoir discrétionnaire est
essentiel à l’équité du processus de prise de décision parce qu’il facilite l’individualisation. Les
solutions d’IA sont importantes pour gérer certains arriérés, certes, mais nous devons continuer de
promouvoir l’importance du décideur humain. Song Richardson, le doyen de la Irvine School of
Law de l’Université de Californie,, a mis en évidence la nécessité du pouvoir discrétionnaire, et
soutenu que les décideurs humains sont nécessaires pour garantir l’individualisation des décisions,
et ce, malgré d’éventuels arriérés :

Le fait que notre défaut de porter aux gens l’attention individuelle qu’ils
méritent donne lieu à des arriérés nous montre qu’il y a quelque chose qui
cloche vraiment avec notre système de justice. Et l’accélération du traitement
de masse de personnes au moyen de l’IA n’est pas la réponse. C’est l’opposé
de la justice 69 [TRADUCTION].

c) Perpétuation des préjugés historiques, racisation et marginalisation électronique

Non seulement la promotion de la technologie soulève des inquiétudes en ce qui concerne la

promotion de la rapidité et de la prise de décision unique au détriment de l’équité, mais elle suscite
également la crainte de l’intégration d’un préjugé dans l’IA et d’autres options de haute

67
Des questions semblables à celles-ci ont été posées dans l’article suivant sur la standardisation de la délivrance de
licence pour les ensembles de données : Benjamin, Misha, Gagnon, Paul, Rostamzadeh, Negar, Pal, Chris, Bengio,
Yoshua et Shee, Alex (2019), « Towards Standardization of Data Licenses: The Montreal Data
License ».arXiv:1903.12262 (ci-après Misha et coll., « Towards Standardization »).
68
Hilewitz c Canada (M.C.I.); De Jong c Canada (M.C.I.), 2005 CSC 17.
69
Sahota, Neil (9 février 2019), « Will A.I. Put Lawyers Out of Business? » Forbes,
https://www.forbes.com/sites/cognitiveworld/2019/02/09/will-a-i-put-lawyers-out-of-business/?sh=4ed5509a31f0.
15
 technologie, aggravant ainsi l’exclusion déjà disproportionnée des personnes marginalisées par la
voie électronique. L’ancien directeur général du ministère de l’Immigration, Andrew Griffith, l’a
reconnu en ces termes : « […] nous devrions faire une utilisation intelligente et efficace de ces
outils. Le défi est de ne pas intégrer de préjudice au système et de créer des obstacles
supplémentaires pour les demandeurs 70 ». De même, Petra Molnar a mis en garde contre le fait
que « les préjugés qu’entretiennent les personnes qui conçoivent un système automatisé ou qui
sélectionnent les données qui forment celui-ci peuvent entraîner des résultats discriminatoires
difficiles à contester en raison de leur opacité 71 [TRADUCTION] ». Les décisions “universelles”
pourraient donc reproduire des préjugés établis sans qu’un décideur humain réceptif à ces
questions puisse mener un examen critique.

Les recherches émergentes sur l’utilisation d’outils de prédiction des risques dans le système de
justice pénale ont, par exemple, découvert que les populations racisées ou vulnérables sont
exposées à un risque accru de détention et d’emprisonnement à cause des préjugés intégrés aux
ensembles de données utilisés pour former ces outils. La Cour suprême a été saisie de cette
question dans Ewert c Canada 72. M. Ewert contestait le recours à des outils d’évaluation des
risques actuariels afin de déterminer ses besoins carcéraux et sa probabilité de récidive. Il a
soutenu que ces outils avaient été formés sur des données issues de populations non autochtones et
qu’ils ne pouvaient donc pas prévoir correctement les risques qu’il posait en tant qu’homme métis.
La Cour suprême a finalement tranché en faveur de M. Ewert, concluant que le Service
correctionnel du Canada (SCC), quand il avait utilisé cet outil, atteint manqué à ses obligations
prévues en vertu de l’article 24 de la Loi sur le système correctionnel et la mise en liberté sous
condition, qui exigeait de l’organisation de « veiller, dans la mesure du possible, à ce que les
renseignements qu’il utilise concernant les délinquants soient à jour, exacts et complets 73 ». Les
procédures pénales sont distinctes, certes, mais des questions semblables pourraient se poser dans
des applications d’immigration administratives, y compris, par exemple, de tenter de prédire la
récidive dans une demande de réhabilitation quand des algorithmes d’IA sont appliqués à ses
évaluations un jour, si jamais ils le sont.

IRCC, en retour, a soutenu que l’IA pourrait en fait être en mesure de détecter et d’atténuer le
préjugé cognitif, de cerner des lacunes et de réduire le préjugé humain résiduel. 74 Des critiques
comme Molnar indiquent toutefois que cette technologie est loin d’être neutre. Elle représente des
normes, des valeurs et un pouvoir dans la société que l’on peut cacher dans des algorithmes. À
l’appui de cet argument, les auteurs renvoient à l’échec de iBorderCRTL, un polygraphe alimenté
par l’IA utilisé par l’Union européenne aux frontières et pour lequel on a prouvé qu’il faisait
preuve de discrimination à l’égard « des personnes de couleur, des femmes, des enfants et des
personnes handicapées 75 [TRADUCTION] ». Le préjugé dans les données peut également indiquer

70
Ibid.
71
Keung, Nicholas (26 septembre 2018), « Researchers raise alarm over use of artificial intelligence in immigration and
refugee decision-making », Toronto Star, https://www.thestar.com/news/gta/2018/09/26/researchers-raise-
alarm-over-use-of-artificial-intelligence-in-immigration-[DISPONIBLE EN ANGLAIS SEULEMENT].
72
2018 CSC 30.
73
Ibid, au paragraphe 74, voir aussi Scassa, Teresa (14 juin 2018), Supreme Court of Canada Decision Has Relevance
for Addressing Bias in Algorithmic Decision-Making,
http://www.teresascassa.ca/index.php?option=com_k2&view=item&id=278 (ci-après « Scassa, "Décision de la
CSC"»).
74
Étude d’IRCC, p. 7, 8 et 12.
75
Ibid.
16
 les limites concernant le type de données déclaré. Les critiques mettent en garde contre le fait que
« l’IA n’affiche pas souvent la raison pour laquelle certains résultats sont suggérés, ce qui rend les
recommandations teintées de préjugés difficiles à cerner 76 [TRADUCTION] ». Il existe en outre un
problème lié à l’accès.

L’accès aux technologies et la navigation dans celles-ci ont une incidence disproportionnée sur
certaines personnes racisées et personnes aux capacités différentes. Les demandeurs d’asile au
Canada et la main-d’œuvre à faible niveau de compétence sont des exemples de personnes qui
pourraient être touchées négativement par le passage aux solutions axées sur la technologie. À titre
d’exemple, le nouveau portail pour les réfugiés annoncé récemment par IRCC soulève une
myriade de questions sur l’utilisation possible de l’IA, la collecte d’information, l’utilisation, le
stockage et la protection des renseignements personnels. Les avantages que ces outils peuvent
offrir au chapitre de l’efficience, de l’uniformité et de l’accessibilité, y compris des délais de
traitement plus rapides, sont des objectifs importants qui doivent être soupesés avec soin et
pondérés selon les risques possibles graves (p. ex. la protection des renseignements personnels, le
piratage et l’accès). Songeons à la façon dont certains de ces migrants naviguent dans ces systèmes
après s’être enfuis de leur pays d’origine et en arrivant ici avec très peu. Même le fait de leur
demander d’accéder à un système informatique pour lancer leur demande d’asile dans la pratique,
alors qu’ils n’ont peut-être aucune ressource, qu’ils sont sans le sou et qu’ils n’ont aucun système
de soutien peut constituer un obstacle.

La publication Groupes de discussion des employés d’IRCC sur l’antiracisme, Rapport final 77
appuie les préoccupations soulevées à l’égard des préjugés et de l’automatisation. Il faut toutefois
reconnaître à IRCC les efforts déployés afin de mieux comprendre les questions suivantes :

Partialité dans les programmes, les politiques et le service à la clientèle d’IRCC

Les participants se sont dit préoccupés par le fait qu’une partie du racisme
manifeste et subtil dont ont été témoins les employés et les décideurs peut
avoir une incidence sur le traitement des cas et qu’elle a probablement une
incidence sur celui-ci. Certains soulignent les différences dans les taux de
refus selon le pays comme indicateur de l’existence d’une forme de partialité.

Ils font également état de façons dont des critères discriminatoires peuvent
avoir été ajoutés à des pratiques établies, initialement conçues comme le reflet
des politiques en vigueur, pour des raisons d’opportunisme ou de rendement.
En voici quelques-unes :

• Règles discriminatoires pour le traitement des demandes d’immigration

provenant de certains pays ou régions, qui diffèrent des règles appliquées
pour d’autres pays (p. ex exigences supplémentaires en matière de
documents financiers pour les demandes provenant du Nigéria).

76
Ibid.
77
Immigration, Réfugiés et Citoyenneté Canada. « Groupes de discussion des employés d’IRCC sur l’antiracisme,
Rapport final », Gouvernement du Canada, https://epe.lac-bac.gc.ca/100/200/301/pwgsc-tpsgc/por-
ef/immigration_refugees/2021/122-20-f/POR_122-20-Final_Report_FR.pdf.
17
 • On craint que l’automatisation accrue du traitement intègre les pratiques
discriminatoires fondées sur la race d’une manière qui sera plus difficile à
percevoir avec le temps 78.

d) Représentants fantômes numériques

Enfin, l’une des autres préoccupations importantes ayant une incidence sur la prise de décision
concerne les cas où le demandeur qui se représente lui-même est réellement une victime. La
numérisation répandue, y compris l’IA, offre de nouvelles possibilités aux fraudeurs sans
scrupules de déjouer le processus ou d’offrir des outils pour une génération de ce que j’appelle les
« représentants fantômes numériques (RFN) ». Les RFN s’entendent de représentants non
autorisés qui exploiteront les avantages qu’offre la technologie d’IA et la diffusion élargie de
renseignements sur l’immigration numérique afin de créer des demandes d’immigration
« fantômes » et des plaidoiries en immigration sous le couvert de demandeurs qui se représentent
eux-mêmes et qui ne savent pas comment s’y prendre, en vue de réaliser des gains financiers
personnels.

La représentation fantôme pose déjà un énorme problème; toutefois, au fur et à mesure que l’on
obtient plus de données sur les tendances relatives au cas et que l’on améliore les robots
conversationnels libre-service, ou simplement par le regroupement de données sur les demandes
en ligne, de mémoires de droit ou d’observations juridiques, on offre encore plus de possibilités à
ces personnes d’agir en tant que représentants fantômes. Ces RFN peuvent être encore moins
retraçables que même les fantômes actuels qui se cachent derrière l’écran de tromperie numérique.
Quel traitement le droit réservera-t-il à ces demandeurs, lorsque ceux-ci deviennent les victimes de
profiteurs? Les ressortissants étrangers peuvent désormais être reconnus coupables de fausses
déclarations en application de l’article 40 de la LIPR pour avoir omis de divulguer un représentant
dans cette demande. Quel traitement le droit réservera-t-il au RFN? Les conséquences sont
innombrables.

V. De quelle façon un conseiller juridique peut-il répondre?

Il ne fait aucun doute que le courant technologique ne fera que prendre de l’ampleur. Il doit en
aller de même pour la consultation des parties prenantes et la transparence. À certains égards, le
fait de démêler ces initiatives me rappelle les années 1980, lorsque si peu d’information sur le
fonctionnement du pouvoir discrétionnaire était rendue publique, courant à la grande bibliothèque
de Toronto afin de tenter de mettre la main sur un exemplaire des manuels des agents
d’immigration de ce qui s’appelait à l’époque Citoyenneté et Immigration Canada. Ces manuels
étaient le Saint-Graal de l’information sur la prise de décision à ce moment-là. Dans les
années 1990, la technologie était très différente : nous communiquions par téléavertisseur et
tapions nos observations sur ce qui nous semblait être des machines à écrire électroniques
ultrasophistiquées. Peu importe les avancées, la situation est semblable : on se démène encore pour
comprendre les priorités d’IRCC, les délais de traitement, la prestation et, en fin de compte, la
meilleure façon de représenter nos clients. De quelle façon pouvons-nous répondre? Dix réflexions
sont présentées ci-dessous, certaines étant propres à des pratiques individuelles, tandis que
d’autres sont de nature plus générale. Certaines sont pratiques, d’autres, ambitieuses.

78
Ibid., p. 12.
18
 1) Défense collective des intérêts – Exclusion et portrait

Il faut mettre fin aux déploiements sur lesquels les conseillers juridiques n’ont pas été consultés
afin de discuter des problèmes et des processus technologiques. Le déploiement récent des
nouvelles voies d’accès à l’immigration, le 6 mai 2021, a particulièrement piqué au vif, car les
représentants ont été largement exclus du processus et ils continuent d’éprouver des problèmes
d’accès au moment de la rédaction du présent article 79. Les conseillers juridiques n’auront pas
accès au portail de citoyenneté en ligne avant 2022. D’autres volets ne permettent pas la
représentation par un conseiller juridique 80. Les interdictions de représentation par un conseiller
juridique signifient des interdictions pour les demandeurs, ce qui peut en retour avoir une
incidence sur le processus de prise de décision et son issue. L’exclusion du conseiller juridique
peut entraîner, par exemple, des difficultés à comprendre pourquoi une demande a été refusée
quand le processus de soumission n’a pas été supervisé par un conseiller juridique. C’est en fait ce
qui s’est produit récemment avec le tri de certaines demandes présentées par voie électronique
pour la voie d’accès de la résidence temporaire à la résidence permanente dans l’une des voies
pour les personnes francophones. Étant donné que le conseiller juridique avait été exclu du
processus de soumission de ces demandes, il était difficile de déterminer si l’erreur était d’origine
technique ou le fruit d’erreurs humaines 81.

Ces exemples mettent en évidence le danger supplémentaire que pose la soi-disant transition
d’IRCC vers un système de libre-service prêt à l’emploi. Cela alimente la perception d’un système
qui déshumanise le processus, dans les cas où il n’est pas obligatoire d’être représenté. Conjugué
aux avancées technologiques, le comportement appris au fil du temps est que toutes les solutions
ne se trouvent qu’à un clic de souris, peut-être avec l’aide d’un robot conversationnel ou de votre
sympathique cybervoisin RFN? Il y a pourtant peu d’indulgence en cas d’erreur, et les
conséquences sont graves. Il est nécessaire d’avoir un accès complet et de mener des consultations
préalables au déploiement.

Le portrait que brosse le public des représentants autorisés ne fait qu’aggraver le problème. Les
représentants autorisés devraient être publiquement reconnus comme de précieuses parties
prenantes dans le processus visant à faciliter la transition des futurs Canadiens. Les représentants
transcendent toutes les couches de la société en aidant à accéder à la justice, ce qui est encore
plus important dans un mode axé sur la technologie. Je plaide en faveur de cela depuis des années
et j’ai toujours constaté ce problème entourant le portrait public où l’on accorde une attention
beaucoup trop grande sur le préjudice que pose le recours à un représentant. Dans les
communications trouvées dans le site Web d’IRCC sur les représentants, on dépeint ces derniers

79
Pour en savoir plus, voir : Immigration, Réfugiés et Citoyenneté Canada (5 mai 2021), « Dès demain,
90 000 travailleurs temporaires essentiels et diplômés étrangers pourront déposer leur demande de résidence
permanente à travers le nouveau programme [TRADUCTION] », Gouvernement du Canada,
https://www.canada.ca/fr/immigration-refugies-citoyennete/nouvelles/2021/05/des-demain-90000-travailleurs-
temporaires-essentiels-et-diplomes-etrangers-pourront-deposer-leur-demande-de-residence-permanente-a-travers-le-
nouve.html [DISPONIBLE EN ANGLAIS SEULEMENT).
80
Voir, par exemple : Immigration, Réfugiés et Citoyenneté Canada, « Expérience internationale Canada »,
Gouvernement du Canada, https://www.canada.ca/fr/immigration-refugies-citoyennete/services/travailler-
canada/eic.html.
81
Keung, Nicholas (5 octobre 2021), « ’Earth-shattering’: Why applicants to Canada’s special, one-time immigration
program fear a computer glitch may have dashed their dreams », Toronto Star,
https://www.thestar.com/news/canada/2021/10/05/earth-shattering-why-applicants- to-canadas-special-one-time-
immigration-program-fear-a-computer-glitch-may-have-dashed-their-dreams.html.
19
 comme des praticiens illégaux ou sans scrupules. 82 Même si l’objectif, soit la protection du
public, est important et approprié, il en découle une généralisation et la présentation d’une image
gravement déformée, sans compter que l’on ne dit presque rien sur le rôle crucial que jouent les
représentants autorisés. Cela alimente en partie la perception selon laquelle il est dangereux d’être
représenté.

J’ai rencontré tant d’employés d’IRCC acharnés et avec de bonnes intentions dans le cadre de
conférences, de travaux à des comités ou des discussions sur des politiques ou sur une affaire
précise : il y a des avantages mutuels indéniables à faire participer des représentants au processus
de demande, particulièrement pour les demandes complexes. Ce n’est pourtant pas ce que
semblent indiquer les messages dans le site Web d’IRCC. Les enjeux entourant cette image
publique sont encore plus élevés, étant donné que la technologie peut davantage éloigner le public
du décideur. Le besoin de revoir cette approche est évident. Il faut d’abord avoir de nouvelles
mesures de protection en matière de gouvernance pour l’ensemble des parties prenantes.

2) Une gouvernance responsable de l’IA

En faisant participer les représentants autorisés et les conseillers juridiques à la conversation, on

obtient en quelque sorte des freins et contrepoids, en ce qui concerne l’utilisation de l’IA en soi et
le fonctionnement de l’IA et d’autres technologies. L’IA, par exemple, vise à nous simplifier la vie
et c’est ce qu’elle devrait faire si elle est mise en œuvre adéquatement. Toutefois, comment
pouvons-nous nous assurer qu’elle est aussi équitable? Comme l’a défini A. D. (Dory) Reiling, il
existe plus de deux douzaines de documents qui établissent des principes éthiques relatifs à
l’utilisation de l’IA à l’échelle mondiale 83. La Commission européenne pour l’efficacité de la
justice et le Conseil de l’Europe ont présenté cinq principes éthiques fondamentaux régissant le
recours à l’IA dans l’administration de la justice 84. Reiling a fourni un résumé utile de ces cinq
principes clés, que voici :

1. Le respect des droits fondamentaux afin de garantir que l’IA est conçue et mise en
œuvre d’une façon compatible avec les droits fondamentaux comme la vie privée, le
traitement égal et le droit à un procès équitable [TRADUCTION].
2. Un traitement égal afin d’éviter la discrimination entre les personnes et les groupes, en
gardant un œil sur les données utilisées par l’algorithme et l’algorithme lui-même en vue
d’éviter des distinctions injustifiées [TRADUCTION].
3. La sécurité des données afin de garantir que les données utilisées et leurs sources ne
peuvent être modifiées, grâce à des modèles de conception multidisciplinaire et sécuritaire
sur le plan technologique [TRADUCTION].
4. La transparence afin de garantir que les méthodes sont transparentes et compréhensibles,
ainsi que de permettre la tenue d’audits externes. Les choix effectués et les données et
hypothèses utilisées doivent être facilement accessibles aux tierces parties afin de garantir

82
Immigration, Réfugiés et Citoyenneté Canada. « Renseignez-vous sur les représentants » Gouvernement du Canada,
https://www.canada.ca/fr/immigration-refugies-citoyennete/services/representant-immigration-
citoyennete/renseignez-vous-representants.html.
83
A. D. (Dory) Reiling, « Courts and Artificial Intelligence » (2020) 11(2) International Journal for Court
Administration 8, DOI: https://doi.org/10.36745/ijca.343 (ci-après Reiling, « Courts and AI »). Il convient de
mentionner que cet article, même s’il porte sur la façon dont l’IA peut être utilisée dans la pratique judiciaire, les
principes abordés sont d’application générale.
84
Reiling, « Courts and AI », p. 6.
20
 une protection juridique contre les décisions fondées sur ces choix, en plus de la possibilité
de demander un contrôle judiciaire devant les tribunaux [TRADUCTION].
5. Le contrôle de l’IA par l’utilisateur, afin de garantir que l’IA ne prend pas de décision
par elle-même et ne prescrit rien, et que les utilisateurs gardent le contrôle de leurs choix y
compris la capacité de s’écarter facilement du résultat de l’algorithme au besoin 85
[TRADUCTION].

Un exemple pertinent qui illustre l’importance de garder à l’esprit les principes éthiques au
moment de mettre en œuvre l’IA est le système de détention de l’immigration des États-Unis.
En 2013, le département de la Sécurité intérieure (DHS) des États-Unis a lancé un outil
d’évaluation de classification du risque (ECR) conçu pour aider les agents de l’Immigration and
Customs Enforcement (ICE) à déterminer si un ressortissant étranger doit être mis en liberté ou
gardé en détention pendant qu’il attend la procédure de déportation 86. L’outil ECR tenait compte
de dossiers de bases de données et de renseignements recueillis dans le cadre d’un processus
d’entrevue au moyen d’un système de notation pondéré destiné à formuler des recommandations
sur la détention, la caution et la supervision à la lumière d’évaluation de la sécurité et du risque de
fuite 87 pour recommander que seules les personnes présentant un risque élevé et grave demeurent
en détention 88.

L’outil ECR était programmé de manière à formuler une recommandation parmi quatre aux agents
d’ICE : (1) maintenir en détention sans caution; (2) maintien en détention et admissibilité à une
caution d’un montant précis (avec le montant recommandé pour la caution); (3) décision à prendre
par le superviseur; ou (4) mise en liberté 89. L’outil ECR devait puiser de l’information à partir de
quatre domaines d’information provenant des agents d’ICE, y compris des données tirées
d’observations et d’entrevues, des bases de données d’ICE et des antécédents en matière
d’immigration, dans le cadre d’une évaluation de la sécurité publique et du risque de fuite90.
L’outil ECR semblait en théorie représenter un équilibre harmonieux entre la technologie et la
prise de décision discrétionnaire, en ce sens qu’il pouvait simplifier les processus, réduire le
nombre de personnes détenues aux fins de l’immigration et signaler seulement les personnes qui
présentent un risque élevé aux fins de détention; son application a toutefois eu l’effet inverse.

Dans un rapport de la Duke University Law School, on a conclu que l’outil ECR n’était pas la
seule cause du résultat; il s’agissait plutôt de la politique et du droit qui l’alimentaient, et de la
partialité de l’agent qui formait l’algorithme pour renforcer les préjugés à l’encontre des
immigrants 91. Malheureusement, un outil conçu pour rendre le processus plus équitable et plus
individualisé a été utilisé afin de renforcer des priorités politiques à la suite de modifications
apportées après son déploiement. Il est important de noter que les modifications comprenaient un
85
Ibid., p. 6.
86
Robert Koulish, et coll. (22 mai 2020). « Injustivce and the Disappearance of Discretionary Detention Under Trump:
Detaining Low Risk Immigrants without Bond »,
https://scholarship.law.duke.edu/cgi/viewcontent.cgi?article=6703&context=faculty_scholarship [DISPONIBLE EN
ANGLAIS SEULEMENT], p. 2.

87
Ibid.
88
Ibid., p. 1.
89
Ibid., p. 2.
90
Ibid., p. 3.
91
Ibid., p. 9 et 10.
21
 changement de l’algorithme afin de limiter la capacité de l’outil ECR de formuler des
recommandations et exigeaient une plus grande intervention de la part du superviseur d’ICE plus
tôt dans le processus 92. Malheureusement, à cause d’un manque de transparence concernant
l’algorithme et les résultats, il a été difficile pour les auteurs du rapport d’avoir un aperçu de
l’outil, de son utilisation et de son fonctionnement. Plus important encore, des erreurs et des
inexactitudes intégrées aux programmes sont passées inaperçues et n’ont pas été contestées
pendant plusieurs années en raison de ce manque de transparence 93. Il n’y a donc eu aucune
responsabilité à l’égard du fonctionnement de l’outil pendant de nombreuses années.

Nous pouvons tirer quelques enseignements de cet exemple, à la lumière des principes exposés ci-
dessus. Avant de mettre en œuvre l’IA, il faut garantir que l’algorithme respecte la loi et les
politiques pour veiller à ne pas porter atteinte aux droits de ceux qui sont touchés par ses résultats.
À cette fin, nous devons éviter les algorithmes génératifs 94 et segmentés 95, et l’IA doit regrouper
des renseignements pertinents dans un processus sécuritaire et sécurisé en vue de protéger la vie
privée et de garantir la fiabilité de l’information. Il doit y avoir des garanties de transparence et de
maintien du contrôle par l’utilisateur; voilà l’aspect le plus important. Le fait de donner une
certaine transparence au processus de prise de décision a permis aux demandeurs et aux conseillers
juridiques de contester et de soumettre à un contrôle des décisions injustes ou déraisonnables, ce
qui a éclairé et définit le processus décisionnel, en plus de donner un répit plus que mérité pour les
décisions qui pourraient ne pas être prises.

3) Une gouvernance novatrice de l’IA

À titre de mesure de protection pour la prise de décisions, nous devons nous assurer de favoriser
une gouvernance de l’IA qui, en plus d’être responsable, est novatrice. Le Canada a la possibilité
de devenir un chef de file mondial et de codifier ces mesures de protection dans ses lois. La
Nouvelle-Zélande est devenue le premier pays à créer une charte des algorithmes, qui indique que

92
Kate Evans, et coll. (2020), « Manipulating Risk: Immigration Detention Through Automation. »,
https://scholarship.law.duke.edu/cgi/viewcontent.cgi?article=6692&context=faculty_scholarship [DISPONIBLE EN
ANGLAIS SEULEMENT], p. 794.
93
Ibid., p. 841 à 843.
94
Ces algorithmes posent un grave risque pour la société, en ce sens où ils peuvent créer de faux médias par
l’utilisation de robots sophistiqués. En outre, les préoccupations relatives à l’apprentissage machine que l’on a
constatées en ce qui concerne le robot conversationnel de Microsoft sont très réelles. Si les algorithmes génératifs
d’une machine apprennent des données qu’ils ont eux-mêmes créées en faisant preuve d’un mauvais jugement, il est
possible que l’IA commette ces mêmes erreurs. Dans l’exemple du robot conversationnel de Microsoft, la machine
a commencé à reproduire un discours haineux après avoir discuté avec plusieurs personnes (elle avait appris les
algorithmes par une analyse de données sur les renseignements indésirables).
95
Cela fait essentiellement référence à la division de clients en groupes formés d’individus possédant des
caractéristiques communes. On vise ici à accroître l’efficacité d’interventions préventives ciblées comme la
sensibilisation spéciale, ou le marketing et l’élaboration de politique dirigés. Même si la nature préventive d’un tel
système peut parfois s’avérer utile, la portée que l’on en obtient reflète le système en soi, ce qui signifie que des
préjugés et une sous-représentation dès le départ (à l’étape du classement) peuvent survenir. Qui plus est, la collecte
et l’utilisation de l’important volume de renseignements personnels requis pour classer des individus peuvent
soulever des préoccupations en matière de vie privée. La complexité d’un tel système peut rendre les explications de
son fonctionnent également difficiles. Cela peut donner lieu à des décisions automatisées qui, en fin de compte, ne
fournissent pas suffisamment de renseignements pour expliquer comment le système est parvenu à sa décision, ce
qui cause des problèmes de transparence.
22
 les gouvernements peuvent faire et ne pas faire quand ils utilisent des mesures d’IA 96. Il s’agissait
d’un premier pas très important dans la bonne direction pour limiter l’utilisation discriminatoire de
l’IA dans les domaines juridiques, y compris celui de l’immigration 97. Il a été élaboré à la suite de
la mise en œuvre d’un modèle de dommage qui recueillait de l’information comme l’âge, le pays
d’origine, le genre, le recours aux services de santé publique, les rencontres avec les organismes
d’application de la loi et le statut en matière d’immigration à l’arrivée au pays pour la première
fois afin de cerner d’éventuels « fauteurs de trouble 98 ». Ce modèle a suscité une vive opposition,
en plus d’attirer des critiques et des plaintes sur l’utilisation de données personnelles par le
gouvernement et le manque de transparence. En outre, le Service de l’immigration de la Nouvelle-
Zélande a fait l’objet de critiques en raison de son utilisation de données sur l’origine ethnique
dans sa modélisation des risques, car elle était susceptible de marginaliser davantage des
groupes racisés 99. C’est ce qui a mené à l’adoption de la charte des algorithmes susmentionnée. Le
Canada devrait s’en inspirer pour commencer à élaborer sa propre charte des algorithmes.

La charte des algorithmes de la Nouvelle-Zélande se concentre et s’engage particulièrement à

aiguiller les organismes gouvernementaux dans la bonne direction afin qu’ils utilisent les
algorithmes avec soin, tout en établissant un équilibre entre la vie privée et la transparence 100. En
outre, cette charte vise à réduire au minimum et à éliminer les préjugés involontaires dans
l’utilisation des algorithmes pouvant découler de la formation effectuée par des humains dont les
actions, y compris l’élaboration d’une matrice de risque, peuvent éventuellement être empreintes
de préjugés implicites ou comporter des erreurs 101. L’objectif ultime est d’accroître la transparence
et de protéger la vie privée, l’éthique et les droits de la personne. Les principales caractéristiques
d’une gouvernance novatrice de l’IA pour IRCC comprendront, à mon avis, une charte de l’IA
similaire, qui comprend ce qui suit : (1) une définition claire de l’utilisation de l’IA; (2) des
évaluations de l’incidence algorithmique pour toutes les utilisations de l’IA; (3) des algorithmes
transparents; (4) un tri et des arbres décisionnels transparents, auxquels les demandeurs et
conseillers juridiques ont accès; et (5) des audits externes assortis de pouvoirs d’exécution de la
loi. Les conseillers juridiques doivent être au fait de ces problèmes, exiger la mise en œuvre de ces
mesures, de façon individuelle et par l’intermédiaire d’organisme de défense des intérêts
importants, et de remettre en question de façon juridique les déploiements qui ne comprennent pas
ces mesures de précaution. Autrement, le processus de prise de décision pourrait être miné. Nous
devons moderniser notre raisonnement juridique et aider le droit à en faire de même.

4) Équité procédurale et pouvoir discrétionnaire 2.0

Que signifiera l’équité procédurale dans ce nouvel échange de haute technologie? Assistera-t-on
à une redéfinition de l’équité procédurale? Comme il est expliqué en détail ci-dessus, la
96
La Conversation (28 avril 2021), Canada should be transparent in how it uses AI to screen immigrants, consulté le
12 octobre 2021, https://theconversation.com/canada-should-be-transparent-in-how-it-uses-ai-to-screen-immigrants-
157841 [DISPONIBLE EN ANGLAIS SEULEMENT].
97
Malgré ces efforts positifs, la Nouvelle-Zélande a fait l’objet d’un examen minutieux avant la mise en œuvre de cette
charte aux fins d’utilisation dans le modèle de dommage en matière d’immigration. Le système visait ultimement à
traquer et à déporter les migrants « indésirables » ou « des fauteurs de trouble possibles ».
98
Ibid.
99
RNZ, « Immigration NZ pilot described as racial profiling, »,YouTube, 5 avril 2018,
https://www.youtube.com/watch?v=nfqPCrQmVKs&t=149s&ab_channel=RNZ.
100
Gouvernement de la Nouvelle-Zélande (juillet 2020), Algorithm Charter for Aotearoa New Zealand,
https://data.govt.nz/assets/data-ethics/algorithm/Algorithm-Charter-2020_Final-English-1.pdf.
101
Ibid.
23
 technologie modifie le processus de prise de décision et les éléments requis à l’avenir pour être
équitable. C’est ce que j’appelle l’équité procédurale, dans une nouvelle ère numérique du droit.
Nous devons nous demander en tant que conseillers juridiques responsables de dossiers propres à
des clients et de façon générale, si un aspect quelconque du processus est géré par l’IA, y
compris les types d’algorithmes ou autres outils comme Chinook sont utilisés, pour assurer une
transparence et une équité complètes. L’étendue des questions à poser reflétera directement le
niveau de transparence général. Afin de veiller à préserver la primauté du droit, le fait d’avertir
IRCC nous permettra de transmettre les attentes de nos clients et de reconnaître l’évolution de
l’équité procédurale et du pouvoir discrétionnaire 2.0. Nous indiquerons ainsi que l’équité
comprend désormais des aspects technologiques.

Tout ce qui a une incidence sur le pouvoir discrétionnaire d’un agent est en jeu. Les limites de
téléchargement, les obstacles à la représentation par un conseiller juridique, la réduction du niveau
de priorité de certains volets de demandeurs ainsi que le recours à des technologies obscures sont
tous maintenant des réalités avec lesquelles les conseillers juridiques doivent composer quand ils
représentent leurs clients. La prise de décision discrétionnaire peut être définie avant même qu’un
dossier parvienne à un agent; nous devons l’invoquer dans nos arguments juridiques. Il faut dès
maintenant revoir ce que signifie la prise de décision discrétionnaire en 2021 et par la suite.

À titre d’exemple, hormis l’IA, la détermination de dossiers au moyen d’outils comme Chinook et
STH déclenche de nombreux signaux d’alarme. Le modèle Chinook peut permettre les erreurs
commises par les décideurs en examinant les données d’un autre demandeur au moment de rendre
une décision sur une demande particulière. Il serait même possible de présenter des demandes de
renseignements sur d’autres demandeurs. En outre, la façon dont le module 4 génère des motifs de
refus rédigés au préalable pourrait mener un agent à examiner davantage de motifs de refus ou
donner lieu à la création de motifs génériques. Il ne semble pas exister d’écran où s’affichent tous
les motifs d’acceptation d’une demande. Il semble y avoir un déséquilibre.

Depuis la mise en œuvre de Chinook, les taux de refus ont augmenté. Le contre-interrogatoire de
M. Daponte pendant l’affaire de la Cour fédérale dont il a été question ci-dessus nous a appris que
les motifs de refus sont passés de 31 % en 2016 102 à 40 % en 2019, la première année d’utilisation
de Chinook, puis à 53 % en 2020 103. En outre, l’utilisation du système n’est pas indiquée dans les
notes du SMGC et il pourrait être plus difficile en fin de compte de comprendre le processus suivi
par l’agent et l’issue. L’affaire qui est actuellement devant la Cour fédérale pourrait offrir des
éclaircissements et déterminer tout lien de causalité.

On trouve les mêmes problèmes avec la STH, comme nous le prouve l’augmentation des taux de
refus après la mise en œuvre de l’aide technique. En particulier, pour les demandes de travailleur
temporaire, le bureau d’IRCC à Manille a enregistré une augmentation de 16 % en 2017 par
rapport à l’année précédente, de 30 % en 2018 et, finalement, de 35 % en 2019 par rapport à
l’année précédente 104. Le bureau d’IRCC à Colombo devait connaître une augmentation générale
de 45 % des demandes de VRT en 2017 par rapport à l’année précédente 105. L’une des principales

102
Cour fédérale (4 août 2021), Contre-interrogatoire d’Andie Melo Daponte sur son affidavit daté du 29 juillet 2021.
103
Ibid.
104
Immigration, Réfugiés et Citoyenneté Canada (20 novembre 2017), Note d’information de l’Unité de résidence
permanente.
105
Immigration, Réfugiés et Citoyenneté Canada (février 2018), Présentation et d’adoption de la suite de traitement
Hiraya de Manille à Colombo.
24
préoccupations qui est ressortie d’un rapport sur la STH était liée à l’effet de goulet
d’étranglement causé par la cible d’étudier trente demandes par jour au moyen du système. Malgré
l’absence d’inquiétudes à l’égard de cette cible dans le rapport, il est juste de supposer qu’une
cible plus élevée pour les agents peut causer des erreurs humaines dans l’examen des demandes en
raison de la pression accrue d’atteindre cette cible.

5) Qu’est-ce qu’IRCC tente de corriger?

Les demandeurs et leurs conseillers juridiques doivent être mieux informés de ce qu’IRCC règle
en recourant à l’IA et à d’autres technologies. Un examen plus complet et plus transparent des
défis et attentes quotidiens des agents des visas doit être communiqué et compris, compte tenu des
justifications comparables et disparates des gouvernements du monde entier prêts à faire l’essai de
la technologie dans des contextes liés à l’immigration. Il sera important que toutes les parties
prenantes à cette discussion trouvent la cause profonde des problèmes ou défis avec lesquels les
agents d’immigration sont aux prises, par exemple, les ressources, le volume, la mauvaise
représentation, la fraude ou le racisme systémique, au lieu d’accueillir comme une panacée le
virage vers les solutions axées sur la technologie offertes par l’IA en développement rapide. Les
Groupes de discussion d’IRCC sur l’antiracisme sont une initiative positive et transparente. Nos
initiatives de défense des intérêts, comme les expressions propres aux clients, doivent être
éclairées par une meilleure compréhension. Il faut comprendre ce qui motive la nécessité
d’innover et se protéger contre l’érosion de la prise de décision discrétionnaire.

6) La technologie ne peut pas remplacer la communication, mais elle peut aider

La communauté des conseillers juridiques en appelle depuis longtemps à une plus grande
transparence dans les priorités et les délais de traitement, ainsi qu’à une communication plus
opportune. Les robots conversationnels ne pourront pas répondre à toutes ces demandes; des mises
à jour plus fréquentes et plus rapides au moyen de mesures technologiques pourraient toutefois
être utiles. Un demandeur doit être en mesure d’accéder à son dossier, de connaître les motifs de
refus et de limiter le recours au processus fastidieux de demande d’accès à l’information et
protection des renseignements personnels (AIPRP). Le processus devrait devenir plus accessible
pour les demandeurs et leur conseiller juridique autorisé. Le guide de soutien à la prise de décision
automatisée mentionné précédemment pourrait être une autre initiative positive.

L’accès permettra de cerner les préoccupations plus tôt, contribuera à maintenir le caractère
individuel du processus et agira en tant que deuxième paire d’yeux pour IRCC par ceux qui ont le
plus grand intérêt à l’égard du processus et de l’issue de celui-ci : les personnes et leurs
représentants, que sert IRCC. De toute évidence, il existe des obstacles technologiques et il faudra
du temps pour les gérer. IRCC gère aussi probablement de nombreux problèmes de ressources et
problèmes techniques pour permettre un meilleur accès et le déploiement de la technologie en
général. Néanmoins, les gains de productivités peuvent avoir un effet de transformation, si la
technologie est mise en œuvre de façon responsable et innovatrice. L’équité procédurale et la prise
de décision discrétionnaire 2.0 sont renforcées et modernisées grâce à une seule mesure : un
meilleur accès.

25
 7) Les cas complexes ne peuvent pas être classés comme des cas de « fauteurs de
troubles »

Comme on l’a constaté avec le modèle de dommage de la Nouvelle-Zélande, il semble souvent

que tout ce qui sort de l’ordinaire, habituellement des inquiétudes, grandes et petites, relatives à
l’admissibilité, sont larguées et demeurent suspendues en orbite. En tant que conseillers juridiques,
nous croyons souvent qu’IRCC « trouvera les fauteurs de trouble » (le terme malheureux utilisé en
Nouvelle-Zélande) quand il le peut et nous dit de ne pas poser de questions, car aucun délai de
traitement n’est établi. Les demandes très discrétionnaires, comme les demandes pour
considérations d’ordre humanitaire et les demandes de PRT semblent avoir un moins grand niveau
de priorité. Les délais de traitement non affichés, le moins grand nombre de bureaux qui
examinent les demandes « hors de l’ordinaire » et l’absence d’options en ligne sont de plus en plus
répandus. La baisse du niveau de priorité équivaut à l’adage « justice différée est justice refusée ».
Ces demandes sont cruciales, car elles permettent un pouvoir discrétionnaire et un allègement
élargis lorsque la loi ne dit rien sur des objectifs parfois contradictoires. Il arrive parfois que des
personnes extraordinaires soient victimes d’une malchance ordinaire. Le fait d’accorder un niveau
de priorité moindre à ces demandes sape le caractère humain du processus et peut indiquer aux
agents d’examiner ces demandes en dernier. IRCC doit faire preuve de transparence en ce qui
concerne ses priorités en matière de traitement et les échéanciers pour toutes les demandes. Nos
observations doivent tenir compte de ces limites lorsque nous cherchons à obtenir rapidement un
allègement.

8) La technologie peut perturber des questions juridiques qui ont été déjà tranchées

La loi doit évoluer afin de garantir que la collecte de renseignements n’est pas utilisée en tant que
mesure dissuasive directe et dissimulée, qui ne s’adapte pas aux nouvelles réalités technologiques.
À titre d’exemple, nous voyons chaque année tant de personnes visées par des allégations de
fausses déclarations parce qu’elles ont mal compris en toute bonne foi une question sur un
formulaire de résidence temporaire ou de résidence permanente habituellement liée à des
interdictions de territoire antérieures aux États-Unis. Selon l’article 40 de la LIPR, les conclusions
de fausses déclarations sont assorties d’une interdiction de cinq ans au Canada et d’interdictions de
cinq ans de présenter une demande de résidence permanente. Lorsqu’ils font l’objet d’une
conclusion de fausses déclarations, de nombreux demandeurs en matière d’immigration doivent
modifier en profondeur leurs plans de vie et possiblement ceux de leurs proches. Peu de personnes
peuvent mettre leur vie en veilleuse pendant cinq ans et/ou demeurer admissibles cinq ans plus
tard. Les questions indiquées dans les formulaires sont réputées être incontestables. Autrement dit,
les questions sont claires et concises et les demandeurs devraient n’avoir aucune difficulté à y
répondre avec exactitude. Or c’est loin d’être le cas.

Par exemple, sur un formulaire de demande de permis d’étude IMM 1294 (06-2019 F, la questions
à la case 2(b) se lit comme suit : « Vous a-t-on déjà refusé un visa ou un permis, interdit de
territoire ou ordonné de quitter le Canada ou tout autre pays ou territoire? » Tant de clients
oublient la partie « tout autre pays ou territoire ». Au lieu de poser plusieurs questions en une, les
questions devraient être divisées et rédigées en langage clair. Elles pourraient être rédigées ainsi :

26
 1. Avez-vous déjà présenté un type de demande d’immigration pour obtenir un visa ou un
permis de résidente permanente ou temporaire (séjour, études ou travail) au Canada et
avez-vu cette demande être refusée? [TRADUCTION]
2. Avez-vous déjà présenté un type de demande d’immigration pour obtenir un visa ou un
permis de résidente permanente ou temporaire (séjour, études ou travail) n’importe où
dans le monde et avez-vu cette demande être refusée? [TRADUCTION]

En ce qui concerne les demandeurs qui ont présenté une demande de permis de séjour, d’études ou
de travail et qui présentent ensuite une demande de résidence permanente, les formulaires peuvent
davantage porter à confusion. Dans le formulaire de demande de résidence permanente IMM 5669
(06-2019) F, à la case d), on demande au demandeur principal ou aux membres de ses familles
nommés sur la demande « avez déjà reçu le statut de réfugié, un visa d’immigrant ou de résident
permanent (incluant un Certificat de sélection du Québec (CSQ) ou demande au Programme des
candidats des provinces) ou de visiteur ou de résident temporaire pour aller au Canada ou dans
tout autre pays? »

La question traite de demande de réfugié et fait seulement référence aux visas, pas aux permis. Un
demandeur qui s’est vu refuser un permis d’études ou de travail peut croire que la question 6d) ne
s’applique pas à sa situation, car le terme « permis » n’est pas indiqué, seul le terme visa l’est. Les
termes visa d’études et visa de travail ne sont pas couramment utilisés. Il s’agit d’un autre exemple
de plusieurs questions posées au sein d’une seule. À mon avis, cela va à l’encontre des objectifs
selon lesquels les candidats doivent être honnêtes et fournir des renseignements importants sur
eux. Il semble davantage s’agir d’une question piège. Encore une fois, il serait possible de diviser
et de simplifier cette question; à mon avis, toutefois, il faudrait douze questions distinctes 106. Qui
plus est, l’information sur les refus se trouve déjà dans les bases de données d’IRCC.

Étant donné les conséquences qui changent la vie, laissez-nous poser des questions qui sont
logiques et claires pour la plupart des gens et évitez de demander de fournir des renseignements
qui se trouvent déjà dans l’historique des clients. Cessez d’avoir cette mentalité du « je t’ai eu ». Je
ne demande aucunement que les demandeurs ne soient rien de moins qu’entièrement honnête;
toutefois, la technologie devrait être offerte pour aider et simplifier le processus de collecte
d’information afin d’assurer un traitement plus rapide et de garantir que les mesures d’application
de la loi ne visent que ceux qui tentent de déjouer le système. Il faut faire ressortir ces
préoccupations lorsque l’on cherche à assurer un pouvoir discrétionnaire dans les nombreuses
catégories de demandes qui comportent des problèmes d’interprétation et des conséquences
dévastatrices. De nouveaux arguments juridiques relatifs à l’équité et à l’individualisation en ce
qui concerne les réalités technologiques doivent devenir prévalents dans nos observations et
plaidoiries.

106
Avez-vous déjà présenté une demande d’asile au Canada? Vous a-t-on déjà refusé le statut de réfugié au Canada?
Avez-vous déjà retiré ou abandonné votre demande d’asile au Canada? Avez-vous déjà présenté une demande
d’asile ailleurs dans le monde? Vous a-t-on déjà refusé le statut de réfugié ailleurs dans le monde? Avez-vous déjà
retiré ou abandonné votre demande d’asile ailleurs dans le monde? Avez-vous déjà présenté une demande de
résidence permanente au Canada pour un visa d’immigrant ou de résident permanent (y compris un Certificat de
sélection du Québec (CSQ) ou une demande au Programme des candidats des provinces) qui a été refusée? Avez-
vous déjà présenté une demande de résidence permanente ailleurs dans le monde qui a été refusée? Avez-vous déjà
présenté une demande pour tout type de visa ou de permis de résidence temporaire (séjour, études ou travail) au
Canada et vu cette demande être refusée? Avez-vous déjà présenté une demande pour tout type de visa ou de permis
de résidence temporaire (séjour, études ou travail) ailleurs dans le monde et vu cette demande être refusée?
27
9) Rédiger des observations efficaces pour les demandes de dispense discrétionnaire

Comme il a été mentionné aux points un à huit, les observations et les plaidoiries devront tenir
compte de ces nouvelles réalités technologiques et aborder avec honnêteté l’incidence que celles-
ci pourraient avoir sur les personnes que vous représentez ou ne pouvez pas représenter
efficacement à cause de ces difficultés. Toutefois, au-delà de ce qui est dit, certaines règles ne
changent pas. L’un des éléments essentiels à la demande de dispense discrétionnaire est une
défense rédigée efficacement, étant donné que la possibilité de présenter une défense en personne
à l’étape de la demande s’est pratiquement envolée. Il s’agit d’écrire d’abord sous forme de points,
de donner le contexte avant les détails, de commencer par un énoncé d’ensemble, qui correspond
à votre thèse : une courte déclaration dans laquelle vous expliquez pourquoi l’exercice positif du
pouvoir discrétionnaire en faveur de votre client devrait être justifié par la loi.

Ensuite, il ne faut pas exagérer les faits, mais pas non plus les déshumaniser. Il y a une place pour
l’émotion et la passion dans la défense écrite. Indiquez clairement ce qui constitue de
l’information et ce qui appartient aux croyances. Faites la différence entre les sources
d’information Les sous-titres sont utiles : en plus d’aider l’éventuel lecteur, ils permettent à
l’auteur de présenter les arguments de façon claire et concise. Je préfère établir le droit (les lois et
la jurisprudence) et passer aux manuels ou à d’autres éléments de preuve de tiers pour définir la
question. Assurez-vous toutefois que le lecteur comprenne pourquoi vous invoquez le droit et
saisit sa pertinence pour votre affaire – soyez très précis. Assurez-vous que la jurisprudence et les
citations probantes ne sont pas trop longues ou ne pourraient pas plutôt être paraphrasées. Il
s’agit d’une erreur courante qui écarte le lecteur de vos arguments dans certains cas.

Afin de m’aider à garder mes observations précises, j’utilise ce que j’appelle le principe DER
pour la lecture des dispositions législatives : comprendre la DÉFINITION juridique de l’article,
présenter toute EXCEPTION et explorer et cerner toute RÉFÉRENCE CROISÉE. Cela m’aide
à comprendre le paradigme législatif selon lequel la décision sera rendue afin de formuler la
demande de dispense discrétionnaire. La trop grande dépendance à l’égard des manuels et
lignes directrices en tant qu’autorités peut s’avérer problématique au moment de formuler une
demande de dispense discrétionnaire. La demande devrait se concentrer sur la raison pour laquelle
la ligne directrice devrait être appliquée en faveur de votre client et non sur un argument selon
lequel elle doit être appliquée dans les cas où l’agent a un pouvoir discrétionnaire élargi. Tout ce
qui est inclus dans l’observation juridique et accompagné de renvois à la loi, aux politiques, aux
faits ou aux éléments de preuve connexes doit être lié à la demande de dispense discrétionnaire.
Une demande claire accompagnée d’une explication claire de la raison pour laquelle les faits et le
droit appuient votre affaire, ainsi que de la façon dont ils le font, devrait donner lieu à des
exercices favorables du pouvoir discrétionnaire. Ce n’est qu’une fois que tout a échoué que nous
passons au dixième point.

10) Intervention des tribunaux

Chaque année, des questions juridiques complexes sont tranchées devant la Cour suprême du
Canada, la Cour fédérale, la Commission de l’immigration et du statut de réfugié et les cours
provinciales au fur et à mesure que l’évolution jurisprudentielle et législative de la LIPR se
poursuit. La jurisprudence qui en découle touche tous les aspects de la pratique des représentants
28
en matière d’immigration, de la stratégie juridique aux obligations professionnelles et éthiques.
Ces avancées ne se produisent pas seulement dans les salles d’audience : on les trouve aussi dans
les salles de conférences, dans les nuages en ligne, aux points d’entrée et partout ailleurs. Étant
donné que la technologie modifie les expériences et les attentes des clients immigrants en raison
des conséquences qu’elle entraîne de plus en plus, cela donnera inévitablement lieu à une
augmentation des contestations au niveau individuel et collectif (p. ex. des recours collectifs, des
causes-types de litiges de groupe, etc.).

Il est parfois nécessaire d’entamer une procédure afin de mieux établir la prévisibilité, de réduire
au minimum les conséquences involontaires et d’assurer la transparence dans les demandes
d’immigration. Face à la transformation de l’exécution du système d’immigration, de nombreuses
décisions de tribunaux fédéraux et les plaidants qui feront progresser les dossiers au cours des
prochaines années réitéreront que le canada demeure à l’avant-garde d’une détermination de la
question créative, sophistiquée et importante, d’un débat et d’un règlement ultime qui auront
probablement des répercussions au pays et à l’étranger, particulièrement en ce qui concerne l’IA.
En résumé, les conseillers juridiques doivent collaborer encore plus que jamais à l’échelle
internationale afin de trouver une nouvelle façon qui maintient le pouvoir discrétionnaire et
l’individualisation et les solutions de rechange aux litiges seront cruciales.

VI. Conclusion

L’un des thèmes que l’on retrouve dans de nombreux pays est principalement la poursuite
croissante de la modernisation de l’exécution du processus judiciaire. La mise en œuvre de bons
systèmes d’IA et autres technologies ne se concrétise pas toujours, mais il demeure préoccupant
que les efforts visant à transformer l’exécution du programme d’immigration ne comprennent pas
la mise en place de mesures égales, dans de nombreuses situations, pour assurer une gouvernance
responsable et innovatrice. Il ne faut pas surestimer l’importation de cette approche, dont les
conséquences sont importantes. Par exemple, elle peut déstabiliser la primauté du droit et les
valeurs et principes fondamentaux qui comprennent le pouvoir discrétionnaire et la prise de
décision individualisée. IRCC en est à ses balbutiements dans l’application de ces technologies; le
moment est donc idéal pour les explorer.

Au fil du temps, il ne fait aucun doute que l’IA et d’autres technologies modifieront
considérablement la façon dont les demandes d’immigration sont traitées. On espère donc qu’elles
permettront de réaliser de nombreux gains, si elles sont utilisées adéquatement. Toutefois, nous
devons éviter que le nouvel outil tranchant et brillant qu’est l’IA contourne l’établissement du
consensus, l’examen minutieux mesuré et, pire, la primauté du droit, et décentralise la prise de
décision afin d’en faire une cible en mouvement en fonction des plus récents algorithmes non
divulgués, comme nous l’avons constaté dans certains exemples à l’échelle internationale. Je
demeure toutefois optimiste pour un certain nombre de raisons.

Premièrement, si la technologie est gouvernée adéquatement et établie clairement dans la loi, elle
permettra de réaliser des gains transformateurs, du traitement à l’accès et finalement à l’exécution.
IRCC, contrairement à d’autres parties prenantes, développe sa propre IA à l’interne, ce qui aide
l’utilisateur à exercer un certain contrôle. Deuxièmement, IRCC est composé de nombreuses
personnes bien intentionnées, qui travaillent avec acharnement et qui souhaitent créer un
changement positif. Elles doivent avoir l’occasion de briller et être encouragées à faciliter une

29
nouvelle culture de transparence et de collaboration accrues. Enfin, notre collectivité de conseillers
juridiques au Canada est solide et prête à relever le défi.

Il est absolument nécessaire de travailler ensemble, étant donné les défis en évolution qui nous
attendent. Autrement, nous reculerons probablement et nous serons englués dans des années de
chamailleries et de méfiance, qui pourraient engendrer une évolution douloureuse de l’utilisation
accrue de la technologie dans le droit en matière d’immigration au Canada. Nous pourrions subir
les mêmes revers que d’autres gouvernements ont subis quand ils ont tenté de faire cavalier seul.
Si nous collaborons dès maintenant, que nous insistons sur la collaboration, la surveillance, la
transparence et la mise en œuvre responsable, nous pourrions devenir des chefs de file à l’échelle
mondiale.

En fin de compte, nous devons convenir de travailler ensemble à définir notre droit en matière
d’immigration d’une manière qui protège notre réputation internationale en tant que pays
accueillant, juste et ouvert. En même temps, nous ferons la promotion de l’intégrité et de la
sécurité de nos programmes, ainsi que de la création d’une nation qui est solide sur les plans
économique, social et culturel, qui repose sur des fondements juridiques solides équitables et
prévisibles. Une nation où les pressions internationales et technologiques qui peuvent se pointer à
l’horizon n’ont aucun effet sur la prise de décision discrétionnaire.

30
 Annexe A – Initiatives d’IA d’autres intervenants

Agence des services frontaliers du Canada (ASFC)

Depuis 2017, l’Agence des services frontaliers du Canada (ASFC) utilise la technologie
d’identification par radiofréquence (IRF) à des points d’entrée sélectionnés au Canada 107. Selon
l’ASFC, la technologie d’IRF a été intégrée aux documents de voyage suivants du Canada et des
États-Unis :
• Cartes électroniques de résident permanent du Canada;
• Permis de conduire Plus canadiens émis par l’Ontario et la Colombie-Britannique;
• Cartes d’identité Plus émises par le Manitoba et la Colombie-Britannique;
• Permis de conduire Plus américains délivrés par le Vermont, New York et le
Michigan;
• Cartes-passeports américaines;
• Cartes électroniques de résident permanent des États-Unis;
• Carte NEXUS;
• Carte Expéditions rapides et sécuritaires (EXPRES) 108.

Le numéro d’étiquette associé à la puce d’IRF intégrée dans ces documents est détectée et lue
efficacement par un lecteur d’IRF une fois que le voyageur entre dans la ligne d’inspection. La
détection se produit avant même que le voyageur ait atteint le guichet aux fins d’inspection.
L’information sur le voyageur est ensuite récupérée à partir de bases de données sécurisées et une
évaluation du risque est menée. Celle-ci s’affiche ensuite à l’écran aux fins de consultation par
l’agent de l’ASFC 109. L’ASFC s’est exprimée ainsi sur l’utilité de cette technologie :

La technologie d’IRF permet d’épargner du temps en éliminant la saisie manuelle

des données sur les voyageurs, ce qui aide l’ASFC à répondre à la demande
croissante en matière de filtrage rapide et efficace des voyageurs 110.

L’utilisation de la technologie d’IRF par l’ASFC afin d’accélérer le contrôle des voyageurs est
louable, mais elle soulève de nombreuses questions, surtout en ce qui concerne la transparence et
la vie privée. De quelle façon l’information sur le voyageur est-elle évaluée pour déterminer le
risque que celui-ci pose après la lecture de la puce d’IRF? Sur quelles bases de données et quels
renseignements se fonde-t-on pour produire cette information? Les demandeurs y ont-ils accès?
L’information est-elle neutre? À quel point les agents se fondent-ils sur l’évaluation du risque?

En plus de l’utilisation de la technologie d’IRF, l’ASFC travaille actuellement en partenariat avec

Deloitte afin de créer un robot conversationnel qui gérera le volume de courriels et d’appels
provenant des partenaires et des parties prenantes de la chaîne commerciale. On espère que cette
technologie permettra en retour d’améliorer l’expérience utilisateur 111. L’ASFC s’attend à ce que

107
ASFC (18 avril 2019), « La technologie d’identification par radiofréquence », Gouvernement du Canada, consulté le
4 mars 2020, https://www.cbsa-asfc.gc.ca/travel-voyage/rfid-irf-fra.html (ci-après « ASFC, “IRF”).
108
Ibid.
109
Ibid.
110
Ibid.
111
Deloitte, « Vue d’ensemble de l’expérience de robot conversationnel Programme d’innovation GCRA
[TRADUCTION] ». (Ci-après « Deloitte, “Expérience du robot conversationnel” »).
31
 le lancement d’un robot conversationnel réponde à 85 % des demandes de renseignements de la
part de clients sans avoir à les renvoyer à un agent humain. Le robot conversationnel (traduction)
« […] répondra par des réponses, exécutera des actions, demandera d’obtenir de plus amples
commentaires ou répondra par des messages de gestion des erreurs » 112. Les demandes de
renseignements seront acheminées à un agent humain seulement si le robot conversationnel doute
de la réponse qui a été fournie à la question posée.

L’Agence explique que le robot conversationnel sera un élément important de la solution de

Gestion des cotisations et des recettes de l’ASFC (GCRA) 113. On a proposé au programme GCRA
une solution qui servira à moderniser et simplifier le processus d’importation de biens
commerciaux, ce qui offrira une interface moderne pour l’importation et permettra aux
importateurs de consulter leurs renseignements en recourant au libre-service, en plus de réduire les
coûts d’importation et d’accroître la conformité aux règles qui régissent l’importation. Un robot
conversationnel appuiera l’atteinte de ces objectifs en interagissant avec des partenaires de la
chaîne commerciale et en « permettant des opérations plus rapides 114 [TRADUCTION] ».

Emploi et développement social Canada (EDSC)

À la lumière de l’examen d’une note de service non classifiée de 2018 intitulée Note de service à
l’intention du sous-ministre de l’Emploi et du Développement social Canada du gouvernement du
Canada : Rapport de situation sur les projets d’intelligence artificielle et d’automatisation, nous
comprenons que 31 initiatives ministérielles sont liées à l’IA. Ces initiatives en sont à différentes
étapes d’achèvement 115. Au moins une douzaine de ces projets pourraient être liés à des travaux
sur des études d’impact sur le marché du travail (EIMT); en font partie l’initiative générale de
« surveillance dans les médias » et celle plus précise d’« algorithme pour le contrôle dans le
processus de recrutement 116 ». Neuf de ces initiatives sont externalisées partiellement ou
entièrement à des fournisseurs externes. Les initiatives semblent ambitieuses et comprennent la
compilation d’évaluations du Programme du marché du travail et la mise à l’essai d’une
technologie de robot conversationnel 117.
À la suite de nombreuses demandes d’accès à l’information, nous avons obtenu certains
renseignements précieux sur l’utilisation de l’IA au sein de l’organisation. Premièrement, la
directive d’EDSC en appelle au Ministère à mener des évaluations de l’incidence algorithmique
pour chacune des décisions automatisées qui fournit des services externes et de mettre en œuvre
des mesures d’atténuation des risques en fonction du niveau de risque indiqué dans l’évaluation118.
En outre, la Directive sur la prise de décisions automatisée s’applique aux systèmes qui
fournissent des services externes, ainsi qu’aux outils qui fonctionnent pour recommander une

112
Ibid.
113
ASFC (3 mars 2020), Gestion des cotisations et des recettes de l’Agence des services frontaliers du Canada (ASFC),
https://www.cbsa-asfc.gc.ca/prog/carm-gcra/menu-fra.html.
114
Deloitte, Expérience de robot conversationnel.
115
EDSC (2018), Note de service à l’intention du sous-ministre de l’Emploi et du Développement social Canada du
gouvernement du Canada : Rapport de situation sur les projets d’intelligence artificielle et d’automatisation. (Ci-
après « EDSC, Note de service »).
116
Ibid., p. 3.
117
Ibid., p. 10.
118
Emploi et Développement social Canada (2019), Note de service à l’intention du sous-ministre délégué principal
d’EDSC et Chef de l’exploitation de Service Canada.
32
 décision administrative au sujet d’un client externe 119. Dans les documents, on indique que le
dirigeant principal des données (DPD) travaille de concert avec le Comité sur la politique en
matière de données en vue d’établir une gouvernance en matière d’IA pour l’organisation par
l’intermédiaire d’algorithmes d’apprentissage machine 120.
D’autres documents reçus d’EDSC mettent en lumière la stratégie relative aux données du
Ministère en ce qui concerne le recours à l’IA dans ses systèmes. On y indique que le problème
principal réside dans le fait qu’EDSC gère une charge de travail très lourde entre plusieurs
directions générales, régions, groupes fonctionnels et programmes et services 121. La gestion d’une
charge de travail d’un volume aussi important est très exigeante en temps et en ressources, et c’est
pourquoi EDSC propose la solution possible de « l’apprentissage profond ». En termes simples,
« l’apprentissage profond » consiste essentiellement en l’apprentissage de tendances agrégées afin
de cerner les risques, de les analyser et d’y répondre. Il permet la reconnaissance de tendances
dans de grands volumes de données, ce qui serait tout simplement impossible par
traitement humain 122. Il comprend un processus à cinq étapes, que voici :

Phase 1 : Sélectionner les données

Des données non structurées ont été utilisées pour la validation de principe. Il s’agissait de
rapports d’audit des dix dernières années. Pour être précis, 107 fichiers et 2 154 pages ont été
traitées 123.

Phase 2 : Base de données de mots

Une banque de 92 intégrations de mots courants, que l’on trouve souvent dans des rapports
d’audit, afin d’indiquer où des énoncés importants se trouvent probablement, a été créée 124.

Phase 3 : Apprentissage machine

Des professionnels de l’audit ont classé manuellement plus de 500 énoncés selon qu’ils posaient
un risque ou pas. Une série de questions binaires de type « Oui ou Non » a ensuite été intégrée à
l’algorithme afin de rendre des décisions sur ce qui est considéré être risqué 125.

Phase 4 : Banque d’énoncés

Une fois que la machine reconnaît les tendances qui lui permettent de déterminer ce qui constitue
probablement un énoncé du risque, une banque ou une liste est créée. La machine attribue ensuite
automatiquement une note afin d’indiquer à quel point elle est certaine d’avoir déterminé que
l’énoncé comportait un risque à cause de la tendance 126.

119
Ibid.
120
Ibid.
121
Conférence nationale (du 30 septembre au 3 octobre 2018), crée une vue intégrée des risques par l’apprentissage
profond.
122
Ibid.
123
Ibid.
124
Ibid.
125
Ibid.
126
Ibid.
33
 Phase 5 : Lier et baliser

La dernière phase comprend le balisage des énoncés dans « l’univers d’audit d’EDSC » où ils sont
liés à des entités vérifiables correspondantes à partir de l’univers d’audit pour fournir des opinions
aux fins d’analyse 127.

Les documents d’EDSC ont également révélé d’importantes considérations relatives au risque en
ce qui concerne les algorithmes génératifs et le recours à la segmentation des clients 128.

127
Ibid.
128
Ibid.
34