0722 Intelligence Artificielle Ia Promesses Et Menaces

Courrier
LE
D E L’ U N E S CO juillet-septembre 2018
Intelligence
artiicielle
Promesses
et menaces
2UJDQLVDWLRQ
GHV1DWLRQV8QLHV
SRXUO¶pGXFDWLRQ
ODVFLHQFHHWODFXOWXUH
Découvrez Abonnez-vous
et faites à la version numérique
découvrir le
100%
Courrier GRATUIT
de l’UNESCO ! http://fr.unesco.org/courier/subscribe
Publié en 9 langues Jouez un rôle

Anglais, arabe, chinois, majeur !
espagnol, esperanto, français, Participez activement
portugais, russe et sarde. à la réussite du Courrier de l’UNESCO
Devenez un partenaire actif en en encourageant sa diffusion et son
proposant de nouvelles éditions utilisation selon la politique de libre accès
linguistiques du Courrier de l’UNESCO. de l’Organisation.
Contact : [email protected] http://fr.unesco.org/open-access
Abonnez-vous à la version papier

• 1 an (4 numéros) : 27 € • 2 ans (8 numéros) : 54 €
La publication ne poursuivant aucun Plus de détails sur : http://publishing.unesco.org

but lucratif, ce prix couvre les coûts réels
d’impression et d’expédition. DL Services – C/O Michot Entrepôts
Tarif préférentiel pour les abonnements Chaussée de Mons 77,
groupés : 10% de remise à partir B 1600 Sint Pieters Leeuw, Belgique
de cinq abonnements. Tél.: (+ 32) 477 455 329 E-mail: [email protected]
2018 • n° 3 • Publié depuis 1948 Assistante administrative et éditoriale : © UNESCO 2018

Carolina Rollán Ortega ISSN 2220-2269 • e-ISSN 2220-2277
Le Courrier de l’UNESCO est un trimestriel publié
Rédacteurs :
par l’Organisation des Nations Unies pour
l’éducation, la science et la culture. Il promeut Anglais : Shiraz Sidhva
les idéaux de l’Organisation, en difusant des Arabe : Anissa Barrak
Périodique publié en libre accès sous la licence
échanges d’idées sur des thèmes de portée Chinois : Sun Min et China Translation & Attribution-ShareAlike 3.0 IGO (CC-BY-SA 3.0 IGO)
internationale en lien avec son mandat. Publishing House (http://creativecommons.org/licenses/by-sa/3.0/igo/).
Espagnol : Beatriz Juez Les utilisateurs du contenu de la présente publication
Le Courrier de l’UNESCO est publié grâce au Français : Régis Meyran acceptent les termes d’utilisation de l’Archive ouverte
généreux soutien de la République populaire Russe : Marina Yartseva de libre accès UNESCO (https://fr.unesco.org/open-
de Chine. access/terms-use-ccbysa-fr).
Traduction : Françoise Arnaud-Demir,
Directeur : Vincent Defourny La présente licence s’applique exclusivement aux
Marina Colson, Xavier Perret textes. L’utilisation d’images devra faire l’objet d’une
Directrice éditoriale : Jasmina Šopova
Maquette : Corinne Hayworth demande préalable d’autorisation.
Directeur de la production et Les désignations employées dans cette publication et
Illustration de la couverture : © Francesc Roig
de la promotion : Ian Denison la présentation des données qui y igurent n’impliquent
Secrétaire de rédaction : Katerina Markelova Impression : UNESCO de la part de l’UNESCO aucune prise de position
Rédactrice : Chen Xiaorong Co-éditions : Portugais : Ana Lúcia Guimarães quant au statut juridique des pays, territoires, villes
Esperanto : Trezoro Huang Yinbao ou zones, ou de leurs autorités, ni quant au tracé de
Rédactrice numérique : Malahat Ibrahimova Sarde : Diegu Corràine leurs frontières ou limites. Les idées et les opinions
Iconographe : Danica Bijeljac exprimées dans cette publication sont celles des
Renseignements et droits de reproduction : auteurs ; elles ne relètent pas nécessairement les
Production numérique : Denis Pitzalis [email protected] points de vue de l’UNESCO et n’engagent en aucune
Relations médias : Laetitia Kaci 7, place de Fontenoy, 75352 Paris 07 SP, France façon l’Organisation.
Courrier
LE
D E L’ U N E S C O
Pour une de éthique

la recherche en intelligence artiicielle
à l’échelle mondiale
Ces dernières années les progrès ont été De quoi est capable l'IA au stade actuel de Un robot obéit à un ensemble de routines
spectaculaires en matière d’intelligence son évolution ? Jusqu'où va son autonomie ? qui permettent son interaction avec
artiicielle (IA) et donnent lieu à des Qu’en est-il de la décision humaine ? nous autres humains mais, pour autant,
inventions qu'on n'aurait pas pensées en-dehors du cadre bien précis au sein
Plus qu’une quatrième révolution industrielle,
possibles. Ordinateurs et robots sont duquel il est censé interagir, il ne peut pas
l’IA est en train de provoquer une révolution
capables d'apprendre à améliorer leur travail nouer de véritable relation sociale.
culturelle. Elle est indéniablement appelée à
et même de prendre des décisions – ce qui
transformer notre futur, mais nous ne savons Il n’empêche que, d’ores et déjà, certaines
se fait bien entendu par le truchement d'un
pas encore de quelle façon. C'est pourquoi des applications de l’IA sont contestables :
algorithme et sans conscience individuelle.
elle fascine et efraie. collecte de données qui empiètent sur la vie
Mais, tout de même, on ne peut manquer
privée, algorithmes de reconnaissance faciale
de se poser des questions. Est-ce qu'une Le Courrier a mené l'enquête et présente
supposés identiier des comportements
machine peut penser ? au lecteur ce qu'il faut retenir de ce
hostiles ou imprégnés de préjugés
nouvel objet de recherche qui se situe à la
raciaux, drones militaires et armes létales
frontière de l'informatique, de l'ingénierie
autonomes... Les problèmes éthiques que l’IA
Œuvre numérique de l’artiste Evgenija et de la philosophie. Au passage, il remet
soulève et ne manquera pas de poser demain
Demnievska, représentant Janus, dieu quelques pendules à l'heure. Car, soyons
– avec une gravité accrue – sont nombreux.
romain pourvu de deux visages, l'un clairs, en l'état actuel des choses l'IA ne
regardant le passé, l’autre, l’avenir. Il préside pense pas. Et nous sommes très loin de Tandis que la recherche avance à toute
à toute transition d'un état à un autre. pouvoir télécharger toutes les composantes allure, pour ce qui est des aspects
d’un être humain dans un ordinateur ! techniques de l’IA, elle piétine, quand il
s’agit de ses aspects éthiques. Certes, de
nombreux chercheurs s’en inquiètent et
certains pays ont entamé une rélexion
sérieuse sur la question, mais aucun cadre
légal n'existe à ce jour pour orienter la
recherche future à l’échelle mondiale.
« Il est de notre responsabilité de mener un
débat universel et éclairé, ain d’entrer
dans cette nouvelle ère les yeux grands
ouverts, sans sacriier les valeurs
qui sont les nôtres, et permettre
d’aboutir à un socle commun
de principes éthiques », déclare
dans ce numéro du Courrier la
Directrice générale de l’UNESCO,
Audrey Azoulay (voir pp. 36-39).
Un instrument normatif
international est indispensable
au développement responsable
de l’IA : une tâche à laquelle
l'UNESCO est en train de s'atteler
et que ce numéro du Courrier
s’eforce de soutenir, en proposant
des pistes de rélexion.
© Evgenija Demnievska
(evgenijademnievska.com) Le Courrier de l’UNESCO • juillet-septembre 2018 |3
Sommaire
GRAND ANGLE
7 Intelligence artiicielle :
entre mythe et réalité
Jean-Gabriel Ganascia
10 La main qui voit

Chen Xiaorong
11 Des robots et des hommes

Vanessa Evers
14 Le chef Giuseppe annonce

une nouvelle ère culinaire
Beatriz Juez
15 Miguel Benasayag : La pensée

n’est pas dans le cerveau !
Propos recueillis par R. Meyran
18 Yoshua Bengio : Contrer

la monopolisation de la recherche
Propos recueillis par J. Šopova
20 Moustapha Cissé :
Démocratiser l’IA en Afrique
Propos recueillis par K. Markelova
22 Yang Qiang :
La quatrième révolution
25
Propos recueillis par W. Chao
La menace des robots tueurs

Vasily Sychev
6-41
29 À notre service,
et non à nos dépens
Tee Wee Ang et Dafna Feinholz
31 Marc-Antoine Dilhac :
Quels risques éthiques ?
Propos recueillis par R. Meyran
42-49
32 Karl Schroeder :
ZOOM
Et si ce n’était que pour le meilleur ?
Propos recueillis par How much can you carry ?
M.C. Pinault Desmoulins ou Le poids de la vie
Floriane de Lassée et
34 Apprendre à vivre à l'ère de l'IA Sibylle d’Orgeval
Leslie Loble
36 Audrey Azoulay :
tirer le meilleur parti de l’IA
40 Glossaire
de l'intelligence artiicielle
4 | Le Courrier de l’UNESCO • juillet-septembre 2018

50-55
IDÉES
Danser l’innommable
ou la question de l’inluence de
la mémoire de l’esclavage sur
la création artistique contemporaine
Alain Foix
56-59
NOTRE INVITÉ
60-66 Malek Bensmaïl : Filmer le réel
ACTUALITÉS
61 L’archipel de Colomb :
les habitants se mobilisent
62 L’homme et la nature réconciliés

Luc Jacquet
64 Des secrets de Tiwanaku

dévoilés par un drone
Lucía Iglesias Kuntz
SPÉCIAL 70 ANS
67-70 Le seul journal que Nelson Mandela
lisait à Robben Island
Annar Cassam
Le Courrier de l’UNESCO • juillet-septembre 2018 |5

Promesses et menaces
Grand angle
Reconnaissance faciale, selon

l’artiste américain Tony Oursler.
© Avec l’aimable autorisation de l’artiste
et de la Galerie Lehmann Maupin,
New York et Hong Kong

Grand angle
Intelligence artiicielle :
entre mythe
et réalité
Jean-Gabriel Ganascia
Cette idée, qui renvoie à des mythes et Plus précisément, cette discipline scientiique
des légendes anciennes, comme celle du reposait sur la conjecture selon laquelle
Les machines risquent-elles Golem, a récemment été réactivée par des toutes les fonctions cognitives, en particulier
de devenir plus intelligentes personnalités du monde contemporain l’apprentissage, le raisonnement, le calcul,
que les hommes ? Non, répond comme le physicien britannique Stephen la perception, la mémorisation, voire même
Jean-Gabriel Ganascia : il s'agit Hawking (1942-2018), l’entrepreneur la découverte scientiique ou la créativité
américain Elon Musk, le futuriste américain artistique, peuvent être décrites, avec
là d'un mythe inspiré par Ray Kurzweil ou encore par les tenants de une précision telle qu’il serait possible
la science-iction. Il rappelle ce que l’on appelle aujourd’hui l’« IA forte » de programmer un ordinateur pour les
les grandes étapes de ce ou l’« IA générale ». Nous ne ferons toutefois reproduire. Depuis plus de soixante ans que
pas plus état, ici, de cette acception seconde, l’IA existe, rien n’a permis ni de démentir, ni de
domaine de recherche, les
car elle atteste uniquement d’un imaginaire démontrer irréfutablement cette conjecture
prouesses techniques actuelles foisonnant, inspiré plus par la science-iction qui demeure à la fois ouverte et féconde.
et les questions éthiques qui que par une réalité scientiique tangible
conirmée par des expérimentations et des
requièrent des réponses de plus
observations empiriques.
Une histoire
en plus urgentes. en dents de scie
Pour John McCarthy et Marvin Minsky,
L’intelligence artiicielle (IA) est une comme pour les autres promoteurs de Au cours de sa courte existence, l’IA a connu
discipline scientiique qui a vu oiciellement l’école d’été du Dartmouth College, l’IA de nombreuses évolutions. On peut les
le jour en 1956, au Dartmouth College, à visait initialement à la simulation, par des résumer en six étapes.
Hanovre, aux États-Unis, lors d’une école machines, de chacune des diférentes
facultés de l’intelligence, qu’il s’agisse de Le temps des prophètes
d’été organisée par quatre chercheurs
américains : John McCarthy, Marvin Minsky, l’intelligence humaine, animale, végétale, Tout d’abord, dans l’euphorie des origines
Nathaniel Rochester et Claude Shannon. sociale ou phylogénétique. et des premiers succès, les chercheurs
Depuis, le terme « intelligence artiicielle », s’étaient laissé aller à des déclarations un
qui à l’origine avait sans doute été inventé peu inconsidérées qu’on leur a beaucoup
pour frapper les esprits, a fait fortune, Ce bébé robot, baptisé CB2, a été reprochées par la suite.
puisqu’il est devenu très populaire au point construit par Minoru Asada (Japon) pour
qu’aujourd’hui plus personne ne l’ignore, comprendre le processus d’apprentissage
que cette composante de l’informatique des machines. Ici, CB2 apprend à ramper.
a pris de plus en plus d’ampleur au il
du temps et que les technologies qui en
sont issues ont grandement contribué à
changer le monde pendant les soixante
dernières années.
Cependant, le succès du terme « intelligence
artiicielle » repose parfois sur un
malentendu lorsqu’il désigne une entité
artiicielle douée d’intelligence et qui, de
ce fait, rivaliserait avec les êtres humains.
© Max Aguilera-Hellweg / INSTITUTE

Grand angle
Cela donna naissance à des applications

industrielles (identiication d’empreintes
digitales, reconnaissance de la parole,
etc.), où des techniques issues de l’IA, de
C’est ainsi qu’en 1958, l’Américain Herbert L’IA sémantique l’informatique, de la vie artiicielle et d’autres
Simon, qui deviendrait par la suite prix
Les travaux ne s’interrompirent pas pour disciplines se côtoyaient pour donner des
Nobel d’économie, avait déclaré que d’ici à
autant, mais on axa les recherches dans systèmes hybrides.
dix ans les machines seraient championnes
de nouvelles directions. On s’intéressa à la
du monde aux échecs, si elles n’étaient pas De l’IA aux interfaces
psychologie de la mémoire, aux mécanismes
exclues des compétitions internationales. homme-machine
de compréhension, que l’on chercha à
Les années sombres simuler sur un ordinateur, et au rôle de À partir de la in des années 1990, on
la connaissance dans le raisonnement. coupla l’IA à la robotique et aux interfaces
Au milieu des années 1960, les progrès
C’est ce qui donna naissance aux homme-machine, de façon à produire
tardaient à se faire sentir. Un enfant de
techniques de représentation sémantique des agents intelligents qui suggèrent la
dix ans avait battu un ordinateur au jeu
des connaissances, qui se développèrent présence d’afects et d’émotions. Cela
d’échecs en 1965 ; un rapport commandé
considérablement dans le milieu des années donna naissance, entre autres, au calcul des
par le Sénat américain faisait état, en 1966,
1970, et conduisit aussi à développer émotions (afective computing), qui évalue
des limitations intrinsèques de la traduction
des systèmes dits experts, parce qu’ils les réactions d’un sujet ressentant des
automatique. L’IA eut alors mauvaise presse
recouraient au savoir d’hommes de métiers émotions et les reproduit sur une machine,
pendant une dizaine d’années.
pour reproduire leurs raisonnements. et surtout au perfectionnement des agents
Ces derniers suscitèrent d’énormes conversationnels (chatbots).
espoirs au début des années 1980 avec de
multiples applications, par exemple pour Renaissance de l’IA
le diagnostic médical. Depuis 2010, la puissance des machines
Le premier calculateur numérique Néo-Connexionnisme et permet d’exploiter des données de
électronique programmable connu, masse (big data) avec des techniques
apprentissage machine
l'ENIAC (Electronic Numerical Integrator d’apprentissage profond (deep learning),
and Computer), inauguré en 1946, avait Le perfectionnement des techniques qui se fondent sur le recours à des réseaux
un volume de 30 m3 et pesait 30 tonnes. conduisit à l’élaboration d’algorithmes de neurones formels. Des applications très
Mis au point à l'université de Pennsylvanie d’apprentissage machine (machine learning), fructueuses dans de nombreux domaines
(États-Unis), il a été utilisé jusqu’en 1955, qui permirent aux ordinateurs d’accumuler (reconnaissance de la parole, des images,
d'abord pour des calculs balistiques de des connaissances et de se reprogrammer compréhension du langage naturel, voiture
l’armée américaine et ensuite pour la automatiquement à partir de leurs autonome, etc.) conduisent à parler d’une
résolution de problèmes de physique propres expériences. renaissance de l’IA.
nucléaire et de météorologie.
Photo: Domaine public / Photo de l’armée des États-Unis

Grand angle

Avec l’IA, non seulement, la plupart des
dimensions de l’intelligence – sauf peut-
être l’humour – font l’objet d’analyses et
de reconstructions rationnelles avec des
ordinateurs, mais de plus les machines
outrepassent nos facultés cognitives dans
la plupart des domaines, ce qui fait craindre
à certains des risques éthiques. Ces risques
sont de trois ordres : la raréfaction du travail,
qui serait exécuté par des machines à la
© BBP/EPFL 2015
place des hommes ; les conséquences pour
l’autonomie de l’individu, en particulier pour
sa liberté et sa sécurité ; le dépassement
de l’humanité qui disparaîtrait au proit de
machines plus « intelligentes ».
Simulation d’activité dans un microcircuit
de neurones virtuels de rat (2015), Or, un examen de détail montre que le
par l’équipe du Blue Brain Project travail ne disparaît pas, bien au contraire,
Applications (BBP), un pan du Human Brain Project mais qu’il se transforme et fait appel à
européen (HBP). Selon les scientiiques, de nouvelles compétences. De même,
Beaucoup de réalisations mettant à il s’agit d’une étape vers la simulation du l’autonomie de l’individu et sa liberté
proit des techniques d’IA dépassent les fonctionnement d’un cerveau humain. ne sont pas inéluctablement remises en
facultés humaines : une machine a vaincu, cause par le développement de l’IA, à
au jeu d’échecs, le champion du monde condition toutefois de demeurer vigilants
en titre en 1997 et, plus récemment, en Par ailleurs, les scientiiques utilisent ces face aux intrusions de la technologie dans
2016, d’autres l’ont emporté sur l’un des techniques pour déterminer la fonction de la vie privée.
meilleurs joueurs au monde au jeu de certaines macromolécules biologiques, en
go et sur d’excellents joueurs de poker ; particulier de protéines et de génomes, à Enin, contrairement à ce que certains
des ordinateurs démontrent ou aident à partir de la séquence de leurs constituants prétendent, les machines ne constituent
démontrer des théorèmes mathématiques ; – acides aminées pour les protéines, bases aucunement un risque existentiel pour
on construit automatiquement des pour les génomes. Plus généralement, l’humanité, car leur autonomie n’est que
connaissances à partir de masses immenses toutes les sciences subissent une rupture d’ordre technique, en cela qu’elle ne
de données dont le volume se compte épistémologique majeure avec les correspond qu’à des chaînes de causalités
en téraoctets (1012 octets), voire en expérimentations dites in silico, parce matérielles qui vont de la prise d’information
pétaoctets (1015 octets), avec les techniques qu’elles s’efectuent à partir de données à la décision ; en revanche, les machines n’ont
d’apprentissage machine. massives, grâce à des processeurs puissants pas d’autonomie morale, car, même s’il arrive
dont le cœur est fait de silicium, et qu’elles qu’elles nous déroutent et nous fourvoient
Grâce à ces dernières, des automates dans le temps de l’action, elles n’ont pas
s’opposent en cela aux expérimentations
reconnaissent la parole articulée et la de volonté propre et restent asservies aux
in vivo, sur le vivant, et, surtout, in vitro,
transcrivent, comme les secrétaires objectifs que nous leur avons ixés.
c’est-à-dire dans des éprouvettes de verre.
dactylographes d’antan, et d’autres
identiient avec précision des visages ou des Ces applications de l’IA afectent presque
empreintes digitales parmi des dizaines de tous les domaines d’activités, en particulier Professeur d’informatique à Sorbonne
millions et comprennent des textes écrits dans les secteurs de l’industrie, de la banque, Université, Jean-Gabriel Ganascia (France)
en langage naturel. Toujours grâce à ces des assurances, de la santé, de la défense : en est également chercheur au LIP6, EurAI
techniques d’apprentissage machine, des efet, de nombreuses tâches routinières sont fellow, membre de l’Institut Universitaire de
voitures se conduisent seules ; des machines désormais susceptibles d’être automatisées, France et président du comité d’éthique du
diagnostiquent mieux que des médecins ce qui transforme bien des métiers et CNRS. Ses activités de recherche portent
dermatologues des mélanomes à partir de éventuellement en supprime certains. actuellement sur l’apprentissage machine,
photographies de grains de beauté prises sur la fusion symbolique de données, l’éthique
la peau avec des téléphones portables ; des computationnelle, l’éthique des ordinateurs
robots font la guerre à la place des hommes et les humanités numériques.
(voir p. 25-28) ; et des chaînes de fabrication
dans les usines s’automatisent toujours plus.

Grand angle
La main qui voit

Chen Xiaorong
Conçue par
des ingénieurs
biomédicaux
de l'université de
Newcastle (Royaume-Uni),
cette main bionique intuitive,
capable de « voir » les objets
et de les saisir avec précision
et luidité, va changer la vie
des personnes handicapées
des membres supérieurs.
Jusqu’à présent, il fallait que la personne Ses recherches sont aujourd’hui motivées
Cette main bionique est capable d’attraper équipée voie l’objet, stimule physiquement par l’espoir de pouvoir restaurer les
aisément et rapidement n’importe quel objet, les muscles de son bras et insule un fonctions des personnes atteintes de
grâce à une caméra qui le photographie et mouvement à la prothèse. Dans la nouvelle déicience sensorimotrice.
en évalue la forme et la dimension. version, une minuscule caméra (d’un coût
Le schéma électromécanique et le
© Newcastle University, UK inférieur à 1,50 dollar), ixée sur la main
programme informatique de la nouvelle
bionique, photographie l’objet, en évalue
main bionique, tous deux disponibles en
la forme et la dimension et déclenche une
ligne, pourront être installés, ou si nécessaire
Lorsque Doug McIntosh, un amputé prenant série de mouvements luides pour l’attraper,
adaptés, sur diférents types de prothèses de
part à l’essai clinique, est parvenu, pour la tout cela en l’espace de quelques secondes.
membres supérieurs.
première fois depuis vingt ans, à s’emparer
Il suit à l’individu d’un coup d’œil dans la
d’un objet rapidement, précisément et sans « Nous fabriquons le système de commande
bonne direction. La main sélectionne alors,
efort, la joie a illuminé son visage. Pour de l’appareil et du logiciel, mais pas celui
grâce à l’intelligence artiicielle, l’un des
le concepteur de la main bionique dont il de la main artiicielle », indique Kianoush
quatre modes de préhension – saisir une
était équipé, il n’y avait pas de plus grande Nazarpour, qui précise que le matériel
tasse, tenir une télécommande, prendre
récompense. informatique nécessaire ne coûte qu’un
un objet entre le pouce et deux doigts, ou
dollar. Au-delà de l’intérêt évident
« C’était le signe que j’avais vu juste », rayonne en pinçant le pouce et l’index. L’appareil
qu’elle présente pour les handicapés,
le docteur Kianoush Nazarpour, ingénieur en est dix fois plus rapide que les membres
cette main bionique, couplée à un robot
biomédecine à l’Institut de neurosciences de bioniques existants.
intelligent, pourrait intéresser l’industrie et
l’Université de Newcastle, au Royaume-Uni.
« La sensibilité a toujours été l’un des les entreprises.
Sa main bionique vient de décrocher un prix
principaux obstacles en matière de prothèses.
de l’innovation à la Netexplo 2018. On compte au Royaume-Uni environ
Leur utilisation exigeait de la pratique, de
600 nouveaux amputés des membres
Cette nouvelle génération de membres la concentration et du temps », explique
supérieurs chaque année, et aux États-Unis
artiiciels permet aux appareillés de Kianoush Nazarpour. « Les prothèses ont
ce chifre monte à 500 000. « Notre projet est
saisir un objet sans l’aide du cerveau, très peu évolué depuis un siècle : le design
de coopérer avec de nombreux fabricants de
automatiquement et sans y penser. Et cela, s’est amélioré, les matériaux sont plus légers
prothèses et nous avons besoin de construire
exactement comme avec une vraie main... et plus solides, mais le fonctionnement reste
des réseaux », note Kianoush Nazarpour.
le même. Ce dispositif est bien plus lexible
« J’espère que cela pourra aider des milliers de
puisque la main est capable de saisir des objets
personnes à travers le monde ».
inconnus : une avancée cruciale », ajoute-t-il.
Kianoush Nazarpour, qui se consacre
depuis 1999 à l’amélioration des prothèses,
a grandi en Iran où il rêvait d’être docteur
en médecine.

Grand angle
Des robots et
des hommes
© Pascal Meunier / Cosmos
Les résidents de la maison de retraite

Tsukui, dans la ville de Kawasaki au
Vanessa Evers Japon, font un peu de gymnastique avec
Nous vivons à une époque où des robots leur coach Pepper (2015).
font le ménage, transportent des personnes,
Pour qu'un agent artiiciel désamorcent des bombes, construisent
endosse un véritable rôle social des prothèses, secondent des chirurgiens, Nos emplois auront radicalement changé :
fabriquent des produits, nous divertissent, certains auront disparu et d’autres seront
et établisse une relation sensée
nous enseignent et nous surprennent. De créés, comme par exemple dans le domaine
avec un être humain, il devrait même que la connectivité actuelle des du développement d’applications destinées
être doté d’un proil à la fois smartphones et des médias sociaux dépasse aux plateformes robotiques pour nos
psychologique, culturel, social notre imagination d’antan, on s’attend foyers. L’éducation, elle aussi, devra changer
à ce que les futurs robots soient dotés radicalement (voir p. 34-35). Nos sens et nos
et émotionnel. Les méthodes de capacités physiques, et l’intelligence cerveaux pourraient être artiiciellement
actuelles d’apprentissage des artiicielle (IA) d’aptitudes cognitives, augmentés, et notre capacité de réléchir
machines ne permettent pas totalement impensables aujourd’hui, aux perspectives ofertes sera probablement
un tel développement. Les robots leur permettant de résoudre de graves améliorée par l’analyse automatisée de
problèmes comme le vieillissement de la grandes quantités de données : tout cela
de demain seront nos humbles société, les menaces écologiques et les exigera un autre traitement de l’information
assistants, sans plus. conlits mondiaux. dans les écoles.
À quoi ressembleront nos journées dans Mais qu’en sera-t-il de nos rapports humains ?
un avenir prochain ? Nous vivrons sans Comment évoluera la façon dont nous nous
doute plus longtemps, puisque des organes rencontrons, vivons ensemble, élevons nos
synthétiques viendront remplacer les enfants ? Et dans quelle mesure la fusion
parties défaillantes de notre corps, que les entre robots et hommes aura-t-elle lieu ?
interventions médicales nanométriques
Nous sommes nombreux à nous demander si
cibleront les maladies et les gènes et que
l’IA pourra un jour devenir brillante et experte
les véhicules autonomes limiteront les
en communication humaine, au point que
accidents de la circulation.
plus rien ne permettrait de distinguer l’être
humain de son jumeau artiiciel.
Le Courrier de l’UNESCO • juillet-septembre 2018 | 11

Grand angle
S’il devenait possible de communiquer

naturellement avec un agent artiiciel, de se
sentir épaulé au point de s’en remettre à lui
et de nouer une relation sensée et durable,
subsisterait-il une distinction entre nos
relations interhumaines et nos relations avec
la technologie ? Et quand nos corps et nos
esprits auront été augmentés par l’IA et la
robotique, quel sera le sens de l’humain ?
Astuces
Du point de vue de l’ingénierie, on est encore
bien loin de telles avancées. Il nous faudra
d’abord surmonter plusieurs obstacles
sérieux. Le premier est lié au fait que la
plupart des robots et ordinateurs sont reliés
à des sources d’énergie : cela complique
l’intégration d’éléments robotiques dans
les tissus organiques humains. Un second
écueil est la complexité de la communication
humaine. S’il est envisageable qu’un
robot puisse converser en langage naturel
© Pascal Meunier / Cosmos
ponctuellement et dans une situation

spéciique, c’est autre chose que de
l’imaginer engager une communication
à la fois verbale et non verbale au il des
conversations et des contextes.
Si, par exemple, vous appeliez un agent
artiiciel responsable des objets trouvés
dans un aéroport, un échange satisfaisant
serait possible : l’objet de l’appel est
circonscrit, l’interaction structurée et les
objectifs de l’appelant limités. Par contre, Or, pour nouer avec lui une relation sensée, Lorsqu’on entre l’une de ces séquences
pour instaurer une relation plus poussée capable de s’intensiier et d’évoluer avec vidéos dans un ordinateur, celle-ci se voit
avec un robot animal de compagnie, le le temps dans le contexte varié de la vie attribuer une mention indiquant si la
modèle à produire est bien plus complexe. quotidienne, comme le font entre eux les personne ilmée est ou non à son aise – cet
Le robot doit avoir des objectifs internes, humains, il faut doter le robot d’une vie étiquetage peut être réalisé par des experts
de grandes capacités de mémoire pouvant intérieure riche. en psychologie ou en culture locale.
relier chaque expérience aux divers
Cet apprentissage permet ensuite à
contextes, personnes, objets et animaux
rencontrés, et il doit pouvoir développer de
Comment les machines l’ordinateur de « raisonner » à partir de
telles capacités dans le temps. apprennent-elles ? ces vidéos étiquetées, et d’identiier les
principaux traits associés au sentiment
Un certain nombre d’« astuces » permettent La diiculté, pour créer cette vie intérieure de bien-être : posture corporelle, timbre
à un robot de paraître plus intelligent artiicielle, tient au mode d’apprentissage de voix, rougeur de la peau. Lorsque la
et capable qu’il ne l’est réellement : des machines. machine a identiié les traits associés au
par exemple en y introduisant des bien-être, l’algorithme ainsi créé, capable
L’apprentissage machine est basé sur
comportements aléatoires, qui rendent le de les détecter sur une vidéo, peut être
l’exemple. On nourrit l’ordinateur d’exemples
robot animal de compagnie intéressant plus entraîné et perfectionné lorsqu’on lui fournit
du phénomène qu’on souhaite qu’il
longtemps. À cela s’ajoute que nous autres d’autres séries de séquences. L’algorithme
comprenne, comme, par exemple, le bien-
humains avons une tendance à interpréter devient inalement robuste et un ordinateur
être chez l’être humain. Pour enseigner à la
le comportement d’un robot comme celui équipé d’une caméra peut, avec précision,
machine à reconnaître cet état de bien-être,
d’un humain, tout comme nous le faisons distinguer une personne en situation de
on lui fournit des données personnelles
avec les animaux, du reste. bien-être d’une autre qui ne l’est pas. Bien
connexes : images, vidéos, enregistrements
sûr, l’ordinateur n’est pas iable à 100 % et
de paroles, pulsations cardiaques, messages
commettra nécessairement des erreurs
postés sur les médias sociaux, et autres
d’appréciation.
types d’échantillons.

Grand angle
Il est possible de créer un agent convaincant On voit l'IA accomplir d’incroyables exploits,
comme l’Alexa d’Amazon ou le Siri d’Apple, lire tout l’Internet, gagner au jeu de go,
à qui on peut s’adresser en langage naturel diriger une usine entièrement automatisée.
et avec qui on peut avoir une interaction Mais, tout comme le physicien britannique
sensée dans le cadre précis de son utilisation : Stephen Hawking (1942-2018) se sentait
régler l’alarme d’un réveil, dresser une liste, encore à mille lieues de comprendre
commander un produit, baisser le chaufage. l’univers, nous sommes à mille lieues de
comprendre l’intelligence humaine.
Néanmoins, dès qu’on sort de ce contexte,
la communication tourne court. Le robot
trouvera des réponses acceptables à un Ce n’est pas pour demain
large éventail de questions, mais sera
incapable de poursuivre une conversation Les capacités exceptionnelles des robots et
d’une heure sur un sujet complexe. Deux des systèmes artiiciellement intelligents
parents, par exemple, peuvent entamer pourront faciliter et améliorer nos prises
de longues discussions pour décider de de décision, notre compréhension des
l’attitude à adopter face à un enfant qui n’est situations et nos façons d’agir. Les robots
pas attentif à l’école. Cette conversation sera pourront alléger le travail ou automatiser
extrêmement riche, les parents y apportant les tâches. Une fois les obstacles surmontés,
non seulement leur compréhension la robotique sera peut-être physiquement
de leur enfant, mais aussi tout ce qui intégrée au corps humain. Nous nouerons
constitue leur personnalité : émotions, aussi avec des agents artiiciels des
psychologie, histoire personnelle, contexte relations comparables à celles que nous
socioéconomique, bagage culturel, bagage entretenons entre nous : nous pourrons ainsi
génétique, habitudes de comportement et communiquer avec eux en langage naturel,
compréhension du monde. observer leurs comportements, comprendre
leurs intentions. Mais aucune relation
Si nous voulons qu’un agent artiiciel sensée comparable à celle des humains,
endosse un rôle social aussi vaste et avec ses conversations et ses rituels, son
établisse une relation sensée avec un être approfondissement et son évolution au il
humain, nous devons le doter d’un proil du temps dans le cadre foisonnant de la vie
Les robots, une main-d’œuvre nouvelle synthétique, construit à la fois du point quotidienne, n’est possible si l’on ne dote
génération, remédient à la pénurie de de vue psychologique, culturel, social et pas l’IA d’une vie intérieure conséquente.
personnel soignant dans les hôpitaux au émotionnel. Nous devons aussi le rendre
Japon. Riba, inventé par Toshiharu Mukai, capable d’apprendre avec le temps à Tant que nous saurons seulement en
est capable de porter des patients de 80 kilos. « ressentir » et à réagir aux situations à partir reproduire ou surpasser certaines fonctions,
de cette construction synthétique interne. et non créer cette globalité de l’intelligence
humaine placée dans le riche contexte du
Maintenant que nous savons comment Cela exige une approche fondamentalement quotidien, on a peu de chances d’assister
apprend une machine, qu’est-ce qui diférente de l’apprentissage machine que à la pleine intégration des hommes et des
s’oppose à ce qu’on crée une vie intérieure l’on connaît actuellement. Il s’agirait de bâtir machines.
convaincante permettant à un agent un système artiiciellement intelligent qui se
artiiciel de s’intégrer harmonieusement développerait à peu près comme un cerveau
dans la société humaine ? humain, en étant capable d’intérioriser la Spécialisée dans le développement des
richesse des expériences humaines et d’avoir solutions robotiques, Vanessa Evers
un raisonnement sur elles. La manière dont
Vers un proil les gens communiquent entre eux et en
(Pays-Bas) est professeur titulaire en
informatique au sein du groupe Human
synthétique complexe viennent à comprendre le monde qui les Media Interaction de l’université de Twente
entoure est un processus extraordinairement et directrice scientifique du DesignLab. Elle
Pour qu’un agent artiiciel soit capable compliqué à synthétiser. Les modèles d’IA a publié près de 200 publications revues
de nouer une relation réellement durable disponibles ou envisagés s’inspirent du par les pairs et est rédactrice en chef à
avec une personne, il faut qu’il soit doté cerveau humain ou d’une partie de son l’International Journal of Social Robotics et
d’une personnalité et de comportements fonctionnement, mais ne constituent pas un rédactrice associée au Journal of Human-
convaincants, qu’il comprenne la personne, modèle plausible de cerveau humain. Robot Interaction.
la situation dans laquelle tous deux se
trouvent et l’histoire de leur communication.
Il doit surtout être capable de poursuivre
celle-ci sur des sujets divers et dans des
situations variées.

Grand angle
Le chef Giuseppe annonce une

nouvelle
ère culinaire
Giuseppe ne cesse de surprendre par ses
mélanges d’ingrédients, auxquels nul être
humain n’aurait pensé. « Pour la mayonnaise,
nous utilisons le lupin, qui, mélangé à certains
© Cristhian Guzmán / Paula Magazine
composants du pois chiche, donne une

émulsion très proche de celle de l’œuf. Nous
avons utilisé des champignons pour rehausser
la sensation de sucré dans un chocolat et des
graines d’alpiste pour modiier la densité de
certains laits », révèle le cofondateur.
NotCo veut révolutionner l’industrie
alimentaire en lançant sur le marché des
Karim Pichara, Matías Muchnick aliments sains et goûteux obtenus à partir
et Pablo Zamora, fondateurs de Il a été baptisé en l’honneur de Giuseppe de plantes, d’un prix abordable et dont la
The Not Company. Arcimboldo (1527-1593), le peintre italien production ne nuise pas à l’environnement.
dont les portraits à base de leurs, de Pour l’instant, il n’est présent que sur le
fruits, de plantes et d’animaux ont fait la marché chilien, mais NotCo espère bientôt
renommée. « Ses tableaux nous disent qu’on s’étendre à l’Argentine, au Brésil et à
peut tout résoudre avec de l’intelligence, du la Colombie.
Beatriz Juez
talent et beaucoup de fruits et de légumes »,
explique Pablo Zamora, biochimiste, docteur Mayonnaise végétale
Giuseppe peut changer en biotechnologie et cofondateur, avec
Au Chili, l’entreprise commercialise déjà
fondamentalement nos habitudes Matías Muchnick et Karim Pichara, de NotCo.
« NotMayo », un assaisonnement végétalien
alimentaires. Ce grand chef La passion de notre Giuseppe n’est pas la proche de la mayonnaise, sans OGM, ni lactose,
cuisinier futuriste n’est autre peinture, mais la cuisine. Pour trouver la ni gluten, ni œufs, ni soja. Tout dans l’aspect
bonne recette, ce chef intelligent fouille une et le goût rappelle la célèbre sauce, sauf que,
qu’un algorithme ! Il a été créé base de données de plantes et d’aliments comme le dit l’étiquette, elle est « préparée à
par l’entreprise chilienne The Not et détecte les plantes qui doivent être partir d’ingrédients végétaux, et rien d’autre ».
Company (NotCo), une start-up combinées et les proportions nécessaires D’autres produits seront lancés bientôt : yaourt,
fondée à Santiago du Chili en pour produire le goût et la texture désirés. lait, fromage, chocolat et céréales.
2015 par trois jeunes Chiliens. « Il trouve des liens insolites entre des plantes Pablo Zamora assure que 85 % de leurs
Grâce à l’intelligence artiicielle, qu’il a préalablement caractérisées au niveau clients ne sont ni véganes ni végétariens, et
moléculaire, nutritionnel, sensoriel et physico- qu’ils achètent ses produits parce qu’ils les
ils produisent des substituts chimique », explique Pablo Zamora, qui apprécient et qu’ils savent qu’ils sont bons
alimentaires à partir d’ingrédients était présent au Forum 2018 de Netexplo, pour la santé et pour l’environnement. Chez
végétaux, reconstituant avec observatoire indépendant qui étudie les NotCo, on est persuadé que c’est le début
tendances du numérique et leur impact sur d’une nouvelle ère culinaire. Leur devise :
précision non seulement le goût
la société et les entreprises. Le Forum était « Changeons sans changer ! », autrement dit,
mais aussi la couleur, la texture organisé en février au Siège de l’UNESCO mangeons mieux et autrement, sans nous
et les nutriments des aliments à Paris (France). rendre compte que c’est diférent.
d’origine animale. Tout cela fait de Mais Giuseppe n’est pas seul aux L’industrie alimentaire doit elle aussi
Giuseppe l’un de dix lauréats de fourneaux. Il est soutenu par une équipe de modiier ses modes de production, estime
Netexplo Innovation 2018. scientiiques et de chefs cuisiniers chargés le biochimiste, qui rappelle que, selon
de perfectionner la recette. « Il fait parfois l’Organisation des Nations Unies pour
des erreurs », reconnaît le biochimiste. l’alimentation et l’agriculture (FAO), il faut
« Il est capable de nous fabriquer un lait 1 500 litres d’eau pour produire un kilo de blé
parfait… mais rose ! L’équipe informe alors et dix fois plus pour produire un kilo de viande.
Giuseppe du problème et celui-ci recalcule Il en est convaincu : appliquée aux aliments,
l’algorithme de la recette du lait, qui retrouve l’intelligence artiicielle nous permettra de
sa couleur habituelle ». contribuer au développement durable.

Grand angle
La pensée
n’est pas dans le cerveau !
Miguel Benasayag répond

aux questions de Régis Meyran
Dans l’expression « intelligence

artiicielle » (IA), le mot « intelligence »
n'est qu'une métaphore. Car, si sa
capacité calculatoire dépasse celle
© Jordi Isern (www.jordiisern.net)
de l’homme, l’IA est incapable

de donner une signiication à ses
propres calculs. Pour le philosophe
et psychanalyste argentin Miguel
Benasayag, réduire toute la
complexité du vivant à un code
informatique est illusoire, tout
Œuvre de la série Constellations (2014) de
comme l’idée qu’une machine peut l’artiste espagnol Jordi Isern.
se substituer à l'homme est absurde.
Qu’est-ce qui distingue l’intelligence Deux ordinateurs du programme Google Mais peut-on avoir une relation amoureuse
humaine de l’artiicielle ? Brain seraient parvenus à communiquer avec un robot ? Non, car l’amour et l’amitié
entre eux dans une « langue » qu’ils auraient ne se réduisent pas à un ensemble de
L’intelligence vivante n’est pas une machine
eux-mêmes créée et qui serait indéchifrable transmissions neuronales dans le cerveau.
à calculer. C’est un processus qui articule
pour l’homme... Qu’en pensez-vous ?
l’afectivité, la corporéité, l’erreur. Elle suppose L’amour et l’amitié existent au-delà de
la présence du désir et d’une conscience Cela n’a tout simplement aucun sens. En l’individu, au-delà même de l’interaction
chez l’être humain de sa propre histoire sur réalité, à chaque fois qu’on lance ces deux entre deux personnes. Quand je parle, je
le long terme. L’intelligence humaine n’est machines, elles répètent systématiquement participe à quelque chose que nous avons
pas pensable en dehors de tous les autres la même séquence d’échange d’informations. en commun, la langue. Il en va de même
processus cérébraux et corporels. Et cela n’a rien d’une langue, cela ne pour l’amour, l’amitié et la pensée : ce sont
communique pas. C’est une mauvaise des processus symboliques auxquels les
Contrairement à l’homme, ou à l’animal,
métaphore, comme celle consistant à dire humains participent. Personne ne pense
qui pense à l’aide d’un cerveau situé
que la serrure « reconnaît » la clé. en soi. Un cerveau donne son énergie pour
dans un corps, lui-même inscrit dans un
participer à la pensée.
environnement, la machine produit des calculs Dans le même ordre d’idées, certaines
et des prédictions sans être capable de leur personnes disent qu’elles sont « amies » avec À ceux qui croient que la machine peut
donner une signiication. La question de savoir un robot. Il existe même des applications penser, nous devons répondre : ce serait
si une machine peut se substituer à l’homme, pour smartphone qui sont supposées vous étonnant qu’une machine pense, puisque
est en réalité absurde. C’est le vivant qui crée permettre de « dialoguer » avec un robot. même le cerveau ne pense pas !
du sens, pas le calcul. Nombre de chercheurs Voyez le ilm Her, de Spike Jonze (2013) :
en IA sont convaincus que la diférence entre après une série de questions posées à un
intelligence vivante et intelligence artiicielle homme, qui permettent de cartographier
est quantitative, alors qu’elle est qualitative. son cerveau, une machine fabrique une
voix et des réponses qui déclenchent un
sentiment amoureux chez cet homme.

Grand angle
Selon vous, le fait de réduire le vivant à un

code constitue le défaut principal de l’IA.
En efet, certains spécialistes de l’IA
sont tellement éblouis par leurs
prouesses techniques, un peu comme
des petits garçons fascinés par leur jeu
de construction, qu’ils perdent la vue
d’ensemble. Ils tombent dans le piège
du réductionnisme.
Le mathématicien américain et père de la
cybernétique Norbert Wiener écrivait en
1950, dans The Human Use of Human Beings
(Cybernétique et société), qu’on pourra un jour
« télégraphier un homme ». Quatre décennies
plus tard, l’idée transhumaniste du mind
uploading est élaborée sur le même fantasme,
selon lequel le monde réel tout entier
peut être réduit à des unités d’information
transmissibles d’un hardware à un autre.
L’idée que le vivant peut être modélisé en
unités d’information se retrouve aussi chez
le biologiste français Pierre-Henri Gouyon,
par exemple, avec qui j’ai publié un livre
d’entretiens, Fabriquer le vivant ? (2012).
Il voit dans l’acide désoxyribonucléique
© Laurent Philippe / Divergence
(ADN) le support d’un code qu’on peut

déplacer sur d’autres supports. Mais quand
on estime que le vivant peut être modélisé
en unités d’information, on oublie que la
somme d’unités d’information n’est pas la
chose vivante, et on ne s’inquiète pas de
faire des recherches sur le non-modélisable.
La prise en compte du non-modélisable
ne renvoie pas à l’idée de Dieu, ni à Pour le philosophe grec, la vraie vie n’était J’y vois l’émergence d’une nouvelle forme
l’obscurantisme, quoi qu’en pensent certains. pas dans le monde physique, elle était dans de conservatisme, alors même que c’est moi
Les principes d’imprédictibilité et d’incertitude les idées. Pour les transhumanistes, vingt- qui passe pour un bioconservateur, car je
sont présents dans toutes les sciences exactes. quatre siècles plus tard, la vraie vie n’est pas m’oppose à la philosophie transhumaniste.
C’est pourquoi l’aspiration à la connaissance dans le corps, elle est dans les algorithmes. Mais lorsque mes adversaires me traitent
totale des transhumanistes s’inscrit dans un Le corps n’est pour eux qu’un simulacre : il de réactionnaire, ils utilisent le même type
discours technolâtre, parfaitement irrationnel. faut en extraire un ensemble d’informations d’arguments que les hommes politiques
Si elle connaît un grand succès, c’est qu’elle est utiles, et se débarrasser de ses défauts qui prétendent moderniser ou réformer,
capable d’étancher la soif de métaphysique naturels. C’est ainsi qu’ils entendent pendant qu’ils détruisent les droits sociaux
de nos contemporains. Les transhumanistes atteindre l’immortalité. d’un pays et qu’ils taxent de conservateurs
rêvent d’une vie dans laquelle ils auraient ceux qui veulent conserver leurs droits !
chassé toute incertitude. Or, dans le quotidien, J’ai eu l’occasion, lors de colloques
comme dans la recherche, il faut bien se scientiiques, de rencontrer plusieurs L’hybridation entre l’homme et la machine
coltiner les incertitudes, l’aléatoire… membres de l’Université de la Singularité est déjà une réalité.
[à orientation transhumaniste] qui C’est aussi un idéal transhumaniste.
Selon la théorie transhumaniste, nous serons portaient un médaillon autour du cou,
un jour capables d’atteindre l’immortalité Tout reste à faire pour comprendre le
pour signiier qu’en cas de décès, leur tête
grâce à l’IA. vivant et l’hybridation, car le monde
sera cryogénisée.
de la technique biologique ignore
Dans le bouleversement postmoderne aujourd’hui encore presque tout de la vie,
actuel, où la relation entre les choses n’est qui ne se réduit pas aux seuls processus
plus pensée, où le réductionnisme et physicochimiques modélisables. Cela
l’individualisme dominent, la promesse dit, le vivant est déjà hybridé avec la
transhumaniste prend la place de machine et il le sera certainement encore
la caverne de Platon. davantage avec les produits issus des
nouvelles technologies.

Grand angle
Qu’est-ce qui vous inquiète le plus?

Je suis inquiet du succès démesuré de la
logique d’innovation. La notion de progrès
a fait long feu. Elle a été remplacée par
l’idée d’innovation, qui est bien diférente :
elle ne contient ni point de départ, ni point
d’arrivée, elle n’est ni bonne, ni mauvaise.
Il faut donc la questionner de façon critique.
Le traitement de texte sur ordinateurs est
bien plus performant que la machine à
écrire Olivetti que j’utilisais dans les années
1970 : pour moi, c’est un progrès. Mais, à
l’inverse, tout smartphone contient plusieurs
dizaines d’applications, et peu de gens se
posent la question de combien parmi elles
leurs sont vraiment nécessaires. La sagesse
consiste à rester à distance de la fascination
que provoquent le divertissement et
l’eicacité des nouvelles technologies.
Par ailleurs, dans une société déboussolée,
qui a perdu ses grands récits, le discours
transhumaniste est très inquiétant : il
infantilise les humains, et ne prend aucune
distance avec la promesse technologique.
En Occident, la technique a toujours renvoyé
à l’idée de dépassement des limites. Déjà
au XVIIe siècle, le philosophe français René
Descartes, pour qui le corps était une
machine, avait imaginé la possibilité d’une
pensée hors du corps. C’est une tentation
humaine que de rêver que, par la science, on
va se libérer de notre corps et de ses limites
– ce que le transhumanisme pense enin
Robot (2013), création pour danseurs et pouvoir réaliser.
Il existe de nombreuses machines, avec robots de la chorégraphe franco-espagnole
Blanca Li, qui pose un regard interrogatif Mais le rêve d’un homme post-organique
lesquelles nous travaillons et auxquelles tout-puissant et hors-limite a des
nous déléguons un certain nombre de sur un monde habité par des machines
et des hommes. conséquences en tous genres sur la société.
fonctions. Sont-elles toutes nécessaires ? Il me semble qu’il devrait même être analysé
C’est toute la question. J’ai travaillé sur dans un rapport spéculaire avec la montée
l’implant cochléaire et la culture sourde : des fondamentalismes religieux, qui se
il existe des millions de sourds qui Prenez le cas du GPS : on a observé des recroquevillent sur les supposées valeurs
revendiquent leur propre culture – qui n’est chaufeurs de taxi à Paris et à Londres, naturelles de l’humain. Je les vois comme
pas assez respectée – et refusent l’implant deux villes labyrinthiques. Alors que les deux intégrismes irrationnels en guerre.
cochléaire car ils préfèrent s’exprimer dans Londoniens conduisaient en s’orientant
la langue des signes. Cette innovation, eux-mêmes, les Parisiens utilisaient
qui pourrait écraser la culture des sourds, systématiquement leur GPS.
Philosophe et psychanalyste argentin.
constitue-t-elle un progrès ? La réponse Au bout de trois ans, des tests
Miguel Benasayag est un ancien résistant
ne va pas de soi. psychologiques ont montré que les
guévariste au péronisme, il réussit à fuir
noyaux sous-corticaux qui s’occupent de
Avant tout, nous devons veiller à ce que l’Argentine en 1978 après y avoir été
cartographier le temps et l’espace étaient
l’hybridation se fasse dans le respect emprisonné et torturé, et réside désormais
atrophiés chez ces derniers (des atrophies
de la vie. Or, ce à quoi nous assistons à Paris, en France. Il a publié récemment
certainement réversibles si la personne
aujourd’hui n’est pas tant l’hybridation que Cerveau augmenté, homme diminué (2016)
abandonne cette pratique). Ils étaient
la colonisation du vivant par la machine. et La singularité du vivant (2017).
afectés d’une sorte de dyslexie qui les
À force d’externaliser, de nombreuses
empêchait de se repérer dans le temps et
personnes ne se rappellent plus de rien.
dans l’espace. C’est cela la colonisation :
Elles ont des problèmes de mémoire qui ne
la zone est atrophiée car la fonction
résultent pas de pathologies dégénératives.
est déléguée sans être remplacée par
quoi que ce soit.

Grand angle
Contrer
la monopolisation de la recherche
© The Canadian Press / Graham Hughes
Yoshua Bengio : « Nous devons encourager

Yoshua Bengio répond aux questions Depuis environ cinq ans, on assiste à un une plus grande diversité dans le monde
de Jasmina Šopova véritable engouement pour la recherche économique associé à l’IA, et éviter
fondamentale en IA de la part de quelques une situation de monopole. »
géants de l’informatique, qui y investissent
L’intelligence artiicielle (IA) n’en des sommes considérables. Comment
est qu’à ses débuts, « son niveau expliquer ce phénomène ? L’IA permettra donc à ces compagnies
de raisonnement est très supericiel, La réponse est très simple. La science a de vendre plus, de s’enrichir et d’être
il n’est même pas équivalent atteint, dans le domaine de l’IA, un niveau capables de rémunérer davantage
à celui d’une grenouille », de maturité qui la rend très utile pour les encore les chercheurs qu’elles recrutent.
entreprises. L’accumulation des données de En augmentant leur clientèle, elles
estime Yoshua Bengio, l’une augmentent la quantité de données
masse (big data) et la puissance de calcul
des vedettes mondiales de accrue facilitent le développement de auxquelles elles ont accès – et ces données
l’apprentissage profond (deep nouveaux produits de l’IA, qui seront demain sont une véritable mine d’or qui rend le
learning). Néanmoins, elle pose encore plus rentables qu’aujourd’hui. système encore plus performant.
déjà de graves problèmes de Actuellement, lorsque nous faisons des Tout cela crée un cercle vertueux pour ces
recherches sur Internet, nous sommes en entreprises, qui est par ailleurs malsain
monopolisation et de répartition
permanence sollicités par des publicités pour la société. Une telle concentration du
inéquitable, qui ne pourront être ciblées – et ce sont elles qui font vivre les pouvoir peut avoir un impact négatif à la
résolus qu’à l’échelle mondiale. compagnies comme Facebook, Amazon, fois sur la démocratie et sur l’économie. Elle
Une coordination internationale Youtube, etc. Pour l’heure, les produits favorise les grandes entreprises et ralentit la
de l’IA ne constituent qu’une toute petite capacité des jeunes entreprises à se placer
s’impose en matière de sur le marché, même si elles ont de meilleurs
part du marché, mais les économistes
développement de l’IA. prévoient que d’ici à une dizaine d’années, produits à proposer.
ils atteindront jusqu’à 15 % de la production
totale des biens. C’est énorme.

Grand angle
Nous devons encourager une plus grande Quelle est la proportion de chercheurs
diversité dans le monde économique qui travaillent aujourd’hui dans
associé à l’IA et éviter une situation de le domaine académique ?
monopole.
Si je me ie à la population que je rencontre
Mais le monopole est déjà en train de lors des grandes conférences internationales,
s’installer. Comment y remédier ? je dirais que c’est à peu près la moitié. Il y a
cinq ans, pratiquement tous les chercheurs en
Par des lois antimonopoles. L’histoire nous
IA travaillaient dans le domaine académique.
enseigne qu’elles peuvent être eicaces
contre l’excès de pouvoir de certaines Les sociétés privées recrutent des talents
entreprises. Souvenons-nous de Standard du monde entier. Est-ce que cela contribue
Oil, aux États-Unis, qui achetait ses à la fuite des cerveaux dans les pays moins
concurrents pour monopoliser le marché développés?
du pétrole, ou d’Hollywood qui détenait,
Inévitablement. C’est pourquoi nous devons
jusqu’au milieu du XXe siècle, 70 % des
réléchir collectivement aux moyens de
salles de cinéma et imposait sa loi sur la
faire bénéicier les pays les plus pauvres des
distribution des ilms. Les condamnations
résultats les plus récents de la recherche,
de ces sociétés et de quelques autres ont
mais aussi de créer des centres de recherche
contribué à rééquilibrer les marchés.
au sein de leurs universités. En Afrique, par
Je crois que des réglementations judicieuses exemple, de plus en plus d’établissements
de la publicité peuvent grandement académiques proposent des formations
contribuer à empêcher la mise en place de en IA et l’on organise des universités
monopoles dans le domaine de la recherche d’été (voir pp. 20-21) qui
en IA. Nous sommes tous, en quelque sorte, s’avèrent très utiles.
prisonniers de la publicité et nous oublions
Par ailleurs, il existe
souvent que nous pourrions prendre une
un grand nombre de
décision collective pour la réglementer de
cours, de tutoriels
façon à ce qu’elle ne soit pas néfaste pour
et de codes
la société. Par ailleurs, les services fournis par
disponibles en ligne Scannage du cerveau, vu par le dessinateur
les grandes sociétés privées comme Google
gratuitement. Je rencontre beaucoup français Bernard Bouton.
ou Facebook, pourraient très bien être
de jeunes qui se sont formés grâce à © Bernard Bouton / Cartoon Movement
publics, comme par exemple la télévision
l’Internet. Il faut donc aussi chercher les
qui fournit un service semblable.
meilleurs moyens de les aider à se former
Vous avez décidé de ne pas travailler dans par eux-mêmes.
le privé, n’est-ce pas ?
Certain pays investissent beaucoup dans la Il faudrait avant tout sensibiliser le grand
Oui, je veux rester neutre. Mon projet est de recherche en IA, et notamment le Canada. public et les décideurs politiques aux enjeux
développer une science accessible à tous de l’IA. Dans certaines parties du monde,
En efet, le Canada a décidé de inancer non
et pas seulement à quelques actionnaires. les chercheurs ont déjà lancé des alertes
seulement la recherche fondamentale et
Je tiens à ce que la recherche se développe sur les problèmes majeurs, et les médias
d’aider la création de start-up, mais aussi
de manière à viser les applications les plus et le grand public ont réagi. Ce sont les
d’investir dans la rélexion collective et dans
utiles pour l’humanité et pas nécessairement premières étapes qui devront nous mener
la recherche en sciences humaines, pour
les plus rentables pour l’économie. vers une concertation politique plus large,
permettre d’évaluer l’impact social de l’IA.
mondiale, sur les problèmes que pose cette
Cela dit, j’ai essayé de créer à l’université À l’initiative de l’université de Montréal, un
discipline, notamment en matière d’éthique,
de Montréal, où je travaille, un écosystème débat a été ouvert le 3 novembre 2017, en
d’environnement et de sécurité.
commun et mutuellement bénéique vue d’élaborer la Déclaration de Montréal
à la recherche et à l’industrie. Plusieurs pour un développement responsable de
laboratoires privés se sont installés dans la l’IA. Cette démarche vise essentiellement Chercheur et enseignant à l’université
capitale québécoise, qui collaborent avec à établir des orientations éthiques dans le de Montréal, Yoshua Bengio (Canada)
nous. Des chercheurs de l’industrie sont développement de l’IA, à l’échelle nationale. est professeur titulaire du Département
employés comme professeurs associés à Dans la première phase de ce processus de d’Informatique et Recherche Opérationnelle
l’université et contribuent à la formation longue haleine, qui invite le grand public à (DIRO), directeur du MILA, l’Institut
des étudiants. Les entreprises font des dons débattre auprès d’experts et de décideurs d’intelligence artificielle du Québec, co-
aux universités en leur laissant l’entière politiques, sept valeurs ont été identiiées : directeur du programme Learning in
liberté de choisir dans quels domaines de bien-être, autonomie, justice, vie privée, Machines and Brains de l’Institut Canadien
recherche ils vont les investir. connaissance, démocratie et responsabilité. de Recherches Avancées, et titulaire de
la Chaire de Recherche du Canada sur les
Où en est cette rélexion à l’échelle
algorithmes d’apprentissage statistique. Les
internationale ?
résultats de ses recherches ont été cités plus
À ma connaissance, il n’existe pas de traité de 80000 fois (données de septembre 2017).
international qui régisse la recherche en IA. Yoshua Bengio est arrivé au Québec en
Pourtant, il s’agit là d’enjeux internationaux 1977, à l’âge de douze ans, avec ses parents
et, sans coordination à l’échelle d’origine marocaine auparavant établis à
internationale, nous ne parviendrons pas à Paris. Il est Officier de l’Ordre du Canada et
avancer dans la bonne direction. membre de la Société Royale du Canada.

Grand angle
Démocratiser l’IA en
Moustapha Cissé répond aux questions de Katerina Markelova

Afrique
Il a trente-deux ans. ll est né et a grandi au Sénégal où il a fait des études
universitaires de mathématiques et de physique. Il a obtenu son master
en intelligence artiicielle (IA) en France et au Canada. C’est à Paris
ensuite qu’il a conduit son doctorat. Il y a deux ans, il a rejoint Facebook Je crois qu’en tant que communauté
Artiicial Intelligence Research (FAIR), organisme qui implante depuis scientiique, nous pourrions avoir un impact
2013 ses laboratoires de recherche fondamentale à travers le monde : beaucoup plus important si nous nous
New York, Menlo Park (Californie), Seattle, Paris, Montréal… Tel est, en penchions sur les problèmes de ces gens-là
pour y apporter des solutions.
bref, le parcours de Moustapha Cissé, qui nous parle de ses recherches,
ses motivations et ses espoirs. Concrètement, comment pensez-vous
que la vie des gens puisse être améliorée
grâce à l’IA ?
Quels sont les projets sur lesquels vous Des études ont montré que les systèmes Lorsque vous ofrez la possibilité à des
travaillez au sein du laboratoire parisien de reconnaissance faciale fonctionnaient personnes d’accéder aux informations
de FAIR ? mieux avec des visages d’Européens qui leur sont utiles pour tisser des liens
qu’avec ceux d’Africains, par exemple. Il en sociaux, s’intégrer plus rapidement dans un
Les sujets qui m’intéressent particulièrement
est de même pour des systèmes d’IA qui environnement, trouver du travail, etc., vous
sont la iabilité, l’équité et la sécurité de
permettent d’identiier des cancers de la améliorez leur vie. Si vous utilisez l’IA pour
l’IA. En 2017, avec un groupe de collègues
peau : ils donnent de meilleurs résultats diagnostiquer de façon plus précoce leurs
nous avons été les premiers à élaborer
chez les patients blancs que chez les maladies et proposer des thérapies, vous
des algorithmes [Houdini] qui permettent
patients noirs. Par ailleurs on a constaté améliorez aussi leur vie.
d’évaluer la robustesse des systèmes
que certains systèmes marchaient mieux
intelligents, quel que soit le média : L’IA est déjà en train de changer beaucoup
avec des hommes qu’avec des femmes. Il
son, vidéo ou autre. La robustesse des d’industries et je souhaiterais qu’elle soit
y a donc toute une dimension axiologique
algorithmes est essentielle pour la sécurité mise à la disposition de tous ceux qui en ont
qui a été négligée lors du développement
des produits de l’IA. Imaginez ce qui pourrait besoin – et non seulement d’une partie de
de ces systèmes. Je m’eforce, avec d’autres
advenir si quelqu’un de malintentionné la population mondiale – pour relever les
collègues, d’intégrer cette dimension dès le
voulait changer l’algorithme qui conduit diférents déis de ce siècle. Pour ma part,
début de la construction des modèles d’IA
votre voiture autonome ! Tout système j’essaie de faire avancer les choses dans ce
sur lesquels nous travaillons. C’est un aspect
informatique peut subir des attaques sens, à mon échelle. Et je demeure convaincu
très important du développement de l’IA, si
de l’extérieur (piratage, modiication que la communauté de chercheurs en IA est
nous voulons qu’elle soit capable d’ofrir les
malveillante), c’est pourquoi il est essentiel en train de faire des pas de géant.
mêmes avantages à tous.
de s’assurer de sa capacité à leur résister.
Comment faire accéder les plus démunis
Vous avez dit un jour que la communauté
D’autres travaux, que j’ai publiés récemment à ces avancées technologiques ?
de chercheurs en IA devrait cesser de
avec un collègue, consistent à doter les
s’intéresser exclusivement aux problèmes de Si l’on veut que cette technologie soit
algorithmes intelligents de la capacité de
l’homme blanc. accessible à tous, elle doit être enseignée
traiter équitablement tous les êtres humains,
partout. C’est par l’éducation qu’on la mettra
c’est-à-dire que leurs comportements ne J’appelle « problèmes de l’homme blanc »
entre les mains de ceux qui en ont besoin.
soient pas diférents selon que vous êtes un toutes ces avancées technologiques qui
Et je vous garantis que si vous leur donnez
homme ou une femme, noir ou blanc, etc. sont de l’ordre de la réalité en Occident et
les moyens, les gens sauront trouver des
de l’ordre de l’imaginaire ailleurs, comme
En d’autres termes, j’essaie de faire en sorte solutions adaptées à leurs propres problèmes.
les voitures autonomes, par exemple.
que les algorithmes soient non seulement
En Afrique, mais aussi dans plusieurs Depuis trois ans, j’ai commencé, avec un
aussi iables que possible, mais aussi adaptés
régions d’Asie ou d’Amérique du Sud, les groupe d’amis, à enseigner l’IA dans les
que possible aux besoins et valeurs de la
gens ont d’autres problèmes à régler au universités d’été organisées en Afrique
société humaine qu’ils sont censés servir.
quotidien, dont les solutions dépendent par Data science Africa, un groupe
de technologies beaucoup moins professionnel de partage des connaissances
sophistiquées et pourtant inexistantes. à but non lucratif. Chaque été, pendant
une semaine ou deux, nous initions aux
diférentes techniques de l’IA des étudiants
et des enseignants désireux de découvrir
cette discipline scientiique.

Grand angle
© Maurice Mbikayi / Image courtesy of Gallery MOMO
Narcisuring Netizenship (2015),

L’année dernière, nous avons lancé, avec Je suis conscient que ce n’est pas suisant et
sculpture de Maurice Mbikayi, artiste de
d’autres amis, l’initiative Black in AI, qui nous que des actions de plus grande envergure
la République démocratique du Congo qui
a permis de réunir plus de de 200 chercheurs sont nécessaires, mais je reste optimiste.
s’intéresse tout particulièrement à l’impact
noirs (sans compter les Américains), à
S’agit-il d’initiatives que vous lancez de votre de la technologie contemporaine sur
la trentième édition de la plus grande
propre chef ou dans le cadre de votre travail l'humanité, notamment en Afrique.
conférence scientiique en IA au monde,
au FAIR ?
Neural Information Processing Systems (NIPS
2017). Les années précédentes, nous n’étions Ce sont des initiatives que j’ai lancées
même pas une dizaine, sur un total de plus personnellement avec des amis, mais j’ai
de cinq mille participants. À notre modeste reçu un appui logistique et inancier de
niveau, nous essayons donc de démocratiser la part de Facebook, qui a notamment
l’IA et l’accès à l’information sur la discipline. sponsorisé en grande partie la participation
d’une cinquantaine de jeunes chercheurs
africains à la conférence évoquée plus haut.

Grand angle
La quatrième
révolution
Yang Qiang répond aux questions de Wang Chao
Après la troisième révolution industrielle déclenchée par l’Internet

et l’Internet mobile, les technologies de l’intelligence artiicielle (IA),
associées aux données de masse (big data), préparent une quatrième
révolution qui bousculera probablement les équilibres mondiaux.
Comment s’est opérée la convergence entre Comment les entreprises peuvent-elles

l’intelligence artiicielle (IA) et les données s’adapter à cette nouvelle donne ?
de masse ?
La première chose à faire, avant de vous
Cette convergence date du début des lancer dans une activité quelconque, c’est de
années 2000. Quand Google et Baidu – réléchir à la façon dont vous allez collecter
les nouveaux moteurs de recherche de les données. Vous devez aussi connaître
l’époque – ont utilisé l’IA pour créer des vos besoins en fonction des algorithmes et
systèmes de recommandation personnalisée collecter les données – de sources diférentes
pour leurs annonces publicitaires, ils se – dans un but précis. Enin, les services
sont aperçus que les résultats étaient bien fournis par un système logiciel devraient
meilleurs que ce à quoi ils s’attendaient. pouvoir stimuler la source pour qu’elle
Et plus ils collectaient de données sur produise plus de données, qui, à leur tour,
chaque utilisateur, meilleurs étaient les viendront alimenter le système, formant
résultats. Mais, à l’époque, personne n’avait ainsi une « boucle fermée ». Cela crée un
compris que ce serait aussi le cas dans processus continu d’auto-amélioration et
d’autres domaines. d’auto-ajustement du système. La conception
d’une « boucle fermée » est un processus très
Le vrai tournant est survenu avec ImageNet,
diférent de celui qu’on utilisait jusqu’ici pour
la plus grande base de données de
les activités économiques.
reconnaissance d’images du monde. Créée
par des informaticiens des universités de Pouvez-vous nous en dire davantage
© Raquel Kogan / photo Domingues Freitas
Stanford et de Princeton, aux États-Unis, elle sur ce concept de « boucle fermée » ?

a donné le coup d’envoi de la révolution
La première chose à prendre en considération,
de l’apprentissage profond (deep learning).
ce sont les fournisseurs de données –
La vaste quantité de données visuelles
les utilisateurs, par exemple. Tous leurs
réunies par ImageNet a permis de réduire
comportements doivent être enregistrés
de 10 % le taux d’erreurs d’identiication.
sous forme de données. Ensuite, il faut
Cela a montré que la convergence entre
tenir compte des prestataires de services,
l’apprentissage profond et des données
comme WeChat Pay, le porte-monnaie
de masse permettait la maîtrise de calculs
mobile chinois, ou Taobao, le site Web de
extrêmement complexes.
commerce électronique chinois. La rétroaction
Comment déiniriez-vous le rapport entre intelligente s’appuie sur les données pour Rélexion#2, installation de l’artiste
l’apprentissage profond et les données comprendre les besoins des utilisateurs. brésilienne Raquel Kogan : des nombres
de masse ? Ceux-ci fournissent des données en retour au générés automatiquement par
prestataire de service, et celui-ci fournit à son un ordinateur sont projetés dans
C’est une relation de renforcement mutuel.
tour les données de service aux utilisateurs. une salle sombre de sorte que
Si un système d’IA est bien conçu, il n’en
Tout cela forme une « boucle fermée ». les corps des spectateurs s’intègrent
sera que plus commode à utiliser, plus
directement à l’œuvre.
précis, et donc plus utile. Il y aura de plus Pour aller vite, la boucle doit être entièrement
en plus d’utilisateurs, et donc plus de automatisée et le processus d’actualisation
données, qui, à leur tour, amélioreront fréquent (plusieurs fois par jour), de sorte que
le système. Fusionnées, les données de le système soit constamment mis à jour. Il doit
masse et l’IA peuvent donner naissance à être continu, aussi, pour que les utilisateurs
un nouveau type d’IA, qu’on peut appeler soient incités à envoyer en permanence des
« données intelligentes ». informations en retour. Bref, le processus doit
être court, fréquent et rapide.

Grand angle
L’IA remodèlera vraiment

la société humaine,
lui donnera sa forme future
Je pense que c’est dans cette seconde phase

que l’IA remodèlera vraiment la société
humaine, lui donnera sa forme future.
Ce sera un peu comme à l’époque de
l’apparition de l’Internet : au début, une
librairie traditionnelle créait une page Web
et se considérait comme une librairie en
ligne – ce qu’elle n’était pas. Ce n’est que
plus tard que des sites Web comme Amazon
sont apparus.
La combinaison des données de masse et de
l’IA pourrait aussi menacer la vie privée et
l’équité sociale.
Cette combinaison engendrera de nouveaux
modèles économiques qui seront excellents.
Toutefois, la condition préalable à la mise
en œuvre de ces modèles économiques à
grande échelle est de garantir la vie privée
de ses utilisateurs. Là, nous avons trois
problèmes à régler :
D’abord, il nous faut créer des règles sociales
et juridiques protégeant la propriété des
données, disant clairement quand les
données peuvent être utilisées et quand
elles ne le peuvent pas. Les données des
utilisateurs devraient être classées dans
diférentes catégories : rouge, pour les
données entièrement protégées, jaune, pour
celles à accès limité et verte, pour celles qui
sont libres d’accès. Il n’y a aucun consensus
à l’heure actuelle sur le classement des
données. De plus, il n’existe aucune loi
qui déinirait le proil de la personne
responsable et les sanctions encourues en
cas d’infraction à ces règles de droit.
Ensuite, il faut protéger techniquement
la conidentialité des données. À titre
d’exemple, 4Paradigm (prestataire de service
et de technologie d’IA installé à Beijing) se
À votre avis, combien de temps faudra-t-il La seconde phase verra apparaître des penche actuellement sur « l’apprentissage
avant que cette « boucle fermée » devienne secteurs industriels entièrement nouveaux, de la migration » des données (migration
une réalité ? au cœur desquels on trouvera l’IA. Par learning) pour protéger la vie privée, ce
exemple, une banque qui utiliserait qui est un domaine relativement nouveau.
Je pense que le développement de l’IA se Par exemple, l’entreprise A élabore un
l’IA comme technologie fondamentale
fera en deux temps. Dans une première modèle, qui peut ensuite être transféré
pourrait lui laisser l’entière maîtrise de
phase, tous les secteurs d’activité essaieront vers l’entreprise B. Plutôt que d’échanger
ses placements, de ses services et de ses
d’utiliser la technologie. Par exemple, les données entre A et B, les données sont
crédits. Les employés de banque n’auraient
les services de sécurité et de protection intégrées dans le modèle et, de ce fait,
plus qu’à procéder à quelques petits
utiliseront la technologie de reconnaissance mieux protégées.
ajustements. Il serait aussi possible de créer
faciale ; le secteur bancaire utilisera l’IA pour
des systèmes de service à la clientèle d’un
maîtriser les risques, et ainsi de suite. Ce sont
genre entièrement nouveau.
là des technologies et des solutions uniques
qui servent des secteurs qui existent déjà.

Grand angle
Enin, il faut intensiier la recherche sur les Quel sera l’impact de la combinaison des Expert international de premier plan en IA
rapports entre vie privée des utilisateurs données de masse et de l’IA sur les pays en et en exploitation de données, Yang Qiang
et tariication des données. Quand développement ? (Chine) est le premier président chinois de
un utilisateur clique sur une publicité l’International Joint Conferences on Artificial
Je pense qu’elle permettra à certains
en ligne proposée par un système de Intelligence (IJCAI). Membre de l’Association
pays émergents de rattraper et même
recommandation piloté par une IA, une for the Advancement of Artificial
de dépasser des pays développés, car la
part des bénéices devrait-elle revenir Intelligence (AAAI), il dirige le Département
concurrence économique dépendra avant
au système ? Si un moteur de recherche d’informatique et d’ingénierie de la Hong
tout de la quantité et de la rapidité du
engrange des revenus, une part de ces Kong University of Science and Technology
passage à l'économie des données (data
revenus devrait-elle être redistribuée aux et est co-fondateur et responsable
economy). Par exemple, le développement
utilisateurs ? Voilà des questions qu’il est scientifique de 4Paradigm.
rapide de l’Internet et de l’Internet mobile
intéressant de se poser.
chinois a permis de collecter une vaste Journaliste, Wang Chao (Chine) est chef
Au cours des prochaines années, tout le quantité de données. Cela va accélérer le d’équipe au studio d’intelligence artificielle
monde se rendra compte de l’importance développement du secteur chinois de l’IA, de NetEase News, qui couvre les principaux
de l’IA. Nous devrons être plus attentifs à la qui pourrait bien changer la face du monde. événements dans le secteur de l’IA.
forme qu’elle prendra et à quels domaines
D’un autre côté, si un pays dispose déjà
on l’appliquera. Aujourd’hui, la inance,
d’une bonne infrastructure et d’un système
l’Internet et les véhicules automatisés
éducatif de bonne qualité, il peut tirer
sont des domaines qui s’y prêtent
avantage de l’IA pour améliorer l’eicacité
particulièrement.
de sa production. Tout comme l’utilisation
de la machine à vapeur a permis à certains
pays de se développer plus rapidement que
Chants d’ANAGURA, une exposition
d’autres lors de la révolution industrielle.
interactive présentant un champ de
recherche étudiant la collecte, le traitement
et l'utilisation de données relatives à la
position et au comportement humain.
© Avec l’aimable autorisation de Miraikan, Musée national des science émergentes et de l’innovation, Tokyo, Japon

Grand angle
La menace des
robots tueurs
© RYGER / Shutterstock
L’opinion publique se mobilise de

plus en plus contre le développement
Vasily Sychev des armes létales autonomes.
L’intelligence artiicielle (IA) connaît de nombreuses applications dans la

sécurité et le domaine militaire. Sur le terrain, elle facilite les manoeuvres Grâce au développement des technologies
et permet de sauver des vies en cas d’avaries. Elle accroît la performance informatiques, les systèmes de combat
du futur deviendront plus autonomes
des armées, en fournissant des alliés robots aux combattants. Selon que les systèmes actuels. D’une part,
certains experts, les armes létales automatiques (SALA) sont en train cette autonomisation constituera sans
de créer la troisième révolution de la guerre, après la poudre à canon et aucun doute une aide précieuse pour les
combattants. D’autre part, elle apportera
l’arme nucléaire. On ne peut manquer de s’inquiéter du jour où seront
son lot de déis et de risques : course aux
opérationnelles des armées de robots capables de mener les hostilités armements entre pays, absence de règles
de façon complètement autonome. et de lois dans les zones de combat et
irresponsabilité dans la prise de décisions.
Aujourd’hui, de nombreux entrepreneurs,
De nombreuses entreprises, dans le monde
décideurs et scientiiques cherchent à
entier, mènent d’importantes recherches
interdire l’emploi de systèmes de combat
scientiiques dans le domaine de l’intelligence
autonomes, alors que les militaires assurent
artiicielle (IA). Les résultats obtenus à ce jour
qu’au combat, la décision inale – tuer ou
sont excellents : l’IA a déjà appris à prédire le
non – sera prise par un humain.
risque de développer un diabète au moyen
d’une montre « intelligente » ou à distinguer, Nous voulons y croire mais, faut-il le
de par leur apparence, les nævus de certains rappeler, l’arme nucléaire – cette arme qui
types de cancers. Ce puissant outil, qui n’aurait jamais dû voir le jour et qui s’était
surpasse l’intelligence humaine par l’une de heurtée, dès la phase embryonnaire de sa
ses caractéristiques les plus importantes – conception, à de nombreux opposants –
la vitesse – intéresse également les militaires. a pourtant bel et bien été utilisée.

Grand angle
Le principe du système est le suivant : l’IA suit

de près les yeux et le visage de la personne
et met en parallèle ses expressions faciales
avec les images que cette personne regarde.
Si une image attire l’attention de la personne
(cela signiie que l’expression de son visage
ou la direction de son regard change), le
logiciel la déplace automatiquement dans
un dossier thématique. Ainsi, lors des essais,
on a montré à un soldat un ensemble
d’images divisées en cinq catégories
principales : bateaux, pandas, fruits rouges,
papillons et lustres. On lui a demandé de ne
compter que les images de la catégorie qui
l’intéressait. Les images déilaient au rythme
d’une par seconde. L’IA en a « conclu » que le
combattant était intéressé par la catégorie
des bateaux et a copié ces images dans un
dossier distinct.
Sur le théâtre
d’opérations
Mais l’IA peut aussi aider les militaires au
combat. C’est ainsi qu’en Russie, on achève
actuellement l’élaboration du chasseur de
cinquième génération Su-57, qui pourra
être mis en service d’ici à la in de l’année.
Le logiciel de l’ordinateur de bord de ce
chasseur comporte des éléments d’IA. Ainsi,
en vol, le chasseur analyse en permanence
l’état de l’air, sa température, sa pression
et de nombreux autres paramètres. Si le
pilote essaye d’efectuer une manœuvre
et si le système « estime » que cette action
entraînera une chute, la commande
du pilote sera ignorée. Lorsqu’un avion
Dessin initialement réalisé en vue décroche en vrille, ce même système
d’une publication dans Crisis in Zefra, récit indique au pilote comment redresser le
ictionnel de Karl Schroeder, interviewé chasseur et en reprendre le contrôle.
Par ailleurs, le Centre de renseignement
dans ce même numéro du Courrier. géospatial de l’université du Missouri, Pendant ce temps, le Japon développe son
© Kalman Andrasofszky
aux États-Unis, a développé un système propre chasseur de cinquième génération,
d’IA capable de localiser rapidement et dont le prototype, le X-2 Shinshin (« Âme »
avec précision des dispositifs de missiles en japonais), a efectué son premier vol en
Un assistant virtuel antiaériens sur des images satellitaires et avril 2016. Un vaste réseau de capteurs, qui
aériennes. Sa capacité de recherche est analyseront l’état de chaque élément de
Comme dans toutes les autres sphères de jusqu’à 85 fois plus rapide que celle des l’avion et détermineront les dommages qu’il
l’activité humaine, l’IA peut grandement experts humains. Pour former le réseau aura subis, permettra à celui-ci de « survivre ».
faciliter et accélérer le travail dans le neuronal qui sous-tend ce système, on a Si, lors d’un combat, son aile ou son
domaine de la sécurité. Ainsi, des chercheurs utilisé des photos représentant diférents empennage est endommagé, son système de
de l’université de Grenade, en Espagne, types de missiles antiaériens. Une fois le bord reconigurera le contrôle de sorte que
développent actuellement un logiciel système entraîné, on l’a testé sur un jeu de la maniabilité et la vitesse de l’avion restent
capable, à l’aide de réseaux neuronaux, photos : en seulement 42 minutes, il a trouvé pratiquement inchangées. L’ordinateur du
de détecter presque instantanément et 90 % des dispositifs de défense. Il a fallu à des chasseur japonais sera capable de prédire
avec une très grande précision des armes experts 60 heures de travail pour résoudre le l’heure de la panne complète d’un élément
légères – pistolets, mitraillettes, mitrailleuses même problème, avec le même résultat. endommagé, de sorte que le pilote pourra
– sur des images vidéo. Les systèmes de décider de poursuivre le combat ou de
Il existe également des applications
sécurité modernes comprennent un grand retourner à la base.
plus complexes de l’IA. Le laboratoire
nombre de caméras de surveillance, dont les
de recherche de l’armée américaine, À ce titre, l’IA constitue une « aubaine » –
opérateurs ne peuvent tout simplement pas
par exemple, développe un système si tant est que l’on puisse utiliser ce terme
visionner chaque image. L’IA est donc très
informatique qui analyse la réaction humaine pour des armes et des systèmes de combat.
utile pour analyser ces images, détecter la
à une image donnée. Il sera utile aux
présence d’armes et en informer les agents
analystes militaires, contraints de visionner
dans un temps record.
et de systématiser des milliers de photos
et des heures d’enregistrements vidéo.

Grand angle
Un programme complexe capable de

résoudre de manière optimale un problème
Robots-tueurs
particulier dix fois plus vite qu’un humain Sa rapidité d’analyse et sa capacité Le 1er septembre 2017, le président russe,
pourra non seulement faciliter le travail d’un d’apprentissage rendent l’IA attrayante Vladimir Poutine, a déclaré, lors d’une
avion de reconnaissance, d’un opérateur de pour les systèmes de combat. Les militaires, conférence publique prononcée dans
drones ou d’un commandant de système bien qu’ils ne l’admettent toujours pas, une école de Yaroslavl : « L’IA représente
de défense aérienne, mais aussi sauver sont probablement déjà tentés de créer l’avenir non seulement de la Russie, mais de
des vies. Il pourra venir à la rescousse des systèmes de combat capables de toute l’humanité. Elle ofre des possibilités
de personnes en détresse dans un sous- fonctionner sur le champ de bataille de colossales, accompagnées de menaces
marin (extinction ponctuelle d’incendies manière entièrement autonome, c’est-à-dire diicilement prévisibles aujourd’hui. Ceux qui
dans les compartiments abandonnés par étant aptes à identiier une cible, ouvrir le prendront la tête dans ce domaine dirigeront
les humains), de pilotes d’avions ou de feu sur celle-ci, se déplacer et choisir les le monde », a-t-il déclaré, avant d’ajouter
combattants de chars armés endommagés. trajectoires optimales leur permettant de qu’il est « fortement indésirable que quelqu’un
se mettre à l’abri. obtienne un monopole. Donc, si nous sommes
les leaders dans ce domaine, nous partagerons
Il y a quelques années, les autorités militaires
ces technologies avec le monde entier ».
des États-Unis, de Russie, d’Allemagne,
Peut-on en déduire pour autant que nous ne
de Chine et de plusieurs autres pays ont
sommes pas au début d’une nouvelle ère de
annoncé que la création de systèmes de
course aux armements ?
combat entièrement autonomes n’était
pas leur objectif. Dans le même temps, Sur Terre, un nombre croissant de zones
les militaires ont noté que de tels systèmes sont protégées de manière iable par
seront vraisemblablement créés. des systèmes antiaériens et antimissiles,
surveillées par des systèmes satellitaires et
L’an dernier, le département américain de
sans pilote, et patrouillées par des navires et
la Défense a achevé d’élaborer la « Troisième
des avions. Dans l’esprit des militaires, seuls
stratégie de compensation » (Third Ofset
les systèmes de combat dotés d’IA pourront,
Strategy) et commencé à la mettre en
en cas de guerre, pénétrer ces zones fermées
œuvre. Ce document implique, entre autres,
et y opérer avec une certaine liberté.
le développement actif d’innovations
techniques et leur utilisation dans les Il existe déjà aujourd’hui des systèmes de
travaux militaires futurs. combat capables de détecter et de classer
leurs cibles, et de commander le tir de
missiles antiaériens, comme par exemple
les systèmes de missiles sol-air S-400 en
Russie. Le système américain d’information
Aegis, qui contrôle l’armement des navires
de guerre, fonctionne de la même façon. Le
long de la zone démilitarisée, à la frontière
avec la République populaire démocratique
de Corée, la République de Corée a posté
plusieurs robots militaires SGR-A1 chargés
de la surveillance.
L’ONU face aux SALA

Depuis mai 2014, l’ONU a engagé un débat international sur le développement des
systèmes d’armes létales automatiques (SALA), dit « robots tueurs ». Les Hautes Parties
contractantes à la Convention sur certaines armes classiques (CCAC) se sont dotées
d’un nouveau mandat : « débattre des questions ayant trait aux technologies émergentes
dans le domaine des SALA, à la lumière des objectifs et des buts de la Convention ».
Réuni pour la première fois en novembre 2017, un Groupe d’experts gouvernementaux
(GEG), présidé par l’ambassadeur indien Amandeep Singh Gill, a été chargé d’examiner
les technologies émergentes dans le domaine des SALA. L’une des orientations
retenues dans le rapport de consensus de cette réunion est que la responsabilité pour
Dessin initialement conçu pour Crisis in le développement de tout système d’armement de conlit appartient aux États. « Les
Zefra, récit de Karl Schroeder illustrant des États doivent veiller à pouvoir rendre des comptes en cas d’actions mortelles appliquées
technologies émergentes qui pourraient par leurs forces dans un conlit armé », a déclaré l’ambassadeur Singh Gill, lors de la
faire partie à l’avenir de l'armée du Canada. dernière réunion du GEG, à Genève (Suisse), le 9 avril 2018.
© Kalman Andrasofszky
Izumi Nakamitsu, la Haute-Représentante pour les afaires de désarmement de l’ONU a
remarqué, pour sa part, que ce nouveau type de technologies donne lieu à des méthodes et
moyens de livrer la guerre « avec des conséquences incertaines, éventuellement indésirables »
et a souligné la nécessité de « dégager un consensus sur un entendement commun quant aux
limites possibles du degré d’autonomie dans l’utilisation de la force létale ».

Grand angle
© Pavel Chagochkin / Shutterstock
Les armées de robots capables de mener la

guerre de façon complètement autonome
relèvent de la science-iction. Il n’empêche
que le sujet inquiète nombre d’experts en IA.
En mode automatique, ils sont capables Ni les coutumes de la guerre, ni les Ces experts estiment que la création
d’ouvrir le feu sur l’ennemi, sans toutefois Conventions de Genève ne décrivent d’armées de robots capables de mener de
tirer sur les gens aux mains levées. Aucun de les systèmes dotés d’IA qui peuvent être manière autonome des hostilités conduira
ces systèmes n’est utilisé par les militaires en utilisés au combat et ceux qui ne le peuvent inévitablement à l’émergence, chez leurs
mode automatique. pas. Il n’existe pas non plus de législation détenteurs, de sentiments de pouvoir
internationale qui permettrait de déterminer absolu et d’impunité. En outre, lorsqu’un
Les derniers progrès accomplis dans le
les coupables de la défaillance d’un homme est en situation de conlit, il prend
développement de l’IA permettent de créer
système autonome. Si un drone bombarde des décisions dans lesquelles interviennent,
des systèmes de combat capables de se
de manière autonome des civils, qui sera notamment, ses attitudes morales,
déplacer. Ainsi, aux États-Unis, on développe
puni ? Son fabricant ? Le commandant sentiments et émotions. L’observation
actuellement des ailiers sans pilote, qui
de l’escadrille à laquelle il était afecté ? directe des soufrances d’autrui produit
voleront derrière des chasseurs pilotés par
Le ministère de la Défense ? La chaîne encore un efet dissuasif sur les soldats,
des humains, et viseront, sur ordre, des
de coupables potentiels est trop grande même si, chez les militaires professionnels,
cibles aériennes ou terrestres. Le système de
et, comme on le sait, lorsqu’il y a trop de la compassion et la sensibilité inissent
conduite de tir de la future version du char
coupables, personne n’est coupable. par s’émousser. En cas d’introduction
russe T-14, développé sur la base de la plate-
généralisée de systèmes de combat
forme universelle à chenilles Armata, sera En 2015, le Future of Life Institute a publié
autonomes, dont les détachements ne
capable de détecter les cibles de manière une lettre ouverte signée par plus de
pourront être conduits que du doigt sur
autonome et de les bombarder jusqu’à 16 000 personnes, alertant sur les menaces
l’écran d’une tablette depuis un autre
destruction complète. En parallèle, la Russie que ces systèmes de combat dotés d’IA font
continent, la guerre se transformera
travaille sur une famille de robots à chenilles peser sur les civils, sur le risque d’une course
inévitablement en jeu, les victimes civiles et
qui pourront participer au combat avec des aux armements et, au bout du compte,
les soldats en chifres sur l’écran.
soldats humains. sur le danger d’une issue fatale pour
l’humanité. Elle était signée, en particulier,
Pour les armées, tous ces systèmes sont
par l’entrepreneur américain et fondateur de
appelés à remplir plusieurs fonctions de Expert en armement et journaliste,
SpaceX et Tesla Elon Musk, l’astrophysicien
base, et en premier lieu celle d’accroître Vasily Sychev (Fédération de Russie)
britannique Stephen Hawking (1942-
l’eicacité de destruction des cibles ennemies écrit essentiellement pour les journaux
2018) et le philosophe américain Noam
et de préserver la vie de leurs propres La Gazette russe, Expert, Lenta.ru et Le Courrier
Chomsky. En août dernier, Elon Musk et une
soldats. Dans le même temps, il n’existe pas de l’industrie militaire. Il dirige également
centaine de développeurs de systèmes de
encore de normes internationales ni de les rubriques « Armement » et « Aviation »
robotique et d’IA ont envoyé à l’ONU une
documents juridiques qui réglementeraient dans le journal web de vulgarisation
pétition demandant l’interdiction totale
l’utilisation de systèmes de combat dotés scientifique N+1.
du développement et des essais des armes
d’IA dans une guerre.
ofensives autonomes.

Grand angle
À notre service, et non à nos dépens

Tee Wee Ang et Dafna Feinholz
(UNESCO)
Nous nous dirigeons

inexorablement vers un futur
automatisé et une intelligence
artiicielle (IA) aux possibilités
quasi illimitées. Il nous faut
impérativement peser toutes
les implications éthiques de
cette nouvelle technologie et
nous attaquer aux déis légaux
et sociaux sans précédent qui
risquent d'apparaître.
Fin de la vie privée à l’ère numérique ?

Œuvre du dessinateur cubain Falco.
© Falco / Cartoon Movement
Une collecte sans in

de données
Les nouvelles technologies nous Avant de s’interroger sur les implications L’apprentissage machine et l’apprentissage
obligent parfois à nous interroger sur éthiques de l’IA, il faut d’abord préciser en profond exigent une grande quantité
ce qui fait l’homme. C’est en tout cas quoi elle consiste, aujourd’hui. Lorsqu’on de données historiques et de données
vrai pour l’intelligence artiicielle (IA), parle d’IA, on entend généralement « l’IA recueillies en temps réel, si l’on veut que le
dont les implications potentielles sont si restreinte », ou « l’IA faible », conçue pour système d’IA puisse « apprendre » sur la base
considérables qu’elles appellent un efort de accomplir une tâche spéciique : analyser de son « expérience ». Leur développement
rélexion. Voilà des décennies qu’elle hantait et luidiier la circulation, recommander des a aussi besoin d’infrastructures permettant
notre imagination collective, aujourd’hui elle produits en ligne à partir d’achats antérieurs, à l’IA de réaliser ses tâches ou objectifs
fait irruption dans nos vies. par exemple. Cette IA faible existe déjà, à partir de ce qu’elle aura appris. Notre
mais elle va se complexiier et imprégner rélexion sur les implications éthiques de
Les récents progrès de l’IA, notamment en
davantage notre vie quotidienne. l’IA doit tenir compte de l’environnement
matière d’apprentissage machine (machine
technologique complexe dont elle a
learning) et d’apprentissage profond (deep Nous ne parlons pas ici de ce qu’on appelle
besoin pour fonctionner et qui englobe la
learning), montrent que ces systèmes l’« IA forte » ou l’« IA générale », telle que
collecte permanente des données de masse
peuvent surpasser les hommes dans de la dépeignent tant de romans et de ilms
(big data) issues de l’Internet des objets,
nombreux domaines, y compris les tâches de science-iction. Elle serait supposément
leur stockage dans le nuage informatique
exigeant une certaine dose de raisonnement capable d’accomplir toute la gamme des
(cloud), leur utilisation par l’IA pour
cognitif. L’IA peut donc être une source activités cognitives humaines, et même,
alimenter son processus d’« apprentissage »
formidable de progrès et de bienfaits pour selon certains experts, d’accéder à un relatif
et la mise en œuvre des analyses ou des
l’humanité, mais elle pourrait aussi ébranler degré de « conscience ». Nous sommes
activités de l’IA dans les villes intelligentes,
les fondements socioéconomiques et encore loin d’un consensus quant à la
les véhicules autonomes, les robots, etc.
politiques de la société humaine. faisabilité et aux perspectives de mise en
œuvre d’une telle IA.

Grand angle
© Max Aguilera-Hellweg / INSTITUTE
Geminoid-F et modèle anonyme, une

installation du photographe et réalisateur Ces données restent nominales, si bien que Autre question importante : les données
américain Max Aguilera-Hellweg. les informations concernant nos préférences utilisées par l’IA pour apprendre ne risquent-
et habitudes peuvent être utilisées pour créer elles pas d’être pétries d’idées reçues et
des modèles de comportement permettant de préjugés, pouvant éventuellement
Plus le développement technologique à l’IA de nous adresser des messages à entraîner des décisions discriminatoires ou
devient complexe, plus les questions éthiques caractère politique, par exemple, ou de stigmatisantes ? Cela rendrait vulnérables
qu’il soulève se complexiient. Et si les nous vendre des applications commerciales notamment les systèmes d’IA chargés de
principes éthiques restent immuables, notre ou encore de stocker des informations relations avec le public ou de la distribution
manière de les aborder pourrait changer concernant notre suivi médical. de services sociaux. Nous devons être
radicalement, au risque, sciemment ou non, conscients que certaines données, comme
de les remettre gravement en question. celles qui sont produites sur l’Internet,
Le meilleur et le pire contiennent des informations qui sont
Notre conception de la vie privée, de la
Serait-ce la in de notre vie privée ? Quid le relet du meilleur comme du pire de
conidentialité et de l’autonomie, par
de la sécurité et de la vulnérabilité des l’humanité. Par conséquent, on ne peut
exemple, pourrait se trouver totalement
données aux actions de piratage ? L’État pas se ier uniquement à l’IA pour tirer des
transformée. Grâce à des applications
ne pourrait-il pas s’en emparer pour leçons à partir de ces données sans courir des
ou dispositifs appelés smart (intelligents,
contrôler la population, au probable risques sur le plan éthique. Une intervention
malins) qui sont devenus des instruments
détriment des droits humains individuels ? humaine directe est indispensable.
de la communication des réseaux sociaux
comme Facebook ou Twitter, nous Un environnement d’IA qui, à toute heure, Peut-on enseigner à l’IA un comportement
divulguons « librement » et volontairement surveille nos préférences et s’en sert pour éthique ? Pour certains philosophes, il est
nos informations personnelles, sans nous proposer diférentes options, ne des expériences – notamment d’ordre
pleinement cerner quels usages pourront risque-t-il pas de limiter notre liberté de esthétique et éthique – qui sont inhérentes
être faits de ces données, et par qui. choix et notre créativité ? à l’être humain et, par conséquent, non
Elles sont ensuite transmises à des systèmes programmables. D’autres estiment que
d’IA essentiellement développés par si la morale peut être rationnelle, c’est
le secteur privé. qu’elle peut être programmée, mais qu’il
convient de respecter la liberté de choisir.

Grand angle

L'État ne pourrait‑il Marc-Antoine Dilhac répond aux questions de Régis Meyran
pas s'emparer
des données L'intelligence artiicielle (IA) permet d’accroître l’eicacité de
certaines mesures discriminatoires qui existent déjà : proilage
pour contrôler racial, prédiction de comportement, voire repérage de l’orientation
sexuelle des personnes. Les questions éthiques qu’elle soulève ainsi
la population, au requièrent la mise en place d’une législation capable d’assurer un
probable détriment développement responsable de l’IA.
des droits humains Quels problèmes posent les logiciels d’analyse du comportement à partir
d’images ilmées ?
individuels ? L’IA contribue à améliorer l’usage préventif des systèmes de vidéosurveillance dans
les espaces publics. Désormais les images sont analysées en continu par des logiciels
qui détectent les actes d’agression et peuvent rapidement donner l’alerte. Ce nouveau
système est expérimenté par exemple dans les couloirs du métro parisien, à la station
Châtelet. Si l’on accepte le principe de la vidéosurveillance, le seul problème que pose
Actuellement, il n’y a pas consensus sur la l’usage de l’IA est le risque d’erreur, et ce risque n’est pas très élevé, puisque ce sont des
question de savoir si l’éthique et la morale humains qui doivent prendre la décision inale d’intervenir ou non.
peuvent être enseignées aux hommes en
Néanmoins, les erreurs dans la reconnaissance faciale sont très fréquentes. Il suit
s’appuyant uniquement sur la raison. Dès lors,
d’une perturbation dans l’image pour que l’IA voie un grille-pain au lieu d’un visage !
comment y en aurait-il un quand il s’agit de
Le sentiment d’une surveillance abusive et la multiplication des erreurs peuvent
les enseigner à l’IA ! Et en imaginant qu’une
devenir particulièrement anxiogènes.
IA puisse être un jour programmée pour
être éthique, de quelle éthique s’agirait-il ? Par ailleurs, il y a lieu de s’inquiéter des dérives qui risquent de découler de ces
Celle des développeurs ? Le développement systèmes intelligents et des méthodes de proilage (racial, social) qu’ils pourraient
de l’IA est essentiellement entre les mains solliciter.
du secteur privé dont les idées sur l’éthique
À quel type de dérives faites-vous allusion ?
peuvent ne pas être conformes à celles qui
prévalent dans la société. Je pense notamment aux programmes, appliqués dans plusieurs pays, visant
à identiier les « comportements terroristes » ou le « caractère criminel » de
Pour que l’IA puisse travailler à notre service,
certaines personnes, par le biais de la reconnaissance faciale. Leurs traits de visage
et non à nos dépens, nous devons engager
dénonceraient donc leur criminalité intrinsèque !
un débat de fond qui prenne en compte les
points de vue éthiques de tous ceux qui sont Alarmés par cette résurgence de la physiognomonie, Michal Kosinski et Yilun Wang
concernés. Et, face aux bouleversements de l’université de Stanford (États-Unis) ont voulu montrer les dangers de cette théorie
qu’elle pourrait provoquer dans la société, pseudoscientiique que l’on croyait reléguée à l’histoire et qui consiste à étudier le
veiller à ce que le cadre éthique dans lequel caractère d’une personne à partir des traits et des expressions de son visage. Pour
s’inscrira son développement futur prenne attirer l’attention sur les risques d’atteinte à la vie privée, ils ont créé en 2017 le
en compte aussi la question plus large de la « gaydar », un programme qui vise à identiier les personnes homosexuelles d’après leur
responsabilité sociale. photographie ! Selon les auteurs, la marge d’erreur du programme n’est que de 20 %.
Outre l’efet de stigmatisation, l’application de cette technologie violerait le droit de
chacun à ne pas révéler son orientation sexuelle.
Spécialiste du programme au sein de la
Toute recherche scientiique sans repères philosophiques et sans boussole
section Bioéthique et éthique des sciences
sociologique ou juridique est susceptible de poser des problèmes éthiques.
à l’UNESCO, Tee Wee Ang (Malaisie) a
Ces quelques exemples que je viens d’évoquer montrent qu’il est urgent d’imposer
travaillé en ingénierie de la conception et
un cadre éthique à la recherche en IA.
en ingénierie de gestion, avant de rejoindre
l’Organisation en 2005. Qu’en est-t-il des dérives eugénistes ?
Docteur en psychologie et bioéthique, À mon sens, l’IA ne constitue pas a priori un facteur d’eugénisme. Certains prédisent
Dafna Feinholz (Mexique) dirige la section l’avènement d’un monde où l’être humain pourrait être amélioré grâce à l’utilisation
Bioéthique et éthique des sciences à de l’IA : puces qui augmentent la mémoire ou perfectionnent la reconnaissance faciale,
l’UNESCO. Elle a été secrétaire générale etc. Si la robotique intelligente peut apporter des solutions médicales à des situations
de la Commission nationale mexicaine de handicap (rendre la mobilité grâce à des prothèses sophistiquées), l’hypothèse
de bioéthique. transhumaniste de l’homme augmenté reste quant à elle de l’ordre de la science-iction.
Professeur adjoint en éthique et philosophie politique à l’Université de Montréal,

Marc-Antoine Dilhac (France) est titulaire de la Chaire de recherche du Canada en éthique
publique et Co-directeur de l’axe éthique et politique du Centre de recherche en éthique (CRÉ).

Grand angle
Et si ce n’était que pour
le meilleur ?
Karl Schroeder répond aux questions de M.C. Pinault Desmoulins (UNESCO)
Vous ne nourrissez donc aucune
Karl Schroeder consacre son temps à lire, étudier, observer et imaginer appréhension à l’égard de l’IA ?
des histoires futuristes. Écrivain de science-iction de renommée Déterminer si l’IA est une menace ou
internationale, ses œuvres inspirent les experts des nouvelles un bénéice ressort totalement de la
technologies et de l’intelligence artiicielle (IA). Par ailleurs, il met son responsabilité humaine. Beaucoup
d’idées simplistes circulent sur l’IA, sur son
imagination au service d’entreprises et de gouvernements ain d’anticiper fonctionnement et les dangers potentiels
leur transformation technologique, économique et sociale. Pour le qu’elle ferait peser sur l’humanité. On peut
romancier et essayiste canadien, l’IA relève davantage d’une révolution même parler d’une surenchère anxiogène
culturelle que d’une révolution technologique, qui exige une rélexion qui a en ligne de mire la perte de contrôle
sur les questions d’éthique, de gouvernance et de législation. de la machine. Au stade où nous en
sommes aujourd’hui, ce n’est pas une
rélexion valide. En revanche, il est impératif
Outre votre passion pour les innovations Les ordinateurs actuels ne produisent de choisir la direction que l’IA doit prendre
numériques et technologiques, quelles sont pas de sens et l’intervention humaine et d’en déterminer son utilisation. Si on
vos sources d’inspiration ? est toujours nécessaire dans le décide d’investir dans des supermachines
processus créatif, même si les dispositifs de guerre économique ou politique, nous
Je consacre une partie très conséquente technologiques s’ainent et approchent prenons la voie d’un environnement
de mon temps à la lecture de grands les capacités humaines. hostile, évidemment.
philosophes. Cela me permet d’avoir une
vue d’ensemble, d’envisager les connections Dans mon roman Lady of Mazes (2005), il y
possibles entre les technologies et les a une scène où l’IA devient folle et met au
mouvements sociétaux. Mais, je vous point une forme de bombe créative qui
rassure, j’attache autant de soin à l’intrigue propage des romans d’une exceptionnelle
pour que mes livres soient distrayants ! qualité en quantité si astronomique qu’il
serait impossible de tout lire en cumulant
Parallèlement, l’Internet est une source toutes les espérances de vie humaines ! Et
ininie d’informations et de distractions. alors, que se passe-t-il pour les humains ?
Toute navigation sur le réseau est l’occasion Eh bien, ils s’adaptent et continuent leur
de nouvelles découvertes qui peuvent propre création.
m’inciter à repenser, voire à changer
radicalement, tout ce que je viens d’écrire. Imaginons que cette bombe créative
L’Internet facilite vraiment mes recherches explose aujourd’hui. Pourquoi cela
et je n’en retiens que le meilleur. m’empêcherait-il, moi, de continuer à écrire
de nouveaux livres ? Pourquoi devrais-je me
Envisagez-vous que l’IA puisse vous penser « moi contre un million de livres »
remplacer en tant qu’écrivain? et non « moi et un million de livres » ?
À ce jour, j’assimilerais la contribution de Je conçois la créativité, quelle que soit son
l’IA dans mon domaine à une fonction de origine, comme une addition et non une
randomisation, comparable à un jeu inini soustraction à notre propre existence.
de cartes dont chacune pourrait déinir un De fait, la notion de remplacement est
personnage, une scène, etc. Par exemple, inhérente à celle de valeur. On peut
l’une d’entre elles pourrait être « le roi considérer que tout peut être remplacé,
des méchants, il se situe dans une tour » en fonction d’une valeur donnée. En tant
et, à partir de là, je pourrais élaborer un qu’écrivain, je pourrais être remplacé par un
personnage, une intrigue. ordinateur qui a plus de succès commercial
Je pense que la créativité pourra, à que moi. Mais ce raisonnement ne vaut
terme, survenir en dehors de l’humain. que si le succès commercial prévaut dans
Je peux donc concevoir que l’IA sera en le système de valeur.
mesure de créer un livre digne de ce nom,
mais certainement pas sous sa forme
actuelle. Ce seront d’autres types de
machines, qui ne sont pas encore pensées.

Grand angle
L’éthique ?
La science‑iction
La société doit prendre les bonnes y pense depuis Il faut distinguer l’écriture du moyen
décisions pour la mise en œuvre de l’IA. d’écrire. La technologie n’est qu’un
Si un jour les produits de l’IA deviennent un siècle ! moyen et il faut la remettre à sa juste
place. Nous n’avons rien à abandonner
indépendants de nous, ils seront comme
de ce que nous sommes ou voulons être,
les enfants qui nous quittent, le moment
nous avons uniquement à nous préparer
venu, pour mener leur propre vie ! Notre
collectivement.
responsabilité en tant que parents est de
J’avais fait de cet enjeu l’un des messages
bien les élever et de leur inculquer des
de Lady of Mazes, en invitant à planiier Romancier canadien de science-fiction,
valeurs positives. C’est la pierre angulaire
la mise en œuvre de toute innovation essayiste et futurologue, Karl Schroeder
du raisonnement.
technologique pour anticiper les est notamment l’auteur des romans Ventus
Cela rejoint la problématique de l’éthique ? changements sociétaux. (2000), Permanence (2002), Lady of Mazes
(2005), Crisis in Zefra (2005) et Lockstep
Oui, la science-iction y pense depuis Quel sera le message de votre
(2014), traduits, pour la plupart, dans une
un siècle ! Les décideurs politiques et la prochain livre ?
dizaine de langues. En février 2018, il a reçu
société y songent seulement maintenant.
Sans doute traitera-t-il du futur de la à l’UNESCO le Prix Netexplo Talent.
C’est parce qu’on ne se penche pas
politique et des processus de la décision,
sérieusement sur le sujet, que nous
ainsi que des moyens technologiques qui
sommes en roue libre dès qu’une
pourront nous amener à un autre niveau
innovation technologique majeure Scène de l’installation audiovisuelle de
de civilisation.
apparaît. La solution est pourtant simple : 17 minutes Poetic_AI, entièrement conçue
nous devons décider de mettre en œuvre C’est un clin d’œil, mais j’envisage de par un algorithme, y compris dans ses
une innovation technologique seulement l’écrire au stylo ! Ce sera une expérience formes, sa mise en scène et sa musique.
après avoir cerné son impact social, arbitré d’usage au même titre que toutes Elle a été réalisée par le studio de création
son usage et légiféré en conséquence. celles que le numérique nous propose. numérique Ouchhh, basé à Istanbul,
à Los Angeles et à Londres.
© Ouchhh

Grand angle
Apprendre
à vivre à l'ère de l'IA
Leslie Loble
Aux trois piliers de base de tout

système éducatif – lire, écrire,
compter – il faudra désormais
ajouter trois autres : empathie,
créativité, pensée critique. Ces
aptitudes acquises généralement
ailleurs doivent entrer dans
les programmes scolaires en
même temps que l’intelligence
artiicielle (IA) entre en force dans
les sociétés.
En 2018, 300 000 enfants feront leur entrée

dans les écoles australiennes. S’ils en sortent
diplômés en 2030, ils passeront l’essentiel
de leur vie professionnelle dans la seconde
moitié du XXIe siècle, et certains seront
peut-être encore en vie à l’aube du XXIIe.
Au rythme des changements apportés
par les technologies de pointe, il y a de
fortes chances qu’ils vivent et travaillent
dans un monde radicalement diférent
du nôtre. Il revient donc aux systèmes
éducatifs d’anticiper dès maintenant ces
changements et de préparer ces générations
futures pour assurer leur prospérité.
© Vincent Fournier
Avec plus d’un million d’enfants et de jeunes

accueillis dans 3 000 établissements, les
Nouvelles-Galles du Sud (NGS) sont le plus
gros secteur scolaire d’Australie. Chaque
jour, dans chaque classe, un enseignant
instruit ces élèves et les guide vers leur C’est pourquoi le ministère de l’Éducation Dès son lancement, le ministère a ouvert
avenir. Mais au niveau du système, surtout des NGS a lancé en 2016 le projet le dialogue avec des leaders mondiaux
à pareille échelle, le changement peut être Éduquer pour un monde qui change. des sphères économique, technologique
lent, malgré l’urgence montante engendrée Attentive aux implications stratégiques et académique, ce qui a conduit à la
par les nouvelles technologies. des avancées technologiques, cette publication, en novembre 2017, de
initiative d’envergure vise à encourager Future Frontiers: Education for an AI World
des réformes en matière de programmes, (Chantiers de demain : éduquer pour un
d’enseignement et d’évaluation, et à monde d’IA), ouvrage qui interroge l’avenir
orienter l’ensemble du système vers une de l’éducation dans un monde dominé
approche plus innovante. par l’IA.

Grand angle
Fin 2017, un symposium international

a réuni plusieurs de ses auteurs, ainsi
Les nouveaux piliers On voit déjà surgir au sein de la communauté
éducative les pratiques novatrices, visant à
que des spécialistes de l’éducation, des Trois piliers – lire, écrire, compter – forment motiver les élèves et à exploiter le potentiel
organisations non gouvernementales le socle de tout apprentissage, mais les des technologies de pointe pour augmenter
(ONG) et des responsables politiques, en élèves d’aujourd’hui ont besoin d’autres leur performance. Certaines reposant sur
vue d’étudier les moyens d’améliorer le compétences de base et d’importantes des preuves scientiiques plus solides que
soutien aux enseignants et les résultats compétences non cognitives, comme le d’autres, il est diicile, pour l’heure, de
des élèves grâce aux nouveaux outils, sentiment d’eicacité personnelle, une distinguer les plus eicaces.
notamment technologiques. Cet apport meilleure compréhension des concepts
d’idées nouvelles a suscité un engagement
uniié en faveur de la réforme.
et de bonnes capacités de résilience,
d’adaptabilité et de lexibilité.
L’IA dans la salle de classe
Reprenant à son compte les innovations
Les compétences spéciiquement humaines
nationales et internationales les plus
seront plus que jamais importantes dans
eicientes des secteurs privé et public, le
ce monde nouveau qui se forme sous
ministère de l’Éducation des NGS étudie le
nos yeux : la pensée critique sera l’une
meilleur soutien à apporter aux spécialistes
des premières compétences que devront
de l’éducation pour concevoir et accélérer
transmettre les systèmes éducatifs.
ces idées novatrices. Le but est de trouver de
Pour l’heure, ces compétences essentielles nouvelles méthodes durables et évolutives
peuvent être acquises dans les activités permettant d’améliorer l’apprentissage, les
extrascolaires où l’on apprend ce que sont capacités et la réussite de nos élèves.
la coopération, la mise en place d’objectifs et
L’IA a un potentiel fort en matière
la planiication, par exemple. On développe
d’éducation, à condition d’être utilisée
la discipline et l’esprit d’équipe en faisant du
à bon escient et conformément aux
sport ; la créativité, en faisant du théâtre ;
besoins des éducateurs. Il existe déjà des
la pensée critique en organisant des débats ;
systèmes à base d’IA capables de favoriser
l’empathie, en faisant du bénévolat au sein
un apprentissage personnalisé qui libère
d’une association.
les enseignants de certaines tâches, leur
Le déi consiste à structurer ce large éventail permettant ainsi de se concentrer sur les
de compétences que les jeunes doivent besoins individuels des élèves et sur les
acquérir, à le légitimer au sein du système objectifs pédagogiques. Ces systèmes
éducatif et l’intégrer dans les programmes sont capables de suivre l’implication et les
scolaires, à déinir la façon d’évaluer les progrès des élèves, et, potentiellement, de
résultats des élèves dans ces domaines qui proposer des ajustements de contenu.
n’étaient pas jusque-là considérés comme
Il est crucial que les éducateurs gardent
faisant partie de l’éducation scolaire et qui
la main en matière de conception et de
devront désormais occuper une place de
développement de ces systèmes. C’est aux
premier ordre.
enseignants et aux chefs d’établissement,
Une chose est incontestable, plus que qui seront formés à cette in, qu’il revient au
jamais l’avenir exigera que les enfants premier chef de déinir clairement la place
tissent des liens mutuels et renforcent un de l’IA dans la salle de classe. Les élèves
sens de la communauté, de la citoyenneté doivent aussi participer aux décisions dans
et de la collaboration basé sur l’empathie, ce domaine, et donc être éduqués sur ses
que certains considèrent comme l’une des aspects éthiques. Leur avenir dépendra
compétences clés pour le XXIe siècle. des politiques et des approches que nous
adopterons aujourd’hui.
Les compétences interpersonnelles sont de
plus en plus reconnues comme un élément
crucial pour les systèmes éducatifs dans le
monde. Des organisations comme l’UNESCO Secrétaire adjointe au ministère de
et l’OCDE élaborent des cadres, normes et l’Éducation des Nouvelles-Galles du Sud,
évaluations dans ce domaine, et notamment Leslie Loble (Australie) a piloté pendant
le concept de « compétences mondiales » près de vingt ans la stratégie, la réforme
destiné à favoriser la coopération et l’innovation dans ce système éducatif
interculturelle. En Australie, une série qui est le plus vaste et le plus diversifié
Photo de l'artiste français Vincent Fournier, d’aptitudes générales, comme la pensée d’Australie. Elle a été classée en 2013 parmi
prise à Barcelone (Espagne), en 2010, critique, créative et la compréhension les 100 femmes d’influence de l’Australian
appartenant à la série L'Homme machine interculturelle, ont été inscrites en 2009 dans Financial Review/Westpac pour son rôle
(The Man Machine), qui montre des l’agenda de l’Éducation nationale, exemple dans les affaires publiques australiennes et
« ictions spéculatives » dans lesquelles suivi depuis par de nombreux États du pays. la réforme de l’éducation.
des créatures artiicielles interagissent
avec des humains. Le projet Éduquer pour un monde qui change
a souligné la nécessité d’encourager des
pratiques pédagogiques innovantes,
pouvant procurer des bénéices dans
l’ensemble du système.

Grand angle
Tirer le meilleur parti de
l'intelligence
artiicielle
Audrey Azoulay
Audrey Azoulay, Directrice générale

de l'UNESCO, répond aux questions
de Jasmina Šopova
L’intelligence artiicielle (IA)

pourrait aider l’humanité
à surmonter bon nombre des
graves problèmes sociaux
auxquels elle est confrontée,
mais elle lance en même
temps une série de déis
complexes, notamment sur
le plan de l’éthique, des droits
de l’homme et de la sécurité. Or, Représentation symbolique de
aucun cadre éthique international, la coopération entre IA et humains.
© Veronique Deshayes
s’appliquant à l’ensemble Pourquoi l’UNESCO s’intéresse-t-elle à l’IA ?
des développements et des
Les experts sont unanimes : l’humanité est
applications de l’IA, n’existe à au seuil d’une nouvelle ère ; l’intelligence Les outils d’enseignement, les manières
l’heure actuelle. Un instrument artiicielle (IA) va transformer nos existences d’apprendre, d’accéder à la connaissance,
normatif international dans une mesure que nous ne pouvons de former les enseignants vont être
est indispensable. imaginer. Cette transformation a déjà révolutionnés. La question des compétences
commencé et elle afecte tous les secteurs à développer pour évoluer dans un monde
de notre vie. L’IA connaît de nombreuses toujours plus automatisé va devenir de plus
applications dans des domaines aussi en plus centrale.
variés que la santé, l’éducation, la culture,
Dans le domaine de la culture, l’IA est déjà
la sécurité, la défense… La recherche a
largement sollicitée, par exemple dans
pris un essor considérable ces dernières
l’imagerie 3D utilisée pour la reconstruction
années : les géants du web (GAFAM),
du patrimoine, comme nous allons le faire
mais aussi de nombreux pays investissent
pour la vieille ville de Mossoul en Iraq.
désormais massivement dans l’IA et se
Dans les sciences également, notamment
font les acteurs de cette « quatrième
dans nos programmes environnementaux
révolution industrielle ».
et dans la recherche subaquatique, par
L’UNESCO a un vrai rôle à jouer à l’heure exemple pour le classement des images de
de ces mutations. D’abord, parce que les plancton ou la détection et le recensement
applications de l’IA touchent directement automatiques des cétacés et des
ses domaines de compétence. L’éducation oiseaux marins.
sera profondément transformée par l’IA.

Grand angle
L’UNESCO a un vrai rôle à jouer Robots et éthique

à l’heure de ces mutations. Rapport 2017 de la COMEST
La robotique actuelle, dite cognitive,
Les applications de l’IA repose sur des technologies
d’intelligence artiicielle (IA) dotées
touchent directement de capacités de type humain

comme la perception, l’utilisation du
langage, l’interaction, la résolution
ses domaines de compétence de problèmes, l’apprentissage et
même la créativité. Ses décision
sont imprévisibles et ses actions
dépendent de l’expérience et de
certaines conditions stochastiques
(aléatoires). Elle se distingue fortement
Mais c’est aussi une menace, car des robots dits déterministes dont le
l’automatisation et la numérisation créent comportement dépend du programme
de nouveaux déséquilibres, peuvent qui contrôle leurs actions. La question
diminuer la diversité dans les industries de la responsabilité des actions
culturelles, bouleversent le marché exécutées par des robots cognitifs est
du travail, engendrent de la précarité, donc cruciale, d’autant que ceux-ci
accroissent les disparités entre ceux qui ont ont un impact sur les comportements
accès à ces nouvelles technologies et ceux humains, induisent des changements
en sont privés. sociaux et culturels, et soulèvent des
C’est là que l’UNESCO a également un questions en matière de sécurité, de
rôle à jouer : en tentant de réduire, par le respect de la vie privée et de protection
soutien qu’elle apporte à ses États membres, de la dignité humaine.
les inégalités dans l’accès au savoir et à Dans son Rapport sur l’éthique de
la recherche. La fracture technologique la robotique, publié en novembre
risque d’avoir un efet démultiplicateur sur 2017, la Commission mondiale
les inégalités sociales. L’UNESCO doit être d’éthique des connaissances
en mesure d’aider ses États membres à scientiiques et des technologies de
s’adapter aux nouvelles réalités et à accéder l’UNESCO (COMEST) propose un cadre
au savoir technologique. éthique fondé sur la technologie, en
Comment l’UNESCO peut-elle concrètement vue d’élaborer des recommandations
apporter ce soutien ? sur l’éthique de la robotique basées
sur la distinction entre robots
L’un des enjeux, pour les États membres, déterministes et robots cognitifs.
est de pouvoir disposer de matériaux
d’ingénierie sophistiqués, à la pointe de Elle dégage aussi des valeurs et des
La communication et l’information sont l’innovation, ainsi que de compétences principes éthiques pouvant être utiles
aussi bien sûr directement tributaires des humaines suisantes – des scientiiques à l’établissement d’une réglementation
avancées réalisées dans le domaine de et des ingénieurs. Grâce à ses Centres à tous les niveaux et d’une manière
l’IA. L’UNESCO doit mener cette rélexion d’éducation et de formation dans le cohérente, allant des codes de
sur les bénéices et les risques de l’IA domaine de la science, de la technologie conduite des ingénieurs, à des textes
pour l’éducation, la culture, la science, et de l’innovation (STI), son Observatoire de loi nationaux et à des conventions
la communication et l’information. mondial des instruments de politique internationales. Les valeurs et principes
de la science, de la technologie et de éthiques mis en relief sont la dignité
Quels en sont les risques selon vous ? humaine, l’autonomie, le respect de la
l’innovation (GO-SPIN) ou encore son
De manière générale, l’IA peut être une Programme international relatif aux sciences vie privée, l’innocuité, la responsabilité,
chance fantastique pour la réalisation des fondamentales (PISF), l’UNESCO est en la bienfaisance et la justice. Le principe
objectifs posés par l’Agenda 2030, mais cela mesure de fournir un tel soutien – et d’aider de la responsabilité humaine est le
suppose de traiter sans plus attendre les à réduire les disparités entre pays. il conducteur reliant les diférentes
questions éthiques qu’elle pose. Une chance, valeurs examinées dans ce rapport.
Quels sont les déis que pose l’IA en
car ses applications aident à avancer plus La COMEST formule aussi une série
matière d’éducation ? Comment l’UNESCO
rapidement vers la réalisation des Objectifs de recommandations spéciiques
compte-t-elle y répondre ?
de développement durable – en autorisant concernant l’application des technologies
une meilleure évaluation des risques, en C’est un domaine bien sûr essentiel pour robotiques, allant du développement
permettant une meilleure prospective, l’Organisation. Là encore, la révolution qui de codes d’éthique des roboticiens à la
un partage plus rapide des connaissances, s’amorce génère des efets à la fois positifs et mise en garde contre développement et
en proposant des solutions innovantes négatifs. Des logiciels pédagogiques fondés l’utilisation d’armes autonomes.
dans les domaines de l’éducation, de sur l’IA sont déjà utilisés pour décentraliser
la santé, de l’écologie, de l’urbanisme, l’enseignement, le personnaliser, fournir aux
des industries créatives, en améliorant le étudiants des conseils sur les curricula ou
niveau de vie et le bien-être quotidien. encore des certiications.

Grand angle
Nous devons Mais ces technologies sont coûteuses, donc La promotion d’outils d’IA libres d’accès, qui
entrer dans inaccessibles au plus grand nombre : le fossé

entre riches et pauvres risque de se creuser
encore davantage.
favoriseront les innovations locales, sera
l’une de nos priorités.
cette nouvelle Du fait de son rôle de coordination

du Comité directeur ODD – Éducation 2030,
Pour préparer les nouvelles générations
au nouveau paysage du travail que l’IA est
en train de dessiner, il faudra également
ère les yeux chargé de suivre la réalisation de l’Objectif
de développement durable 4, dédié à
repenser les programmes éducatifs, en
mettant l’accent sur l’enseignement des
grands ouverts
l’éducation, l’UNESCO est en excellente sciences, de la technologie, de l’ingénierie et
position pour conduire ce travail, en des mathématiques, mais aussi en accordant
identiiant les possibles contributions de une place de premier ordre aux humanités,
l’IA à une éducation ouverte à tous et en aux compétences en matière de philosophie
évaluant son impact potentiel sur l’avenir et d’éthique.
de l’apprentissage.
Nous devons prévenir les dérives de l’IA.

© Veronique Deshayes
NETEXPLO NOTEBOOK | HUMAN DECISIONS THOUGHTS ON AI 101

Grand angle
Quel est le rapport entre l’IA et la philosophie

ou l’éthique ? À qui appartient la prise de décision ?
Dans leur vie d’adultes, les écoliers et Décisions humaines : rélexions sur l’IA, 2018
étudiants d’aujourd’hui devront sans doute
afronter des problèmes dont la nature Le phénomène des données de masse (big data) et le tournant des systèmes
nous échappe à l’heure actuelle. Il est d’apprentissage profond ont fait de l’intelligence artiicielle (IA) l’une des tendances
diicile de prévoir toutes les évolutions technologiques les plus débattues du moment, du fait de ses répercussions sur les
possibles de ces machines de plus en plus individus et les cultures.
sophistiquées qui gagnent chaque jour un
Les aspects techniques de l’IA ont de quoi fasciner, mais certains craignent qu’elle ne
peu plus en autonomie, au point de déier,
inisse par éclipser l’intelligence humaine. Même en acceptant l’idée qu’elle puisse
déjà, dans une certaine mesure, l’identité
faire progresser l’humanité, il nous faut anticiper les dangers d’une IA devenue
humaine. C’est la raison pour laquelle, des
incontrôlable, et prendre conscience de ses implications éthiques.
compétences en matière d’éthique, mais
aussi dans les sciences sociales et humaines Vaste sujet, intéressant à la fois la philosophie, les mathématiques, les sciences,
en général, seront tout aussi importantes l’informatique et l’ingénierie, que Netexplo, un observatoire indépendant partenaire
que celles dans les sciences formelles. Il peut de l’UNESCO, scrute avec attention. En 2015, l’UNESCO et Netexplo ont créé un conseil
y avoir aussi des biais embarqués dans les consultatif commun, l’UNAB. Ce réseau de professeurs, conférenciers et chercheurs
systèmes d’IA – notamment des biais de venus des plus grandes universités du monde a pour mission d’analyser les tendances
genre – qui requièrent plus de transparence de la technologie numérique et en particulier l’IA.
de la part de ces systèmes et de solides
En 2018, l’UNAB a publié Human Decisions : Thoughts on AI [Décisions humaines :
principes éthiques pour les corriger.
rélexions sur l’IA], un recueil d’analyses qui a pour objectif de susciter une rélexion sur
Pourquoi est-il diicile de prévoir les futures les déis les plus cruciaux en matière d’IA et d’en saisir les ressorts sous-jacents.
évolutions de l’IA ?
Les humains conient-t-il délibérément à l’IA leurs pouvoirs de décision ? L’IA est-elle
La recherche dans le domaine de l’IA vue en tant que substitut de l’homme ? Quelle mesures potentielles de protection
avance à très grande vitesse, tandis que contre les dérives de l’IA? Voici quelques-unes des questions examinées dans cet
les environnements juridiques, sociaux ouvrage. Elle s’ajoutent aux points de vue développés par Netexplo, qui mettent en
et éthiques qui devraient l’encadrer regard diférents scénarios.
évoluent très lentement. Jusqu’où peut
Par-delà les points de vue, une question revient de façon lancinante : celle de la prise
aller l’autonomie d’une machine et son
de décision. Avons-nous déjà renoncé à l’autorité que nous confère la maîtrise de la
pouvoir de décision ? En cas d’accident, qui
machine ? Et si l’IA inissait par contrôler le comportement des hommes sans leur
porte la responsabilité ? Et qui décide des
participation? Dans ce cas, qui (ou quoi) participera à la prise de décision ?
valeurs inculquées aux machines durant
ce qu’on appelle leur « apprentissage » ? Si certains experts craignent que l’emprise de l’IA ne nous conduise à un système
Ces questions, parmi bien d’autres, restent interconnecté qui verrait notre intelligence subordonnée à celle des machines, d’autres
aujourd’hui sans réponse. restent persuadés que nos connaissances informatiques actuelles sont encore trop
limitées pour justiier une telle peur de l’inconnu. Selon eux, il n’est pas question de
On a constaté, par exemple, que des
compétition, mais de coopération entre IA et genre humain.
algorithmes formés au langage humain
ordinaire avaient acquis des préjugés fondés
sur des stéréotypes à partir de données
textuelles présentes dans notre culture de
tous les jours. Comment ne pas s’inquiéter
du danger de voir apparaître des machines Que peut faire l’UNESCO sur ce plan? Il est de notre responsabilité de mener un
au comportement discriminatoire, raciste débat universel et éclairé – pas un débat
Si nous voulons tirer le meilleur parti des
ou hostile ? technique mais bien éthique – ain d’entrer
possibilités ofertes par l’IA pour le monde
dans cette nouvelle ère les yeux grands
Il y a des raisons de s’inquiéter à bien d’autre entier, nous devons veiller à ce qu’elle soit au
ouverts, sans sacriier les valeurs qui sont les
égards aussi : protection de la vie privée service de l’humanité, dans le respect de la
nôtres et permettre, si les États membres le
et publicité ciblée sur l’Internet ; liberté dignité et des droits de l’homme.
souhaitent, d’aboutir à un socle commun de
d’expression et algorithmes de censure ; Or, aucun cadre éthique international, principes éthiques.
journalisme automatisé et monopole s’appliquant à l’ensemble des
de l’information... développements et des applications de l’IA,
Même si la recherche fondamentale en la n’existe à l’heure actuelle. * Déclaration universelle sur le génome humain
matière est, dans l’ensemble, motivée par et les droits de l’homme (1997)
L’UNESCO est ce forum universel unique
le bien-être, des dérives involontaires, mais Déclaration internationale sur les données
qui dispose d’une expérience de plus de génétiques humaines (2003)
volontaires aussi, sont toujours possibles. vingt ans dans l’élaboration d’instruments Déclaration universelle sur la bioéthique
C’est la raison pour laquelle il est impératif internationaux relatifs à la bioéthique et à et les droits de l’homme (2005)
de s’assurer que cette technologie se l’éthique des sciences et des technologies*. Déclaration de principes éthiques en rapport
développe suivant des normes éthiques Elle peut également s’appuyer sur avec le changement climatique (2017)
rigoureusement établies. deux organes consultatifs d’experts qui Recommandation concernant la science
travaillent activement sur ces questions : et les chercheurs scientiiques (2017)
la Commission mondiale d’éthique
des connaissances scientiiques et des
technologies (COMEST) et le Comité
international de bioéthique (CIB).

Grand angle
de l'intelligence artiicielle
Glossaire
Les termes marqués d’un astérisque sont Hybridation entre l’homme
déinis dans ce glossaire et la machine
Algorithmes Bioconservateur Procédé permettant une connexion entre le
corps humain et un système technologique.
Le terme vient du nom du mathématicien Pour les transhumanistes*, les gens qui
La connexion peut être physique, comme
persan Muhammad ibn Musa al-Khwarizmi critiquent leur idéal d’homme augmenté
une prothèse de bras actionnée par la
(vers l’an 820), à qui l’on doit l’introduction sont des bioconservateurs, c’est-à-dire
pensée, ou virtuelle, comme, par exemple,
en Occident de la numération décimale. des individus rétrogrades qui refusent de
les Google glasses, lunettes commandées
Aujourd’hui, il désigne une suite changer les lois de la vie et de la nature alors
par la voix qui permettent à diverses
d’instructions qui doivent être exécutées que la technique le permet (ou le permettra).
informations ou images d’apparaître dans
de façon automatique par un ordinateur.
Cryogénie humaine un coin des verres et de se superposer ainsi
Les algorithmes sont à l’œuvre dans
à notre vue habituelle.
tous les domaines, allant des requêtes Technique de conservation, dans l’azote
sur les moteurs de recherches aux liquide, du corps humain ou de la tête, après IA faible ou restreinte / IA forte
bourses inancières, en passant par la la mort d’un individu, en vue de le faire ou générale
sélection d’informations recommandés ressusciter un jour.
L’IA faible ou restreinte caractérise l’IA
aux internautes.
Données de masse (Big data) existante : ce sont des machines capables
Apprentissage machine ou d’exécuter certaines tâches précises de
Ensemble de données numériques qui, de
apprentissage automatique manière autonome mais sans conscience,
par leur volume, dépassent l’intuition et les
(Machine learning) dans un cadre déini par l’homme et à
capacités humaines d’analyse. Sur Internet,
la suite de décisions prises par lui seul.
Grâce à un programme d’apprentissage nous produisons quelque 2,5 trillions
automatique, la machine apprend à d’octets de données tous les jours : mails,
résoudre des problèmes à partir d’exemples : vidéos, informations climatiques, signaux
elle peut alors comparer et classer des GPS, transactions en ligne, etc. Aucun outil
données, et même reconnaître des formes informatique classique de gestion de base
complexes. Avant l’arrivée en 2010 de de données ne peut traiter ces données de
l’apprentissage profond*, ce type de masse : elles ont exigé le développement de
programme restait supervisé par des nouveaux algorithmes*, ain de pouvoir les
humains – chaque image devant être stocker, les classer et les analyser.
explicitement désignée comme contenant
un visage humain, une tête de chat, etc., Homme augmenté
pour que la machine puisse procéder à Idéal transhumaniste*, l’homme augmenté
l’opération de reconnaissance demandée. est un individu soumis à des modiications
visant à améliorer ses performances, grâce
Apprentissage profond (Deep learning) à des interventions sur le corps fondées sur
Domaine de pointe de l’apprentissage des principes scientiiques et technologiques.
automatique*, cette technique permet à la Mi-homme, mi-machine, il pourrait dès
machine de reconnaître, par elle-même, des lors courir plus vite, voir dans la nuit,
concepts complexes tels que des visages, supporter la douleur, posséder des capacités
des corps humains ou des images de intellectuelles accrues, résister à la maladie
chats, en épluchant des millions d’images ou à la mort... L’homme « réparé » existe déjà
glanées sur Internet, sans que ses images et les prothèses connectées s’améliorent de
soient préalablement étiquetées par jour en jour. L’homme augmenté devient peu
des humains. Né de la combinaison des à peu une réalité, avec le développement de
algorithmes d’apprentissage automatique squelettes artiiciels externes utilisés à des
avec les réseaux de neurones formels* et ins militaires.
avec l’utilisation des données de masse,
le deep learning a révolutionné l’intelligence
artiicielle. Il a d’innombrables applications:
moteurs de recherche, diagnostic médical,
voiture autonome, etc. En 2015, l’ordinateur
AlphaGo a appris à battre les humains au jeu
de go grâce à lui.

Grand angle
Néo-connexionnisme Réalité virtuelle immersive

Théorie née dans le domaine des sciences Univers virtuel, reconstitué par un ordinateur,
cognitives et des neurosciences, le néo- dans lequel est plongé l’utilisateur grâce
connexionnisme propose d’élaborer des à diférents capteurs ou objets (lunettes,
modèles informatiques qui visent à simuler combinaison sensorielle, etc.). L’immersion
L’IA forte ou générale serait une machine des phénomènes d’apprentissage par dans la réalité virtuelle peut concerner le
dotée de conscience et de sensibilité, des réseaux de neurones formels*, dont joueur d’un jeu vidéo ou un pilote d’avion
capable d’apporter une solution à tout type l’organisation et le fonctionnement ont dans le cadre de sa formation.
de problème : à ce jour, c’est une pure iction. été pensés par analogie avec les systèmes
neuronaux physiologiques. Représentation sémantique
Internet des objets des connaissances
Concept informatique selon lequel les objets Nuage informatique (cloud) Algorithmes* permettant de formaliser une
de tous les jours ou les lieux du monde Diférents systèmes informatiques phrase écrite dans une langue quelconque
physique peuvent être connectés à Internet, impliquant un grand nombre d’ordinateurs (exemple : « Paul prend le bus pour Berlin »)
et être reconnus par d’autres objets. Un connectés entre eux et échangeant des sous forme logique et ainsi de la rendre
objet connecté récolte, grâce à des capteurs messages en temps réel via l’Internet. interprétable par un ordinateur. La machine
(de température, de vitesse, d’humidité...), Un calcul ou un stockage d’informations, peut alors réaliser des inférences logiques
des données et les envoie, via Internet, ain lancé sur un ordinateur, peut ainsi être (comme une déduction), qui lui permettent
qu’elles soient analysées par des ordinateurs. pris en charge par un réseau d’ordinateurs de classer les mots dans diférentes catégories
L’objet peut aussi bien être un véhicule, une connectés entre eux – créant ainsi un cloud. et d’analyser les phrases qu’on lui soumet.
montre, une machine industrielle ou encore
une place de parking. Réalité augmentée Réseau de neurones formels
Superposition de la réalité et d’éléments Algorithme destiné à être mis en œuvre
Mind uploading virtuels, calculés par un système par un ordinateur, qui vise à répliquer
Selon les transhumanistes*, nos sensations, informatique en temps réel (sons, images les connexions neurales du cerveau. Les
idées et émotions se résument à des 2D, 3D, vidéos, etc.). Cette technique est systèmes existants sont bien plus sommaires
connections neuronales. Le téléchargement utilisée dans les jeux vidéos et le cinéma que l’intelligence humaine : ils sont, toutefois,
de l’esprit (mind uploading) est l’idée (où le spectateur interagit avec des objets capables de prévoir la vitesse d’un véhicule
transhumaniste selon laquelle le « contenu » virtuels au moyen de capteurs), mais en fonction du déplacement de la pédale
du cerveau humain est réductible à un aussi pour la géolocalisation ou encore le d’accélérateur et de la pente de la route,
ensemble d’informations que l’on pourrait patrimoine (l’abbaye de Cluny en France la dureté d’un matériau en fonction de sa
traduire dans le code binaire informatique, et dispose par exemple de bornes montrant composition chimique et de sa température
donc télécharger (upload) dans un ordinateur. l’état de la ville au XVe siècle). d’élaboration, la solvabilité d’une entreprise
en fonction de son chifre d’afaires, etc.
Transhumanisme
Mouvement dont les adeptes veulent
atteindre la condition « post-humaine » en se
débarrassant du handicap, de la soufrance,
de la maladie, du vieillissement et de la
mort, grâce à la « convergence NBIC »
(la rencontre entre les nanotechnologies, la
biotechnologie, l’intelligence artiicielle, les
sciences cognitives). Ils prônent l’usage du
clonage humain, de la réalité virtuelle*, de
l’hybridation entre l’homme et la machine
et du mind uploading*. Leurs opposants
leur reprochent de beaucoup spéculer, de
fonder une nouvelle mystique idolâtrant la
technique, et de fantasmer un « surhomme »
aux accents eugénistes.
Vie artiicielle
Champ de recherche interdisciplinaire visant
à créer des systèmes artiiciels s’inspirant
des systèmes vivants, sous la forme de
programmes informatiques ou de robots.
© enzozo / Shutterstock

Zoom
Au pays Toraja, sur l'île indonésienne

de Sulawesi, les ancêtres sont
représentés par des cornes de bules
accrochées au fronton de la maison,
signe de la richesse familiale. Putrie
porte symboliquement son héritage.

Zoom
How much
can you carry ?
ou Le poids de la vie
Photos : Floriane de Lassée
Texte : Sibylle d’Orgeval
Le long des bandes de bitume, sur les
chemins de terre sans in où les brumes de
chaleur embuent l’horizon, marchent des
silhouettes improbables. De l’Afrique de l’Est
jusqu’aux conins de l’Himalaya, les corps
des marcheurs se prolongent verticalement
par un empilement de choses indiscernables
pour celui qui les double en voiture, trop
préoccupé par la route et le souci de ne
pas les renverser. Que le buste soit droit,
ou courbé par le poids, la tête reste haute,
imperturbable au passage des bolides
brinquebalants. Cariatides modernes !
De l’autre côté de la fenêtre, embarqués
dans un monde pressé qui méprise le pas
lent des porteurs, nous sommes de simples
spectateurs de ces vies qui déilent. Mais
voici que Floriane de Lassée, photographe
voyageuse, a décidé d’arrêter sa course ain
de prendre le temps de les rencontrer et de
découvrir que ces équilibristes portent bien
plus qu’un simple bidon, une cruche ou un
sac de linge, bien plus que de quoi survivre :
ils portent le poids de la vie.
Sa série s’intitule : « How much can you
carry ? ». Une phrase lancée comme un déi :
« Montre-moi ce que tu peux porter ! Montre- À peine essoulée,
moi qui tu es ! » Une phrase à laquelle la Mandebi monte à
photographe française répond avec humour 2 500 mètres d’altitude
et profondeur : qui aurait cru qu’une petite sur les sentiers de
ille puisse porter sur sa tête des stères de l’Annapurna, au Népal,
bois surmontés d’un chevreau ? Sommes- portant une charge
nous plus forts que ce que nous croyons ? de 50 kilos.
Ces objets reposent-ils sur leur tête ou
en émergent-ils, comme s’ils étaient la
manifestation de leur inconscient, comme si
soudain « le dehors » illustrait « le dedans » ?
Sur la tête de Putrie en Indonésie, cette
montagne de cornes, symbole de pouvoir
Quelle que soit la charge, la tête est ière et le La série How much can you carry?,
et de richesse, est-elle réelle ? Est-elle posée
sourire éclatant. Comme si, le temps de la prise commencée en Éthiopie en 2012, s’est
là par les anciens qui lui transmettent cette
de vue, tous se moquaient du destin. Vivre est étendue aux quatre continents, avec une
charge ? Ou est-elle sortie d’un cerveau déjà
un numéro d’équilibre et les photographies dizaine de pays représentés aujourd’hui
lucide sur ses responsabilités futures ?
de Floriane nous emmènent au-delà de toute (Bolivie, Brésil, Indonésie, Japon, Népal,
Floriane de Lassée prend le contrepied de gravité ! À contempler tant de charges portées Rwanda…) dans une soixantaine de
l’imagerie habituelle des têtes abattues et avec gaieté, imaginons un instant que nous photographies.
des échines courbées, et dépasse le cliché pouvons jouer de nos propres fardeaux, et
du travailleur à la peine. ressortons-en plus légers !

Zoom
1 2
1
Freddy porte de l’eau, à l'Isla del Sol.
Située au milieu du lac Titicaca (Bolivie),
l’île manque cruellement d’eau potable.
2
Au Népal, Dokalia porte son lit de bambou, celui
sur lequel son corps afaibli par l’âge reposera
un jour, au moment de son départ vers l’au-delà.
3
La petite Éthiopienne Aru s’apprête à faire
quelques heures de marche pour échanger au
marché son bois et son chevreau contre quelques
produits de première nécessité.
4
Gale, de l’ethnie Hamer, en Éthiopie, transporte de
l’eau. La denrée est si rare dans la Vallée de l’Omo
au sud du pays, qu’il faut être armé.

Zoom

Zoom

Zoom
2 3
1
Dans un petit village au Rwanda, Casim tient
une échoppe où il vend toutes sortes de choses,
y compris des valises, qui font rêver de voyages
que l’on ne fait pas.
2
Né dans un village de pêcheurs près de Fortaleza,
au Brésil, Nonato transporte ses casiers à
écrevisses, qui ont remplacé les homards d’antan.
3
Sur l’île de Sulawesi (Indonésie), Sary et Nifah
vendent des noix de coco aux touristes
qui souhaitent se désaltérer.
4
Yuzuke aura travaillé toute sa vie sur le chantier
naval d’Onomichi, ville portuaire située au bord de
la mer intérieure de Seto, au Japon.

Zoom
Tamru, le père d'Aru (p. 44)

et d'Aftam (p. 49),
photographiés dans
la même série, transporte
de la bouse de vache
séchée qui sert à protéger
la maison du froid et
de la chaleur.

Zoom
Aftam, le petit frère d’Aru

(p. 44), marchera, lui aussi,
longtemps pour se rendre
au marché et échanger
son animal contre du blé.

Idées
© Juan Roberto Diago / Avec l’aimable autorisation de Cernuda Arte
Me voici (techniques mixtes), 2014, œuvre de

l’artiste cubain Juan Roberto Diago.

Idées
Danser
l’innommable
ou la question de l’inluence de la mémoire de
l’esclavage sur la création artistique contemporaine
Alain Foix
Inluence : « action par laquelle s’écoule
des astres un luide qui est censé agir sur
C’est un regard de philosophe la destinée des hommes ». C’était le sens
que l’artiste Alain Foix pose ici premier de ce mot. Selon la théorie de la
© Juan Roberto Diago / Avec l’aimable autorisation de Cernuda Arte

sur la question des rapports entre gravitation universelle, les astres exercent
histoire, mémoire et création entre eux une inluence en fonction de leurs
masses respectives, et cette inluence est
artistique. Grâce à son art, l’artiste produite par ce qu’on appelle des ondes
n’est pas assigné à une couleur gravitationnelles qui, d’une certaine manière,
de peau et n’est pas condamné seraient le luide des Anciens. Nous, humains,
sommes donc en un sens inluencés par ce
à danser irrémédiablement une
principe même qui nous cloue au sol.
histoire innommable. Il s’inscrit
Cette idée d’inluence, passant d’une
plutôt dans une dialectique : il est
conception cosmogonique, c’est-à-dire
à la fois libre et possédé. En créant, mythique, à une conception cosmologique,
il devient maître de sa propre c’est-à-dire scientiique, passant de
histoire, ce qui lui permet de l’astrologie à l’astronomie, a été, au cours du
XIXe siècle, reprise par le savant bonapartiste
dépasser le passé. Son intelligence Pierre-Simon de Laplace, sous la forme du
artistique doit être vue comme déterminisme mécanique. Ce déterminisme
une « ruse », qui produit une est illustré par cette fameuse phrase Mon histoire est ton histoire (2000), œuvre
tirée de son essai philosophique sur les de l’artiste cubain Juan Roberto Diago.
inluence nouvelle sur le monde
probabilités : « Nous devons donc envisager
et invite, en fabriquant une l’état présent de l’Univers comme l’efet de son
œuvre ouverte et indéterminée, état antérieur et comme la cause de celui qui pour, à l’instar de George Cuvier, l’adopter en
au partage des cultures. va suivre. Une intelligence qui, pour un instant l’appliquant à la notion de races humaines,
donné, connaîtrait toutes les forces dont la créant par là un racisme scientiique dans
nature est animée et la situation respective lequel se sont engoufrés des savants de
Avec cet article Le Courrier de l’UNESCO
des êtres qui la composent, si d’ailleurs elle sinistre mémoire comme les Gobineau,
marque la Journée internationale du
était assez vaste pour soumettre ces données les Friedrich Blumenbach, les Houston
souvenir de la traite négrière et de
à l’analyse, embrasserait dans la même Stewart Chamberlain ou autres Vacher
son abolition (23 août). Sa première
formule les mouvements des plus grands de Lapouge ? Tous enfermant lesdites
commémoration a eu lieu il y a vingt ans,
corps de l’Univers et ceux du plus léger atome ; races dans la détermination historique de
en 1998, en hommage à l’insurrection
rien ne serait incertain pour elle, et l’avenir, leur constitution.
de 1791 à Saint-Domingue (aujourd’hui
comme le passé, serait présent à ses yeux. »
Haïti et République dominicaine) qui a Et si « Dieu ne joue pas aux dés dans
Autrement dit, nous croyons être des sujets
joué un rôle déterminant dans l’abolition l’Univers », pour reprendre la célèbre
libres et autonomes, alors que nous sommes
de la traite négrière transatlantique. formule d’Einstein, il y aurait donc, dans
les objets des événements qui nous ont
l’ordre de cette harmonie universelle, une
précédés, et restons donc sous leur inluence.
logique dans les choses – selon laquelle
Mais alors, est-ce l’efet du hasard ou il y aurait des élus et des damnés, visibles
celui d’un moment épistémologique et et repérables scientiiquement par leur
idéologique si, sous le règne de Napoléon morphologie. Nous savons que c’est une
(1804-1815), et au moment même telle pensée mécaniste qui a encouragé
où il restaure l’esclavage et déploie la la mécanique brutale de l’expansion
colonisation intensive, d’autres savants industrielle de l’esclavage.
s’emparent de cette conception déterministe

Idées
Malheureusement, bien longtemps après

l’abolition de l’esclavage, et malgré les progrès
de la science dans tous les domaines de la
biologie, de l’anthropologie et des sciences
dures comme la physique et l’astrophysique,
une telle conception perdure jusqu’à nos jours
dans les esprits et tamise notre fond culturel.
N’a-t-on pas entendu parler à la télévision et
dans les médias de la « malédiction du peuple
haïtien », à la suite du tremblement de terre
qui a frappé Haïti en 2010, associant ainsi une
pensée théologique avec un phénomène
d’ordre tectonique, relié à des causes d’ordre
économique, politique et social ? Comme si
celui-ci demeurait sous l’inluence d’un passé
provenant d’une condition première, dont
© Photo by Christopher Duggan
la cause se trouve au fond des âges... Ce qui

permet évidemment de ne pas prendre en
considération la question coloniale et l’histoire
politique et économique – qui, jusqu’à
aujourd’hui, a conduit le destin de cette île.
Prenons donc garde à cette notion
d’inluence qui, comme une arme à double
tranchant peut blesser celui qui s’en sert. Car Scène de Révélations, ballet du danseur
ne pas y prendre garde pourrait amener à et chorégraphe afro-américain Alvin Ailey
ce retour de sens qui signiierait que nous (1931-1989).
sommes déterminés, condamnés à peindre, Au-delà de la mémoire,
danser, chanter, jouer, ilmer à l’inini cette
toile de fond qui constitue la mémoire Au milieu du siècle dernier, Werner
être sujet de
résiduelle de cette délagration inhumaine Heisenberg introduisit dans la physique sa propre histoire
qui aurait fait ce que nous sommes. quantique la notion d’indétermination
Condamnés à danser l’innommable. ou principe d’incertitude, qui fait qu’un Cette liberté est en fait celle de notre action
objet n’est jamais qu’un objet pour un à l’intérieur de notre propre histoire. Une
Prenons donc garde de reprendre à notre histoire dont nous ne sommes plus les
sujet et que le sujet qui observe, séparé
compte cette conception déterministe objets pensants, mais les sujets agissants.
ontologiquement de l’objet observé, ne
et raciste des êtres humains jusqu’à faire Bien que nous soyons agis nous-mêmes
peut appréhender celui-ci sans savoir qu’il
de ceux qui ont parmi nous la capacité par notre propre action. Non plus objets
exerce une inluence sur lui et qu’il doit
d’expression artistique – les conteurs et d’une histoire qui nous contraint à penser à
prendre en compte cette inluence.
peintres – les obligés de notre histoire. travers elle, mais sujets d’une histoire qui se
Il n’y a donc pas d’objet absolu et déterminé,
ni de sujet absolu, mais de la relation. construit avec nous et par nous.
Pour une histoire Relation induite par l’action, le mouvement, Il nous faut donc penser l’histoire, notre
non déterministe la pensée du sujet lui-même dans son
rapport à l’objet.
histoire, non plus à travers le canevas
des déterministes, mais avec Hegel et sa
Car l’histoire de l’esclavage n’est pas conception du sujet de l’histoire. Hegel
Mais quelle serait la nature de cette
notre Big Bang, ce moment premier dont dont la fameuse dialectique du maître et
relation, de cette inluence, si le sujet lui-
tout découlerait de manière mécanique de l’esclave n’est qu’une illustration des
même était déterminé, sous inluence
et irréversible, car il y a un en deçà qui conséquences de la prise de possession
d’une cause le précédant ? Elle serait
est l’histoire précoloniale de l’Afrique et de sa propre histoire par le sujet qui
simplement nulle et saisissable dans une
des Amériques, et un au-delà : le futur s’en émancipe.
équation mathématique. Le principe
à construire. La science et les nouvelles
d’indétermination qui suppose un mode Notre histoire et notre mémoire n’exercent
conceptions de l’histoire nous ont permis de
nouveau, non déterministe entre nous et une inluence sur nous que dans la mesure
mettre au rebut ce dangereux déterminisme
notre univers, implique donc que le sujet où nous-mêmes exerçons une inluence sur
mécanique et sa conception de l’inluence.
lui-même est indéterminé, que son action elle. Dès lors, ce fond cosmique qu’est notre
et sa pensée ne sont pas soumises à la mémoire n’est plus notre seul horizon. Nous
causalité mécanique. En d’autres termes nous évadons de ce trou noir pour découvrir
que le sujet est libre, en mouvement, en sa relativité. Nous nous en échappons
progression. Et par conséquent, il libère pour devenir nous-mêmes, pour créer un
l’objet de lui-même. Objet qui, par cette temps nouveau qui n’est autre que le nôtre.
indétermination dialectique de la relation, Ce temps de mon être, de mon action qui
retrouve son autonomie. n’est autre que moi-même. Je suis le temps
en acte. Je suis son expression.

Idées
Il nous est alors nécessaire de reconsidérer

son œuvre autrement, par d’autres prismes
L’artiste, à la fois libre
esthétiques, éthiques et politiques. et inluencé
Compte-tenu de cette liberté acquise sur
C’est précisément cette liberté avérée qui
les déterminismes de l’histoire, nous devons
donne valeur au don, à l’ofrande de l’artiste
saisir l’œuvre de tout artiste non comme
de son œuvre. C’est elle qui lui donne
une expression contrainte et obligée de
capacité de créer au sens propre, c’est-à-
lui-même et de sa mémoire, mais comme
dire de produire du nouveau à partir de
l’expression d’un acte délibéré auquel il
l’ancien, de générer des mutations de forme.
donne sens et existence.
C’est en reformulant un matériau, à savoir
une histoire sédimentée dans la mémoire
La dialectique de l’artiste culturelle, esthétique, voire éthique, qu’il
et de son œuvre produit du sens.
S’il le fait, c’est qu’il est en mesure, par choix,
On peut dès lors appréhender l’artiste
d’apporter son énergie propre, libérée,
dans l’ordre dialectique d’un sujet vis-à-vis
autonome, au fond résiduel de mémoire
de son œuvre, dans la dialectique sujet/
que constitue la culture. Son énergie est
objet. Cette œuvre est une expression
son action formelle, sa puissance de travail
diférenciée, elle exprime une diférance,
au sens qu’Aristote donne au mot energeia
et nous écrivons ce mot avec un a comme
(littéralement « qui est en plein travail »,
le fait Derrida, car c’est l’acte de diférer, de
mais également « qui donne forme, qui fait
sortir de soi, de son temps propre, quelque
œuvre ») – forme et énergie étant une seule
chose qui n’est pas soi ou tout soi. Une
et même chose en réalité, comme l’atteste
mise à distance expressive de soi. L’acte
la physique.
de création artistique est donc critique en
ceci qu’il exprime une crise. Krisis en grec On peut ainsi dire, partant de cette energeia,
Ce piège, ce ilet cosmique que pouvait signiiant « séparation, distinction ». Mais que l’artiste est un énergumène, un possédé,
devenir ma mémoire, se referme sur celui crise signiie également originellement en un « travaillé ». On pourrait dire également,
que je ne suis plus. Il se clôt sur une histoire français, « jugement, décision ». Cette crise partant du verbe energeio, qu’il est sous
passée, relativisée. Histoire qui dès lors est est le moment dialectique d’accouchement inluence. Mais alors, comment l’artiste peut-
mienne, qui m’appartient, mais dont je ne d’une chose qui vient de soi, mais n’est pas il être à la fois libre, autonome, émancipé et
suis plus prisonnier. Je deviens maître de soi. Cette diférance est une ofrande de soi sous inluence ? C’est là une contradiction
mon histoire, car j’ai ouvert son horizon. à ce qui n’est pas soi, à l’autre. Elle produit apparente qui se résout par le simple fait
Déchiré son ilet. un objet, mais un objet subjectif. Ce qui que l’artiste est artiste, libre de choisir son
Je ne suis plus condamné à danser fait sens dans l’œuvre est ce don qui ouvre inluence, libre de se laisser posséder, se
l’innommable, car maître de mon temps, à la possibilité de partage entre l’autre et laisser travailler par une dimension de la
maître de moi-même, je suis aussi maître soi, et c’est dans ce partage que se trouve mémoire collective qu’il fait sienne. Et c’est à
de mes choix et de mon expression. Je suis l’expression. Dans cette relation entre sujets ce prix, parce qu’il est libre, qu’il peut donner
un sujet libre et autonome, émancipé de par l’intermédiaire d’un objet subjectif, qui forme propre et posséder ce qui le possède,
ma mémoire, et mon expression ne peut par nature engage le dialogue silencieux chevaucher ce qui le chevauche. Ce choix
être lue et agie à travers l’unique prisme de entre les deux. est précisément ce qu’au sens sartrien on
mon passé, qu’il soit individuel ou collectif. peut appeler un engagement. Il s’engage
Ainsi parce que librement choisie par le sujet
J’ai ouvert le champ des possibles. tout entier dans son matériau choisi, il s’y
autonome qui la donne à voir, en fait don
risque car ce matériau le travaille. Et s’il est
En d’autres termes, il n’y a aucune obligation et objet de partage avec l’autre-spectateur,
travaillé par lui, c’est parce qu’il perçoit en
morale ou intellectuelle pour un artiste noir l’œuvre elle-même acquiert son autonomie,
lui-même une nécessité, un manque qu’il a
de peindre le noir de son histoire, dès lors son sens propre, voire son énigme, son
besoin de combler.
qu’il est un sujet libre et autonome et qu’on indétermination, et peut devenir objet
le considère comme tel. d’appréhension et de compréhension, C’est ainsi qu’il faut considérer la mémoire
diférenciée de son auteur. C’est ainsi que résiduelle de l’histoire de l’esclavage :
L’artiste quel qu’il soit, ne peut plus être certains auteurs peuvent dire qu’une fois un matériau pour l’artiste qui souhaite
considéré comme le facteur d’expression réalisée, l’œuvre ne leur appartient plus, elle s’y colleter.
d’un commanditaire qui en serait le maître, est oferte tout entière à l’universel de la
maître d’un sujet à dépeindre et à exprimer, Ce qu’il va produire de son travail est ce
saisie esthétique.
maître d’une histoire et d’une cosmogonie, qu’Aristote appelle entelecheia (ce qui
maître d’une éthique et d’une esthétique, séjourne dans sa in). Une inalité de forme,
maître d’une vision et d’une conception en quelque sorte, produite par l’énergie-
du monde léguée par une histoire dont forme de l’artiste qui ofre à l’œuvre
nous serions prisonniers, mais comme sujet son autonomie.
agissant, autonome et libre de sa propre
expression, de sa propre vision du monde,
de sa propre histoire.

Idées
Mais cette œuvre qui n’est pas lui, sortie de

lui-même, demeure une question, une forme
questionnant l’énigme même de l’histoire,
questionnant aussi ce présent dans lequel
subsiste cette mémoire. Alors cette œuvre,
celle « qui séjourne dans sa in », n’est-elle
pas inalement l’acte de cet énergumène qui
cherche à en inir avec cette mémoire en lui,
clore cette histoire par une forme nouvelle
qui éclaire le passé en le laissant à sa place,
en le dépassant littéralement ?
Une ruse de
l’intelligence artistique
© Chichi Reyes
Ainsi l’artiste choisit son inluence en

exerçant sa liberté d’artiste pour précisément
ne pas rester sous l’inluence du passé et
pour produire du présent. Lorsqu’on parle
par exemple de l’inluence de l’art africain Hexadécimal (techniques mixtes),
2015, œuvre de Chichi Reyes Lorsqu’en danse, Katherine Dunham et, à sa
ou de l’art dit nègre sur l’art moderne, suite, Lester Horton ou Alvin Ailey, puisent
chez Picasso, Braque, Derain, Matisse, voire (République Dominicaine).
dans les traditions africaines ou indiennes et
Apollinaire et les surréalistes, il s’agit de dans la mémoire de l’esclavage des éléments
l’appréhender non pas comme l’inluence qui deviennent constitutifs de leur création,
Parler d’inluence, c’est en fait parler d’une
mécanique d’un objet sur un sujet, mais c’est dans le cadre d’une recherche de
recherche de nouvelles formes, de nouveaux
comme un dialogue relationnel. Cette nouvelles formes permettant à la fois d’éclairer
contenus formels, aptes à transformer la
inluence survient, parce que ces derniers le passé et de produire un nouveau regard. Le
manière de voir, d’entendre, d’apprécier. Il
étaient dans une phase critique remettant jazz est né de Congo square, lieu de rencontre
s’agit là d’un combat. La création artistique
en cause les formes héritées de leur passé et de danse des esclaves de la Nouvelle-
est plus que résistance, un « sport de
et étaient à la recherche de nouveaux Orléans aux États-Unis, pour intégrer dans
combat » contre des modes, sédimentées
matériaux expressifs. Ainsi le tableau Les une forme musicale nouvelle des éléments
et imposées par une culture dominante, de
Demoiselles d’Avignon de Picasso est le fruit constitutifs de sa mémoire, mais une
la perception du monde et de ses objets.
d’un dialogue entre une question esthétique mémoire distanciée par la forme
Lorsque Martin Luther King disait que
de l’Occident sur lui-même à un moment même et créant une aire de partage
« la musique est notre arme de guerre », il ne
donné, et l’art africain dont on découvre alors sensible entre plusieurs formes de
voulait pas dire autre chose. Cette arme
qu’il n’est pas, comme on disait, « primitif », culture, plusieurs horizons.
agit dans la mesure où non seulement elle
mais porteur de création et de pensée. Ce qui
rassemble des forces autour d’elle, mais On peut parler alors d’une ruse de
fera dire à Maillol que « L’art nègre renferme
aussi parce qu’elle est en mesure d’entrer l’intelligence artistique qui intègre l’ancien
plus d’idées que l’art grec ». Ainsi cette
dans la sensibilité de l’adversaire et de le dans le nouveau, en dépassant le passé,
rencontre produira tout à la fois de nouvelles
posséder. Elle lui parle et, par la sensibilité, et permet d’inluer sur sa perception.
formes d’expression et un nouveau regard
lui ouvre un horizon. Cela est possible parce C’est sans doute ça, le métissage :
sur l’objet qui instaure un nouveau dialogue
que le gospel et le blues aux États-Unis font un mouvement vers le nouveau
esthétique : en l’occurrence, l’art africain.
partie d’un socle commun, qui permet aux permettant de créer une
Ce qu’on appelle inluence est bien en réalité Noirs de parler aux Blancs par une forme inluence nouvelle. La déesse
un choix dicté par un besoin d’expression. Et sonore ouvrant l’esprit au contenu de leur Métis, première femme de
dans cette expression, il y a chevauchement discours. Les discours mêmes du leader des Zeus dont le nom signiie
entre le sujet et l’objet, il y a possession. droits civiques étaient scandés à la façon des littéralement « le conseil,
On peut dire en ce sens que Les Demoiselles chants de gospel – ce qui leur permettait la ruse », celle dont Hésiode
d’Avignon sont possédées par l’art africain. une plus forte pénétration, ce qui les portait disait « qu’elle sait plus de
L’œuvre est le produit de la recherche vers un universel. Il était bien sûr question choses que tout dieu ou tout
d’un nouveau regard, d’une mutation du dans ses discours de la mémoire commune homme mortel », était capable
goût, ou comme dirait Nietzsche à propos de l’esclavage, mais dans une forme qui s’en d’inluencer Zeus lui-même,
de la musique « d’une renaissance de l’art distanciait pour parler à ses contemporains. de lui faire changer d’opinion.
d’écouter ». Il est séduit par la Carmen de
Bizet, œuvre dans laquelle il trouve une Ainsi l’intégration de la mémoire,
dimension africaine. Il en est séduit parce qu’elle soit de l’esclavage ou de toute
qu’il y a rencontre entre cette œuvre autre mémoire dans un corps nouveau
et le philosophe qui, s’étant séparé du et une forme nouvelle, est une ruse
romantisme et de Wagner, recherchait une de l’intelligence artistique permettant
nouvelle forme esthétique qui fasse sens et d’inluencer le présent.
ouvre un nouvel horizon.

Idées
L’actualité artistique fourmille de ces Écrivain, dramaturge, metteur en scène et philosophe guadeloupéen,
exemples en danse, en musique, en théâtre, Alain Foix est le fondateur de « Quai des arts », une compagnie
art plastique ou au cinéma. Cette ruse n’est multidisciplinaire faisant croiser le spectacle vivant et les nouvelles
possible que dans la mesure où l’on admet technologies de l’image et du son. Il est notamment l’auteur
que l’artiste s’est libéré de son passé en de Je danse donc je suis (2007), Histoires de l’esclavage racontée à
l’intégrant dans son œuvre – qu’en tant Marianne (2007), Noir, de Toussaint Louverture à Barack Obama (2009)
que sujet libre et autonome, il choisit cette et Martin Luther King (2012), Che Guevara (2015). Parmi ses œuvres
inluence et n’en est pas l’objet. Ce qui nous théâtrales, citons Vénus et Adam (2004), Pas de prison pour le vent
oblige également à considérer l’artiste et son (2006) et La dernière scène (2012), huis clos entre Martin Luther King,
œuvre comme séparés ontologiquement, sa femme Coretta et Mumia Abu-Jamal.
bien que reliés d’une certaine manière,
choisie par l’artiste et son mode d’action Noms cités
sur le matériau de la mémoire. Cela signiie
aussi qu’il nous faut regarder l’œuvre en Ailey, Alvin (1931-1989), danseur américain
tant qu’œuvre dans son autonomie et Apollinaire, Guillaume (1880-1918), poète français
Aristote (IVe s. avant J.-C.), philosophe grec
dans l’énigme de son indétermination.
Bizet, Georges (1838-1875), compositeur français
Elle reste ouverte, objet de partage et donc Blumenbach, Johann Friedrich (1752-1840), anthropologue allemand
de jugements diférenciés, de critique. Braque, Georges (1882-1963), peintre français
Enin, partant de l’œuvre elle-même, on Chamberlain, Houston Stewart (1855-1927), essayiste britannique
Cuvier, George (1769-1832), anatomiste français
ne peut induire la couleur de son auteur.
Derain, André (1880-1954), peintre français
Ne pas enfermer le peintre dans sa couleur Derrida, Jacques (1930-2004), philosophe français
car ce n’est pas la couleur du peintre qui Dunham, Katherine (1909-2006), danseuse américaine
donne couleur à son œuvre, c’est l’œuvre Einstein, Albert (1879-1955), physicien d’origine allemande
elle-même et les analyses critiques qui en Gobineau, Arthur de (1816-1882), écrivain français
sont faites postérieurement. Cette œuvre Hegel, Georg Wilhelm Friedrich (1770-1831), philosophe allemand
qui dit, dans la variété de ses possibles Heisenberg, Werner (1901-1976), physicien allemand
et dans les possibilités ininies de sa Hésiode (VIIIe s. avant J.-C.), poète grec
forme ouverte et de son interprétation, Horton, Lester (1906-1953), danseur américain
ce que disait Lamartine se battant contre King Jr, Martin Luther (1929-1968), pasteur américain et militant des droits civiques
Lamartine, Alphonse de (1790-1869), poète français
l’abomination de l’esclavage : « je suis de
Laplace, Pierre-Simon de (1749-1827), mathématicien français
la couleur de ceux qu’on persécute. » Maillol, Aristide (1861-1944), sculpteur français
Matisse, Henri (1869-1954), peintre français
Nietzsche, Friedrich (1844-1900), philosophe allemand
Picasso, Pablo (1881-1973), peintre espagnol
Sartre, Jean-Paul (1905-1980), écrivain et philosophe français
Vacher de Lapouge, Georges (1854-1936), anthropologue français
Wagner, Richard (1813-1883), compositeur allemand
Voyage, assemblage (350 x 300 x 300 cm) de tongs et

de igurines yoruba (ibejis), évoquant la traite négrière,
© Dominique Zinkpé / réalisé en 2015 par l’artiste béninois Dominique Zinkpé.
Photo Charles Placide TOSSOU

Notre invité
Aiche de La bataille d’Alger,

un ilm dans l’histoire (2017),
documentaire de Malek Bensmaïl.
© Hikayet Films/Ina

Notre invité
Filmer le réel,
ça peut déranger, mais ça fait grandir
Malek Bensmaïl
Malek Bensmaïl répond aux questions de Jasmina Šopova
Trois ans après l'indépendance de l'Algérie, signée en 1962 au terme de

huit années de guerre, le cinéaste italien Gillo Pontecorvo tourne son ilm
La Bataille d'Alger, traitant de l'un des épisodes les plus sanglants de la
guerre d'Algérie, qui a opposé, en 1957, les indépendantistes algériens
du Front de libération nationale (FLN) au pouvoir colonial français.
Durant le tournage, l’armée du colonel Houari Boumédiène entre à Alger,
le 19 juin 1965. Chars du tournage et vrais chars se confondent. L’entourage
du président Ahmed Ben Bella n’y voit que du feu. Il est renversé !
Un demi-siècle plus tard, Malek Bensmaïl se penche sur le rôle historique
que ce ilm a joué, dans son documentaire : La Bataille d'Alger, un ilm
dans l'histoire (2017). Mais ce n’est pas « un ilm sur un ilm »,
explique-t-il. C’est plutôt une lecture de l’histoire de son pays :
la révolution, le coup d’État, les régimes politiques, la décolonisation…
Depuis bientôt trente ans, le réalisateur algérien crée ce qu’il appelle
la mémoire contemporaine de son pays.
Portrait de Malek Bensmaïl (2016).
© Bruno Lévy / Divergence
Pour quelle raison avez vous choisi le Dans les années 1990, alors que nous Un des atouts de la démocratie, la liberté
documentaire comme mode d’expression ? étions en plein dans la « décennie noire », de la presse, fait l’objet de votre ilm
en Algérie, j’ai pris le parti du réel. Et je consacré au journal indépendant algérien
Plus que la iction, le ilm documentaire est
persévère dans cette voie. Mon idée est de El Watan, sorti en salle en 2015. Vous l’avez
capable de contrer les mythes nationaux.
faire tous les ans, ou tous les deux ans, un intitulé Contre-pouvoirs. Pourquoi ?
Pas pour les détruire, mais pour leur donner
ilm sur les gens, les institutions, des sujets
leur juste place, ain qu’ils n’écrasent pas La presse libre est un acquis démocratique
de société importants. Je voudrais que
la société. Si vous ne ilmez pas votre réel, que de nombreux journalistes ont payé de
ces ilms permettent par la suite de mieux
comment ferez-vous pour vous regarder ? leur vie durant la guerre civile en Algérie, qui
comprendre comment un pays se construit
D’où viendraient vos inspirations ? D’où a éclaté en 1991, faisant 200 000 morts et
dans le temps.
viendraient vos rêves ? D’ailleurs – faut-il 100 000 disparus. Quelque 120 journalistes
le rappeler ? –, le cinéma est né du Mon intention est de créer une mémoire algériens ont été assassinés par des
documentaire : souvenons-nous des frères contemporaine, en montrant ce laboratoire extrémistes islamistes entre 1993 et 1998.
Lumière... Le ilm documentaire détermine qu’est l’Algérie, ce pays qui se cherche, ses Mais ce n’est pas pour autant que la presse
l’imaginaire collectif. C’est ce réel-là qui avancées, ses reculs, ses questionnements… indépendante aujourd’hui représente un
nourrit la iction et qui tend à la société Ce n’est pas en claquant des doigts qu’on réel contre-pouvoir dans mon pays.
un vrai miroir. Je sais que ilmer le réel, accède à la démocratie. Ni avec des fusils,
Pour ce ilm, j’avais décidé de porter un
ça peut déranger ; mais je sais aussi que du reste !
regard « en biais », en suivant une équipe
ça fait grandir.
de journalistes au travail. En efet, ce qui
m’intéressait n’était pas tellement la presse
en tant que contre-pouvoir, mais les contre-
pouvoirs incarnés par les individus.

Notre invité
En Algérie, la notion d’individu n’a pas Leur objectif est de donner des informations Je pensais que c’étaient des expériences
encore fait son chemin. Nous sommes justes venant de sources équilibrées. pénibles, mais il estimait pour sa part qu’ils
enfermés dans l’idée de collectivité. Nous D’ailleurs, ils ont pour la plupart des sites lui permettaient non seulement de défendre
avons une nation à défendre, un pays à web qui sont accessibles gratuitement à les journalistes et les caricaturistes, mais
défendre, un dieu à défendre, une langue tous, y compris à la diaspora. aussi de défendre la notion même de liberté
à défendre… Il y a toujours ce chifre d’expression, qui est par ailleurs inscrite dans
Que fait El Watan pour préserver son
« un », qui est omniprésent, omnipotent, la Constitution.
indépendance ? Comment assure-t-il sa
qui est supposé nous englober tous, alors
survie? Ces procès lui donnent l’occasion d’expliquer
qu’en réalité il existe des personnalités, des
au tribunal ce qu’est une caricature, ce qu’est
intellectuels, des journalistes, des juges, Par la vente du journal – il est tiré à 140 000
l’humour, ce qu’est une chronique, ce qu’est
des étudiants... qui vivent dans un espace exemplaires, au prix de 20 dinars la pièce
une enquête, et où sont les freins dans la
multiculturel et multilinguistique, qui (environ 20 centimes d’euro) – et par la
société. En quelque sorte, il se saisit des
pensent diféremment et qui constituent publicité. Privé de publicité d’État depuis
procès pour former les jeunes magistrats à la
un ensemble de petits contre-pouvoirs 1993, le journal a investi dans une régie
liberté de la presse.
nécessaires à une démocratie. publicitaire et dans une régie de distribution,
ainsi que dans une imprimerie indépendante L’éducation est au cœur de votre
À quoi bon un journal indépendant, s’il n’a
qu’il partage avec El Khabar. De plus, le documentaire La Chine est encore loin (2008).
pas d’impact sur la société ?
journal s’est tourné vers la publicité privée, Pourquoi évoquer la Chine, quand il s’agit
Même quand elle ne constitue pas un réel ce qui lui permet de payer la centaine de d’une classe dans une école de Tifelfel, petit
contre-pouvoir, la presse indépendante journalistes et de correspondants qui font village des Aurès où a commencé la guerre
réussit à dénoncer les violences invisibles partie de la rédaction. d’Algérie, en novembre 1954 ?
dont on ne parle jamais. L’Algérie passe
Cela dit, le journal a connu au moins six Le titre fait référence à une citation du
actuellement pour un pays calme, protégé
interruptions de publication et a fait l’objet prophète Mahomet : « Rechercher le savoir
du terrorisme, mais en fait, elle n’est pas à
de quelque deux cents procès, ce qui le jusqu’en Chine, s’il le faut ». La Chine est donc
l’abri des humiliations et des manipulations.
fragilise beaucoup sur le plan économique. une terre symbolique, celle du savoir, celle
El Watan n’est pas le seul journal qui fait ce J’ai été surpris d’entendre Omar Belhouchet, qu’il faut atteindre au prix de gros eforts.
travail. On en trouve quelques autres, dont directeur de publication et fondateur du Celle qui est encore loin, vue de l’Algérie.
Le Quotidien d’Oran, El Khabar, Liberté et, journal, dire qu’il trouvait ces procès très
Juste avant ce ilm, j’avais tourné un
dans une certaine mesure, Le Soir d’Algérie, importants pour le processus démocratique.
documentaire sur la folie (Aliénations, 2004).
qui sont également dans la résistance
J’ai passé trois mois dans un hôpital
et dans le combat. Ce ne sont pas des
psychiatrique et j’ai rencontré de nombreux
journaux d’opposition.
Extrait du ilm La Chine est encore loin cas de délires politico-religieux. Je me suis
(2008), de Malek Bensmaïl. posé la question sur l’origine d’une telle
pathologie. Un psychiatre m’a donné la
réponse : « C’est la société ». Cela m’a incité à
aller voir comment on formait la jeunesse,
quelles idées lui étaient transmises à l’école.
Je me suis donc rendu dans l’école du village
où avait débuté la guerre l’Algérie.
C’était une guerre très violente qui a duré
quasiment huit ans. Grâce à sa victoire,
l’Algérie est devenue un mythe et les
régimes qui se sont succédé ont beaucoup
travaillé à la consolidation de ce mythe.
Je ne dis pas que ce n’est pas une bonne
chose que de forger le sentiment national
au sein de la population et de valoriser son
héroïsme. Là où je ne suis pas d’accord, c’est
quand cela se fait en total déphasage avec la
vie locale, quotidienne. J’ai voulu ilmer une
Algérie qui travaille tous les jours, qui se bat
tous les jours, en-dessous de ce mythe-là.
© Unlimited/CirtaFilms

Notre invité
© Unlimited/CirtaFilms
« On ne fait pas un ilm sur, mais avec
les gens du réel », a déclaré le réalisateur
Malek Bensmaïl. Ici, un groupe d’élèves
Et le ilm montre le fossé qui sépare le mythe Il était impossible d’interviewer d’autres ayant participé au tournage du ilm
de la réalité sociale. Au bout du compte femmes, alors que dans cette région, les La Chine est encore loin.
on s’aperçoit que ce que l’on inculque aux femmes étaient autrefois réputées pour
enfants, c’est la haine de l’autre. Le ilm leur gestion de l’économie : la fabrication
montre aussi que l’éducation coranique des tapis et l’agriculture étaient entre leurs
aujourd’hui est très éloignée des paroles mains. À présent, elles sont tapies derrière Cinéaste algérien, Malek Bensmaïl s’est
du prophète. L’islamisme politique a fait les murs de leurs maisons. À la campagne, consacré à la réalisation de documentaires
beaucoup de dégâts qui se font ressentir elles ne sortent quasiment plus de chez depuis les années 1990, alors que son pays
jusqu’à nos jours, particulièrement dans les elles, même voilées. Ce sont les hommes traversait la « décennie sanglante ». Applaudis
zones rurales. qui font le marché. Cela ne s’était jamais vu ! par la critique, ses films ont reçu des prix
Les années d’islamisme et de conservatisme dans de nombreux festivals internationaux.
Est-ce aussi la raison pour laquelle une seule Ils sont projetés dans des salles de cinéma et
ont réduit à néant le rôle social traditionnel
femme – Rachida, la femme de ménage de diffusés par des chaînes de télévision à travers
de la femme, ainsi que tous les acquis liés
l’école – témoigne dans ce ilm ? le monde : Arte (Allemagne - France), TV
à son émancipation. Pendant le tournage,
Rachida est éblouissante. Elle m’a donné une elles nous envoyaient par l’intermédiaire Cultura (Brésil), RTBF (Belgique), TV3 (Espagne),
formidable leçon de liberté ! Elle vient d’un des enfants des plateaux de nourriture, de YLE (Finlande), France TV, Canal + (France),
autre village du sud de l’Algérie, d’où elle a gâteaux et de café, mais nous n’en avons Channel 4 (Royaume-Uni), RTSI, RTSR (Suisse),
dû s’échapper parce qu’elle était divorcée et pas vu une seule. ainsi que les chaînes internationales BBC et
que, par conséquent, elle était considérée TV5 Monde. Il est lauréat de la Villa Kujoyama
comme une prostituée. (Kyoto, Japon) en 2010. Une rétrospective
de son travail est prévue dans les grandes
universités américaines à l’automne 2018.

Actualités
Photo de la série Genesis

du photographe brésilien
Sebastião Salgado,
prise aux Galapagos
(Équateur), en 2005.
© Sebastião Salgado

Actualités
L'archipel de Colomb :
les habitants
se mobilisent
Scène du marché au poisson de Santa Cruz, © Sarah Del Ben

Qu’imaginons-nous quand nous pensons aux Galápagos ? Des Tortues aux Galápagos (Équateur), en mars 2018.
géantes, des iguanes marins, des pinsons, Darwin et sa théorie
de l’évolution ? Bien entendu. Mais les Galápagos, c’est aussi une
communauté de 28 000 habitants répartis sur quatre îles : Santa Cruz, D’une supericie de 7 500 kilomètres
San Cristóbal, Isabela et Floreana. Et c’est grâce à cette population, carrés, la réserve de biosphère de l’archipel
investie dans la gestion participative et durable des ressources de de Colomb-Galápagos couvre la totalité
de la surface terrestre du Parc national
l’archipel de Colomb – l’autre nom des Galápagos –, que quelque des Galápagos.
240 000 touristes peuvent venir visiter chaque année ce site équatorien
Les Galápagos sont l’un des meilleurs modèles
du patrimoine mondial, depuis 1978, et réserve de biosphère inscrite
d’interaction harmonieuse et mutuellement
en 1984 au Réseau mondial géré par l’UNESCO. bénéique entre l’homme et son milieu
naturel. La stratégie de gestion de la réserve
Situé à 1 000 kilomètres du continent, de biosphère est axée sur une production
l’archipel, qui abrite l’un des écosystèmes alimentaire qui proite à l’économie
marins les plus riches au monde, comprend locale, respecte les écosystèmes et évite
treize grandes îles – assorties de 147 îlots et l’introduction d’espèces envahissantes qui
rochers – qui se sont formées il y a quatre mettraient la biodiversité endémique en péril.
millions d’années. La plupart sont en fait
des sommets de volcans sous-marins, dont
certains s’élèvent à plus de 3 000 mètres du
fond de l’océan Paciique.

Actualités
Au cœur de la réserve, le Parc national des Depuis 2017, la moitié des déchets solides
Galápagos est un exemple réussi de gestion ont été recyclés grâce à un programme de
participative, permettant aux populations
locales de vivre durablement des ressources
ofertes par des activités comme la pêche,
sélection et de valorisation des déchets
auquel la population locale participe
activement.
L’homme et
l’élevage, le tourisme ou les loisirs, grâce à
À travers le projet BRESEP (Réserves de
des plans de gestion judicieux comprenant
biosphère en tant qu’outils pour la gestion Luc Jacquet
la production locale des aliments et le
des zones côtières et des îles dans la région
recyclage des déchets.
du Paciique Sud-Est), le Programme sur
Pour prendre l’exemple du café, une l’homme et la biosphère de l’UNESCO (MAB) En mars 2018, le réalisateur
coopérative a été créée en 2015, comprenant travaille actuellement, en collaboration français Luc Jacquet, couronné
à la fois agriculteurs, torréfacteurs et avec le gouvernement équatorien, le Parc
négociants, dans le but d’améliorer la national des Galápagos et les communautés en 2006 d’un Oscar pour son
production et la commercialisation des locales, à l’extension de la réserve de documentaire La Marche de
huit variétés d’arabica cultivées depuis un biosphère à 133 000 kilomètres carrés, de l’empereur, et la réalisatrice et
siècle sur les îles, à 250 mètres au-dessus du manière à englober également la réserve
photographe Sarah Del Ben,
niveau de la mer. Réputé pour sa saveur, le marine des Galápagos qui est un véritable
café des Galápagos est vendu sept fois plus sanctuaire de la vie marine. Lieu de se sont rendus aux Galápagos
cher que celui du continent. Les procédés conluence de plusieurs courants marins, où dans le cadre d’un voyage
de production (sans pesticides), de récolte eaux froides et chaudes se mélangent, elle de repérage pour un futur
et de transformation respectent les règles abrite une multitude d’espèces endémiques,
de protection de l’environnement, ce qui mais aussi des espèces provenant de
projet cinématographique.
vaudra prochainement à ces variétés une diférentes zones de l’océan Paciique. Ils étaient accompagnés de
certiication d’appellation d’origine.
Financé par le gouvernement lamand du
spécialistes du Programme sur
Quant au recyclage des déchets solides, cela Royaume de Belgique, le projet BRESEP l’homme et la biosphère de
fait dix ans que le gouvernement municipal soutient la création de réserves de l’UNESCO (MAB) qui ont recueilli
de l’île de Santa Cruz multiplie et coordonne biosphère comme autant d’instruments de le présent témoignage.
des initiatives, en lançant des programmes pratiques novatrices et adaptées du point
d’éducation et de sensibilisation aux de vue social, culturel et environnemental.
problèmes environnementaux, en proscrivant Il encourage aussi la mise en place d’un Article publié à l’occasion de
l’usage des matériaux en polyéthylène ou en réseau collaboratif d’échange d’informations la 30e session du Conseil du MAB
interdisant l’importation de bières et de sodas et d’expériences sur la perte de biodiversité, qui se tient à Palembang, Indonésie,
dans des emballages non recyclables. la gestion des zones côtières et le du 23 au 28 juillet 2018.
développement durable. Le projet touche en
Mais toutes ces initiatives doivent leur succès
particulier les littoraux et les îles du Paciique
avant tout aux villageois qui s’approprient les
Sud-Est situés au Chili, en Colombie, en
projets de protection et de sauvegarde de
Équateur, au Panama et au Pérou. Ces eforts
l’environnement. Les artisans s’emparent de
contribuent à doter de meilleurs moyens Ce matin, en me promenant dans les ruelles
matériaux recyclables pour en fabriquer des
d’existence les populations de la région. de Santa Cruz, j’ai vu un vieil homme qui
objets, les maçons se servent de blocs ou de
lisait son journal. Une otarie lui tenait tout
pavés de verre recyclés dans la construction
naturellement compagnie, assise sur le
des maisons, les pêcheurs se mobilisent
même banc. Un peu plus loin, tout juste
pour l’interdiction des ilets en plastique
revenus de la pêche, des hommes vendaient
et ramassent eux-mêmes les déchets qui
du poisson frais qui allait être consommé
polluent la mer, au même titre que les
dans la journée. J’ai continué mon chemin et
habitants dans leur ensemble se livrent
j’ai croisé des passants, des touristes et des
régulièrement au nettoyage des plages. Recyclage des déchets à Santa Cruz,
iguanes. Il a sui de m’écarter un peu des
aux Galápagos (Équateur).
ruelles, pour contempler des enfants jouer
autour des tortues géantes centenaires, qui
paissaient tranquillement l’herbe.
J’ai fait le tour du monde, mais je n’avais
encore jamais vu une telle proximité
entre les diférentes espèces, sauf peut-
être en Antarctique. Ces lieux, qui sont si
loin de tout, sont inalement les derniers
sanctuaires de la vie harmonieuse entre
l’homme et la nature. Et pourtant, dans l’un
comme dans l’autre cas, les conditions de
vie sont extrêmes.
© Sarah Del Ben

Actualités
la nature réconciliés
© Sarah Del Ben

Le réalisateur français Luc Jaquet, lors
d’un voyage de repérage aux Galápagos
Sur les terres arides des Galápagos, brûlées Pour ma part, j’ai la chance de posséder
où il s’est rendu, en compagnie
par le soleil et si hostiles à la vie, l’activité un savoir-faire qui me permet de jouer
d’une équipe de l’UNESCO, en mars 2018.
humaine et la biodiversité ne sont pas en modestement le rôle de médiateur entre
conlit. On a l’impression de se trouver la science et le grand public. Je sais faire des
dans un laboratoire grandeur nature et images qui font passer des messages avec
d’assister à l’éclatante démonstration que une eicacité qui est à présent avérée. Et je Le bouleversement climatique et la perte
le vivre-ensemble des hommes et des mets ce savoir-faire au service de la planète. de la biodiversité sont des problèmes d’une
animaux est bien possible... à condition de C’est la raison pour laquelle je voudrais grande complexité. Le cinéma est capable
mettre en place des politiques de gestion apporter mon soutien au Programme MAB de les rendre accessibles au public en les
raisonnée des ressources, qui permettent de l’UNESCO dont les aspirations rejoignent traduisant en histoires à la fois simples et de
aux écosystèmes de survivre. L’archipel les miennes. Sa philosophie est fondée sur portée universelle. C’est ainsi qu’il pousse
devrait servir de modèle au reste du une idée à laquelle j’adhère pleinement, cette première porte qui nous mène sur la
monde, sur les moyens de combler le fossé celle du vivre-ensemble. voie de la prise de conscience.
que nous avons creusé entre nous-mêmes
Le cinéma est un formidable outil d’éveil des Et lorsqu’on est sur cette voie, on comprend
et le reste des être vivants.
consciences. Sa langue est celle de l’émotion qu’il est illusoire d’imaginer un instant –
Participer à la conservation des écosystèmes et de la métaphore. Loin du discours et pourtant les quatre ou cinq dernières
est toujours une tâche compliquée. Mais il moralisateur ou culpabilisant, qui a d’ailleurs générations humaines l’ont fait – que nous
faut avant tout apprendre à les connaître fait preuve d’une relative ineicacité, le pouvons vivre coupés de la nature. Nous
et à les aimer. Et si chacun de nous s’y met, ilm agit à la fois sur le cœur et sur la raison venons de la nature et nous avons besoin
en employant ses talents et son savoir-faire, de ses spectateurs. Il les incite ainsi à d’elle pour des choses aussi élémentaires
notre efort collectif portera ses fruits, j’en s’approprier les choses de la nature, soit en que respirer, boire ou manger. Mais nous
suis convaincu. Je crois profondément que raison de leur beauté, soit en raison de leur avons besoin d’elle aussi pour rêver.
cette énergie collective nous permettra intérêt, soit par simple curiosité.
d’avancer vers un mode de vie dans lequel
nous ne serons plus des colonisateurs,
mais des gestionnaires, vers une société
qui connaît la valeur de la planète sur
laquelle elle vit.

Actualités
Des secrets
de Tiwanaku
dévoilés par un drone
Lucía Iglesias Kuntz (UNESCO)
À 70 kilomètres à l’ouest de La Paz

et à 15 kilomètres des rives du lac
Titicaca, Tiwanaku, centre spirituel
et politique de la culture tiwanaku
(Bolivie), inscrit depuis l’an 2000
sur la Liste du patrimoine mondial,
n’a pas ini de nous surprendre.
Des découvertes extraordinaires
ont été faites récemment, dans
le cadre d’un projet de l’UNESCO.
Article publié à l’occasion de la

42e session du Comité du patrimoine
mondial, qui se tient du 24 juin au
4 juillet 2018, à Manama (Bahreïn).
Plan de Tiwanaku réalisé à partir des

données du modèle 3D généré par
Par son complexe monumental d’édiices le drone. Les lignes noires indiquent Après que le président Evo Morales,
et sa localisation, à plus de 3 800 mètres des structures domestiques probables d’ascendance amérindienne, a choisi
au-dessus du niveau de la mer, Tiwanaku dans la zone Mollo Kontu. Tiwanaku comme lieu symbolique
constitue l’un des sites archéologiques © José Ignacio Gallego / UNESCO pour inaugurer chacun de ses trois
les plus spectaculaires de l’Amérique du mandats à la tête de l’État bolivien (en
sud. Cité préhispanique des Andes, elle fut 2006, 2010 et 2015), le site a regagné
pendant des siècles la capitale d’un vaste À la suite de l’efondrement de cette en importance et fait aujourd’hui partie
et puissant empire, qui dut sa suprématie culture au XIIIe siècle, Tiwanaku a subi des visites touristiques incontournables.
à l’emploi de matériaux et de techniques d’intenses déprédations : l’endroit a attiré Il faut toutefois bien des eforts au
innovants grâce auxquels elle améliora comme un aimant les chasseurs de trésors, visiteur pour l’apprécier pleinement.
sa production agricole, accroissant du provoquant la disparition de précieux Tiwanaku s’apparente plus à un exercice
même coup son pouvoir économique. C’est vestiges. Il a également servi de carrière, d’observation et de documentation que de
depuis Tiwanaku que s’est développée la comme l’attestent de nombreux documents simple contemplation. Car du majestueux
culture éponyme, qui, à son apogée, entre historiques, et on peut retrouver certains ensemble de temples et de palais de cette
500 et 900 de notre ère, rayonnait sur un éléments prélevés sur le site dans des cité ne subsistent que les ruines ou les
immense territoire englobant l’ouest de la constructions modernes de la localité voisine, vestiges partiellement reconstruits de sept
Bolivie, le sud-ouest du Pérou et le nord de voire de la capitale bolivienne, La Paz. grands édiices : la pyramide d’Akapana,
l’Argentine et du Chili. le temple de Kantatayita, le petit temple
semi-souterrain, le temple de Kalasasaya,
le palais Putuni, le palais Kheri Kala et
la pyramide de Puma Punku.

Actualités
© Ernestina Cortés Albor / UNESCO

Cérémonie aymara à Tiwanaku (Bolivie).
Ces vestiges n’en portent pas moins le sceau Cette ambitieuse entreprise, qui vient de
incontestable des grandes civilisations, s’achever, comprenait aussi un plan de
avec des prodiges comme Puma Punku (la tourisme durable (Tiwanaku étant située
Porte du puma), formée d’énormes blocs sur l’altiplano, en zone sismique, dans une
de grès pesant jusqu’à 130 tonnes, reliés
par des crampons en cuivre : réalisation qui
vallée enchâssée entre deux cordillères),
et enin, à la demande du Comité du
Pour moi, c’est
laisse pantois, s’agissant d’une civilisation
qui ignorait la roue – certains chercheurs
patrimoine mondial, la réalisation d’un
relevé topographique complet du site. la découverte
estiment qu’il a fallu, pour les soulever,
mobiliser 1 300 à 2 600 personnes – alors
que sa connaissance du métal lui conférait la
« Étant déjà engagé sur le terrain, j’ai
proposé à l’UNESCO de réaliser cette étude
de toute une vie :
supériorité militaire.
par télédétection : grâce aux drones et
aux satellites, on obtient aujourd’hui des Tiwanaku est
données extrêmement ines », explique
Nouvelles découvertes l’archéologue José Ignacio Gallego Revilla,
qui s’est attelé à ce projet pour le compte
depuis 500 ans
La nécessité de doter le site d’un plan de
gestion actualisé – une obligation pour tous
de l’Organisation. « Il nous a fallu un an
pour le monter, et comme je collaborais
l’une des références
les sites inscrits sur la Liste du patrimoine
mondial –, et d’un programme éducatif et
de musées qui puissent aider à résoudre
avec l’université Complutense de Madrid,
j’ai eu l’idée de m’adresser à son Campus historiques
d’excellence, en fait un groupe de laboratoires
quelques-unes des énigmes de Tiwanaku,
est la raison d’être du projet Préservation
réunissant plusieurs facultés, avec d’excellents
professionnels et pratiquant des prix très
de l’archéologie
et conservation de Tiwanaku et de la
pyramide d’Akapana, lancé en 2015 par le
Bureau de l’UNESCO à Quito et inancé par le
compétitifs. Mais il nous fallait un drone
capable de voler à plus de 4 000 mètres mondiale
d’altitude et nous ne pouvions pas emporter
Fonds-en-dépôt japonais pour le Patrimoine en Bolivie celui de l’université madrilène.
mondial à hauteur de 870 000 dollars. Nous avons donc fait appel à une entreprise
suisse qui distribue ses aéronefs au Chili et en
Bolivie. Ils ont fait les relevés, que nous avons
ensuite exploités à Madrid, en laboratoire ».

Actualités
Autre point fort du projet, les chercheurs

ont régulièrement consulté les populations
amérindiennes du site, lequel jouxte,
sur ses lancs nord et est, des zones
habitées : la municipalité de la Tiwanaku
actuelle comprend trois agglomérations
regroupant 23 communes, et quelque
12 000 personnes vivent dans la zone
archéologique elle-même, ainsi que
dans ses environs immédiats. « Chaque
étape du projet s’est déroulée dans une
interaction extrêmement dynamique avec
les habitants, et je dirais que c’est la clé
qui nous a permis d’arriver à ce résultat »,
poursuit Julio Condori, qui souligne : « Des
membres des communautés de Huancollo
et d’Achaca ont participé l’an dernier aux
sondages que nous avons réalisés ain de
Vue colorisée de la pyramide Akapana. vériier si la réalité correspondait aux données
Les lignes rouges correspondent aux fournies par le drone, et ils l’ont fait avec
canaux déjà connus grâce aux fouilles beaucoup de plaisir. Nous devons continuer
Les prises de vue ont été réalisées entre archéologiques. Les lignes noires indiquent de communiquer nos résultats pour qu’ils se
octobre et décembre 2016 et les premiers des canaux possibles, dont la dégradation les approprient ». Parallèlement, le nombre
résultats sont tombés en mai 2017. Le aurait provoqué de très grandes de visiteurs nationaux et internationaux
drone a fourni des données d’une grande issures dans le bâtiment. – plus de 125 000 en 2017 – est en
précision, avec une marge d’erreur © José Ignacio Gallego / UNESCO augmentation : « Grâce à ces recettes, le
inférieure à quatre centimètres, sur site est économiquement autosuisant, et
l’ensemble du site archéologique. ces moyens nous permettent de travailler
avec des architectes, des chimistes, des
La carte ainsi obtenue révèle une série de « Nous avions aussitôt dressé la carte du site
géologues », dit le directeur du Centre.
structures insoupçonnées, réparties sur et de tout ce qui s’y trouve encore enterré »,
« Nous espérons continuer de collaborer avec
l’ensemble de la zone explorée et occupant ajoute-t-il. « Pour moi, c’est la découverte
les autorités municipales et nationales. Avec,
une supericie de 411 hectares. Au total, de toute une vie : Tiwanaku est depuis
bien entendu, le soutien de l’UNESCO ».
la zone patrimoniale s’étend sur plus de 500 ans l’une des références historiques de
600 hectares, soit six fois plus qu’on ne l’archéologie mondiale… Une chose pareille Selon une légende aymara, les ancêtres
l’estimait. ne survient qu’une seule fois dans la carrière auraient dissimulé dans la Porte du Soleil,
d’un chercheur », s’épanche-t-il, tout en le monument le plus emblématique de
Après analyse, les images du drone ont
faisant déiler sur son ordinateur les cartes Tiwanaku, un secret destiné à sauver
permis de repérer les traces d’un temple
et les images étayant ses airmations. l’humanité lorsqu’elle se trouvera au
de pierre enfoui à proximité d’une centaine
bord du goufre. Ce moment n’est pas
de structures circulaires et rectangulaires
de vastes dimensions (possiblement des Associer arrivé, fort heureusement. En revanche, le
moment est arrivé où, grâce aux eforts des
unités domestiques), en plus de fossés, de
canaux, de voies de circulation et autres
les communautés chercheurs et à la technologie de pointe,
une nouvelle ère commence pour cette
constructions dans divers secteurs. Mais Julio Condori, directeur du Centre
culture qui, depuis les rives du lac sacré
les nouvelles données ont aussi permis de de recherches archéologiques,
Titicaca, a fondé la société la plus avancée
redéinir des monuments connus, comme anthropologiques et d’administration de
de son temps et a su donner naissance à
Puma Punku, complexe de temples dont Tiwanaku (CIAAAT), l’organe chargé de la
une forme d’État jusqu’alors inconnue dans
on connaissait deux hectares, et dont gestion du site, s’est investi dès le début
cette portion du continent américain.
on sait maintenant qu’il contient deux dans le projet. Pour lui, la nouvelle carte
autres plateformes enfouies : « Suite aux topographique est en soi un outil de
révélations du drone, nous nous trouvons conservation : « Nous disposons maintenant
désormais devant un complexe religieux de 650 hectares étudiés », note-t-il.
de 17 hectares, soit trois fois la supericie « C’est un bon point d’appui pour pousser
de la pyramide de Khéops en Égypte », plus avant les recherches et élargir la zone
explique l’archéologue. de haute protection ».

E S C
N
O
U
Le Courrier de l'UNESCO a
R
C
70 ans !
O E
U R I
Le seul journal que Nelson Mandela

lisait à Robben Island
Annar Cassam
« L’apartheid n’est pas, comme on

le croit parfois encore, un efort
sincère pour assurer à tous les
groupes ethniques des possibilités
égales, mais dans des cadres
séparés. Il s’agit bel et bien d’une
ségrégation, établie par des
hommes dont la peau est blanche, à
leur seul avantage, et au détriment
des populations noires ou de
couleur ». Voici ce que le détenu
© UNESCO / Michel Claude
n°466/64, Nelson Mandela, lisait

dans le Courrier, à Robben Island,
au nez et à la barbe des vigiles de
l’État policier qu’était l’Afrique du
Sud à cette époque.
Nelson Mandela, Président du Congrès
national africain, et Federico Mayor,
Avec cet article, Le Courrier marque Directeur général de l’UNESCO
le 100e anniversaire de la naissance de (1987-1999), au siège de l’Organisation, Les détenus étaient cependant autorisés
Nelson Mandela, né le 18 juillet 1918. le 14 octobre 1993. à poursuivre des études secondaires et
supérieures et donc à recevoir les ouvrages
nécessaires. C’est ainsi qu’un abonnement
en anglais au Courrier de l’UNESCO, expédié
En 1964, Nelson Mandela et ses
de Paris, s’est un temps glissé parmi les
compagnons de lutte sont condamnés à la
manuels de comptabilité et d’économie
perpétuité, et l’administration pénitentiaire
commandés par les détenus.
veillera à ce que leurs premières années de
détention soient, sur les plans intellectuel et Il est clair qu’aux yeux des autorités
spirituel, aussi arides que la terre de Robben pénitentiaires, qui ne parlaient
Island : pas de journaux, même locaux. généralement que l’afrikaans, la revue
Comme il l’écrira dans son autobiographie, semblait une lecture inofensive pour cette
Un long chemin vers la liberté (1994) : catégorie de prisonniers qu’on laissait, après
« les autorités essayaient de nous imposer une journée à casser des cailloux dans la
un blackout total ; elles ne voulaient pas carrière de chaux, lire ces contenus « sans
qu’on apprenne quelque chose qui puisse importance » dans leur cellule.
nous redonner le moral, ni qu’on sache qu’on
pensait encore à nous à l’extérieur ».

70 Spécial 70 ans du Courrier de l'UNESCO
Apartheid
Robben Island était l’Alcatraz sud-africaine,
l’île-prison où les condamnés de droit
commun noirs étaient incarcérés à vie,
sans espoir de libération. Quand, dans
les années 1960 et 1970, la lutte contre
l’apartheid se renforce et s’étend, c’est là que
le gouvernement raciste sud-africain envoie,
pour le restant de leurs jours, ses opposants
politiques les plus sérieux. En réalité, il s’agit
d’une prison dans la prison, car le principal
lieu de détention, c’est l’Afrique du Sud elle-
même, où la communauté minoritaire des
colons blancs est enfermée dans la paranoïa
de sa supériorité raciale sur la population
autochtone. Tous les aspects de l’existence,
privés et publics, y sont régis par des lois
racistes conçues pour opprimer et dénigrer
la majorité noire au proit de la minorité
blanche, détentrice de tous les privilèges.
Ce faisant, la classe dirigeante prétend
préserver et promouvoir les « valeurs
européennes », au nom d’une soi-disant
« mission civilisatrice » en Afrique. Position
© UNESCO
paradoxale, puisqu’en réalité, elle ignore

tout de ces valeurs, les principes de liberté,
d’égalité, de démocratie et de fraternité
Couverture du Courrier de l’UNESCO pour lesquels les Européens ont combattu
de novembre 1977. pendant des siècles ayant échappé à sa
compréhension.
Tout cela, Mandela l’a lui-même relaté
en septembre 1996, dans son bureau C’est précisément de ce combat – de la
présidentiel des Union Buildings, à Pretoria, J’ai eu le privilège d’accompagner Federico guerre dévastatrice contre le racisme nazi
au Directeur général de l’UNESCO, Federico Mayor lors de cette visite, et à l’écoute qui, dans la Seconde Guerre mondiale, a
Mayor, alors en visite oicielle dans la des propos du président, je me suis mené le monde au bord du goufre – que
nouvelle Afrique du Sud démocratique. interrogée sur leur signiication et leur naissent l’UNESCO et le système des Nations
importance. Le bien nommé Courrier a Unies. En 1945, les nations du monde ont
Le président a évoqué le plaisir que ses
servi de pigeon voyageur entre Paris et cet compris que « jamais plus », elles ne devaient
compagnons et lui-même avaient retiré de
îlot perdu au milieu de l’Atlantique Sud, tolérer de telles horreurs. À l’UNESCO, elles
la lecture du Courrier, « fenêtre ouverte »
portant à Mandela et ses compagnons décident, expressément, que c’est « dans
sur tant de nouveaux sujets, comme la
des informations et des idées des cinq l’esprit des hommes que doivent être élevées
diversité culturelle, le patrimoine commun
continents au nez et à la barbe des vigiles les défenses de la paix » (comme le dit l’Acte
de l’humanité, l’histoire de l’Afrique,
de l’État policier qu’était l’Afrique du Sud constitutif de l’UNESCO) grâce au partage
l’éducation pour le développement...
de l’époque de l’apartheid. C’est dire que, et au développement des connaissances
Aucun n’avait sa place dans le lexique de
lorsqu’il le faut, le savoir et les idées sont dans tous les domaines, et notamment
l’apartheid, encore moins sur les terres
capables de voler ! l’éducation, la science et la culture.
désolées de Robben Island.
Le régime sud-africain n’a pas tiré cette
La lecture du Courrier a été leur lien avec
leçon et a choisi d’aller en sens inverse, de
le monde extérieur, et Nelson Mandela a
promouvoir la séparation, l’exclusion, la
tenu à le faire savoir au Directeur général
privation, l’humiliation et la violence. La
de l’UNESCO.
punition inligée à quiconque s’oppose
à cette idéologie rétrograde était le
bannissement à vie.

Spécial 70 ans du Courrier de l'UNESCO
70
Pour les prisonniers
politiques, les
journaux avaient
plus de valeur
que l’or ou les
diamants, ils en
avaient une faim
plus grande
que de nourriture
ou de tabac
Nelson Mandela
Des articles
contre l’apartheid
à Robben Island
J’imagine Mandela et ses compagnons de
lutte souriant de satisfaction en parcourant
ces lignes sur le racisme, parues en 1968
sous la plume du sociologue britannique
John Rex : « Dans le monde d’aujourd’hui,
l’exemple le plus frappant du racisme est
le système d’apartheid en Afrique du Sud.
L’apartheid n’est pas, comme on le croit parfois
encore, un efort sincère pour assurer à tous les
groupes ethniques des possibilités égales, mais
dans des cadres séparés. Il s’agit bel et bien
© UNESCO
d’une ségrégation, établie par des hommes

dont la peau est blanche, à leur seul avantage,
et au détriment des populations noires ou de
couleur » (« Le racisme sous le masque »). « Libérez Nelson Mandela, le courageux
défenseur des droits de l'homme ».
Un peu moins de dix ans plus tard, le Couverture du Courrier de l’UNESCO
massacre des écoliers par des policiers L’action patiente mais tenace et vigoureuse
de novembre 1983. Le portrait de l’UNESCO rejoint le combat des Noirs sud-
lourdement armés au moment des de Mandela a été réalisé par le peintre
émeutes de Soweto en 1976 marque un africains eux-mêmes, qui ont montré qu’avec
irlandais Louis le Brocquy. le courage de la révolte, ils avaient désappris
tournant dans l'histoire de la lutte contre
l'apartheid, mobilisant une jeune génération la peur et retrouvé l’espoir. La communauté
d'opposants en colère, révoltés par internationale, pour rester idèle à elle-même,
l’imposition de l’afrikaans comme langue doit se mobiliser et agir fermement ain de ne
En novembre de l’année suivante,
d'enseignement dans les écoles noires. pas décevoir cet espoir ».
Le Courrier publie un numéro spécial
Elle révèle aussi au reste du monde que le sur le racisme en Afrique du Sud sous le La lecture de ce numéro est certainement
gouvernement raciste n’a d’autre stratégie titre : L’Afrique australe aux prises avec le interdite sur Robben Island, mais le combat a
que le recours à la force brutale, même racisme, qui commence par ces lignes : maintenant gagné la scène internationale et
contre des écoliers désarmés. L’Afrique du « L’apartheid représente aujourd’hui la forme certains dirigeants de Pretoria commencent
Sud est alors mise au ban des nations par la plus vile de l’esclavagisme moderne. à comprendre que, tôt ou tard, ils auront
la communauté internationale, rejetée par besoin de Mandela.
l’ensemble des peuples du monde, sinon
des gouvernements.

70 Spécial 70 ans du Courrier de l'UNESCO
Le 11.02.1990,
Mandela
franchit
les portes
de la prison
Au il des ans, ce dernier et sa cause

gagnent en puissance, tandis que le régime
d’apartheid poursuit son cap de destruction
et de violence à l’encontre de sa population
noire et des États africains voisins.
La longue détention insulaire de Mandela
prend in en 1982 : il est transféré sur le
continent, d’abord à la prison de Pollsmoor
près du Cap, puis, non loin, dans le
confort « relatif » d’une villa de la prison
© UNESCO
Victor Verster. Durant cette phase de sa
captivité, qui se prolonge jusqu’en 1990,
Mandela passe des heures, comme il le
dit, à « parler avec l’ennemi », entamant Couverture du Courrier de l’UNESCO
le dialogue et les pourparlers avec les de février 1992.
membres les plus intelligents et les moins Les « dix mille jours »
sectaires du régime, pour les convaincre
que la violence d’État et l’action militaire
de Mandela
n’apaiseront pas l’agitation grandissante On peut voir les vingt-sept années de Les membres des « tribus blanches »
dans le pays, et qu’il faut une réponse captivité de Mandela de deux manières : d’Afrique peuvent se féliciter que
politique aux demandes de changement comme le terrible sacriice des meilleures Mandela ait attendu si longtemps, qu’il
venues de toutes parts, y compris de la années de la vie d’un homme et le prix ait tenu jusqu’au bout ain de les sortir,
communauté internationale. cruel de l’absence et de la perte imposé paciiquement, patiemment, de la prison de
à sa famille – châtiment indéniable et leur mentalité, de l’illusion de la séparation
Enin, le jour tant attendu arrive et, le
incommensurable. Mais les « dix mille et de la supériorité, vers une terre commune,
11 février 1990, Mandela franchit les portes
jours », comme il le dit, passés par Mandela dont personne ne peut être expulsé en
de la prison et s’impose en quelques
derrière les barreaux, peuvent être raison de la couleur de sa peau.
jours comme l’autorité morale du pays –
également perçus à une autre échelle : le
réussite remarquable pour cet homme non
temps qu’il lui a fallu pour convaincre les En 1999, Robben Island a été le premier site
seulement exilé pendant près de trente
racistes de briser leurs chaînes idéologiques sud-africain inscrit sur la Liste du patrimoine
ans, mais dont il était interdit de publier le
et culturelles et d’accepter que la liberté et mondial. Si jamais une liste mondiale de
nom, la photographie ou les paroles ! En
la dignité de tous les Sud-Africains, toutes tous ceux qui ont élevé la conscience
mai 1994, après quatre ans de négociations
races et croyances confondues, sont les collective de l’humanité voyait le jour,
éprouvantes avec le gouvernement De
attributs suprêmes d’un État civilisé. Nelson Mandela y aurait toute sa place.
Klerk, Mandela est élu à la tête du nouvel
État sud-africain, premier président d’une
société démocratique non raciste où les La Tanzanienne Annar Cassam a dirigé
oppresseurs d’hier vont vivre en paix avec le Programme spécial de l’UNESCO pour
ceux qu’ils humiliaient depuis toujours. l’Afrique du Sud de 1993 à 1996.

Éditions UNESCO
Organisation
des Nations Unies
pour l’éducation,
www.unesco.org/publishing
la science et la culture [email protected]
Patrimoine en péril Patrimoine mondial N°87 Rapport mondial de suivi

Évacuation d’urgence Lutte contre le trafic illicite sur l’éducation, résumé
des collections du patrimoine ISSN 1020-4520 sur l’égalité des genres 2018
ISBN 978-92-3-200149-8 84 pages, 22 x 28 cm, broché, 7,50 € Tenir nos engagements en faveur de
57 pages, 14,8 x 21 cm, broché, PDF l’égalité des genres dans l’éducation
Disponible sur http://unesdoc.unesco.org
ISBN 978-92-3-200148-1
Produit conjointement par l’UNESCO et Ce numéro est consacré au commerce 72 pages, 21,5 x 28 cm, broché, PDF
l’ICCROM, ce guide pratique délivre des illicite, qu’il s’agisse de biens culturels, Disponible sur http://unesdoc.unesco.org
directives sur la façon d’évacuer des objets d’espèces végétales ou animales rares, Dans ce résumé sur l’égalité des genres,
précieux en cas d’urgence. avec un accent particulier sur le patrimoine l’équipe du Rapport mondial de suivi
Les catastrophes naturelles, les guerres, culturel et naturel. sur l’éducation s’appuie sur une large
les conlits et autres facteurs de menace On y découvre notamment l’expérience conception de l’égalité des genres, qui va
peuvent rendre le patrimoine extrêmement du Cambodge en matière de traic illicite au-delà du simple comptage du nombre de
vulnérable. Ce guide aide non seulement et les eforts déployés pour gérer l’impact illes et de garçons dans les classes.
les institutions à se préparer à de potentiels du commerce illégal d’espèces sauvages La première partie du résumé examine les
désastres, mais fournit également des sur les sites du patrimoine mondial. disparités en matière de participation et de
conseils sur l’évacuation et le stockage C’est également l’occasion de se pencher compétences aux postes à responsabilité
provisoire des collections durant sur les derniers développements légaux des secteurs éducatif et politique. La
la crise en cours. relatifs au traic et au commerce illicites. deuxième partie analyse les institutions et
les politiques ain de déterminer comment
faire appliquer le principe de responsabilité
pour l’égalité des genres dans l’éducation.
Le Courrier a 70 ans
La science au fil des pages
© UNESCO

0722 Intelligence Artificielle Ia Promesses Et Menaces

Transféré par

Droits d'auteur :

Formats disponibles

0722 Intelligence Artificielle Ia Promesses Et Menaces

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

0722 Intelligence Artificielle Ia Promesses Et Menaces

Transféré par

Droits d'auteur :

Formats disponibles

Courrier

Publié en 9 langues Jouez un rôle

Abonnez-vous à la version papier

La publication ne poursuivant aucun Plus de détails sur : http://publishing.unesco.org

2018 • n° 3 • Publié depuis 1948 Assistante administrative et éditoriale : © UNESCO 2018

Pour une de éthique

10 La main qui voit

11 Des robots et des hommes

14 Le chef Giuseppe annonce

15 Miguel Benasayag : La pensée

18 Yoshua Bengio : Contrer

La menace des robots tueurs

4 | Le Courrier de l’UNESCO • juillet-septembre 2018

62 L’homme et la nature réconciliés

64 Des secrets de Tiwanaku

Le Courrier de l’UNESCO • juillet-septembre 2018 |5

Reconnaissance faciale, selon

6 | Le Courrier de l’UNESCO • juillet-septembre 2018

Le Courrier de l’UNESCO • juillet-septembre 2018 |7

Cela donna naissance à des applications

8 | Le Courrier de l’UNESCO • juillet-septembre 2018

Quels risques éthiques ?

Le Courrier de l’UNESCO • juillet-septembre 2018 |9

La main qui voit

10 | Le Courrier de l’UNESCO • juillet-septembre 2018

Les résidents de la maison de retraite

Le Courrier de l’UNESCO • juillet-septembre 2018 | 11

S’il devenait possible de communiquer

ponctuellement et dans une situation

12 | Le Courrier de l’UNESCO • juillet-septembre 2018

Le Courrier de l’UNESCO • juillet-septembre 2018 | 13

Le chef Giuseppe annonce une

composants du pois chiche, donne une

14 | Le Courrier de l’UNESCO • juillet-septembre 2018

Miguel Benasayag répond

Dans l’expression « intelligence

de l’homme, l’IA est incapable

Le Courrier de l’UNESCO • juillet-septembre 2018 | 15

Selon vous, le fait de réduire le vivant à un

(ADN) le support d’un code qu’on peut

16 | Le Courrier de l’UNESCO • juillet-septembre 2018

Qu’est-ce qui vous inquiète le plus?

Le Courrier de l’UNESCO • juillet-septembre 2018 | 17

Yoshua Bengio : « Nous devons encourager

18 | Le Courrier de l’UNESCO • juillet-septembre 2018

Le Courrier de l’UNESCO • juillet-septembre 2018 | 19

Moustapha Cissé répond aux questions de Katerina Markelova

20 | Le Courrier de l’UNESCO • juillet-septembre 2018

© Maurice Mbikayi / Image courtesy of Gallery MOMO

Narcisuring Netizenship (2015),

Le Courrier de l’UNESCO • juillet-septembre 2018 | 21

Après la troisième révolution industrielle déclenchée par l’Internet

Comment s’est opérée la convergence entre Comment les entreprises peuvent-elles

Stanford et de Princeton, aux États-Unis, elle sur ce concept de « boucle fermée » ?

22 | Le Courrier de l’UNESCO • juillet-septembre 2018

L’IA remodèlera vraiment

Je pense que c’est dans cette seconde phase

Le Courrier de l’UNESCO • juillet-septembre 2018 | 23

24 | Le Courrier de l’UNESCO • juillet-septembre 2018