Select text to annotate, Click play in YouTube to begin
00:00:07
merci de cette invitation je suis extrêmement honoré d'être Barbie vous et un peu ému de parler devant la fois cette auditoire et puis dans ce lieu tout à fait extraordinaire je vais présenter un tout petit peu mon livre
00:00:20
servitude virtuel mais avant cela puisque nous sommes en 2023 il me semble important de rendre hommage à un personnage qui joue un rôle extrêmement important en informatique et en
00:00:32
mathématiques aussi mais c'est un très grand mathématicien mais aussi qui a été un philosophe ou en tout cas un penseur vraiment singulier peut-être vous en souvenez vous
00:00:43
2023 c'est le 400e anniversaire de la naissance de Blaise Pascal et raison pour laquelle je crois intéressant de citer Blaise Pascal outre bien sûr l'hommage qu'on doit un grand
00:00:55
homme de cet ordre là c'est que vous savez qu'il est à l'origine de la première machine à calculer pascaline qui faisait des additions et des soustractions il la réalisé à 19 ans ce qui est quand même assez stupéfiant
00:01:09
pour aider son père qui était un haut fonctionnaire chargé de collecter l'impôt et qui avait beaucoup d'opérations à faire pour réaliser cela il lui fallait beaucoup de compétences mathématiques
00:01:21
parce que c'était très original en particulier de faire des soustractions ce n'est pas du tout évident mais des connaissances de géométrie des connaissances de physique et puis des connaissances techniques pour mettre tout ça en oeuvre ce qui n'est pas du tout facile et pour ça il a une
00:01:33
réflexion sur l'interdisciplinarité avant la lettre mais outre cela il a pris un peu de recul par rapport à son invention et il y a un texte j'ai trouvé tout à fait
00:01:46
étonnant dans lequel il dit ces machines font plus que les animaux elle pense plus que les animaux elles font des opérations que les animaux ne sont pas capables de faire mais en revanche à la
00:01:59
différence des animaux elles n'ont pas de volonté alors puisse bien sûr cette réflexion de Blaise Pascal inspiré les transhumanistes contemporains puisque justement on nous
00:02:11
explique que l'intelligence artificielle est capable éventuellement d'avoir une certaine volonté qui est totalement absurde mais la leçon de Pascale je crois donner il y a un peu moins de 400 ans parce que bon il avait un peu plus de néerlandais
00:02:24
ces réflexions dates à peu près quelques années après la réalisation de sa machine mais donc puissent ces réflexions bien sûr inspirées un certain nombre de soi-disant théoriciens de l'intelligence
00:02:37
artificielle non je voudrais maintenant parler de ce que Pascal n'avait pas anticipé c'est le monde tel que nous le vivons aujourd'hui le monde en ligne dans ce
00:02:49
monde la plus grande partie de nos vies se déroule sur les réseaux les échanges interhumains passent intégralement ou presque par le truchement de flux
00:03:00
d'information et l'intelligence artificielle utilise interprète recommande transforme voire produit des textes GPT qui est extrêmement à la mode
00:03:14
aujourd'hui des images vous souvenez de ce tableau qui s'est vendu le semestre aux enchères et qui avait été produit par un ordinateur des sons
00:03:27
bien sûr des vidéos vous avez vu ces vidéos du présent Obama ou même celle de notre président Emmanuel Macron prononçant des phrases bien sûr qu'il n'a pas pu prononcées donc qui sont tout assimilés
00:03:41
ces images ces textes et sont à à des flux informations nous existences culturelles intellectuelles et sociales et plus généralement la condition humaine se trouve fortement affectée par
00:03:53
ces transformations et nous sommes redevables à ces technologies d'innombrables bienfaits et je vais en donner ici quelques exemples le web est un espace de liberté inouïe
00:04:06
et surtout c'est une bibliothèque universelle quasiment gratuite accessible à tout le monde à toute heure du jour et de la nuit je crois qu'il faut pas l'oublier c'est quelque chose
00:04:20
d'extraordinaire à condition bien sûr d'avoir l'éducation suffisante pour pouvoir en bénéficier de ce fait effectivement nous allons voir nous rentrons dans un monde de plus en plus inégalitaire ce point de vue là la santé
00:04:32
il y a des applications télémédecine en médecine les systèmes d'information hospitaliers l'accès à la littérature scientifique le diagnostic etc la bionique avec les membres et les
00:04:45
organes artificiels la reconnaissance de la parole le traitement et la compréhension du langage naturel qui facilite interface avec les machines la robotique ce qu'on appelle l'industrie 4.0 qui est
00:04:57
l'industrie qui bénéficie de tout un tas de dispositifs les robots virtuels ce qu'on appelle les bottes les pilotes automatiques des avions la conquête spatiale l'extension de
00:05:10
l'humain on se souvenait c'est par exemple cette satellite était allé sur une comète et avec des robots qui grâce à cela pouvait être en autonomie la régulation thermique la surveillance des incendies
00:05:23
tous les bénéfices potentiels en matière écologique tout à l'heure d'ailleurs et je crois que l'intelligentiel peut jouer un rôle bien sûr tout cela n'est pas limitatif et c'est extrêmement positif
00:05:36
mais essaie de se mettre dans le même temps que nous bénéficions de l'apport du numérique nous le sentons tous nous subissons de nouvelles formes
00:05:47
de coercition d'oppression et celle-ci ne s'exerce plus uniquement avec des moyens mécaniques elle s'impose aussi et surtout au plan cognitif
00:06:01
moins de fer et de quelque chose sans doute pour autant la pression qui s'exerce sur les personnes ne sont même pas la contrainte subsiste même si le joue
00:06:14
devient virtuel et donc plus insaisissable le titre servitude virtuel traduit ses contraintes douces qu'imposent le numérique il évoque aussi ce titre
00:06:26
celui du fameux discours de la servitude volontaire détiennent de la Boétie ce dernier vous en souvenez expliquait que les murs les prisons les hallebardes
00:06:39
Carmen les Suisses qui gardaient les palais ne garantissent c'est pas vraiment les tyrans un peuple qui sont donnés vraiment la peine étaient en mesure de les renverser et je vais lire
00:06:51
un tout petit peu d'Étienne de la Boétie peut-être vous le connaissez tous par coeur mais c'est une résiste pas au plaisir de le lire il s'en servent par forme et pourrait épouvantail il parle des tyrans plus
00:07:03
qu'il ne suffit les archers bars l'entrée des palais au malabils qui n'ont aucun moyen de nuire non aux audacieux bien armées ce sont les peuples même qui se laissent ou plutôt qui se font malmener
00:07:16
puisqu'ils en seraient quittent en cessant de servir c'est le peuple qui s'asservie et qui se coupe la gorge qui pouvant choisir d'être soumis ou d'être libre repousse la liberté et prend le
00:07:28
joug qui consens à son mal plutôt qui le recherche vous voyez il y a une soumission mes soumission qui d'une certaine façon est volontaire et
00:07:41
toujours pour reprendre les mots détiennent de la Boétie et là je crois que ça va devenir plus actuel le théâtre les jeux les phares se les spectacles les gladiateurs les bêtes curieuses les tableaux et autres drogues de cet espèce
00:07:54
étaient pour les peuples anciens les appâts de la servitude prix de la liberté ravie les outils de la tyrannie ce moyen cette pratique c'est allèchements étaient ceux qu'employés
00:08:06
les anciens tyrans pour endormir leur sujet sous le jour mais ils le font guère mieux ce d'aujourd'hui qui avant de commettre leur crime les plus graves les font toujours précéder de quelques jolis
00:08:19
discours sur le bien public et le soulagement des malheureux elle est évidente cela rappelle les infoges de tous ordres que diffusent les réseaux sociaux pour satisfaire ce qui les écoutent et pour les endormir et
00:08:35
c'est joli discours sur le bien public évoqué il y a plus de 500 ans ne peuvent pas ne pas évoquer le slogan don't be evil de Google ou les justifications des lones musk qui
00:08:47
expliquait vouloir racheter le réseau social Twitter pour garantir la liberté d'expression en imposant une modération transparente des contenus cela ne peut pas non plus ne pas entrer
00:09:01
en résonance avec l'agenda de la société clean comme vous le savez peut-être tous cette société disposait de 3 milliards de portraits volés sur les réseaux sociaux
00:09:15
et elle promettait l'an dernier dans laquérir 100 milliards d'ici la fin 2020 pour faire diversion et se donner bonne conscience et de société c'est promis
00:09:27
d'aider les Ukrainiens elle envisageait quatre emplois de ses technologies le premier porte sur l'identification des soldats coupables des actions en vue des process ultérieures nous ne pouvons
00:09:40
que souscrire à un tel usage le deuxième vise à repérer les Russes infiltrées possiblement espion ou saboteur lors des contrôles policiers une troisième catégorie d'applications s'applique au prisonnier russe en
00:09:55
avertissant leur famille qu'on les détient en leur permettant de communiquer avec elle puisse en diffusant sur les réseaux sociaux leurs photos voire des vidéos où ils apparaissent captifs enfin un quatrième type d'application
00:10:08
assez macabre porte sur les corps des soldats russes morts au front clients automatiquement leur identité avec la reconnaissance faciale puis d'envoyer à leurs familles et a mis leur
00:10:22
photographie en vue de les démoraliser on raconte par exemple le cas d'une mère russe à qui l'on a envoyé l'image de son fils décédé le corps maculé de boules dans le contexte dramatique de cette
00:10:34
guerre certaines de ces utilisations de la reconnaissance faciale aurait des conséquences inadmissibles sur le plan moral pas toutes en découlerait les injustices des humiliations des violations des
00:10:48
Conventions de Genève sur les prisonniers de guerre instrumentalisation et profanation de l'image des morts autant de pratiques condamnables qu'on ne saurait cautionner
00:10:58
même dans des situations aussi tragiques on peut songer à d'autres applications de l'intelligence artificielle par exemple au Crédit Social mis en œuvre en Chine ouais ce stylo un tout petit peu étrange
00:11:13
qualifié d'intelligence qui a été donné en Chine à un certain nombre de collégiens en vue de surveiller leur activité scolaire sur les cahiers de vacances une
00:11:27
collégienne c'est plein sur les réseaux sociaux que ces vacances avaient été ruinées par ce maudit stylo rétrospectivement on est content de naître à une autre époque parce que on imagine que toutes
00:11:40
nos vacances d'été au collège avait été suivi comme ça la trace aurait été assez terrible alors pour la petite histoire rappelons que ce stylo a été appelé par les Chinois qui n'ont aucune connaissance de la vie politique
00:11:53
intérieure française le silo Le Pen donc tout cela bien sûr quelques illustrations rend nécessaire et urgentes une réflexion sur les conséquences sociales et politiques des technologies de l'information et de la
00:12:08
communication et cela rend plus nécessaire encore la mise au point de moyens pour nous délivrer de nouvelles formes d'oppression qu'elles génèrent pour nous en libérer et agir à
00:12:22
notre guise autrement dit pour établir une éthique du monde contemporain alors beaucoup aujourd'hui sont convaincus de grands acteurs de l'internet des sociétés savantes des
00:12:34
universités des états des organisations non gouvernementales des associations des pouvoirs supranationaux comme la Communauté européenne ou Parlement européen réunissent des comités d'experts qui rédigent des rapports et
00:12:47
des Chartres promulguent des codes votre des résolutions alors en fin 2009 2019 pardon on comptait plus de 84 comités d'éthique et cela fait 4 ans maintenant
00:13:01
disons trois ans aujourd'hui il y en a vraiment beaucoup plus je n'ai pas mentionné l'UNESCO par exemple ou d'autres universités et ces groupes invoquent des principes des droits
00:13:15
fondamentaux et des idéaux comme l’autonomie et le loi dignité de la personne il s'en suit un nombre très conséquent de recommandations irréprochable contre la déshumanité la déshumanisation et l'émancipation ou la
00:13:28
malfaisance des machines alors deux prime abord les principes retenus les droits humains invoqués les notions mentionnées et les recommandations formulées paraissent louables comment s'opposer à la dignité et à
00:13:42
l'autonomie de la personne comment ne pas condamner la malfaisance et ne pas aspirer au bénéfice que nous pourrions tirer de l'usage des machines comment ne pas se réjouir des opportunités offertes par l'intelligence
00:13:54
artificielle tout en prenant garde aux mauvaises utilisations qui peuvent bien et qui peuvent en être faites comment enfin ne pas louer l'idéal de transparence pourtant l'examen de situation concrète
00:14:07
montre que ces principes ces droits ses concepts et ses recommandations demeurent bien abstraits aujourd'hui il renvoie à des craintes ancestrales qui relèvent le plus souvent
00:14:17
de mythologie et de fables et qui ne correspondent pas à des réalités effectives ou prévisibles et dans le même temps ces recommandations s'échappent nous laisse déminer dans le monde qui se fait
00:14:31
jour sous nos yeux avec le développement de l'informatique et de l'intelligence artificielle et ça doit être impuissant face aux nouvelles vulnérabilités il nous laisse démunis car comment un ingénieur peut mettre en œuvre les
00:14:46
recommandations formulées dans ces rapports je suis moi-même ingénieur et il y avait au moins 62 recommandations en 2019 il doit y en avoir encore plus aujourd'hui quand on est ingénieur obéir
00:14:59
à 62 recommandations ça vous stérilise totalement presque totalement impuissant de plus c'est recommandations sont en conflit les unes avec les autres je donnais quelques exemples tout le monde est
00:15:12
convaincu qu'il faut absolument protéger la vie privée en même temps tout le monde pense que la transparence est bonne il y a un conflit entre la transparence et la protection de la vie privée tout
00:15:23
le monde pense qu'il faut satisfaire le besoin de sécurité il y a un conflit entre la protection de la fille privée et la sécurité il est un conflit entre la transparence et la sécurité prenons un autre exemple
00:15:36
nous sommes tous contre la discrimination et en même temps beaucoup d'entre vous sont pour une politique inclusive comment concilier politique inclusive et non discrimination
00:15:49
ces comité d'éthique ce sont montrés qui plus est complaisants et impuissant à condamner un certain nombre de projets extrêmement inquiétants alors je vais donner deux illustrations
00:16:03
le premier c'est un travail qui a été fait par une équipe de sciences sociales de l'Université de Stanford donc pas la moindre des universités sur la prédiction de l'orientation sexuelle et un autre article sur la prédiction de
00:16:16
l'orientation politique à l'aide de technologie de reconnaissance faciale aucune condamnation qui plus est quand vous lisez l'article il a l'approbation de l'IRB in situ
00:16:30
de l'Université de Stanford deuxième exemple le projet d'Elon musk avec la société de neuralink neuralin pardon vise à accroître les capacités cognitives
00:16:43
humaines en leur greffant des mémoires électroniques puis à mettre les cerveaux en réseau pour autoriser une cohésion sociale plus forte Elon Musk par Elon Musk parle d'une
00:16:55
ruche je ne vais pas détailler avec vous ce que ça signifie mettre des mémoires des dispositifs électroniques pour augmenter nos capacités de mémoire ça veut dire bon d'abord qu'on connaît très mal ce qu'est une mémoire parce qu'une mémoire
00:17:09
pas simplement du stockage d'information mais au-delà de cette possibilité si jamais cela devenait ça veut dire que celui qui vous m'aimait pourrait mettre ce qu'il veut dans vos têtes et puis qui est plus émettre tous les individus en
00:17:21
réseau ça veut dire qu'il n'y a plus d'intériorité ça changerait complètement la nature humaine donc ce qui est étonnant c'est que ces comités d'éthique ne se font pas prononcer contre ce type de projet
00:17:33
mais il est vrai que on se prononce pas facilement contre alors pour saisir ce décalage entre d'un côté les idéaux formulées par les comités d'éthique du numérique et de l'IA et d'un autre côté la réalité du monde dans lequel nous entrons je vous
00:17:48
propose de nous réunir d'un marteau alors non pas d'un marteau matériel mais d'un marteau imagine plus exactement d'un marteau sonore tout semblable au marteau qu'adopte à
00:18:02
Frédéric Nietzsche dans le capitule des idoles pour frapper sur quelques-unes des idées fétiches invoquées au nom de l'éthique et en entendre raisonner le creux et la vacuité
00:18:14
alors quelques coups bien portés montre alors la vanité des réglementations au nom de l'éthique ajoute des servitudes juridiques aux servitudes technologiques alors à cette fin je propose de partir
00:18:28
des quatre absolues invoqués par la plupart des comités de l'éthique du numérique et qui viennent de la bioéthique alors quelles absolues vous avez d'autres absolus qui viennent de
00:18:43
la médecine hippocratique vous souvenez que Hippocrate nous dit on doit pas donner de poison et ce que l'on donne ce sont des remèdes donc première chose non malveillance et bienfaisance puis deuxième chose la justice on doit
00:18:55
soigner tout le monde et puis vous savez que après la Seconde Guerre mondiale Nuremberg ensuite les différents comités d'éthique en particulier le rapport de Belmont aux États-Unis elle signe qui etc on a introduit une autre notion qui
00:19:07
est la notion d'autonomie ça veut dire que pour être inclus dans une expérimentation médicale vous devez donner votre consentement libre et éclairé et puis enfin on a rajouté à ces trois
00:19:20
principes un autre principe qui semblait tout à fait positif aujourd'hui qui est le principe de transparence alors Je propose très rapidement parce que de temps mais de faire résonner on est cause quel du numérique ces quatre
00:19:34
concepts que l'on rencontre dès qu'on y prête attention dans ces différentes plus précisément ces quatre idéaux que je dis répéter
00:19:46
c'est de fondement la plupart des charts critiques de l'intelligence artificielle et du numérique or il est possible de montrer qu'ils le sont d'aucun secours pour ne pour nous prévenir contre les effets d'une autre termes s'ils sont extrêmement utiles
00:19:59
dans le domaine de la bioéthique ils ne sont pas pertinents dans le champion je vais commencer par l'autonomie celui-ci a été changé on pourrait dire en statut de sel dans la plupart des chartes éthiques du numérique vider de
00:20:13
son conflit tangible soulignons à cet égard que l'autonomie au sens philosophique telle qu'elle a été introduite par les philosophes des Lumières n'est pas un donné mais qu'elle se contient
00:20:25
ajoutons à cela que même en bioéthique l'autonomie a des limites vous lisez le rapport de Belmont par exemple il vous explique que une personne qui n'est pas en mesure de s'exprimer à ce moment-là
00:20:38
on ne lui demande pas son consentement libre et éclairé on sait quand médecine le consentement libre et éclairé donc qui vient de cette promotion de l'autonomie sert plus malheureusement c'est ce qui se produit dans les lois
00:20:50
qui ont été votées une vingtaine d'années au médecin à se dégager de ses responsabilités qu'à émanciper le patient et on va exactement de même avec ce que l'on a coutume d'appeler les CGU
00:21:02
condition générale d'utilisation comment penser qu'il nous libère et nous rendre vraiment autonome moralement quand vous avez un ordinateur est-ce que vous avez le sentiment d'être libre en devant signer la charte d'ailleurs que
00:21:16
vous pouvez être éclairé en la lisant en général était assez confuse vous n'êtes pas vraiment libre parce que si jamais vous refusez de la signer votre ordinateur vous pouvez le mettre à la poubelle la plupart du temps enfin il existe
00:21:28
et ça je crois que c'est important de le rappeler les éthiques dites de la sollicitude ce qu'on appelle les éthiques du Caire qui contreviennent au principe d'autonomie donc ce principe d'autonomie n'est pas
00:21:40
du tout aussi universel que on nous laisse entendre bref l'autonomie n'est ni toujours ni universel ni toujours souhaité alors je vais maintenant aller deuxième aspect bienfaisant c'est et non malfaisant donc si on considère ces
00:21:54
notions dans le contexte du numérique on voit surgir sur une forme d'ambivalence les réseaux sociaux sont-ils bienfaisants ou malfaisants et s'ils sont devenus malfaisants ils
00:22:09
n'ont pas toujours été vous soyez au tout début des réseaux sociaux c'était extrêmement sympathique des jeunes chants de grandes universités qui essayaient d'organiser des réseaux de camarades et quand on tombe par malfetant est
00:22:22
dévoiler la vie privée ou l'intimité or l'emploi atmosé âme de notions mâles définies telles que l'idée de dignité humaine posée comme absolue mais invoquer à tort à travers ses comités
00:22:36
d'éthique montre la difficulté à préciser ce que l'on entend comme bienfaisance et non malfaisance de même les idées d'intimité d'extinité de priver de vie privée sont toutes confondues alors qu'elle désigne des
00:22:49
choses bien différentes reprenons peut-être pour être clair la protection de la vie privée la notion de vie privée vient la fin du 19e siècle avec le fameux papier de brandase la
00:23:02
notion d'intimité elle est beaucoup plus ancienne et elle vient par exemple chez inconnu un Saint-Augustin font la retrouve dans toute la philosophie même si elle a évolué dans le dans le temps mais en tout cas elle n'est pas
00:23:15
identique à la notion de vie privée et lorsque l'on voit un projet comme celui d'Elon musk de mettre des électrodes pour saisir ce que nous pensons ou dans un projet comme celui vous savez que
00:23:28
Mark Zuckerberg avait un projet d'utilisation des techniques d'imagerie d'interface a servi ordinateur pour essayer d'anticiper le désir des utilisateurs pour disait-il fluidifier
00:23:41
la relation entre le réseau social et l'utilisateur enfin d'anticiper ces désirs et de les satisfaire plus facilement ce qui donne un peu peur puisqu'il montre bien que c'est une façon c'est une intrusion dans
00:23:53
l'intimité donc troisième concept la justice les tentatives de jugement judiciaire algorithmique montre les limites de l'intelligence artificielle en effet
00:24:09
comment établir la peine uniquement à partir des jugements anciens quand vous discutez avec des magistratives bien que le droit est quelque chose de vivant plus exactement le rôle du juge c'est de le rendre
00:24:21
vivant pire comment condamner non par analogie au jugement ancien mais comme cela se fait en particulier aux États-Unis avec le système qu'on passe sur la présence
00:24:33
de récidive il s'agit pas vraiment d'une condamnation mais il s'agit d'une mise des justiciables dans une situation où ils auront beaucoup plus de mal à se à se défendre quant à l'idée de justice
00:24:45
algorithmique est-ce vraiment une justice et surtout le si souvent rebattu des biols et des injustices qu'il causeraient mais bien en évidence l'ambiguïté du terme de justice en effet
00:24:57
il n'y a de biais que par rapport à une norme qui reste toujours à définir j'ai pas le temps de rentrer dans le détail mais cela mérite une discussion enfin on reste comment ne pas être frappé par
00:25:10
l'opacité c'est le quatrième point de l'idéal de transparence surtout lorsqu'elle prétend lorsqu'on prétend le mettre en oeuvre dans des logiciels programmés avec des techniques d'intelligence artificielle
00:25:22
je m'arrêterai là sur ces sur ces coups de marteau donc pour conclure il m'apparaît essentiel de rappeler que l'éthique ça n'est ni la loi ni la régulation ni à
00:25:34
force York éthique vient de ethos qui désigne les mœurs c'est à dire les usages des hommes en société mais le terme signifie aussi peut-être déjà en grec ancien l'étable
00:25:47
l'abreuvoir le lieu où l'on conduit les bêtes régulièrement cela signifie que l'éthique vient de l'habitude et de la tradition en même temps qu'elle vient de la rationalité l'éthique au sens philosophique c'est à
00:26:00
dire la philosophie pratique aide à déterminer rationnellement ce que doivent être les règles de conduite sans s'en remettre à une tradition ou à une révélation il y a cette tension entre les deux et dans le monde tel que nous
00:26:13
le vivons aujourd'hui les traditions ne peuvent plus avoir cours parce que les mondes sont transformés donc l'éthique ce n'est pas la loi je l'ai dit car la loi est collective qu'elle est votée par des instances législatives et qu'elle
00:26:26
est sanctionnée orlythique à savoir la réflexion sur les règles de conduite et les maximes que chacun d'entre nous se donne concerne l'individu vis-à-vis de sa conscience quand on règlement il précise les lois
00:26:39
et la plupart du temps ne sont même pas votés enfin les normes sont imposées par des collectifs par exemple les normes industriels qui visent à l'interopérabilité des technologies je
00:26:52
pense vous souvenez peut-être que cet été il y avait au G7 une réflexion sur l'éthique de l'intelligence artificielle plus exactement sur les normes internationales qui pouvaient
00:27:05
s'appliquer à l'éthique de l'intelligence artificielle est-ce vraiment de l'éthique lorsque nous voyons les chefs des 7 plus grands États industrialisés discutés ensemble des hôtels les plus puissants
00:27:20
je voulais donner des exemples plus précis pour bien comprendre les difficultés que l'on a avec ces questions là vous avez tous entendu parler du cloud Act mais vous savez que
00:27:31
Cloud ne signifie pas nuage dans ce cas-là le Cloud ça signifie en anglais car il fallait use of data at ça veut dire qu'en français la clarification de la loi sur
00:27:43
l'utilisation licite des données à l'étranger et c'est une loi fédérale des États-Unis qui contraint les fournisseurs de services établis sur le territoire américain a donné sur
00:27:55
réquisition du gouvernement américain les données relatives aux communications électroniques stockées sur des serveurs que ces serveurs soient situés aux États-Unis ou dans un autre pays
00:28:07
cette loi satisfait des objectifs politiques et économiques évidents elle n'a vraiment rien d'été prenons un autre exemple la Chine elle fonde l'éthique du numérique sur le principe d'harmonie qui demande que
00:28:20
chacun soit à sa place dans la société vous savez peut-être que le système d'exploitation de Huawei s'appelle harmonie 2.0 alors que chacun soit à sa place dans la
00:28:32
société sa justifie l'emploi du Crédit social qui vérifie la conformité des comportements à une norme sociale imposée je ne suis pas sûr que ce soit vraiment éthique
00:28:45
j'ai assisté à cette égard à une réunion tout à fait étonnante il y a un peu plus d'un an le gouvernement français m'avait demandé de participer à une religion bilatérale sur l'intelligence
00:28:58
artificielle avec des Chinois il y avait trois orateurs de chaque côté ça faisait trois fois deux un sur les données massives un deuxième sur les applications de l'intelligence ratiale il y a un troisième sur
00:29:10
l'éthique j'étais chargé de parler sur les tiques on devait parler 10 minutes chacun et donc moi j'ai parlé 10 minutes et le chinois a parlé 25 minutes ça vous donne une idée des rapports de force
00:29:22
en même temps ce qui était passionnant c'est que le chinois a livré sa vision de l'éthique qui était tout à fait étonnante et il l'expliquait que l'Occident c'était le mal parce que c'était une éthique fondée sur
00:29:34
l'individu et que les Chinois c'était une éthique qui était fondée sur le collectif et sur l'harmonie et l'harmonie entre les hommes et les animaux l'harmonie sur les hommes et la
00:29:48
végétation mais surtout il y avait l'idée que les agents intelligents c'est-à-dire les dispositifs d'intelligence artificielle allez avoir dans les années qui viennent
00:29:59
une empathie cognitive pour les hommes puisque assez surprenant d'ailleurs mais c'est ce qui était affirmé et il disait si on veut vivre en harmonie il faut que nous ayons une empathie pour les technologies de l'information ce que
00:30:13
j'ai trouvé tout à fait étonnant alors cette parenthèse la condition de l'éthique pour conclure c'est la liberté personnelle si je n'ai pas de marge de manœuvre pour décider de la conduite à tenir je suis contraint et
00:30:26
je n'ai plus besoin d'éthique car je suis porté et que mes décisions ne m'appartiennent plus en même temps la liberté ça n'est pas vous le savez tous de faire ce que l'on veut quand on veut car cela signifierait
00:30:39
que l'on serait exclave de ses besoins immédiats le projet d'interface de cerveau ordinateur de marque superberg est tout à fait édifiant à cet égard s'il se réalisait nous serions esclave
00:30:51
de nos désirs puisque nos désirs seraient immédiatement exaucé par le système la liberté un petit qu'il n'y a pas de déterminisme et qu'il existe une volonté
00:31:03
en introduction évoquée Pascal justement ce qu'il explique c'est que les machines n'ont pas de volonté heureusement qu'elles n'ont pas de volonté et l'ont toujours pas de volonté quant à nous l'avenir dépend de notre volonté il fera
00:31:15
ce que nous ferons alors il n'est pas prévisible il ne nous appartient pas totalement nous l'avons bien vu ces dernières
00:31:26
années et je voudrais citer un texte qui a été assez que j'ai trouvé très très intéressant il a été prononcé par
00:31:37
Jacques derida a la Sorbonne en 1994 qu'il donnait avec à la mainck et il devait parler de prospective et donc
00:31:55
ce qui vient et bien sûr à la main qui avait essayé d'anticiper ce qui venait et Jacques Derrida avait parlé lui d'autre chose il n'avait parlé de l'éthique en disant que l'éthique c'est
00:32:08
justement l'ouverture à ceux qui vient et nous a dit justement que l'avenir il a cette caractéristique particulière c'est que c'est chaotique au sens de la
00:32:20
théorie mathématique du caveau c'est à dire que ça a côté imprévisible et c'est justement cette capacité à s'ouvrir à cette imprévisibilité qui est le propre de
00:32:33
la démarche éthiques et donc je conclurai là-dessus peut-être en citant le fameux aphorisme des clés des raclits le temps est un enfant qui s'amuse il joue au tri traque à l'enfant royauté
00:32:46
merci [Applaudissements] merci beaucoup Jean Gabriel pour ce
00:32:59
cette exposé et éclairant mais d'un éclairage sombre quand même un petit peu je vous donne maintenant la parole mes amis qui souhaitent faire le premier
00:33:12
commentaire ou poser la première question à Jean Gabriel décidé vous sinon je le ferai moi-même pendant que vous réfléchissez il y a une chose qui me trouve qu'on est en train après ici à 4 de d'essayer de produire
00:33:32
un Opel pour neutcher avec les gens qui étaient qui étaient présents et le terme intelligence artificielle est utilisé de manière quand même extrêmement large et floue et recouvre des tas de choses et
00:33:45
je pense que et comme tout le monde on a quand même besoin de de clarifier et je pense de règlementer aussi à un moment parce que c'est pas seulement une intelligence artificielle qui serait
00:33:58
quelque chose d'imanant c'est d'État d'objets très concrets qui vont être des actants des acteurs et peut-être qu'il est plus facile de de réglementer sur chaque fonction sur chaque objet plutôt que d'essayer de d'avoir des choses
00:34:10
général est-ce que c'est pas simplement parce que on essaye de parler d'une cible mouvante que l'on a autant de difficultés dans le domaine éthique tout à fait je crois que j'ai essayé de
00:34:21
montrer c'est que les différents de régulation on sait d'anticiper les usages et d'en permettre certains et d'en introduire et dans l'interdire d'autres toute la difficulté ça tient à ce que ces usages on ne peut pas les
00:34:39
anticiper les modes d'appropriation qui viennent de la société et justement qui ont besoin des sciences sociales pour être élucidés discuter ces modes d'appropriation nous surprennent tous et nous l'avons vu ces 20 ou 30 dernières
00:34:52
années qui auraient imaginé par exemple que les réseaux sociaux prennent l'importance qu'ils ont pris de même qui auraient imaginé que les textos soient aussi importants puisque au départ
00:36:06
discussion avec la recommandation ce serait tellement de donner ce fait localement afin qu'il ne soit pas traité sur un site central et ensuite si ce fait localement d'avoir une certification du fait que il se fait bien localement
00:36:19
que cette certification soit neutre pour que les utilisateurs puissent être courant et c'est toutes ces réflexions sur les exigences je crois qu'on doit imposer aux différentes technologies et ensuite l'assurance que les technologies
00:36:31
possèdent bien ses propriétés c'est tout cela je crois qu'il faut mettre en oeuvre dans une dans une démarche qui pourrait être qualifiée d'éthique en tout cas qui pourrait reposer sur une réflexion éthique plutôt que des normes
00:36:44
juridiques qui s'imposent à priori donc voilà un peu je ne sais pas si je réponds à la question mais c'est pour ça je crois que on a plus que jamais besoin des sciences de l'homme et des sciences
00:36:56
de la société mais ça peut pas se limiter simplement à un encadrement juridique c'est pour ça aussi que je termine sur cette ouverture au futur parce que je crois l'expérience nous l'a montré que les technologies ne sont
00:37:09
jamais ce que l'on avait imaginé quel serait elle se développe ça nous le savons ça fait longtemps qu'on a l'intuition que c'est important mais elle se développe pas exactement de la manière dont on l'avait imaginé au départ les anticipations sont
00:37:23
extrêmement souvent détrompés par la réalité c'est je crois ce qui est passionnant d'ailleurs dans l'étude de la technologie parce que elle nous surprend elle est chaotique d'une certaine façon pour reprendre les
00:37:35
expressions de Jacques derida et la raison pour laquelle elle elle est chaotique c'est parce que justement ce sont des technologies c'est ce qu'on appelle des
00:37:47
dispositifs socio-techniques c'est à dire que les retours de la société sont extrêmement importantes il y a donc d'édition économique des dimensions psychologiques des dimensions sociales culturelles qui font que
00:38:00
le développement se fait pas de façon linéaire mais c'est un peu mais comme lorsque vous avez tomber sur un sol avec des frottements très fort vous avez une avancée qui est chaotique et je pense
00:38:12
que c'est exactement ce qui se produit avec les avec les technologies je pense que ce terme de certification qui est utilisé est fondamentale quoi c'est d'ailleurs ce qu'on a fait pour toutes les technologies et donc on a plutôt adopté des processus
00:38:24
de décision graduelle que des que des règles finalement qui sont difficiles à établir à priori je me tourne vers vous vous êtes manifestement captivé au point d'être silencieux est-ce que personne n'a de commentaires
00:38:37
Bettina tu parlais avec enthousiasme du livre de Gabriel [Musique] [Musique] d'ailleurs peut-être que de l'éthique et c'est un état d'esprit alors comment
00:39:48
applique-t-on un état d'esprit une population ou un ensemble voire au monde voilà effectivement d'abord ces quatre principes c'est ils sont très
00:40:00
je pense à votre chinois alors là ils sont très individuels en fait je veux dire bon d'une part donc est-ce que ça veut dire que c'est une culture d'individualisme et surtout une éducation je veux dire qui qui peut
00:40:13
faire rempart à tout ça enfin je veux dire je ne ce qui m'a beaucoup frappé dans votre livre c'est que vous critiquez les vous critiquez avec beaucoup de de brio bien sûr mais ça on
00:40:27
le savait et de pertinence les normes et vous proposer à la fin un état d'esprit oui alors peut-être remplaçant le contexte c'est l'état d'esprit et vous avez raison plus
00:40:43
que ces principes je les ai tirés d'un tout petit article qui a été écrit par un journaliste qui était très jeune qui écrivait en 1939 et il faut savoir que
00:40:57
le livre est apparu le 4 mars mais bien évidemment il était déjà prêt avant la déclaration de guerre donc de l'Ukraine et donc c'est une coïncidence étonnante donc ça a été écrit donc par ce
00:41:10
journaliste qui était donc qui était qui produisait une feuille de chou recto verso en 1939 après la déclaration de guerre et avant la avant la défaite et là il subissait
00:41:23
des contraintes économiques très fortes parce qu'il n'avait pas de il n'avait pas de moyens il y avait pas de papier il y avait une censure extrêmement importante et là il se demande quelle doit être son éthique de journaliste
00:41:36
et c'est là où il dit il y a quatre points d'abord la première chose il faut être lucide et il dit on peut toujours être lucide c'est-à-dire qu'on peut toujours essayer de chercher de l'information même si elle est pas vraie mais on peut quand
00:41:49
même essayer de confronter les sources deuxième chose on peut refuser de diffuser n'importe quoi et en particulier véhicule et la haine troisième chose l'ironie qui justement permet de
00:42:01
se jouer souvent de la censure et puis dernière chose l'obstination et je trouvais que dans un monde comme celui que dans lequel nous vivons où chacun d'entre nous c'est pour ça que ça
00:42:13
s'adresse à chacun à chacun individu chacun d'entre nous est comme un journaliste dans la société de l'information en ce sens où avec notre ordinateur avec notre téléphone portable nous pouvons diffuser au monde entier toutes les informations et donc nous
00:42:26
recevons l'information nous sommes seuls la plupart du temps pour l'interpréter parce que elle vient sans filtre et c'est là où je crois qu'on peut être lucide et nous pouvons refuser de la diffuser comment et ensuite
00:42:39
je crois que quelquefois bien sûr l'ironie est tout à fait positive même si c'est difficile aujourd'hui avec les réseaux sociaux et essayer d'avoir d'avoir une continuité donc voilà le sens de ça donc ce sont pas des
00:42:52
principaux sens les a invoqué dans les différentes chartes éthiques mais ce sont effectivement ces recommandations faites un journaliste dans un monde où nous sommes tous des journalistes mais je voudrais ces Camus contre ça voilà c'est
00:43:07
ça j'aurais quand même dire que ce jeune homme qui était journaliste vous le savez enfin vous l'avez dit ce jeune homme donc c'était Albert Camus et c'est un tout
00:43:19
petit article qui a écrit qui a été censuré et qui a été édité par sa fille Catherine Camus et elle me l'a donné parce que je l'ai croisé et par hasard et j'ai trouvé que c'était c'était assez
00:43:31
extraordinaire même genre je pensais que la situation était totalement différente dans le monde que nous vivions du monde dans lequel il vivait elle est différente en ce sens où il y avait une pénurie de support de diffusion
00:43:43
d'informations elle était différente en sens où il y avait une censure elle était différente au sens de la guerre mais j'ai pas réalisé que la guerre venait
End of transcript