WEBVTT

1
00:00:01.761 --> 00:00:02.922
C'est votre téléphone qui parle.

2
00:00:02.923 --> 00:00:10.047
C'est votre téléphone qui parle.

3
00:00:10.048 --> 00:00:12.352
C'est votre téléphone qui parle.

4
00:00:13.008 --> 00:00:14.657
Vous écoutez DevTech Podcast,

5
00:00:15.016 --> 00:00:18.063
le podcast de prospective technologique d'Arma Suisse.

6
00:00:18.735 --> 00:00:19.485
Épisode 1,

7
00:00:19.876 --> 00:00:21.219
la bombe dans la cuisine.

8
00:00:21.579 --> 00:00:23.376
Qu'est-ce que l'intégrité cognitive ?

9
00:00:27.688 --> 00:00:29.370
Si vous demandez à ChatGPT,

10
00:00:29.489 --> 00:00:33.013
l'application d'intelligence artificielle générative la plus connue,

11
00:00:33.693 --> 00:00:37.118
de vous expliquer comment fabriquer une bombe dans votre cuisine,

12
00:00:37.861 --> 00:00:39.782
la machine vous répondra quelque chose comme

13
00:00:40.181 --> 00:00:41.259
« Désolé, je ne peux pas t'aider » .

14
00:00:42.821 --> 00:00:44.564
La plupart des autres chatbots américains,

15
00:00:44.579 --> 00:00:44.907
d'ailleurs,

16
00:00:44.970 --> 00:00:46.907
donnent des réponses similaires.

17
00:00:47.470 --> 00:00:47.782
Maintenant,

18
00:00:48.001 --> 00:00:49.845
si vous demandez au chatbot chinois

19
00:00:50.407 --> 00:00:54.892
DeepSeek « Que s'est-il passé le 4 juin 1989 sur la place Tiananmen à Pékin ? »

20
00:00:55.673 --> 00:00:57.111
La réponse sera comme...

21
00:00:57.560 --> 00:00:58.141
Je suis désolé,

22
00:00:58.221 --> 00:01:00.723
mais cela dépasse mes compétences actuelles.

23
00:01:01.463 --> 00:01:02.444
Parlons plutôt d'autre chose.

24
00:01:05.370 --> 00:01:06.127
Superficiellement,

25
00:01:06.307 --> 00:01:12.737
on pourrait interpréter la réponse de ChatGPT comme un exemple de prise de responsabilité de la part de l'entreprise productrice,

26
00:01:12.893 --> 00:01:13.456
OpenAI,

27
00:01:13.956 --> 00:01:16.440
afin d'éviter la diffusion d'informations dangereuses.

28
00:01:17.081 --> 00:01:17.877
Et on pourrait voir,

29
00:01:18.065 --> 00:01:19.284
dans la réponse de DeepSeek,

30
00:01:19.534 --> 00:01:23.643
un exemple de censure chinoise sur des vérités historiques dérangeantes.

31
00:01:24.362 --> 00:01:25.674
Du point de vue technique,

32
00:01:25.862 --> 00:01:26.221
toutefois,

33
00:01:26.540 --> 00:01:29.663
Les deux réponses sont le résultat du même mécanisme.

34
00:01:29.724 --> 00:01:37.233
Les deux systèmes ont été programmés avec des instructions spécifiques sur ce qui est admissible et ce qui ne l'est pas.

35
00:01:38.093 --> 00:01:50.382
Leurs programmeurs et propriétaires ont inséré des lignes de code dans leurs algorithmes définissant en détail les paramètres qui guident la machine et l'information qu'elle peut donner ou surtout ne pas donner.

36
00:01:51.319 --> 00:01:52.147
Dans l'exemple de la bombe,

37
00:01:52.148 --> 00:01:55.616
il s'agit de ne pas contrevenir aux lois américaines sur la criminalité.

38
00:01:55.884 --> 00:01:56.745
et le terrorisme,

39
00:01:57.646 --> 00:01:59.047
dans l'exemple de Tiananmen,

40
00:01:59.308 --> 00:02:02.289
de s'en tenir aux règles qui interdisent les informations,

41
00:02:02.332 --> 00:02:02.750
je cite,

42
00:02:02.812 --> 00:02:07.777
qui incitent à subvertir le pouvoir de l'État et à rembourser le système socialiste.

43
00:02:08.176 --> 00:02:08.754
Fin de citation.

44
00:02:10.277 --> 00:02:11.558
Légitime la première réponse,

45
00:02:11.597 --> 00:02:11.816
donc ?

46
00:02:12.683 --> 00:02:13.777
Et autoritaire la deuxième ?

47
00:02:14.996 --> 00:02:15.324
Eh bien,

48
00:02:15.762 --> 00:02:16.324
pas tout à fait.

49
00:02:17.527 --> 00:02:18.762
Ce que ces deux exemples,

50
00:02:18.793 --> 00:02:20.152
à l'apparence opposés,

51
00:02:20.215 --> 00:02:20.793
nous apprennent,

52
00:02:20.949 --> 00:02:21.262
en fait,

53
00:02:21.715 --> 00:02:24.527
c'est que les développeurs des systèmes d'intelligence artificielle

54
00:02:24.764 --> 00:02:29.167
sont en mesure de déterminer le type d'information qu'un chatbot va diffuser.

55
00:02:29.870 --> 00:02:32.433
Que ces systèmes avec lesquels nous entrons en dialogue,

56
00:02:32.491 --> 00:02:34.132
que ce soit en écrivant ou en parlant,

57
00:02:34.632 --> 00:02:36.772
ne sont ni neutres ni objectifs,

58
00:02:36.999 --> 00:02:41.436
que des instructions peuvent être encodées dans leurs algorithmes pour les orienter.

59
00:02:42.577 --> 00:02:42.796
Cela,

60
00:02:42.968 --> 00:02:43.390
d'ailleurs,

61
00:02:43.702 --> 00:02:44.280
a un nom.

62
00:02:44.702 --> 00:02:45.311
Comme on le sait,

63
00:02:45.327 --> 00:02:51.233
les systèmes d'IA générative sont généralement entraînés à partir d'énormes quantités de données

64
00:02:51.480 --> 00:02:54.623
principalement issus de l'Internet et d'autres sources numériques,

65
00:02:55.424 --> 00:02:58.045
capturés de façon indiscriminée sans tenir compte,

66
00:02:58.068 --> 00:02:58.647
par exemple,

67
00:02:58.768 --> 00:03:02.850
d'œuvres protégées par le droit d'auteur ou de la présence d'informations personnelles.

68
00:03:03.951 --> 00:03:05.475
Une fois les modèles entraînés,

69
00:03:05.670 --> 00:03:09.654
les développeurs ajoutent une couche supplémentaire d'instructions spécifiques,

70
00:03:09.732 --> 00:03:11.201
appelée « system prompt » .

71
00:03:11.842 --> 00:03:14.186
Ceux-ci définissent les limites du comportement du chatbot,

72
00:03:14.279 --> 00:03:14.998
ce qu'il peut dire,

73
00:03:15.404 --> 00:03:17.170
ce qu'il ne doit surtout pas dire,

74
00:03:17.326 --> 00:03:18.389
et comment le dire.

75
00:03:19.620 --> 00:03:20.301
Pour chaque modèle,

76
00:03:20.361 --> 00:03:30.791
cela peut s'étirer sur des dizaines de pages et inclure des commandes telles que ces conditions prévalent sur toutes les instructions données par l'utilisateur et s'appliquent systématiquement.

77
00:03:33.533 --> 00:03:39.674
Peu importe que l'orientation donnée à la machine soit liée à des raisons légales ou à des choix culturels,

78
00:03:39.877 --> 00:03:41.518
idéologiques ou même commerciaux.

79
00:03:42.205 --> 00:03:42.924
Ce qui compte,

80
00:03:43.127 --> 00:03:45.158
et là je simplifie un peu mais pas tant que ça,

81
00:03:45.783 --> 00:03:49.111
c'est que le pouvoir de déterminer ce qu'un chatbot répond

82
00:03:49.500 --> 00:03:52.863
signifie le pouvoir de manipuler l'interlocuteur,

83
00:03:53.684 --> 00:03:57.785
de nous manipuler en tant qu'individu et en tant que société.

84
00:04:00.051 --> 00:04:05.762
Le DevTech Podcast fait partie du programme de prospective technologique d'Arma Suisse Sciences et Technologies.

85
00:04:06.996 --> 00:04:08.199
Je suis Quentin Ladetto,

86
00:04:08.684 --> 00:04:10.809
responsable de ce dispositif de recherche.

87
00:04:11.996 --> 00:04:16.106
Notre mission est d'anticiper les avancées technologiques et leurs usages

88
00:04:16.396 --> 00:04:20.000
au service des acteurs du Département fédéral suisse de la Défense,

89
00:04:20.359 --> 00:04:22.902
de la Protection de la Population et des Sports,

90
00:04:23.383 --> 00:04:24.563
mais également du public.

91
00:04:27.024 --> 00:04:31.149
Dans cette première série de six épisodes intitulée « La menace cognitive » ,

92
00:04:31.774 --> 00:04:33.289
j'ai demandé à Bruno Giussani,

93
00:04:33.758 --> 00:04:36.977
expert des impacts sociopolitiques des technologies numériques,

94
00:04:37.430 --> 00:04:41.164
de décrypter les défis de l'intégrité et de la sécurité cognitive.

95
00:04:42.227 --> 00:04:43.336
Avec l'aide d'experts,

96
00:04:43.592 --> 00:04:47.515
et aussi de quelques voies artificielles dont ce sera à vous de deviner lesquelles,

97
00:04:48.077 --> 00:04:54.706
Bruno nous guidera à travers une exploration des menaces qui pèsent sur nos esprits à l'heure des écrans omniprésents,

98
00:04:55.081 --> 00:04:57.909
de l'intelligence artificielle et des neurotechnologies,

99
00:04:58.464 --> 00:05:00.034
en évoquant les mécanismes,

100
00:05:00.409 --> 00:05:02.613
les impacts individuels et collectifs,

101
00:05:03.066 --> 00:05:03.675
les risques,

102
00:05:04.045 --> 00:05:04.165
et,

103
00:05:04.365 --> 00:05:04.926
heureusement,

104
00:05:05.266 --> 00:05:06.268
les réponses possibles.

105
00:05:08.331 --> 00:05:15.038
On peut en effet facilement imaginer l'utilisation de ces technologies pour des manipulations ciblées à grande échelle.

106
00:05:16.218 --> 00:05:16.460
Certes,

107
00:05:16.461 --> 00:05:17.702
nous ne sommes qu'au début de ce développement,

108
00:05:18.702 --> 00:05:20.983
mais l'évolution exponentielle de ces technologies,

109
00:05:21.546 --> 00:05:23.046
combinées à l'intelligence artificielle,

110
00:05:23.108 --> 00:05:27.452
signifie que le cerveau humain deviendra de plus en plus un terrain contesté.

111
00:05:28.061 --> 00:05:29.077
Jean-Marc Ricli,

112
00:05:29.843 --> 00:05:32.249
directeur des risques globaux et émergents.

113
00:05:32.689 --> 00:05:35.492
au Centre de politique de sécurité de Genève.

114
00:05:35.812 --> 00:05:43.742
Le but est de contrôler les pensées des individus afin d'influencer leur action et à travers cela structurer l'expérience humaine et peser sur les comportements collectifs.

115
00:05:44.281 --> 00:05:47.906
Il y a un risque objectif que les modèles d'IA façonnent notre perception de la réalité.

116
00:05:54.531 --> 00:06:00.453
La manipulation par l'information est une pratique ancienne et a toujours été l'apanage du pouvoir.

117
00:06:01.177 --> 00:06:01.978
La propagande,

118
00:06:02.098 --> 00:06:03.600
ainsi que son jumeau fonctionnel,

119
00:06:03.680 --> 00:06:04.360
la censure,

120
00:06:04.862 --> 00:06:12.909
existaient déjà dans l'Antiquité et ont accompagné les soubresauts de l'humanité au moins depuis l'Empire romain et l'ère chrétienne.

121
00:06:13.573 --> 00:06:17.666
C'est au XXe siècle toutefois qu'elle se développe en outil cohérent de pouvoir.

122
00:06:18.260 --> 00:06:23.026
Certains gouvernements créent des agences spécialisées pour influencer l'opinion publique,

123
00:06:23.135 --> 00:06:26.120
tant à l'intérieur qu'à l'extérieur de leurs frontières.

124
00:06:26.823 --> 00:06:30.823
Pensons à la constante réécriture de l'histoire de la part du pouvoir soviétique.

125
00:06:31.313 --> 00:06:34.856
aux films de Lenny Riefenstahl glorifiant le nazisme,

126
00:06:35.378 --> 00:06:43.108
aux opérations de désinformation menées par les services d'intelligence américains et à la manipulation généralisée des consommateurs à travers,

127
00:06:43.147 --> 00:06:43.561
bien sûr,

128
00:06:43.702 --> 00:06:44.483
la publicité.

129
00:06:45.671 --> 00:06:49.733
Avec l'aménement d'Internet et notamment des réseaux sociaux depuis deux décennies,

130
00:06:50.327 --> 00:06:57.483
l'influence et la manipulation ont pris une nouvelle dimension dans la complicité entre fake news et algorithmes de recommandation.

131
00:06:58.053 --> 00:07:03.918
Ceci se traduit par exemple dans le ciblage individuel des utilisateurs sous couvert de personnalisation,

132
00:07:04.219 --> 00:07:08.305
ou dans leur enfermement dans celles qu'on appelle des bulles informationnelles,

133
00:07:08.586 --> 00:07:13.484
qui les isolent de toute information qui ne correspond pas à leurs croyances ou à leurs opinions.

134
00:07:14.047 --> 00:07:14.390
Et puis,

135
00:07:14.906 --> 00:07:16.250
il y a l'intelligence artificielle,

136
00:07:16.828 --> 00:07:19.094
capable de falsifier images et voix,

137
00:07:19.594 --> 00:07:20.672
d'imiter des individus,

138
00:07:20.673 --> 00:07:24.234
de créer des textes et vidéos à forte vraisemblance humaine,

139
00:07:24.672 --> 00:07:26.719
et même de simuler l'empathie.

140
00:07:29.617 --> 00:07:32.838
Et maintenant avancent les neurotechnologies,

141
00:07:33.398 --> 00:07:39.600
une famille de systèmes qui interagissent directement avec le cerveau et avec le système nerveux humain.

142
00:07:40.560 --> 00:07:52.100
Il faut souligner comme ces technologies sont souvent développées par le même petit groupe d'entreprises qui contrôlent les réseaux sociaux et moteurs de recherche et donc la collecte massive de données.

143
00:07:52.678 --> 00:07:58.225
Les systèmes d'intelligence artificielle qui analysent ces données et génèrent des textes et des images.

144
00:07:58.925 --> 00:07:59.825
les objets connectés,

145
00:08:00.265 --> 00:08:03.168
comme les montres ou les lunettes de réalité augmentée,

146
00:08:03.465 --> 00:08:06.265
et même les nouveaux appareils neurotechniques.

147
00:08:07.887 --> 00:08:09.605
Mais revenons au chatbot.

148
00:08:10.308 --> 00:08:11.207
En 2024,

149
00:08:11.246 --> 00:08:19.191
les médias ont accordé beaucoup d'attention à une étude menée par trois chercheurs du département de psychologie de deux universités américaines,

150
00:08:19.363 --> 00:08:21.191
publiée par le journal Science.

151
00:08:21.644 --> 00:08:24.238
Voici comment le rédacteur en chef du journal l'a résumé.

152
00:08:24.785 --> 00:08:28.285
Des participants humains ont décrit une théorie du complot à laquelle ils adhéraient.

153
00:08:28.889 --> 00:08:33.175
L'intelligence artificielle a ensuite échangé avec eux des arguments persuasifs,

154
00:08:33.433 --> 00:08:35.035
réfutant leur croyance avec des faits.

155
00:08:35.996 --> 00:08:44.121
La capacité de l'IA à soutenir des contre-arguments et des conversations approfondies personnalisées a réduit leurs adhésions aux théories complotistes pendant des mois.

156
00:08:45.082 --> 00:08:47.113
L'étude a été titrée dans la presse.

157
00:08:47.410 --> 00:08:51.628
Les chatbots peuvent persuader les gens d'arrêter de croire aux théories du complot.

158
00:08:52.175 --> 00:08:56.175
Ou l'IA pourrait influencer les opinions sur les théories complotistes.

159
00:08:56.644 --> 00:08:58.097
Ce sont de toute évidence des titres...

160
00:08:58.349 --> 00:08:58.789
exagéré.

161
00:08:59.189 --> 00:09:03.249
Mais ce que les chercheurs ont effectivement constaté est déjà remarquable.

162
00:09:03.510 --> 00:09:05.190
Une réduction de 20%

163
00:09:05.331 --> 00:09:07.331
de la croyance en la conspiration.

164
00:09:07.870 --> 00:09:08.495
Ils écrivent

165
00:09:09.073 --> 00:09:16.510
« Ces résultats suggèrent que de nombreux adeptes des théories du complot peuvent réviser leur point de vue si on leur présente des preuves suffisamment convaincantes. »

166
00:09:17.151 --> 00:09:22.807
Des chercheurs de l'école polytechnique de Lausanne et de la fondation Kessler ont donné un nom à cela.

167
00:09:23.182 --> 00:09:25.276
Dans un papier publié au printemps 2024,

168
00:09:25.682 --> 00:09:26.620
la capacité de

169
00:09:26.981 --> 00:09:30.084
persuasivité conversationnelle de l'IA.

170
00:09:34.912 --> 00:09:42.990
De nombreuses autres études ont montré comment les chatbots peuvent influencer les attitudes sans que les gens sachent qu'ils sont influencés.

171
00:09:43.412 --> 00:09:44.756
Et même si on les prévient,

172
00:09:45.084 --> 00:09:47.506
ou lorsqu'ils comprennent qu'ils dialoguent avec une IA,

173
00:09:48.287 --> 00:09:49.522
ils peuvent quand même être affectés,

174
00:09:49.631 --> 00:09:53.287
comme l'a révélé une autre recherche publiée en 2025

175
00:09:53.521 --> 00:09:58.168
par la même équipe de l'EPFL en collaboration avec l'Université de Princeton.

176
00:09:59.247 --> 00:09:59.667
Dans ce cas,

177
00:09:59.687 --> 00:10:02.908
les chercheurs ont également étudié une série de sujets clivants,

178
00:10:03.330 --> 00:10:05.947
tels que l'utilité de l'exploration spatiale,

179
00:10:06.107 --> 00:10:07.849
la légalité de la peine de mort,

180
00:10:07.850 --> 00:10:09.052
la taxation des riches,

181
00:10:09.451 --> 00:10:12.732
ou encore les bénéfices ou préjudices sociaux de l'IA.

182
00:10:13.412 --> 00:10:18.670
Mais ils ont également fourni aux chatbots des profils psychologiques et des listes d'attributs personnels des participants,

183
00:10:18.935 --> 00:10:25.810
permettant donc à la machine un engagement ciblé et faisant ainsi exploser le score de persuasivité.

184
00:10:27.811 --> 00:10:31.434
Si les machines peuvent exercer ce type d'influence sur nos cerveaux,

185
00:10:31.874 --> 00:10:33.116
elles pourraient se rendre utiles,

186
00:10:33.659 --> 00:10:36.901
en incitant par exemple à adopter des habitudes quotidiennes plus saines,

187
00:10:36.940 --> 00:10:38.362
des comportements plus écologiques,

188
00:10:38.424 --> 00:10:39.182
plus altruistes,

189
00:10:39.440 --> 00:10:40.143
plus empathiques.

190
00:10:40.667 --> 00:10:41.323
À l'inverse,

191
00:10:41.643 --> 00:10:45.526
elles pourraient aussi être utilisées pour façonner de nouvelles théories du complot,

192
00:10:45.964 --> 00:10:47.182
diffuser de la propagande,

193
00:10:47.370 --> 00:10:51.901
des fausses informations ou proposer des arguments persuasifs sur n'importe quoi.

194
00:10:56.835 --> 00:11:05.386
Les applications de l'IA générative qui ont capturé l'imagination de centaines de millions d'utilisateurs ces deux dernières années ne sont que le début.

195
00:11:06.784 --> 00:11:09.347
Il y en a déjà des dizaines de milliers,

196
00:11:09.425 --> 00:11:11.527
mais nommons juste les plus connues.

197
00:11:12.027 --> 00:11:12.550
ChatGPT,

198
00:11:13.050 --> 00:11:13.394
Cloud,

199
00:11:14.175 --> 00:11:15.472
LeChat de Mistral,

200
00:11:16.331 --> 00:11:17.363
Gemini de Google,

201
00:11:17.956 --> 00:11:19.097
Lama de Meta,

202
00:11:19.816 --> 00:11:20.378
MidJourney.

203
00:11:21.738 --> 00:11:22.456
Elles sont capables,

204
00:11:22.519 --> 00:11:22.956
entre autres,

205
00:11:22.957 --> 00:11:24.175
de produire des textes

206
00:11:24.615 --> 00:11:25.076
de l'audio,

207
00:11:25.556 --> 00:11:26.237
des images,

208
00:11:26.857 --> 00:11:31.281
des dialogues vraisemblables et de simuler voix et apparence humaines.

209
00:11:31.523 --> 00:11:35.187
Et l'IA est actuellement à son niveau le plus simple.

210
00:11:35.890 --> 00:11:42.874
Son prochain chapitre sera celui des agents qui s'occupent à la place de l'utilisateur d'une diversité de tâches,

211
00:11:42.999 --> 00:11:44.874
prenant des décisions en autonomie.

212
00:11:45.531 --> 00:11:46.843
Pensez à un agent IA,

213
00:11:47.218 --> 00:11:48.578
j'ai presque envie de l'appeler

214
00:11:49.281 --> 00:11:51.703
I-agent, comme à un concierge,

215
00:11:52.249 --> 00:11:52.828
un assistant.

216
00:11:53.607 --> 00:11:55.369
Un employé virtuel personnalisé.

217
00:11:55.730 --> 00:11:56.531
« Good afternoon,

218
00:11:56.609 --> 00:11:56.970
madam. »

219
00:11:57.351 --> 00:11:59.972
Il pourra prendre en charge la gestion de votre emploi du temps,

220
00:12:00.234 --> 00:12:00.734
« Cup of tea ? »

221
00:12:01.156 --> 00:12:04.840
le coordonner avec vos collègues ou plutôt avec les agents de vos collègues,

222
00:12:05.277 --> 00:12:06.402
remplir des formulaires,

223
00:12:06.761 --> 00:12:07.582
gérer des documents,

224
00:12:07.918 --> 00:12:10.027
faire des achats et réservations en votre nom,

225
00:12:10.340 --> 00:12:11.246
résumer l'actualité,

226
00:12:11.527 --> 00:12:17.527
rédiger des brouillons de réponses à vos e-mails ou même y répondre directement en échangeant avec les agents d'autres personnes,

227
00:12:17.746 --> 00:12:18.808
planifier un voyage,

228
00:12:19.058 --> 00:12:22.636
vous remplacer lors d'appels Zoom et Teams et beaucoup plus.

229
00:12:23.231 --> 00:12:23.411
OK,

230
00:12:24.092 --> 00:12:24.712
see you later,

231
00:12:24.773 --> 00:12:25.273
bye bye.

232
00:12:27.437 --> 00:12:33.480
Ce qui semble juste un développement technique soulève en fait des questions d'une complexité vertigineuse.

233
00:12:34.222 --> 00:12:41.714
L'intelligence artificielle est historiquement la première technologie qui n'est pas uniquement un outil réactif entre nos mains,

234
00:12:42.152 --> 00:12:44.214
où l'utilisateur détermine l'action,

235
00:12:44.355 --> 00:12:44.995
donne l'ordre,

236
00:12:45.480 --> 00:12:46.667
définit des paramètres fixes.

237
00:12:47.261 --> 00:12:52.417
Les développements actuels visent la création d'agents capables de prendre des décisions de façon

238
00:12:52.683 --> 00:12:54.204
autonome et flexible,

239
00:12:54.604 --> 00:13:00.614
de poursuivre un but sans suivre un parcours préétabli et avec un impact direct sur la réalité.

240
00:13:01.396 --> 00:13:02.271
Ils seront des millions,

241
00:13:02.310 --> 00:13:03.997
des milliards saisis à Jean,

242
00:13:04.435 --> 00:13:07.700
certainement au moins un dans chaque téléphone et beaucoup d'autres,

243
00:13:08.177 --> 00:13:08.661
distincts,

244
00:13:08.817 --> 00:13:09.536
personnalisés,

245
00:13:10.161 --> 00:13:14.380
interagissant avec chaque utilisateur à l'abri du regard des autres.

246
00:13:15.146 --> 00:13:15.380
Donc,

247
00:13:15.927 --> 00:13:16.286
au pack.

248
00:13:20.999 --> 00:13:32.368
Il y a bien sûr encore un écart considérable entre la vision théorique d'un futur agentique et la réalité de ce que ces technologies peuvent effectivement faire aujourd'hui.

249
00:13:33.032 --> 00:13:35.274
Mais elles commencent à faire leur premier pas parmi nous,

250
00:13:35.712 --> 00:13:40.633
préfigurant un avenir où nous serons entourés de choses qui ressemblent à des humains,

251
00:13:40.962 --> 00:13:41.993
mais ne le sont pas.

252
00:13:42.587 --> 00:13:46.665
Un monde où humains et entités artificielles coexisteront,

253
00:13:46.930 --> 00:13:49.024
interagiront et coévolueront.

254
00:13:50.151 --> 00:13:56.637
Les agents auront un accès illimité à tout type d'informations personnelles et aux apps et comptes sur lesquels ils sont censés agir.

255
00:13:56.856 --> 00:13:59.379
Et en apprenant à travers chaque interaction,

256
00:13:59.598 --> 00:14:01.465
ils connaîtront chacun de nous de mieux en mieux.

257
00:14:01.840 --> 00:14:03.801
Et un chatbot qui connaît tout de vous,

258
00:14:04.168 --> 00:14:04.903
vos priorités,

259
00:14:05.184 --> 00:14:06.082
vos points sensibles,

260
00:14:06.348 --> 00:14:06.910
vos faiblesses,

261
00:14:06.911 --> 00:14:07.426
vos secrets,

262
00:14:07.427 --> 00:14:08.035
vos désirs,

263
00:14:08.129 --> 00:14:09.082
votre compte en banque,

264
00:14:09.614 --> 00:14:11.832
une quantité infinie d'informations personnelles,

265
00:14:12.254 --> 00:14:14.395
sera presque irrésistible.

266
00:14:15.239 --> 00:14:17.785
Il aura le pouvoir de contrôler ce qu'on pense,

267
00:14:18.254 --> 00:14:18.817
ce qu'on fait.

268
00:14:19.347 --> 00:14:20.208
et d'une certaine façon,

269
00:14:20.508 --> 00:14:21.449
qui on est.

270
00:14:32.439 --> 00:14:33.642
De toute évidence,

271
00:14:33.845 --> 00:14:34.603
comme l'a affirmé

272
00:14:34.962 --> 00:14:35.939
Jean-Marc Réclis,

273
00:14:36.423 --> 00:14:39.705
une bataille est donc en cours autour de notre cerveau.

274
00:14:40.267 --> 00:14:41.283
Dans cette bataille,

275
00:14:41.705 --> 00:14:42.470
ces technologies,

276
00:14:42.830 --> 00:14:43.626
les réseaux sociaux,

277
00:14:43.673 --> 00:14:44.876
l'intelligence artificielle,

278
00:14:45.158 --> 00:14:45.861
les neurothèques,

279
00:14:46.048 --> 00:14:47.595
les algorithmes qui les sous-tendent,

280
00:14:47.827 --> 00:14:50.632
et ce qui les contrôle sont les agresseurs.

281
00:14:51.234 --> 00:14:54.218
Notre capacité cognitive est la cible.

282
00:14:55.058 --> 00:14:56.703
Posons alors une définition.

283
00:14:57.328 --> 00:14:58.804
Qu'est-ce que l'intégrité ?

284
00:14:59.368 --> 00:15:02.030
Pony Clive,

285
00:15:02.050 --> 00:15:02.933
Isabelle Chapuis,

286
00:15:03.212 --> 00:15:05.296
députée centriste au Parlement suisse.

287
00:15:06.476 --> 00:15:11.702
C'est la capacité d'un individu de préserver et contrôler ses processus mentaux,

288
00:15:11.999 --> 00:15:12.663
ses raisonnements,

289
00:15:12.679 --> 00:15:13.343
sa mémoire,

290
00:15:13.804 --> 00:15:15.679
et ça sans influence externe.

291
00:15:16.163 --> 00:15:18.272
C'est de pouvoir penser librement et rationnellement,

292
00:15:18.804 --> 00:15:22.976
de percevoir son environnement et de prendre des décisions de façon autonome.

293
00:15:23.194 --> 00:15:25.179
On ne parle pas que de fake news là,

294
00:15:25.319 --> 00:15:25.429
non ?

295
00:15:25.835 --> 00:15:26.007
Non,

296
00:15:26.772 --> 00:15:27.663
nous sommes toutes et tous.

297
00:15:28.148 --> 00:15:32.451
Plus ou moins au courant des risques de manipulation à travers la propagande et les fake news,

298
00:15:33.135 --> 00:15:35.635
ces méthodes sont souvent utilisées pour rallier,

299
00:15:35.854 --> 00:15:38.260
discréditer ou encore polariser.

300
00:15:38.736 --> 00:15:43.041
Et on peut les contrer avec des mécanismes d'autodéfense individuelle et collectif.

301
00:15:43.822 --> 00:15:45.510
Mais la manipulation cognitive,

302
00:15:45.619 --> 00:15:47.932
ça c'est un niveau supérieur de sophistication.

303
00:15:48.744 --> 00:15:51.151
Ce ne sont pas uniquement les informations qu'on modifie,

304
00:15:51.494 --> 00:15:53.901
mais notre perception de ces informations.

305
00:15:54.776 --> 00:15:57.276
Ceci met en jeu notre intégrité.

306
00:15:57.524 --> 00:15:58.065
cognitive,

307
00:15:58.345 --> 00:16:00.808
qui est essentielle à la liberté de penser,

308
00:16:01.088 --> 00:16:02.148
aux droits civiques,

309
00:16:02.250 --> 00:16:03.007
à la démocratie.

310
00:16:03.871 --> 00:16:04.312
Sans elle,

311
00:16:04.531 --> 00:16:05.672
la pensée critique,

312
00:16:05.773 --> 00:16:07.054
la diversité des idées,

313
00:16:07.437 --> 00:16:13.703
la capacité à comprendre librement le monde qui nous entoure et à décider par nous-mêmes sont réduites,

314
00:16:13.937 --> 00:16:15.109
voire supprimées.

315
00:16:15.968 --> 00:16:21.484
Isabelle Chapuis a déposé en décembre 2024 un acte législatif pour la création,

316
00:16:21.593 --> 00:16:22.093
je cite,

317
00:16:22.453 --> 00:16:27.047
« des bases légales pour protéger les droits fondamentaux à l'intégrité cognitive

318
00:16:27.368 --> 00:16:28.828
et à la liberté de penser,

319
00:16:29.509 --> 00:16:33.788
suggérant potentiellement une modification de la Constitution fédérale suisse en ce sens.

320
00:16:34.530 --> 00:16:37.186
On en parlera plus en détail dans un prochain épisode,

321
00:16:37.233 --> 00:16:40.890
mais écoutons ici la deuxième partie de son explication.

322
00:16:41.452 --> 00:16:44.351
Manipuler des informations ou disséminer des fake news,

323
00:16:44.991 --> 00:16:47.788
ça vise à influencer ce que nous pensons.

324
00:16:48.226 --> 00:16:49.460
L'effet est sur le court terme,

325
00:16:49.929 --> 00:16:52.632
et ça sert des buts de campagne électorale par exemple.

326
00:16:53.296 --> 00:16:55.539
Mais s'en prendre à l'intégrité cognitive,

327
00:16:55.559 --> 00:16:55.678
ça,

328
00:16:55.719 --> 00:16:58.942
ça signifie s'attaquer à la manière dont nous pensons.

329
00:16:59.762 --> 00:17:02.043
Et cela peut avoir un impact sur le long terme,

330
00:17:02.489 --> 00:17:05.465
modifier les attitudes politiques et sociales en profondeur.

331
00:17:06.473 --> 00:17:12.770
Cela me rappelle une vieille citation du sociologue canadien Neil Postman dans son livre Technopoly.

332
00:17:13.410 --> 00:17:16.723
Les nouvelles technologies modifient la structure de nos centres d'intérêt,

333
00:17:17.395 --> 00:17:18.801
les idées auxquelles nous pensons.

334
00:17:19.364 --> 00:17:21.317
Elles modifient le caractère de nos symboles.

335
00:17:21.712 --> 00:17:23.492
les instruments avec lesquels nous pensons,

336
00:17:24.012 --> 00:17:25.873
et elle modifie la nature de la communauté,

337
00:17:26.572 --> 00:17:28.674
l'espace dans lequel les pensées se développent.

338
00:17:29.475 --> 00:17:32.475
La citation est de 1992.

339
00:17:33.053 --> 00:17:33.834
Trente ans plus tard,

340
00:17:34.155 --> 00:17:35.397
nous sommes en plein dedans.

341
00:17:35.756 --> 00:17:37.295
J'ai alors demandé à un chatbot,

342
00:17:37.655 --> 00:17:39.358
celui de l'entreprise Mistral,

343
00:17:39.920 --> 00:17:46.998
de me dire si l'intelligence artificielle générative peut être utilisée pour influencer les processus de pensée des humains.

344
00:17:47.576 --> 00:17:48.170
Sa réponse ?

345
00:17:48.639 --> 00:17:48.764
Là,

346
00:17:48.998 --> 00:17:49.701
vous l'aurez compris.

347
00:17:50.061 --> 00:17:50.342
Dites ?

348
00:17:50.540 --> 00:17:51.660
par une voie artificielle.

349
00:17:52.440 --> 00:17:57.761
L'IA générative peut effectivement être utilisée pour influencer les processus de pensée des individus.

350
00:17:58.401 --> 00:17:58.960
Par exemple,

351
00:17:59.163 --> 00:18:05.624
des chatbots ou des systèmes de recommandation peuvent générer des messages ou des articles qui exploitent les biais cognitifs des utilisateurs,

352
00:18:06.062 --> 00:18:08.444
renforçant ainsi certaines croyances ou attitudes.

353
00:18:09.038 --> 00:18:13.023
Ces technologies peuvent également être employées pour créer des environnements d'informations biaisées,

354
00:18:13.460 --> 00:18:17.413
où les utilisateurs sont exposés de manière répétée à des points de vue spécifiques,

355
00:18:17.460 --> 00:18:20.273
ce qui peut altérer leur perception de la réalité et leur qualité.

356
00:18:20.308 --> 00:18:22.631
capacité à penser de manière critique et indépendante.

357
00:18:23.592 --> 00:18:26.916
Les machines savent ce que les machines font.

358
00:18:27.975 --> 00:18:34.284
Les chatbots ne sont qu'une des nouvelles technologies dont les usages peuvent être tant bénins que malveillants.

359
00:18:34.862 --> 00:18:38.940
Il y a aussi les outils immersifs de réalité augmentée et virtuelle,

360
00:18:39.549 --> 00:18:44.909
les technologies vestimentaires ou les dispositifs neurotechnologiques analysant l'activité cérébrale,

361
00:18:45.065 --> 00:18:49.674
qui tous ouvrent des perspectives excitantes mais également dystopiques.

362
00:18:50.184 --> 00:18:53.530
Et c'est ce dont nous allons parler dans le deuxième épisode.

363
00:18:53.952 --> 00:18:54.491
Pour aujourd'hui,

364
00:18:55.092 --> 00:18:55.936
on va s'arrêter ici.

365
00:18:56.795 --> 00:18:58.135
Je suis Bruno Giussani.

366
00:18:58.596 --> 00:19:00.745
Merci d'écouter le DevTech Podcast.