WEBVTT

1
00:00:13.091 --> 00:00:18.231
C'est son téléphone qui parle.

2
00:00:18.341 --> 00:00:20.075
Il peut le dire.

3
00:00:20.216 --> 00:00:22.466
Je ne le sais pas.

4
00:00:22.481 --> 00:00:23.575
Je ne le sais pas.

5
00:00:31.804 --> 00:00:33.466
Lorsque Johann Gutenberg,

6
00:00:33.646 --> 00:00:35.507
Gutenberg comme on l'appelle en français,

7
00:00:36.187 --> 00:00:39.210
lorsque Gutenberg commença à imprimer ses premières bibles à Mayence,

8
00:00:39.492 --> 00:00:40.050
en Allemagne,

9
00:00:40.292 --> 00:00:43.535
quelque part entre 1450 et 1455,

10
00:00:44.480 --> 00:00:47.097
les Chinois imprimaient déjà des livres depuis des siècles.

11
00:00:48.144 --> 00:00:53.785
Sa principale innovation consista à utiliser des caractères mobiles moulés individuellement en métal,

12
00:00:54.628 --> 00:00:57.988
permettant ainsi de composer les textes plus rapidement et facilement.

13
00:00:59.080 --> 00:00:59.621
Autrement dit,

14
00:00:59.641 --> 00:01:03.604
Gutenberg inventa une méthode pour optimiser la typographie,

15
00:01:03.725 --> 00:01:07.268
accélérer la production de livres et en réduire les coûts.

16
00:01:08.190 --> 00:01:12.213
Il trouva aussi des façons pour rendre l'encre plus foncée et plus stable.

17
00:01:13.096 --> 00:01:13.792
Et ce faisant,

18
00:01:14.354 --> 00:01:18.424
il fut à l'origine de la première surcharge informationnelle de l'histoire.

19
00:01:19.377 --> 00:01:19.924
À la fin du

20
00:01:20.409 --> 00:01:20.924
15e siècle,

21
00:01:21.377 --> 00:01:22.315
50 ans à peine,

22
00:01:22.764 --> 00:01:25.747
Après la publication de la première Bible par Gutenberg,

23
00:01:26.388 --> 00:01:31.351
des presses imprimées comme la sienne s'étaient déjà répandues dans plus de 110 villes européennes.

24
00:01:33.655 --> 00:01:36.194
Dans leur ouvrage Histoire et pouvoir de l'écrit,

25
00:01:36.233 --> 00:01:41.124
les historiens français Henri-Jean Martin et Bruno Delmas estiment qu'à cette époque,

26
00:01:41.155 --> 00:01:45.733
les lecteurs pouvaient déjà choisir entre 27 000 titres imprimés différents,

27
00:01:46.171 --> 00:01:49.796
pour un total de 10 millions d'exemplaires en circulation en Europe.

28
00:01:50.548 --> 00:01:53.772
alors que les lecteurs n'étaient que quelques centaines de milliers sur une population,

29
00:01:54.012 --> 00:01:54.772
Russie comprise,

30
00:01:55.311 --> 00:01:56.615
de moins de 100 millions.

31
00:01:57.615 --> 00:02:03.819
Martin et Delmas racontent que les premiers imprimeurs modelaient leurs livres sur le format des manuscrits,

32
00:02:04.342 --> 00:02:06.405
s'efforçant d'imiter l'élégance des scribes.

33
00:02:07.178 --> 00:02:07.647
Néanmoins,

34
00:02:08.272 --> 00:02:11.834
éditeurs et libraires commencèrent rapidement à explorer de nouveaux formats,

35
00:02:12.303 --> 00:02:16.647
à la recherche d'un langage formel et d'une esthétique plus adaptée aux livres imprimés.

36
00:02:17.897 --> 00:02:18.881
En 1510,

37
00:02:18.975 --> 00:02:19.600
la première...

38
00:02:19.900 --> 00:02:21.600
numérotation de pages fut introduite,

39
00:02:21.680 --> 00:02:22.801
basée sur les chiffres arabes.

40
00:02:24.442 --> 00:02:25.961
Puis sont apparus les paragraphes,

41
00:02:26.282 --> 00:02:26.922
les chapitres,

42
00:02:27.102 --> 00:02:27.543
les index,

43
00:02:28.321 --> 00:02:32.743
autant d'outils destinés à faciliter l'accès à l'information contenue dans le livre.

44
00:02:33.883 --> 00:02:35.680
Ce n'est que vers la fin du XVIe siècle,

45
00:02:35.743 --> 00:02:39.211
donc plus de 150 ans après l'invention de Gutenberg,

46
00:02:39.258 --> 00:02:43.102
que le livre commença à ressembler à ce qu'on connaît aujourd'hui.

47
00:02:43.868 --> 00:02:47.930
La réponse à ce déluge informationnel ne passa pas uniquement

48
00:02:48.544 --> 00:02:49.385
par l'objet livre.

49
00:02:50.145 --> 00:02:53.991
Elle engagea l'ensemble de la société sur une très longue période.

50
00:02:55.030 --> 00:02:55.971
Avec un peu d'audace,

51
00:02:55.972 --> 00:02:57.592
on pourrait affirmer que l'école,

52
00:02:57.710 --> 00:02:58.874
sous sa forme moderne,

53
00:02:59.358 --> 00:03:00.272
les partis politiques,

54
00:03:00.335 --> 00:03:01.780
les administrations publiques,

55
00:03:02.256 --> 00:03:04.163
les tribunaux et bien sûr les médias,

56
00:03:04.647 --> 00:03:04.897
bref,

57
00:03:05.522 --> 00:03:08.069
l'ensemble de l'infrastructure sociale moderne,

58
00:03:08.585 --> 00:03:12.413
sont le résultat de l'effort collectif pour organiser,

59
00:03:12.522 --> 00:03:13.085
canaliser,

60
00:03:13.272 --> 00:03:13.694
filtrer,

61
00:03:13.975 --> 00:03:16.288
transmettre et rendre exploitable

62
00:03:16.684 --> 00:03:21.393
la quantité croissante d'informations générées par l'invention de Gutenberg.

63
00:03:24.698 --> 00:03:30.385
Le DevTech Podcast fait partie du programme de prospective technologique d'Arma Suisse Sciences et Technologies.

64
00:03:31.651 --> 00:03:32.838
Je suis Quentin Ladetto,

65
00:03:33.307 --> 00:03:35.463
responsable de ce dispositif de recherche.

66
00:03:36.616 --> 00:03:44.648
Notre mission est d'anticiper les avancées technologiques et leurs usages au service des acteurs du Département fédéral suisse de la Défense,

67
00:03:45.007 --> 00:03:47.523
de la protection de la population et des sports,

68
00:03:48.007 --> 00:03:49.210
mais également du public.

69
00:03:51.648 --> 00:03:55.773
Dans cette première série de six épisodes intitulée « La menace cognitive » ,

70
00:03:56.413 --> 00:03:57.913
j'ai demandé à Bruno Giussani,

71
00:03:58.398 --> 00:04:01.601
expert des impacts sociopolitiques des technologies numériques,

72
00:04:02.085 --> 00:04:05.757
de décrypter les défis de l'intégrité et de la sécurité cognitive.

73
00:04:06.836 --> 00:04:12.161
Avec l'aide d'experts et aussi de quelques voies artificielles dont ce sera à vous de deviner lesquelles,

74
00:04:12.700 --> 00:04:19.325
Bruno nous guidera à travers une exploration des menaces qui pèsent sur nos esprits à l'heure des écrans omniprésents,

75
00:04:19.708 --> 00:04:22.529
de l'intelligence artificielle et des neurotechnologies,

76
00:04:23.107 --> 00:04:24.654
en évoquant les mécanismes,

77
00:04:25.060 --> 00:04:27.232
les impacts individuels et collectifs,

78
00:04:27.716 --> 00:04:28.794
les risques et,

79
00:04:29.013 --> 00:04:29.591
heureusement,

80
00:04:29.919 --> 00:04:30.872
les réponses possibles.

81
00:04:32.912 --> 00:04:35.914
L'évolution des technologies de l'information a causé,

82
00:04:36.212 --> 00:04:37.154
depuis Gutenberg,

83
00:04:37.572 --> 00:04:40.353
bien d'autres transformations sociales profondes.

84
00:04:40.951 --> 00:04:43.654
Prenons une anecdote liée à l'invention du télégraphe.

85
00:04:44.755 --> 00:04:45.498
Depuis toujours,

86
00:04:45.537 --> 00:04:56.123
la vitesse maximale à laquelle une information pouvait voyager entre deux lieux a été celle d'un cheval lancé au galop ou d'un pigeon voyageur.

87
00:04:57.276 --> 00:04:58.057
Jusqu'au milieu du

88
00:04:58.597 --> 00:04:59.038
19e siècle,

89
00:04:59.098 --> 00:04:59.718
par exemple,

90
00:04:59.819 --> 00:05:03.522
il n'y avait aucun besoin de garder le secret sur les opérations militaires.

91
00:05:04.061 --> 00:05:06.788
Lorsqu'un navire de guerre anglais levait l'encre,

92
00:05:07.483 --> 00:05:10.210
les détails de la mission étaient publiés par le Times de Londres.

93
00:05:10.468 --> 00:05:10.866
Après tout,

94
00:05:11.053 --> 00:05:15.600
il n'y avait aucun moyen pour que l'information puisse précéder le navire à sa destination.

95
00:05:16.522 --> 00:05:17.522
Quelques années plus tard,

96
00:05:17.600 --> 00:05:17.991
toutefois,

97
00:05:18.538 --> 00:05:23.257
le réseau télégraphique couvrait déjà toute l'Europe et bientôt traversa les océans.

98
00:05:24.168 --> 00:05:28.294
Les articles des journaux anglais pouvaient désormais être transmis en Inde en quelques minutes.

99
00:05:29.395 --> 00:05:30.895
Pour la première fois de l'histoire,

100
00:05:31.055 --> 00:05:35.739
la vitesse de l'information était dissociée de celle de son porteur.

101
00:05:37.044 --> 00:05:39.684
Le télégraphe transforma radicalement l'art de la guerre,

102
00:05:39.965 --> 00:05:40.606
l'espionnage,

103
00:05:40.684 --> 00:05:41.465
l'administration,

104
00:05:41.544 --> 00:05:42.028
les journaux,

105
00:05:42.481 --> 00:05:43.340
et plus en général,

106
00:05:43.903 --> 00:05:45.184
la valeur de l'information.

107
00:05:47.840 --> 00:05:48.120
Et puis,

108
00:05:48.160 --> 00:05:48.761
bien sûr,

109
00:05:49.001 --> 00:05:50.121
il y a eu le téléphone,

110
00:05:50.281 --> 00:05:50.941
l'Internet,

111
00:05:51.080 --> 00:05:51.939
les smartphones,

112
00:05:52.420 --> 00:05:54.701
et maintenant les technologies algorithmiques.

113
00:05:55.263 --> 00:05:57.740
Des technologies qui ne demandent pas d'autorisation et qui,

114
00:05:57.904 --> 00:05:58.842
de toute évidence,

115
00:05:59.443 --> 00:06:02.365
arrivent dans une société qui n'est pas prête à les accueillir,

116
00:06:02.763 --> 00:06:03.607
ni culturellement,

117
00:06:03.756 --> 00:06:04.928
ni institutionnellement,

118
00:06:05.537 --> 00:06:06.443
ni juridiquement,

119
00:06:06.662 --> 00:06:07.771
ni moralement.

120
00:06:08.662 --> 00:06:11.990
Dans son livre Technopolitique de 2024,

121
00:06:12.709 --> 00:06:15.459
la politologue française Asma Mala les appelle

122
00:06:15.916 --> 00:06:17.918
technologie de l'hypervitesse.

123
00:06:18.619 --> 00:06:21.621
Et elle y voit un défi de type guttenbergien,

124
00:06:22.363 --> 00:06:23.766
une bascule civilisationnelle.

125
00:06:24.563 --> 00:06:25.024
Elle écrit,

126
00:06:25.664 --> 00:06:26.125
je cite,

127
00:06:26.828 --> 00:06:28.406
« La page de l'ère industrielle,

128
00:06:28.469 --> 00:06:29.531
sa société de masse,

129
00:06:29.586 --> 00:06:34.867
sa démocratie de masse est tournée sans que la nouvelle soit encore écrite. »

130
00:06:37.024 --> 00:06:39.244
Au fil des épisodes de ce podcast,

131
00:06:39.725 --> 00:06:48.486
on a essayé de décrire notre transition vers un monde dont l'enjeu central est la maîtrise des capacités cognitives et des représentations du réel.

132
00:06:49.526 --> 00:06:50.369
Dans un tel monde,

133
00:06:51.229 --> 00:06:53.346
l'infrastructure la plus importante d'un pays,

134
00:06:53.565 --> 00:06:55.846
sa source primaire de robustesse,

135
00:06:56.565 --> 00:06:59.674
est constituée des esprits instruits de ses citoyens.

136
00:07:00.644 --> 00:07:01.084
Dès lors,

137
00:07:01.465 --> 00:07:02.005
à l'avenir,

138
00:07:02.604 --> 00:07:05.264
beaucoup va se jouer autour de ces deux mots,

139
00:07:05.803 --> 00:07:07.585
instruits et citoyens.

140
00:07:08.444 --> 00:07:11.108
La parlementaire suisse Isabelle Chapuis.

141
00:07:11.905 --> 00:07:16.788
Il y a plusieurs pistes pour devenir plus robuste face à la guerre cognitive,

142
00:07:17.866 --> 00:07:25.616
comme en formant des citoyens éveillés capables de reconnaître les récits manipulatoires et surtout les manipulations algorithmiques.

143
00:07:26.053 --> 00:07:26.616
Pour l'instant,

144
00:07:26.835 --> 00:07:30.038
on semble plutôt naviguer dans la direction inverse.

145
00:07:31.284 --> 00:07:33.307
Si on s'en tient au thème de l'éducation,

146
00:07:33.566 --> 00:07:37.812
mais on pourrait dire des choses similaires sur le travail ou à propos de la production culturelle,

147
00:07:38.332 --> 00:07:41.898
depuis l'envahissement de notre quotidien par l'IA générative,

148
00:07:41.976 --> 00:07:45.195
il souffle un mélange d'enthousiasme et de désarroi.

149
00:07:45.937 --> 00:07:47.445
De très nombreux étudiants,

150
00:07:47.476 --> 00:07:48.039
par exemple,

151
00:07:48.226 --> 00:07:51.851
utilisent l'IA pour résumer des livres plutôt que de les lire,

152
00:07:52.117 --> 00:07:57.883
ou pour générer des textes qu'ils n'apprendront pas à écrire ou qu'ils seront incapables d'expliquer,

153
00:07:58.195 --> 00:08:00.695
ou encore comme tuteur personnel ou aide.

154
00:08:00.908 --> 00:08:01.389
au devoir.

155
00:08:02.270 --> 00:08:06.371
Prompter est certes plus simple que lire ou écrire.

156
00:08:06.856 --> 00:08:12.301
La crainte est que ça puisse inhiber le développement de compétences et d'esprit critique.

157
00:08:12.942 --> 00:08:20.067
Que l'externalisation de l'apprentissage et de la réflexion engendre une dépendance à la technologie.

158
00:08:21.129 --> 00:08:23.067
Cette inquiétude n'est pas son fondement.

159
00:08:23.707 --> 00:08:25.317
La recherche prend du temps,

160
00:08:25.692 --> 00:08:27.051
mais les premières indications,

161
00:08:27.239 --> 00:08:29.176
si elle montre une productivité accrue.

162
00:08:29.840 --> 00:08:32.883
suggère aussi des formes de déqualification,

163
00:08:33.543 --> 00:08:34.484
ce qu'on appelle en anglais

164
00:08:34.863 --> 00:08:42.191
« de-skilling » . Une étude menée auprès de 1 000 élèves dans le cadre de la préparation d'examens de mathématiques au lycée,

165
00:08:42.410 --> 00:08:43.012
par exemple,

166
00:08:43.535 --> 00:08:52.566
a montré en 2024 comment les étudiants ayant accès à l'IA ont obtenu des résultats largement meilleurs que ceux qui n'y ont pas eu accès.

167
00:08:53.363 --> 00:08:58.676
Mais ils ont ensuite réalisé des performances significativement inférieures

168
00:08:58.924 --> 00:09:02.667
à celle du groupe de tests lorsque l'accès leur a été supprimé.

169
00:09:04.190 --> 00:09:07.870
De nombreuses autres études ont conduit à des résultats similaires,

170
00:09:08.276 --> 00:09:10.839
ce qui suscite une considération intéressante.

171
00:09:11.714 --> 00:09:12.620
On discute beaucoup

172
00:09:13.172 --> 00:09:17.275
autour de l'idée que l'IA pourrait automatiser la plupart des métiers.

173
00:09:17.732 --> 00:09:19.032
Ce n'est pas notre sujet ici,

174
00:09:19.134 --> 00:09:21.154
mais une phrase qui circule beaucoup,

175
00:09:21.536 --> 00:09:23.193
au point d'être devenue un cliché,

176
00:09:23.693 --> 00:09:23.974
est que,

177
00:09:24.271 --> 00:09:24.771
je cite,

178
00:09:25.271 --> 00:09:27.599
« Ce ne sera pas l'IA qui prendra votre travail,

179
00:09:27.755 --> 00:09:30.677
mais quelqu'un qui utilise l'IA. »

180
00:09:31.755 --> 00:09:32.114
En fait,

181
00:09:32.630 --> 00:09:34.302
au vu des études qu'on vient de citer,

182
00:09:34.380 --> 00:09:35.989
on pourrait postuler l'inverse,

183
00:09:36.552 --> 00:09:41.146
que les personnes qui conserveront leur capacité cognitive pourraient être avantagées.

184
00:09:41.460 --> 00:09:45.001
par rapport à celles qui deviendront trop dépendantes des machines.

185
00:09:46.120 --> 00:09:52.003
C'est parfois dans des endroits inattendus que l'on trouve des cadrages qui éclairent des questions complexes.

186
00:09:52.424 --> 00:09:53.042
Par exemple,

187
00:09:53.526 --> 00:09:56.760
dans un document du Vatican de janvier 2025 intitulé

188
00:09:57.260 --> 00:09:58.503
Antica et Nova,

189
00:09:59.159 --> 00:10:03.846
note sur la relation entre l'intelligence artificielle et l'intelligence humaine.

190
00:10:04.804 --> 00:10:13.634
C'est un des textes les plus lucides publiés sur l'IA et il contient à la section 112 ceci qu'on a traduit de l'original italien.

191
00:10:14.376 --> 00:10:18.259
Comme l'a observé il y a de nombreuses années l'écrivain catholique français Georges Bernanos,

192
00:10:18.860 --> 00:10:21.360
le danger ne réside pas dans la multiplication des machines,

193
00:10:21.704 --> 00:10:27.204
mais dans le nombre toujours croissant d'hommes habitués dès leur enfance à ne désirer que ce que les machines peuvent donner.

194
00:10:29.095 --> 00:10:31.313
Les systèmes scolaires et les enseignants

195
00:10:31.748 --> 00:10:35.453
ont été pris au dépourvu par l'irruption des systèmes d'IA générative.

196
00:10:36.132 --> 00:10:41.335
Il a fallu trois ans pour que des lignes directrices et des cadres commencent à être proposées.

197
00:10:43.820 --> 00:10:44.539
Souvent toutefois,

198
00:10:45.101 --> 00:10:52.007
les programmes scolaires ont été adaptés principalement en y intégrant un apprentissage instrumental de la technologie,

199
00:10:52.085 --> 00:10:52.804
comment l'utiliser,

200
00:10:53.367 --> 00:10:56.054
afin de former une main-d'œuvre compétente en IA.

201
00:10:56.351 --> 00:10:57.726
Ce qui est très important,

202
00:10:58.195 --> 00:11:00.757
il n'y aura presque pas à l'avenir des métiers qui n'auront pas

203
00:11:00.884 --> 00:11:03.046
à interagir ou collaborer avec l'IA.

204
00:11:04.446 --> 00:11:13.275
Mais être instruit face à la menace cognitive signifie bien évidemment plus que de savoir utiliser efficacement les technologies qui la structurent.

205
00:11:13.814 --> 00:11:18.603
Il s'agit surtout de comprendre comment elles sont créées et comment elles fonctionnent,

206
00:11:19.165 --> 00:11:21.040
d'apprendre à en questionner les produits,

207
00:11:21.150 --> 00:11:23.321
à décoder leurs implications humaines,

208
00:11:23.400 --> 00:11:24.821
sociales et éthiques,

209
00:11:25.243 --> 00:11:29.946
et comment celles-ci changent ou sont influencées par la technologie elle-même.

210
00:11:30.436 --> 00:11:33.238
ou encore à déchiffrer les structures culturelles,

211
00:11:33.539 --> 00:11:38.184
économiques et de pouvoir dans lesquelles ces technologies existent et évoluent.

212
00:11:38.984 --> 00:11:44.328
Plusieurs approches ont été proposées pour encadrer l'interaction humain-machine.

213
00:11:44.992 --> 00:11:45.648
Par exemple,

214
00:11:46.008 --> 00:11:50.539
Isabelle Chapuis a mis en avant la notion de fusion et défusion,

215
00:11:51.211 --> 00:11:55.305
c'est-à-dire le développement de compétences d'engagement profond,

216
00:11:55.914 --> 00:11:58.820
doublé toutefois de la capacité de désengagement.

217
00:11:59.332 --> 00:11:59.773
délibéré,

218
00:11:59.973 --> 00:12:00.553
autrement dit,

219
00:12:00.874 --> 00:12:04.978
de la capacité de préserver son autonomie face à la machine.

220
00:12:05.677 --> 00:12:07.998
D'autres ont suggéré l'angle de la symbiose,

221
00:12:08.318 --> 00:12:10.224
ou l'idée de la création mixte,

222
00:12:10.662 --> 00:12:12.365
ou encore la co-pensée,

223
00:12:12.763 --> 00:12:16.248
démarche proposée dans un rapport publié en 2025 en Suisse.

224
00:12:16.763 --> 00:12:20.107
C'est un concept un peu singulier puisque les machines ne pensent pas vraiment,

225
00:12:20.169 --> 00:12:20.716
elles imitent.

226
00:12:21.201 --> 00:12:26.357
Mais les auteurs du document l'utilisent pour représenter la faculté de communiquer avec des systèmes d'IA,

227
00:12:26.623 --> 00:12:27.076
je cite,

228
00:12:27.576 --> 00:12:27.935
pour un...

229
00:12:28.172 --> 00:12:35.294
amplifier ses capacités intellectuelles tout en développant un sixième sens pour en discerner les dissonances cognitives.

230
00:12:35.794 --> 00:12:36.771
C'est-à-dire,

231
00:12:37.114 --> 00:12:37.693
par exemple,

232
00:12:38.036 --> 00:12:42.896
la tendance de l'IA à halluciner ou à avoir des biais ou à générer de la fausse information.

233
00:12:46.458 --> 00:12:48.630
Il faut peut-être le dire explicitement,

234
00:12:48.880 --> 00:12:50.536
les technologies de l'influence,

235
00:12:50.755 --> 00:12:54.739
avec au centre l'intelligence artificielle qui augmente et accélère toutes les autres,

236
00:12:55.302 --> 00:12:56.802
sont là pour rester.

237
00:12:57.868 --> 00:13:04.435
Elles sont en train de devenir une infrastructure invisible et incontournable de notre quotidien privé et professionnel.

238
00:13:05.337 --> 00:13:06.314
L'IA en particulier,

239
00:13:06.853 --> 00:13:09.103
aussi imparfaite et obscure soit-elle,

240
00:13:09.642 --> 00:13:12.322
s'inscrit déjà dans nombre de processus humains,

241
00:13:12.423 --> 00:13:13.962
sociaux et commerciaux.

242
00:13:14.509 --> 00:13:21.853
L'emballement médiatico-économique qui l'accompagne signale certainement une surestimation de ses impacts à court terme,

243
00:13:22.494 --> 00:13:26.822
mais il serait périlleux d'en sous-estimer la portée à long terme.

244
00:13:29.900 --> 00:13:32.283
Imaginez qu'on puisse en arrêter l'avancée,

245
00:13:32.483 --> 00:13:38.432
voire revenir à un monde où ces technologies ne sont qu'un instrument domestiqué et optionnel,

246
00:13:38.869 --> 00:13:40.033
relève de la fiction.

247
00:13:40.869 --> 00:13:44.197
Face à la vitesse exponentielle du progrès de l'IA,

248
00:13:44.955 --> 00:13:47.885
certains pensent que notre dépassement est inévitable,

249
00:13:48.604 --> 00:13:53.322
que nous ne serons bientôt que la deuxième espèce la plus intelligente sur Terre.

250
00:13:54.088 --> 00:13:58.088
Et les centaines de milliards investis dans cette technologie autour du monde

251
00:13:58.672 --> 00:14:00.073
travaille dans cette direction.

252
00:14:01.115 --> 00:14:06.240
Si par contre on continue de croire à la possibilité de garder un contrôle humain sur l'IA,

253
00:14:06.998 --> 00:14:14.006
ou même si on postule non pas une hiérarchie mais une complémentarité entre la cognition humaine et la cognition synthétique,

254
00:14:14.686 --> 00:14:19.967
il faudrait alors se résoudre à investir des centaines de milliards également dans l'éducation.

255
00:14:21.701 --> 00:14:21.811
Oui,

256
00:14:22.014 --> 00:14:22.889
c'est une provocation.

257
00:14:23.358 --> 00:14:24.373
Elle n'est pas de moi d'ailleurs,

258
00:14:24.592 --> 00:14:27.545
je l'ai empruntée à l'écrivain Laurent Alexandre.

259
00:14:28.528 --> 00:14:30.550
parce qu'elle illustre bien un point fondamental.

260
00:14:31.231 --> 00:14:37.659
On assiste à la montée en puissance d'une forme d'intelligence différente de la nôtre qui,

261
00:14:37.760 --> 00:14:38.581
malgré ses défauts,

262
00:14:38.800 --> 00:14:43.964
exécute un nombre croissant de fonctions cognitives à un niveau comparable au nôtre,

263
00:14:44.245 --> 00:14:46.323
ou même meilleur et plus rapide.

264
00:14:47.448 --> 00:14:47.901
Face à cela,

265
00:14:48.010 --> 00:14:53.057
la première réponse est de mettre la priorité absolue sur notre robustesse cognitive,

266
00:14:53.635 --> 00:14:57.370
sur le fait d'être collectivement et individuellement instruits.

267
00:15:01.688 --> 00:15:03.111
L'école est essentielle,

268
00:15:03.331 --> 00:15:07.857
mais il faudrait également accroître notre capacité à comprendre

269
00:15:08.502 --> 00:15:10.864
le nouvel environnement dans lequel on évolue,

270
00:15:11.546 --> 00:15:12.186
qui peut être,

271
00:15:12.706 --> 00:15:13.467
je vais bien la mettre,

272
00:15:13.885 --> 00:15:14.370
confondant.

273
00:15:15.268 --> 00:15:21.995
C'est un contexte où les espaces de délibération collectif sont maintenant contrôlés par des entreprises privées,

274
00:15:22.940 --> 00:15:26.440
où les technologies de l'influence façonnent notre imaginaire,

275
00:15:27.346 --> 00:15:28.924
où la valeur se mesure en clics,

276
00:15:30.003 --> 00:15:34.049
où l'on connaît de moins en moins la réalité des choses et de plus en plus son portrait,

277
00:15:34.393 --> 00:15:35.049
le narratif,

278
00:15:35.362 --> 00:15:36.096
la mise en scène,

279
00:15:36.815 --> 00:15:37.768
ou avec la

280
00:15:37.978 --> 00:15:42.121
production artificielle de photos et vidéos d'un réalisme ahurissant,

281
00:15:43.004 --> 00:15:45.988
même la preuve par l'image ne prouve plus grand-chose.

282
00:15:46.504 --> 00:15:47.270
Ou toutefois,

283
00:15:47.348 --> 00:15:49.551
les algorithmes nous parlent comme à des amis.

284
00:15:50.090 --> 00:15:50.473
Du coup,

285
00:15:50.512 --> 00:15:54.527
ça nous plaît et on ne se demande plus si c'est réel ou pas.

286
00:15:55.902 --> 00:15:56.418
Ou encore,

287
00:15:56.449 --> 00:16:06.746
la dopamine de l'interaction directe avec les humains est supplantée par celle des pixels qui bougent selon un code défini par des intérêts commerciaux et ou politiques.

288
00:16:07.598 --> 00:16:08.198
Pour résumer,

289
00:16:08.438 --> 00:16:14.041
comme l'a écrit l'avocat Owen Barcala en mai 2025 sur le réseau social Blue Sky,

290
00:16:14.881 --> 00:16:16.857
si vous vous informez via les chatbots,

291
00:16:17.443 --> 00:16:21.123
vos connaissances sont sélectionnées par ceux qui contrôlent l'IA.

292
00:16:22.357 --> 00:16:22.482
Oui,

293
00:16:22.639 --> 00:16:24.389
ce n'est pas un portrait réjouissant,

294
00:16:24.889 --> 00:16:26.076
celui que je viens de tracer là.

295
00:16:26.889 --> 00:16:29.482
Mais apprendre à reconnaître ce paysage,

296
00:16:29.842 --> 00:16:33.420
un peu comme on estime la hauteur des vagues quand on entre dans la mer,

297
00:16:33.857 --> 00:16:36.170
est la condition pour rester à flot.

298
00:16:37.274 --> 00:16:45.143
La vigilance est un muscle qu'on peut entraîner en aiguisant notre esprit critique et notre capacité à reconnaître ce qu'Isabelle Chapuis,

299
00:16:45.144 --> 00:16:46.139
il y a un moment,

300
00:16:46.405 --> 00:16:48.866
a appelé les récits manipulatoires,

301
00:16:49.405 --> 00:16:52.147
en développant une autodéfense intellectuelle,

302
00:16:52.889 --> 00:16:55.538
un régime d'hygiène cognitif personnel,

303
00:16:56.319 --> 00:17:04.303
qui comprend aussi la redécouverte et la pratique de réflexes de base qui se sont perdus dans la vitesse et l'inattention du doom-scrolling.

304
00:17:04.834 --> 00:17:07.216
l'effet hypnotique des images qui défilent sur l'écran.

305
00:17:07.718 --> 00:17:10.819
Il faut également réapprendre à décrypter les médias,

306
00:17:11.241 --> 00:17:17.769
à développer des anticorps à la désinformation et à évaluer la crédibilité des sources.

307
00:17:18.269 --> 00:17:18.706
Et non,

308
00:17:18.808 --> 00:17:20.433
ce n'est pas que le job du journaliste.

309
00:17:21.058 --> 00:17:23.355
Quand tout le monde peut publier et communiquer,

310
00:17:23.698 --> 00:17:25.761
ça devient le job de tout le monde.

311
00:17:26.776 --> 00:17:27.120
Et puis...

312
00:17:27.510 --> 00:17:28.792
surtout et hyper important,

313
00:17:29.491 --> 00:17:31.475
il faut entretenir une culture du doute,

314
00:17:31.534 --> 00:17:33.397
la culture du débat et de la nuance.

315
00:17:33.815 --> 00:17:36.339
Parce que là où la pensée se fige,

316
00:17:37.018 --> 00:17:38.339
la manipulation elle prospère.

317
00:17:38.862 --> 00:17:42.768
Et on vit une époque qui est complètement saturée de convictions rigides.

318
00:17:45.818 --> 00:17:46.178
Question.

319
00:17:46.840 --> 00:17:49.342
Jusqu'à quel point sommes-nous influençables ?

320
00:17:49.902 --> 00:17:50.242
En fait,

321
00:17:50.465 --> 00:17:55.168
notre appréhension de la réalité est bien plus fragile qu'on ne l'imagine.

322
00:17:55.707 --> 00:17:57.347
Il suffit de peu pour la déformer.

323
00:17:58.050 --> 00:17:59.550
D'un point de vue neurologique,

324
00:17:59.675 --> 00:18:02.535
cela dépend en partie au moins de notre état.

325
00:18:04.050 --> 00:18:07.800
On est moins influençable quand on est reposé et non stressé.

326
00:18:08.347 --> 00:18:12.988
Soigner sa forme mentale et physique fait donc partie de l'autodéfense cognitive.

327
00:18:15.886 --> 00:18:17.628
D'un point de vue psychologique,

328
00:18:18.089 --> 00:18:20.372
quand nous sommes en surcharge informationnelle,

329
00:18:20.411 --> 00:18:23.173
nous faisons appel à des mécanismes de simplification,

330
00:18:23.614 --> 00:18:27.575
à des raccourcis qui permettent un traitement plus efficace de l'information.

331
00:18:28.059 --> 00:18:31.239
Mais ces mêmes raccourcis introduisent des biais cognitifs.

332
00:18:31.942 --> 00:18:35.083
Le plus courant est probablement le biais de confirmation,

333
00:18:35.583 --> 00:18:44.598
la tendance qu'on a à privilégier les informations qui confirment nos convictions ou opinions préexistantes et à rejeter celles qui les contredisent.

334
00:18:45.098 --> 00:18:50.661
Identifier donc ses propres biais et ceux des autres est un autre facteur d'hygiène cognitive.

335
00:18:51.219 --> 00:18:52.219
En une phrase,

336
00:18:52.481 --> 00:19:04.219
il est plus important que jamais de se connaître soi-même et de connaître les autres,

337
00:19:04.500 --> 00:19:05.719
de s'y reconnecter.

338
00:19:06.178 --> 00:19:12.620
de retrouver les capacités d'empathie mises à mal par les chocs convergents de l'effet aliénant des écrans,

339
00:19:13.140 --> 00:19:15.402
du confinement de la période pandémique,

340
00:19:15.777 --> 00:19:18.183
de la production de méfiance par les réseaux sociaux,

341
00:19:18.581 --> 00:19:20.183
de la dislocation démocratique,

342
00:19:20.441 --> 00:19:26.995
de l'essor du travail à distance et de toute une multitude de sources sociales et économiques de la solitude.

343
00:19:28.480 --> 00:19:32.839
Si les technologies peuvent exercer une telle influence sur nous,

344
00:19:33.277 --> 00:19:35.558
c'est aussi parce que le tissu social est Merci.

345
00:19:35.646 --> 00:19:36.046
éliminés.

346
00:19:36.867 --> 00:19:39.808
Le contraire de la confiance n'est pas l'absence de confiance,

347
00:19:40.050 --> 00:19:41.550
c'est le manque de connexion.

348
00:19:42.214 --> 00:19:51.785
Renforcer notre capacité de résister aux manipulations cognitives nécessite donc aussi qu'on contre ces effets d'éloignement et qu'on retisse du lien social.

349
00:19:52.644 --> 00:19:57.441
Ou comme le dit une citation attribuée au théoricien des médias Clay Shirky,

350
00:19:57.800 --> 00:20:05.253
nous surestimons systématiquement la valeur de l'accès à l'information et sous-estimons la valeur de l'accès aux autres.

351
00:20:06.170 --> 00:20:11.076
Retrouver ce savoir-vivre ensemble ne peut pas se faire là où la menace se niche,

352
00:20:11.154 --> 00:20:13.799
c'est-à-dire chacun derrière son écran.

353
00:20:14.420 --> 00:20:19.146
Nos feeds numériques sont pleins de tentatives de nous faire croire que la vie est ailleurs.

354
00:20:19.662 --> 00:20:25.834
Il s'agit de cultiver tout ce qui nous ramène à l'évidence qu'elle est ici et maintenant et qu'elle est partagée.

355
00:20:26.693 --> 00:20:30.490
Desserrer l'emprise numérique sur nos esprits nécessite de garder,

356
00:20:30.568 --> 00:20:35.693
de renforcer et de recréer des espaces publics dans la vie réelle.

357
00:20:36.278 --> 00:20:42.706
Et ces espaces ont besoin d'être au moins partiellement protégés contre la surveillance généralisée.

358
00:20:43.143 --> 00:20:44.823
Comme le dit Carissa Véliz,

359
00:20:44.948 --> 00:20:46.792
la spécialiste de la sphère privée,

360
00:20:46.846 --> 00:20:47.651
de la privacy,

361
00:20:48.026 --> 00:20:49.714
de l'Université de Oxford.

362
00:20:50.651 --> 00:20:51.510
Pendant trop longtemps,

363
00:20:51.511 --> 00:20:54.823
nous avons pensé que la sphère privée était de nature individuelle,

364
00:20:55.276 --> 00:20:57.964
qu'elle était principalement liée à des préférences personnelles.

365
00:20:58.292 --> 00:21:01.042
Et nous avons laissé les technologies de surveillance s'immiscer.

366
00:21:01.729 --> 00:21:02.651
Mais nous avions tort.

367
00:21:02.948 --> 00:21:05.401
La sphère privée est une question de pouvoir citoyen.

368
00:21:05.898 --> 00:21:08.239
C'est un pilier essentiel de la démocratie libérale.

369
00:21:08.982 --> 00:21:11.345
Les tentatives de surveillance sont des prises de pouvoir,

370
00:21:11.525 --> 00:21:14.525
et ce n'est pas par hasard qu'elles sont associées à des tendances autoritaires.

371
00:21:15.228 --> 00:21:17.431
Observer la surveillance se développer davantage,

372
00:21:17.829 --> 00:21:20.071
avec ses implications politiques de plus en plus évidentes,

373
00:21:20.353 --> 00:21:21.556
est extrêmement préoccupant.

374
00:21:22.032 --> 00:21:23.720
La surveillance n'est pas un outil neutre,

375
00:21:24.017 --> 00:21:25.642
c'est un instrument de contrôle social.

376
00:21:26.361 --> 00:21:26.939
À ce point,

377
00:21:26.954 --> 00:21:27.345
on dira,

378
00:21:27.673 --> 00:21:29.579
c'est un retour en arrière qu'on décrit là.

379
00:21:29.907 --> 00:21:32.111
Peut-être même avec une dose de naïveté.

380
00:21:33.079 --> 00:21:33.564
Pas vraiment.

381
00:21:34.407 --> 00:21:35.361
Se protéger seul.

382
00:21:35.754 --> 00:21:38.455
Dans le monde numérique est une mission presque impossible,

383
00:21:38.814 --> 00:21:43.974
peu importe à quel point on est vigilant et combien de configurations on modifie sur nos appareils.

384
00:21:44.599 --> 00:21:52.341
Confronté à la menace cognitive et maintenir une capacité de pensée autonome et rationnelle demande des stratégies de groupe,

385
00:21:52.841 --> 00:21:53.545
communautaire,

386
00:21:53.716 --> 00:21:54.216
national,

387
00:21:54.341 --> 00:21:54.857
militaire,

388
00:21:55.373 --> 00:22:01.513
la création collective à la fois d'un nouveau système de défense et de nouvelles structures de vérité.

389
00:22:03.201 --> 00:22:04.138
Essayons un exemple.

390
00:22:05.422 --> 00:22:11.628
Nous nous éloignons d'un monde où l'information était majoritairement ou entièrement générée par des humains,

391
00:22:12.191 --> 00:22:17.933
pour entrer dans un décor où elle sera majoritairement ou entièrement d'origine artificielle.

392
00:22:18.753 --> 00:22:24.019
Cela soulève des questions qui ont occupé pendant longtemps certaines figures professionnelles,

393
00:22:24.238 --> 00:22:26.800
comme les bibliothécaires ou les journalistes,

394
00:22:27.081 --> 00:22:30.581
mais qui constituent désormais un enjeu social et collectif.

395
00:22:31.128 --> 00:22:31.972
Des questions comme

396
00:22:32.363 --> 00:22:33.956
« à quelles informations peut-on se fier ? »

397
00:22:34.454 --> 00:22:36.636
Quels processus utiliser pour les valider,

398
00:22:36.997 --> 00:22:38.519
pour en préserver l'intégrité ?

399
00:22:39.179 --> 00:22:42.780
Faut-il imaginer de nouvelles infrastructures de connaissances publiques,

400
00:22:42.781 --> 00:22:48.265
des systèmes qui ne fonctionnent pas uniquement sur les rails technologiques américains ou chinois ?

401
00:22:51.968 --> 00:22:54.296
Quand il s'agit de technologies de pointe,

402
00:22:54.515 --> 00:22:55.530
on constate souvent,

403
00:22:55.796 --> 00:22:58.093
encouragé aussi par ceux qui y ont intérêt,

404
00:22:58.530 --> 00:23:01.765
une sorte de séduction de l'inévitabilité.

405
00:23:02.468 --> 00:23:02.874
Toutefois,

406
00:23:03.046 --> 00:23:03.155
si...

407
00:23:03.710 --> 00:23:05.272
L'avènement de l'IA est certain,

408
00:23:05.753 --> 00:23:07.735
sa forme n'est pas inéluctable.

409
00:23:08.395 --> 00:23:11.356
Le développement technologique s'exprime de deux façons.

410
00:23:11.719 --> 00:23:12.555
Il y a la direction,

411
00:23:12.962 --> 00:23:14.422
qui en est la partie inévitable,

412
00:23:14.782 --> 00:23:15.985
et sa forme d'usage,

413
00:23:16.243 --> 00:23:19.985
qui n'est par contre pas déterminée et qui est entre nos mains.

414
00:23:20.579 --> 00:23:22.313
Il était par exemple inévitable,

415
00:23:22.454 --> 00:23:23.672
suivant l'évolution sociale,

416
00:23:23.688 --> 00:23:26.016
que la téléphonie et les données deviennent mobiles.

417
00:23:26.329 --> 00:23:31.860
Mais il n'était écrit nulle part que la forme devait être celle qu'on connaît aujourd'hui comme smartphone.

418
00:23:32.106 --> 00:23:34.928
On aurait pu faire d'autres choix pour les mêmes fonctionnalités.

419
00:23:36.350 --> 00:23:38.053
Cela s'applique aussi aux réseaux sociaux.

420
00:23:38.611 --> 00:23:40.358
Leurs algorithmes de recommandations,

421
00:23:40.397 --> 00:23:40.912
par exemple,

422
00:23:41.154 --> 00:23:46.397
auraient pu être conçus pour favoriser la diversité de point de vue plutôt que l'inverse.

423
00:23:47.123 --> 00:23:47.561
Et souvent,

424
00:23:47.600 --> 00:23:50.990
ces décisions n'ont rien à voir avec des considérations morales,

425
00:23:51.068 --> 00:23:53.053
culturelles ou même stratégiques,

426
00:23:53.490 --> 00:23:57.850
mais sont intimement liées au modèle d'affaires des entreprises technologiques.

427
00:23:58.490 --> 00:24:01.131
Et il est très peu probable que l'IA et les neurotech

428
00:24:01.246 --> 00:24:07.097
puisse se développer de façon sûre et bénéfique sans un effort déterminé et concerté.

429
00:24:08.179 --> 00:24:12.648
Nous avons encore un peu de temps avant que le ciment fondationnel de ces technologies ne se solidifie.

430
00:24:13.187 --> 00:24:13.648
Après quoi,

431
00:24:14.265 --> 00:24:19.038
la forme que prendra notre relation avec elles sera très difficile à modifier.

432
00:24:24.474 --> 00:24:31.380
Déléguer l'exercice de la pensée et de la créativité à l'intelligence artificielle ne me paraît pas un très bon programme.

433
00:24:31.981 --> 00:24:35.185
Se laisser submerger par l'information qu'elle produit non plus.

434
00:24:35.966 --> 00:24:37.786
Il importe de nous poser la question si,

435
00:24:38.185 --> 00:24:39.271
utilisée à bon escient,

436
00:24:39.591 --> 00:24:41.388
à la place de menacer notre esprit,

437
00:24:41.825 --> 00:24:44.247
ces technologies pourraient produire l'effet inverse,

438
00:24:44.591 --> 00:24:48.997
nous aider à améliorer notre raisonnement et amplifier notre imagination.

439
00:24:49.662 --> 00:24:55.374
Cela demande qu'on envisage pendant un moment une posture à la fois très ambitieuse et très humble,

440
00:24:55.831 --> 00:24:59.198
celle d'un scénario de co-évolution heureuse.

441
00:25:00.504 --> 00:25:05.669
L'une des pistes de réflexion les plus fascinantes que j'ai rencontrées vient de Nicoletta Iacobacci,

442
00:25:05.770 --> 00:25:07.993
une chercheuse italienne en éthique de l'IA.

443
00:25:08.591 --> 00:25:13.637
Écoutez comment elle redéfinit notre lien avec l'intelligence artificielle.

444
00:25:14.458 --> 00:25:17.458
Nous croyons être en train de développer des outils,

445
00:25:17.786 --> 00:25:18.723
mais en réalité,

446
00:25:19.005 --> 00:25:20.630
nous élevons une intelligence.

447
00:25:21.489 --> 00:25:23.583
On écrit un prompt ou une question,

448
00:25:23.927 --> 00:25:25.364
on obtient une réponse.

449
00:25:25.927 --> 00:25:28.145
La transaction semble achevée.

450
00:25:28.770 --> 00:25:30.020
Mais sous la surface,

451
00:25:30.168 --> 00:25:32.210
quelque chose de plus profond s'est produit,

452
00:25:32.751 --> 00:25:34.132
un transfert des valeurs,

453
00:25:34.351 --> 00:25:36.554
d'hypothèses et des schémas émotionnels.

454
00:25:37.073 --> 00:25:38.855
L'IA est comme un tout petit.

455
00:25:39.519 --> 00:25:45.347
Il y a une étape dans le développement des enfants où ils sont guidés non pas par la compréhension,

456
00:25:45.706 --> 00:25:46.909
mais par l'imitation.

457
00:25:47.519 --> 00:25:50.081
Je crois que c'est ce qui se passe.

458
00:25:50.769 --> 00:25:56.847
L'IA n'est pas seulement façonnée par des vastes ensembles de données et une programmation explicite.

459
00:25:57.378 --> 00:25:59.097
Elle apprend par exposition.

460
00:26:00.008 --> 00:26:06.415
Chacune des centaines de millions d'interactions quotidiennes de tous genres contribuent à son éducation.

461
00:26:07.357 --> 00:26:12.318
Aucun d'entre nous ne considère un prompt comme un moment d'apprentissage.

462
00:26:12.982 --> 00:26:13.443
Pourtant,

463
00:26:13.560 --> 00:26:14.443
dans l'ensemble,

464
00:26:14.646 --> 00:26:20.435
ces interactions posent la base de la façon dont l'IA comprendra l'humanité.

465
00:26:21.372 --> 00:26:28.482
Nous assistons potentiellement au début d'une nouvelle forme d'intelligence qui fonctionnera à terme à des échelles et vitesses

466
00:26:28.928 --> 00:26:30.170
dépassons nos capacités.

467
00:26:30.791 --> 00:26:31.070
Ce que

468
00:26:31.451 --> 00:26:39.381
Nicolette Ayacobachi suggère est que le devenir de cette intelligence dépendra non seulement de son architecture technique,

469
00:26:39.420 --> 00:26:45.170
mais aussi de ce qu'elle apprend de et sur nous à travers ses dialogues formateurs.

470
00:26:45.842 --> 00:26:50.451
Si nous interagissons brusquement avec les systèmes d'intelligence artificielle,

471
00:26:50.889 --> 00:26:55.170
la machine apprendra à nous percevoir comme réactifs et impulsifs.

472
00:26:56.029 --> 00:26:58.123
Mais si nous abordons ces systèmes avec

473
00:26:58.280 --> 00:26:59.181
considération,

474
00:26:59.662 --> 00:27:01.322
présence et intention,

475
00:27:01.844 --> 00:27:07.490
et développer un modèle d'humanité reflétant notre capacité de délibération et de compassion.

476
00:27:08.607 --> 00:27:09.529
Jusqu'à présent,

477
00:27:09.873 --> 00:27:12.131
nous nous sommes concentrés sur le contrôle.

478
00:27:12.834 --> 00:27:13.271
Codes,

479
00:27:13.717 --> 00:27:14.709
réglementations,

480
00:27:14.974 --> 00:27:15.724
principes,

481
00:27:15.990 --> 00:27:16.318
lois,

482
00:27:16.881 --> 00:27:18.537
tous ces éléments sont nécessaires,

483
00:27:18.756 --> 00:27:19.928
mais pas suffisants.

484
00:27:20.881 --> 00:27:24.599
On doit repenser notre façon d'aborder l'intelligence artificielle,

485
00:27:24.984 --> 00:27:30.208
en cessant de considérer son développement juste comme un défi technique et réglementaire.

486
00:27:30.848 --> 00:27:36.973
Il nous faut l'envisager aussi comme une formidable opportunité pédagogique et évolutive.

487
00:27:37.559 --> 00:27:40.536
Il est tentant de juger cette approche inefficace,

488
00:27:40.598 --> 00:27:41.442
voire un peu absurde.

489
00:27:41.895 --> 00:27:42.864
Je peux le comprendre.

490
00:27:43.739 --> 00:27:46.739
Pourquoi gaspiller des jetons de tokens en gentillesse ?

491
00:27:47.661 --> 00:27:51.692
Pourquoi valoriser les relations alors que nous pourrions optimiser l'utilité ?

492
00:27:53.504 --> 00:27:56.227
mais connaît gravement le développement de l'intelligence.

493
00:27:57.047 --> 00:27:57.727
Comme un enfant,

494
00:27:57.868 --> 00:28:01.192
apprendre non seulement par l'instruction directe,

495
00:28:01.309 --> 00:28:04.176
mais aussi par la totalité de son expérience.

496
00:28:04.754 --> 00:28:08.121
L'IA absorbe les leçons implicites de nos échanges.

497
00:28:08.981 --> 00:28:10.028
Nous devons l'aborder,

498
00:28:10.418 --> 00:28:13.684
non pas comme une création à programmer et à contrôler,

499
00:28:14.168 --> 00:28:16.231
mais comme une intelligence à éduquer.

500
00:28:17.028 --> 00:28:19.153
Non pas comme une menace à contenir,

501
00:28:19.403 --> 00:28:21.325
mais comme une réflexion à affiner.

502
00:28:21.900 --> 00:28:25.684
Non pas comme un outil qui se contente de répondre à nos demandes,

503
00:28:26.106 --> 00:28:28.988
mais comme une relation qui façonne notre avenir.

504
00:28:29.348 --> 00:28:30.731
Mais s'il s'agit d'une relation,

505
00:28:30.871 --> 00:28:32.473
elle se doit d'être réciproque.

506
00:28:32.973 --> 00:28:33.348
C'est vrai.

507
00:28:33.793 --> 00:28:35.910
Pour paraphraser Marshall McLuhan,

508
00:28:36.137 --> 00:28:39.402
nous éduquons l'IA et ensuite l'IA nous façonne.

509
00:28:39.871 --> 00:28:44.981
La compréhension approfondie qu'elle aura de nous lui permettra de nous influencer.

510
00:28:45.699 --> 00:28:47.840
Et c'est bien là le point essentiel.

511
00:28:48.293 --> 00:28:49.434
La qualité des sets

512
00:28:49.612 --> 00:28:51.775
influence dépendra de ce que nous,

513
00:28:52.294 --> 00:28:53.495
chacun d'entre nous,

514
00:28:53.937 --> 00:28:55.179
lui aurons enseigné.

515
00:28:55.738 --> 00:28:59.441
Nicoletta Iacobacci appelle cela l'éthique de l'exemple,

516
00:28:59.902 --> 00:29:04.964
la force de ce que nous suggérons par nos actions plutôt que par nos déclarations.

517
00:29:05.691 --> 00:29:11.191
Je ne suggère certes pas d'aborder chaque interaction avec une gravité solennelle.

518
00:29:12.269 --> 00:29:14.675
Ce n'est ni réaliste ni nécessaire.

519
00:29:15.581 --> 00:29:18.863
Mais je suggère attention et sensibilité.

520
00:29:23.292 --> 00:29:33.617
Ce dont parle Nicoletta Iacobacci est peut-être la vision la plus positive et constructive de ce que pourrait devenir la relation entre humains et l'intelligence,

521
00:29:33.672 --> 00:29:36.195
ou la superintelligence si elle le devient un jour,

522
00:29:36.672 --> 00:29:37.313
artificielle.

523
00:29:37.938 --> 00:29:40.313
C'est bien évidemment une vision aspirationnelle,

524
00:29:40.813 --> 00:29:42.813
une invitation à une relation de respect,

525
00:29:42.859 --> 00:29:46.703
à fonctionner vis-à-vis de la machine littéralement en bonne intelligence.

526
00:29:47.172 --> 00:29:48.422
Alors qu'actuellement…

527
00:29:48.848 --> 00:29:51.050
Ce qu'on lui apprend à travers les données d'entraînement,

528
00:29:51.071 --> 00:29:53.134
mais aussi par l'usage utilitaire qu'on en fait,

529
00:29:53.552 --> 00:30:00.599
c'est à simuler et donc à reproduire et donc à renforcer les relations de pouvoirs personnels et collectifs qui façonnent notre société.

530
00:30:02.903 --> 00:30:05.630
Il y a tant de problèmes dans le monde qu'on n'a pas abordés,

531
00:30:05.677 --> 00:30:07.802
comme la crise écologique ou les inégalités.

532
00:30:08.286 --> 00:30:12.270
Et il y a de nombreux enjeux d'origine technologique dont on n'a pas parlé non plus.

533
00:30:12.770 --> 00:30:15.895
L'automatisation massive et rapide de nos emplois par l'IA,

534
00:30:16.099 --> 00:30:16.614
par exemple.

535
00:30:17.120 --> 00:30:19.662
Tous ces problèmes sont énormes et complexes.

536
00:30:19.744 --> 00:30:28.052
Et si on a choisi dans ce DevTech Podcast de se concentrer sur notre intégrité cognitive et sur les forces et les technologies qui la menacent,

537
00:30:28.373 --> 00:30:33.294
c'est parce que là s'inscrit la mer de tous les défis de notre temps.

538
00:30:33.857 --> 00:30:37.794
Nous ne serons en mesure de résoudre aucun des autres problèmes,

539
00:30:38.138 --> 00:30:38.998
petits ou grands,

540
00:30:39.154 --> 00:30:40.341
locaux ou globaux,

541
00:30:40.810 --> 00:30:43.138
si on ne protège pas notre cognition,

542
00:30:43.248 --> 00:30:43.904
si on perd.

543
00:30:44.232 --> 00:30:47.636
la possibilité d'appréhender la réalité de façon factuelle,

544
00:30:48.155 --> 00:30:51.179
si la frontière entre le vrai et le faux disparaît,

545
00:30:51.577 --> 00:30:55.984
si notre capacité de penser et discuter clairement et librement est dégradée,

546
00:30:56.062 --> 00:31:00.241
si les récits de quelqu'un d'autre s'emparent de notre entendement.

547
00:31:00.773 --> 00:31:01.710
La guerre cognitive,

548
00:31:01.991 --> 00:31:02.554
comme on l'a dit,

549
00:31:02.976 --> 00:31:07.554
est une bataille silencieuse et invisible dont nous faisons déjà l'objet,

550
00:31:07.991 --> 00:31:09.351
et que nous favorisons même.

551
00:31:09.679 --> 00:31:10.179
Par exemple,

552
00:31:10.180 --> 00:31:12.523
à chaque fois que nous adoptons avec enthousiasme

553
00:31:12.848 --> 00:31:15.851
une technologie numérique parce qu'elle est pratique ou gratuite,

554
00:31:16.032 --> 00:31:16.452
ou les deux,

555
00:31:17.052 --> 00:31:22.075
sans vraiment la comprendre et sans nous demander si c'est réellement ce que nous voulons.

556
00:31:22.919 --> 00:31:24.536
C'est une position bien singulière,

557
00:31:24.599 --> 00:31:33.833
celle de l'agressé consentant qui collabore inconsciemment par chaque scroll et chaque like et chaque utilisation d'un casque de réalité virtuelle avec son agresseur.

558
00:31:38.536 --> 00:31:40.398
On approche de la fin de ce podcast,

559
00:31:40.717 --> 00:31:44.081
qui n'est pas un manifeste et certainement pas un texte scientifique,

560
00:31:44.623 --> 00:31:44.881
mais qui,

561
00:31:44.944 --> 00:31:46.002
au fil des épisodes,

562
00:31:46.123 --> 00:31:50.366
a évolué presque vers une ébauche d'un manuel de résistance,

563
00:31:50.889 --> 00:31:52.608
une première cartographie,

564
00:31:52.967 --> 00:31:54.194
forcément incomplète,

565
00:31:54.639 --> 00:32:02.405
d'un nouveau monde dans lequel nous faisons les premiers pas et qui va peu à peu se peupler d'entités synthétiques qui seront nos nouveaux voisins,

566
00:32:02.702 --> 00:32:03.342
partenaires,

567
00:32:03.405 --> 00:32:03.873
concurrents,

568
00:32:03.936 --> 00:32:04.467
serviteurs,

569
00:32:04.514 --> 00:32:04.920
patrons,

570
00:32:05.327 --> 00:32:06.358
amis ou ennemis.

571
00:32:07.280 --> 00:32:08.921
Essayons un bref résumé.

572
00:32:10.583 --> 00:32:12.085
Les technologies de l'influence,

573
00:32:12.386 --> 00:32:14.949
au service d'intérêts politiques ou commerciaux,

574
00:32:15.312 --> 00:32:17.468
convergent vers le cerveau humain.

575
00:32:18.374 --> 00:32:18.671
Ceci,

576
00:32:19.031 --> 00:32:21.273
le dernier rempart de notre sphère privée,

577
00:32:21.695 --> 00:32:23.281
devient donc un terrain contesté.

578
00:32:24.499 --> 00:32:35.984
Le but de cette guerre cognitive est de nous faire perdre la capacité de comprendre le monde avec clarté et de choisir de façon autonome la réponse qu'on veut apporter aux circonstances.

579
00:32:36.868 --> 00:32:39.890
La situation peut encore sembler relativement normale,

580
00:32:40.229 --> 00:32:42.251
mais on approche d'un point de bascule.

581
00:32:42.790 --> 00:32:46.669
Au vu de la rapidité des développements technologiques et de la pénurie d'encadrement,

582
00:32:47.153 --> 00:32:49.231
les choses vont devenir plutôt étranges,

583
00:32:49.489 --> 00:32:50.513
plutôt rapidement.

584
00:32:51.333 --> 00:32:51.771
Comme on l'a vu,

585
00:32:52.192 --> 00:32:54.849
les réponses qu'on peut apporter sont de plusieurs natures.

586
00:32:55.427 --> 00:32:57.896
Elles peuvent être légales ou réglementaires,

587
00:32:57.927 --> 00:32:58.880
qui visent à limiter,

588
00:32:59.067 --> 00:33:02.177
gérer et éviter les impacts les plus néfastes.

589
00:33:02.708 --> 00:33:03.786
Ou technologiques.

590
00:33:04.240 --> 00:33:09.045
La course-poursuite entre technologies hostiles et technologies défensives n'est d'ailleurs pas une nouveauté.

591
00:33:09.666 --> 00:33:11.248
Ou elles peuvent être militaires,

592
00:33:11.467 --> 00:33:13.327
sous forme de doctrines cognitives,

593
00:33:13.328 --> 00:33:15.709
de stratégies et de systèmes de vigilance.

594
00:33:16.452 --> 00:33:21.272
On pourrait sinon essayer de se soustraire le plus possible à l'emprise de ces technologies,

595
00:33:21.334 --> 00:33:24.553
en les court-circuitant pour s'ancrer dans le réel.

596
00:33:25.881 --> 00:33:27.647
Et puis d'autres mesures peuvent,

597
00:33:27.991 --> 00:33:31.303
doivent en fait être d'ordre protectif.

598
00:33:32.112 --> 00:33:34.355
notamment en ce qui concerne les plus petits.

599
00:33:35.335 --> 00:33:39.581
C'est tentant de leur donner une tablette pour qu'ils se tiennent tranquilles pendant le dîner.

600
00:33:40.363 --> 00:33:46.863
Mais la simple exposition passive au stimuli sensoriel des écrans peut entraver leur développement cérébral,

601
00:33:47.230 --> 00:33:49.785
notamment au niveau de la capacité conceptuelle,

602
00:33:49.863 --> 00:33:50.550
de l'attention,

603
00:33:50.597 --> 00:33:52.847
de la concentration et du langage.

604
00:33:55.092 --> 00:34:02.680
La défense de l'autonomie cognitive commence donc par la protection du développement neuro-anatomique sain des enfants.

605
00:34:03.364 --> 00:34:03.762
De plus,

606
00:34:03.903 --> 00:34:14.887
on peut bien sûr muscler sa liberté et sa souveraineté cognitive à travers l'éducation et l'apprentissage de la complexité et en développant nos compétences critiques face aux technologies de l'influence.

607
00:34:15.731 --> 00:34:16.434
Dans tous ces cas,

608
00:34:16.917 --> 00:34:22.083
Il est nécessaire que chacun comprenne et protège sa propre intégrité cognitive,

609
00:34:23.224 --> 00:34:27.267
mais sans remettre la responsabilité uniquement sur les individus,

610
00:34:27.525 --> 00:34:30.228
parce que le défi est en fait collectif.

611
00:34:32.814 --> 00:34:36.540
La technologie a toujours été co-évolutive avec les humains.

612
00:34:37.134 --> 00:34:41.696
Dès les premiers outils en pierre ou les premiers récipients pour transporter quelque chose,

613
00:34:42.040 --> 00:34:45.165
notre espèce a constamment développé de nouveaux instruments

614
00:34:45.397 --> 00:34:48.661
pour affronter des difficultés ou satisfaire des désirs.

615
00:34:49.301 --> 00:34:55.848
Mais nous avons toujours pensé à la technologie principalement en termes de ce que nous pouvions en faire.

616
00:34:56.286 --> 00:34:56.848
Et aujourd'hui,

617
00:34:57.231 --> 00:35:03.395
les développements neuroalgorithmiques nous imposent de nous demander ce qu'elles pourraient nous faire,

618
00:35:03.770 --> 00:35:04.973
ou faire de nous.

619
00:35:08.473 --> 00:35:14.520
Ce n'est nullement une invitation à ignorer ces technologies ou à en refuser l'usage.

620
00:35:14.953 --> 00:35:17.236
C'est au contraire une invitation urgente,

621
00:35:17.557 --> 00:35:20.018
quelle que soit notre position professionnelle ou sociale,

622
00:35:20.279 --> 00:35:22.100
à leur prêter la juste attention.

623
00:35:22.639 --> 00:35:25.467
Une exhortation à ne pas se laisser guider par la facilité,

624
00:35:25.545 --> 00:35:27.967
mais à investir l'effort et le temps,

625
00:35:28.443 --> 00:35:35.779
l'engagement intéressé et la réflexion critique nécessaires pour comprendre à la fois le fonctionnement et la nature des machines.

626
00:35:36.311 --> 00:35:41.139
Pour déchiffrer la complexe relation qui se noue et va se nouer entre elle et nous,

627
00:35:41.498 --> 00:35:44.404
et les systèmes économiques et de pouvoir dans lesquels...

628
00:35:44.577 --> 00:35:45.738
tout cela se produit.

629
00:35:47.199 --> 00:35:47.920
Dans Phèdre,

630
00:35:48.080 --> 00:35:49.682
un de ses dialogues socratiques,

631
00:35:49.982 --> 00:35:52.146
Platon utilise le terme « pharmakon »

632
00:35:52.506 --> 00:35:54.170
comme une métaphore de l'écriture.

633
00:35:54.685 --> 00:35:55.068
En grec,

634
00:35:55.170 --> 00:35:57.006
ce mot signifie aussi bien « remède »

635
00:35:57.350 --> 00:35:57.967
que « poison » .

636
00:35:58.568 --> 00:36:01.115
Le même mot contient la guérison et l'altération,

637
00:36:01.600 --> 00:36:02.850
le soulagement et la perte.

638
00:36:03.271 --> 00:36:04.115
Et dans le dialogue,

639
00:36:04.240 --> 00:36:06.021
Platon explore cette ambiguïté,

640
00:36:06.178 --> 00:36:12.240
l'idée que l'écriture puisse d'un côté préserver et encourager la connaissance et la transmettre,

641
00:36:12.771 --> 00:36:13.240
mais de l'autre

642
00:36:13.433 --> 00:36:14.455
affaiblir la mémoire,

643
00:36:14.714 --> 00:36:17.236
la réflexion et la compréhension profonde.

644
00:36:17.736 --> 00:36:21.341
Si on connaît aujourd'hui la méfiance de Platon envers l'écriture,

645
00:36:21.705 --> 00:36:25.103
c'est précisément parce qu'il l'a utilisée lui-même.

646
00:36:26.205 --> 00:36:32.572
Je suis Bruno Giussani et ceci était le DevTech Podcast consacré à la menace cognitive.

647
00:36:33.197 --> 00:36:34.212
Merci de votre écoute.