WEBVTT

1
00:00:13.274 --> 00:00:16.352
C'est votre

2
00:00:16.719 --> 00:00:23.438
téléphone qui parle.

3
00:00:30.108 --> 00:00:31.089
Regardez autour de vous.

4
00:00:33.011 --> 00:00:36.175
Combien de personnes connaissez-vous qui portent des montres connectées,

5
00:00:36.194 --> 00:00:37.175
des barres électroniques,

6
00:00:37.296 --> 00:00:41.862
des bracelets de fitness ou encore des lunettes avec caméra et ordinateur intégrées ?

7
00:00:42.518 --> 00:00:43.221
Vous-même peut-être ?

8
00:00:46.780 --> 00:00:53.448
Ces appareils portés sur le corps ou intégrés au vêtement permettent d'accéder à des notifications et informations,

9
00:00:53.929 --> 00:00:55.886
mais également au suivi de l'activité physique,

10
00:00:55.909 --> 00:00:56.409
du sommeil,

11
00:00:56.472 --> 00:00:57.167
des signes vitaux,

12
00:00:57.807 --> 00:00:58.409
des émotions,

13
00:00:58.714 --> 00:00:59.917
voire de l'attention.

14
00:01:00.370 --> 00:01:00.597
Bref,

15
00:01:00.831 --> 00:01:03.214
une meilleure compréhension de notre corps.

16
00:01:10.036 --> 00:01:13.518
Ils sont connectés et souvent couplés à des systèmes d'intelligence artificielle.

17
00:01:13.637 --> 00:01:15.736
Ils incluent aussi d'autres technologies avancées.

18
00:01:16.236 --> 00:01:17.357
Les écouteurs intelligents,

19
00:01:17.416 --> 00:01:17.955
par exemple,

20
00:01:18.182 --> 00:01:19.275
les smart earbuds,

21
00:01:19.760 --> 00:01:21.455
servent bien évidemment à écouter de la musique,

22
00:01:21.822 --> 00:01:28.119
mais peuvent inclure aussi des accéléromètres et des gyroscopes pour détecter les mouvements de la personne ou en surveiller la posture.

23
00:01:29.057 --> 00:01:29.885
Ils représentent,

24
00:01:29.900 --> 00:01:30.478
ces gadgets,

25
00:01:30.744 --> 00:01:31.416
l'avant-garde,

26
00:01:31.478 --> 00:01:36.963
la première utilisation généralisée d'un tout autre niveau d'intégration humain-machine.

27
00:01:37.640 --> 00:01:38.361
non plus basé,

28
00:01:38.481 --> 00:01:40.383
comme on l'a vu dans les épisodes précédents,

29
00:01:40.783 --> 00:01:43.848
sur les traces numériques que nous laissons derrière nous au quotidien,

30
00:01:44.367 --> 00:01:46.570
mais sur nos données physiologiques et cérébrales.

31
00:01:47.453 --> 00:01:50.852
Ils tracent la voie vers la neurotechnologie personnelle.

32
00:01:51.531 --> 00:01:53.492
Ce domaine combine neurosciences,

33
00:01:53.719 --> 00:02:02.547
ingénierie informatique et d'autres disciplines pour développer une famille de technologies conçues pour interagir avec le cerveau et le système nerveux humain.

34
00:02:03.219 --> 00:02:04.688
Elles visent à monitorer,

35
00:02:04.828 --> 00:02:05.828
comprendre et

36
00:02:06.100 --> 00:02:13.723
améliorer les fonctions cérébrales dans le cas de la santé mentale ou pour dépasser des limitations physiques découlant par exemple d'une paralysie.

37
00:02:14.344 --> 00:02:15.000
Elles promettent aussi,

38
00:02:15.398 --> 00:02:15.945
bien évidemment,

39
00:02:16.359 --> 00:02:19.945
d'atteindre de nouveaux niveaux de performance cognitive et de productivité.

40
00:02:20.320 --> 00:02:23.703
Mais elles soulèvent également des questions profondes sur le contrôle,

41
00:02:23.859 --> 00:02:26.859
la manipulation et la préservation de l'autonomie mentale.

42
00:02:27.719 --> 00:02:27.844
Oui,

43
00:02:27.922 --> 00:02:28.344
bien sûr,

44
00:02:28.672 --> 00:02:33.062
nous ne comprenons toujours que partiellement le fonctionnement du cerveau et de l'intelligence humaine.

45
00:02:33.716 --> 00:02:36.076
Chacun de nos esprits est un univers à part entière,

46
00:02:36.157 --> 00:02:38.518
encore largement enveloppé dans le mystère.

47
00:02:39.436 --> 00:02:42.260
Mais des technologies extraordinaires ont permis,

48
00:02:42.580 --> 00:02:43.838
pendant les dernières décennies,

49
00:02:44.135 --> 00:02:45.979
de comprendre le cerveau de mieux en mieux,

50
00:02:46.377 --> 00:02:48.541
de comprendre les processus neuronaux inconscients,

51
00:02:48.580 --> 00:02:50.205
les émotions et les biais cognitifs.

52
00:02:50.924 --> 00:02:53.862
On utilise maintenant ces connaissances pour développer d'autres technologies,

53
00:02:54.143 --> 00:02:54.580
capables,

54
00:02:54.674 --> 00:02:54.893
elles,

55
00:02:55.174 --> 00:02:58.315
d'influencer et de manipuler ces mêmes processus cognitifs,

56
00:02:58.924 --> 00:03:02.627
d'induire des pensées et même de reprogrammer l'espace des perceptions.

57
00:03:04.856 --> 00:03:10.542
Le DevTech Podcast fait partie du programme de prospective technologique d'Arma Suisse Sciences et Technologies.

58
00:03:11.804 --> 00:03:12.983
Je suis Quentin Ladetto,

59
00:03:13.468 --> 00:03:15.608
responsable de ce dispositif de recherche.

60
00:03:16.788 --> 00:03:24.843
Notre mission est d'anticiper les avancées technologiques et leurs usages au service des acteurs du Département fédéral suisse de la Défense,

61
00:03:25.171 --> 00:03:27.718
de la protection de la population et des sports,

62
00:03:28.202 --> 00:03:29.374
mais également du public.

63
00:03:31.824 --> 00:03:35.949
Dans cette première série de six épisodes intitulée « La menace cognitive » ,

64
00:03:36.570 --> 00:03:38.089
j'ai demandé à Bruno Giussani,

65
00:03:38.550 --> 00:03:41.777
expert des impacts sociopolitiques des technologies numériques,

66
00:03:42.238 --> 00:03:45.957
de décrypter les défis de l'intégrité et de la sécurité cognitive.

67
00:03:47.019 --> 00:03:48.144
Avec l'aide d'experts,

68
00:03:48.394 --> 00:03:52.347
et aussi de quelques voix artificielles dont ce sera à vous de deviner lesquelles,

69
00:03:52.878 --> 00:03:59.519
Bruno nous guidera à travers une exploration des menaces qui pèsent sur nos esprits à l'heure des écrans omniprésents,

70
00:03:59.860 --> 00:04:02.703
de l'intelligence artificielle et des neurotechnologies,

71
00:04:03.263 --> 00:04:04.826
en évoquant les mécanismes,

72
00:04:05.205 --> 00:04:07.408
les impacts individuels et collectifs,

73
00:04:07.865 --> 00:04:08.967
les risques et,

74
00:04:09.170 --> 00:04:09.748
heureusement,

75
00:04:10.068 --> 00:04:11.131
les réponses possibles.

76
00:04:19.865 --> 00:04:23.646
Penser au prodige d'une intention qui se traduit en action,

77
00:04:24.146 --> 00:04:26.865
au fait de contrôler un ordinateur avec la pensée.

78
00:04:27.132 --> 00:04:30.736
en faisant bouger un curseur sur un écran ou déclenchant le mouvement d'une machine.

79
00:04:31.556 --> 00:04:34.299
C'est le but des interfaces cerveau-ordinateur,

80
00:04:34.838 --> 00:04:39.267
développées pour permettre de contrôler des appareils externes par la pensée,

81
00:04:39.822 --> 00:04:41.322
sans utiliser clavier ni souris,

82
00:04:41.463 --> 00:04:45.525
établissant un lien direct entre l'activité cérébrale et les systèmes numériques.

83
00:04:46.791 --> 00:04:48.900
Il existe des approches dites « invasives » ,

84
00:04:49.041 --> 00:04:50.775
comme celle de l'entreprise Noralink,

85
00:04:51.228 --> 00:04:54.713
qui consiste à implanter physiquement des électrodes dans le cerveau.

86
00:04:55.297 --> 00:05:01.817
Ceux-ci capturent l'activité des neurones et en transmettent les signaux à des appareils externes qui les traduisent ensuite en commandes numériques.

87
00:05:02.436 --> 00:05:02.796
Soudainement,

88
00:05:02.797 --> 00:05:04.677
il devient possible aussi aux personnes paralysées,

89
00:05:04.678 --> 00:05:05.116
par exemple,

90
00:05:05.117 --> 00:05:07.597
de jouer aux échecs ou écrire à l'ordinateur.

91
00:05:08.257 --> 00:05:12.577
Il y a ensuite des technologies non-invasives d'entreprises telles qu'Emotive,

92
00:05:12.679 --> 00:05:21.640
qui utilisent des électrodes placées sur le cuir chevelu pour monitorer l'activité cérébrale et produire l'électroencéphalogramme d'une personne.

93
00:05:22.265 --> 00:05:25.233
Et il y a l'espace du milieu semi-invasif,

94
00:05:25.858 --> 00:05:31.765
où on insère des électrodes ou autres dispositifs à travers les vaisseaux sanguins sans le besoin d'intervenir.

95
00:05:32.004 --> 00:05:33.966
de façon chirurgicale sur le cerveau.

96
00:05:34.726 --> 00:05:37.749
Selon une base de données gérée par la Bibliothèque nationale de médecine,

97
00:05:38.390 --> 00:05:43.776
47 études sont actuellement en cours aux États-Unis sur des interfaces cerveau-ordinateur.

98
00:05:44.753 --> 00:05:46.698
L'arc de développement de ces technologies,

99
00:05:46.737 --> 00:05:49.386
comme on l'a aussi évoqué concernant l'intelligence artificielle,

100
00:05:49.683 --> 00:05:50.464
est bien sûr long.

101
00:05:51.058 --> 00:05:54.964
La découverte que le cerveau est un système électrique remonte à plus d'un siècle,

102
00:05:55.011 --> 00:05:56.261
mais jusqu'à un passé récent.

103
00:05:57.011 --> 00:05:59.792
Étudier ces signaux demandait des équipements coûteux,

104
00:05:59.855 --> 00:06:01.167
compliqués et délicats.

105
00:06:01.628 --> 00:06:02.388
en laboratoire.

106
00:06:03.289 --> 00:06:04.089
Ces dernières années,

107
00:06:04.268 --> 00:06:07.649
la courbe n'a fait qu'accélérer et la technologie est sortie des labos.

108
00:06:08.130 --> 00:06:17.372
Il est désormais possible de recueillir avec des gadgets relativement peu chers une grande quantité de données sur nos cerveaux et essayer de comprendre ce qu'elles nous disent.

109
00:06:18.387 --> 00:06:25.497
Nous pouvons aussi imaginer comment utiliser ces interfaces dans la direction inverse pour façonner activement l'activité cérébrale,

110
00:06:25.841 --> 00:06:26.731
affecter les pensées,

111
00:06:27.200 --> 00:06:29.341
influencer l'interprétation de la réalité,

112
00:06:29.700 --> 00:06:30.669
orienter les décisions,

113
00:06:30.916 --> 00:06:32.177
implanté de faux souvenirs,

114
00:06:32.917 --> 00:06:36.761
potentiellement un jour créer des expériences tout à fait vraisemblables,

115
00:06:36.960 --> 00:06:37.483
ressenties,

116
00:06:37.722 --> 00:06:38.265
émouvantes,

117
00:06:38.483 --> 00:06:41.046
rien que par la modulation de signaux électriques.

118
00:06:43.210 --> 00:06:45.491
Un exemple du fonctionnement de ces technologies ?

119
00:06:46.132 --> 00:06:46.530
Écoutons

120
00:06:46.905 --> 00:06:47.733
Jean-Marc Rekli,

121
00:06:47.999 --> 00:06:52.499
directeur des risques globaux et émergents au Centre de politique de sécurité de Genève.

122
00:06:52.983 --> 00:06:54.780
Pensez par exemple aux caméras intégrées,

123
00:06:55.062 --> 00:07:00.124
à un casque de réalité virtuelle comme celui qu'Apple a commercialisé l'année passée.

124
00:07:00.716 --> 00:07:03.137
qui regardent sans cesse et traquent l'œil de l'utilisateur.

125
00:07:03.999 --> 00:07:07.282
En le couplant avec des capteurs neuronaux installés dans le même casque,

126
00:07:07.301 --> 00:07:09.446
il devient possible de corréler ces informations,

127
00:07:09.923 --> 00:07:13.126
c'est-à-dire les stimulus externes,

128
00:07:13.548 --> 00:07:16.649
avec la réponse émotionnelle qu'ils vont provoquer dans le cerveau.

129
00:07:17.305 --> 00:07:17.634
Donc,

130
00:07:17.993 --> 00:07:22.634
on pourra savoir quel type d'informations visuelles suscitent quelle réponse chez un individu.

131
00:07:30.212 --> 00:07:33.474
Olivier Desjeux est un spécialiste suisse d'électrotechnologie.

132
00:07:33.855 --> 00:07:37.799
Il travaille un rapport sur la résilience cognitive pour le compte de DevTech.

133
00:07:38.361 --> 00:07:38.744
Pour cela,

134
00:07:38.885 --> 00:07:44.010
il s'est plongé dans les brevets qui décrivent les appareils qui participent à ce qu'on appelle IOT,

135
00:07:44.424 --> 00:07:45.908
The Internet of Things,

136
00:07:46.150 --> 00:07:48.275
l'Internet des Objets.

137
00:07:48.431 --> 00:07:56.135
L'analyse des brevets déposés montre que tous ces systèmes IOT sont développés essentiellement pour des raisons vraiment bienveillantes,

138
00:07:56.213 --> 00:07:57.775
des raisons qui sont très respectables.

139
00:07:59.240 --> 00:08:00.101
du point de vue de l'éthique,

140
00:08:00.422 --> 00:08:01.142
on s'entend bien.

141
00:08:02.043 --> 00:08:02.683
Le plus souvent,

142
00:08:02.722 --> 00:08:07.629
ce sont des bénéfices pour la santé ou des bénéfices pour la sécurité des personnes qui sont mis en avant.

143
00:08:09.090 --> 00:08:15.152
Prenons l'exemple d'un appareil capteur des flux nerveux qui peut alerter des personnes épileptiques de crise imminente.

144
00:08:15.957 --> 00:08:23.004
On a tous aussi en exemple les appareils qui surveillent le rythme et la pression cardiaque qui sont là pour vraiment rendre service.

145
00:08:24.207 --> 00:08:25.144
Et puis par la suite,

146
00:08:25.160 --> 00:08:28.332
les personnes qui ont perdu ou qui auront perdu une fonction de locomotion,

147
00:08:29.116 --> 00:08:32.360
peuvent ou pourront la retrouver à travers des interfaces normales.

148
00:08:32.459 --> 00:08:34.360
Tout ça est vraiment très très bienveillant.

149
00:08:41.211 --> 00:08:43.969
Il y a également nombre d'applications professionnelles.

150
00:08:46.094 --> 00:08:49.235
Les conducteurs du train à grande vitesse entre Pékin et Shanghai,

151
00:08:49.282 --> 00:08:51.157
la ligne la plus fréquentée du monde,

152
00:08:51.625 --> 00:08:56.657
portent des appareils intégrés à leurs casquettes pour monitorer leur vigilance et niveau de fatigue.

153
00:08:57.563 --> 00:08:57.922
On dira

154
00:08:58.280 --> 00:08:59.161
Ça se passe en Chine.

155
00:08:59.841 --> 00:09:00.202
En fait,

156
00:09:00.683 --> 00:09:02.704
si la Chine est à la pointe de ces technologies,

157
00:09:03.404 --> 00:09:10.275
des milliers d'entreprises des secteurs miniers de la construction et des transports à travers le monde utilisent des systèmes similaires.

158
00:09:11.111 --> 00:09:19.408
D'autres approches promettent d'utiliser une technique de rétroaction connue comme neurofeedback pour dépasser nos limites,

159
00:09:19.767 --> 00:09:20.658
mieux percevoir,

160
00:09:20.923 --> 00:09:21.970
améliorer l'efficacité,

161
00:09:22.048 --> 00:09:22.939
la concentration,

162
00:09:23.064 --> 00:09:25.908
la mémoire ou augmenter nos performances sportives.

163
00:09:26.216 --> 00:09:29.519
par exemple au niveau de la coordination motrice et des réflexes.

164
00:09:30.499 --> 00:09:39.527
On pourrait aussi tirer parti des schémas d'engagement cérébral individuel des écoliers et de leurs états émotionnels pour garantir un rythme d'apprentissage optimal.

165
00:09:40.253 --> 00:09:44.339
Il y a d'ailleurs déjà plusieurs start-up engagées dans le développement de tels produits.

166
00:09:46.917 --> 00:09:55.339
L'intention bienveillante qui peut sous-tendre à la création d'une technologie ne nous dit toutefois rien sur la façon dont elle sera utilisée à l'avenir

167
00:09:55.576 --> 00:09:57.481
et sur les conséquences qu'elles pourraient avoir.

168
00:09:58.243 --> 00:09:59.586
Prenons l'exemple des ultrasons,

169
00:09:59.786 --> 00:10:02.371
une des modalités d'imagerie médicale les plus utilisées au monde.

170
00:10:03.213 --> 00:10:10.058
Ils ont été découverts il y a près de deux siècles sur la base d'études sur le vol des chauves-souris et sur la propagation du sang dans l'eau.

171
00:10:10.699 --> 00:10:11.285
Ils ont servi,

172
00:10:11.644 --> 00:10:12.121
entre autres,

173
00:10:12.144 --> 00:10:13.941
pour cartographier les fonds marins,

174
00:10:14.504 --> 00:10:15.808
retrouver l'épave du Titanic,

175
00:10:16.004 --> 00:10:17.449
détecter les sous-marins ennemis,

176
00:10:17.847 --> 00:10:19.222
faire du nettoyage industriel,

177
00:10:19.769 --> 00:10:24.441
ou bien même déterminer le sexe d'un foetus à travers l'imagerie échographique.

178
00:10:24.894 --> 00:10:25.801
En médecine moderne,

179
00:10:26.113 --> 00:10:30.254
celle-ci est considérée un outil diagnostique et thérapeutique absolument essentiel.

180
00:10:31.341 --> 00:10:33.544
Mais dans la Chine de la fin des années 70,

181
00:10:33.903 --> 00:10:36.745
elle a été mise au service de la politique de l'enfant unique,

182
00:10:37.268 --> 00:10:44.077
menant directement à la suppression de millions de foetus féminins et à des conséquences démographiques et sociales qui perdurent encore aujourd'hui.

183
00:10:44.616 --> 00:10:45.155
Autrement dit,

184
00:10:45.156 --> 00:10:50.038
la discussion sur les champs possibles d'application d'une nouveauté technologique est épineuse.

185
00:10:50.694 --> 00:10:54.741
Une entreprise a accès aux ondes cérébrales de ses employés pour des raisons de sécurité,

186
00:10:54.850 --> 00:10:56.522
comme dans l'exemple du conducteur du train,

187
00:10:57.100 --> 00:11:00.585
ou pour monitorer leur niveau de stress et améliorer leur bien-être mental.

188
00:11:00.989 --> 00:11:01.409
que du bien.

189
00:11:02.270 --> 00:11:05.395
Mais à quel moment cela franchit la limite vers la surveillance,

190
00:11:05.555 --> 00:11:06.715
voire la contrainte,

191
00:11:06.774 --> 00:11:10.196
devenant ainsi une extension neuronale de ce qu'on connaît aujourd'hui comme

192
00:11:10.680 --> 00:11:12.985
Bossware, les logiciels du chef.

193
00:11:13.758 --> 00:11:17.188
Ce système surveille les frappes au clavier et l'utilisation d'Internet,

194
00:11:17.641 --> 00:11:23.797
prend des captures d'écran et même photographie les employés pour en contrôler les activités et maximiser la productivité.

195
00:11:24.407 --> 00:11:30.391
Une entreprise commercialise d'ailleurs déjà un produit d'origine militaire dont le nom s'explique tout seul.

196
00:11:31.033 --> 00:11:33.355
Cognitive Command and Control.

197
00:11:35.457 --> 00:11:36.617
Une industrie entière,

198
00:11:36.660 --> 00:11:38.039
le neuromarketing,

199
00:11:38.801 --> 00:11:44.250
utilise depuis un moment déjà des mesures physiologiques et cérébrales pour comprendre les motivations,

200
00:11:44.305 --> 00:11:49.672
les préférences et les processus décisionnels des consommateurs et en manipuler les décisions d'achat.

201
00:11:53.234 --> 00:11:53.531
Pourquoi,

202
00:11:53.734 --> 00:11:54.328
par exemple,

203
00:11:54.922 --> 00:11:56.172
des films hollywoodiens,

204
00:11:56.312 --> 00:11:57.875
de même que certaines publicités,

205
00:11:58.406 --> 00:11:59.140
sont si captivants ?

206
00:12:00.185 --> 00:12:02.087
Parce qu'ils ont été neuro-testés.

207
00:12:02.808 --> 00:12:05.308
Des personnes les regardent avec des capteurs sur la tête,

208
00:12:05.390 --> 00:12:07.031
mesurant leur réaction cérébrale.

209
00:12:07.593 --> 00:12:10.972
Et c'est sur cette base que sera fait le montage final du film.

210
00:12:12.918 --> 00:12:17.074
Certains imaginent même un avenir de publicité implantée dans les rêves.

211
00:12:17.855 --> 00:12:18.246
D'autres,

212
00:12:18.261 --> 00:12:20.308
des cerveaux connectés à l'intelligence artificielle,

213
00:12:20.339 --> 00:12:22.043
développent des réflexions symbiotiques.

214
00:12:23.043 --> 00:12:29.652
Des millions de personnes joueront bientôt à des jeux en ligne via des interfaces cerveau-ordinateur ou des casques de réalité virtuelle.

215
00:12:30.445 --> 00:12:36.591
Il y en aura qui utiliseront le neurofeedback pour renforcer leur confiance en soi et favoriser un état mental positif.

216
00:12:38.091 --> 00:12:45.681
Des domaines émergents comme la neuroarchitecture étudient la façon dont les neurones réagissent à différents environnements physiques et,

217
00:12:45.759 --> 00:12:46.454
à l'inverse,

218
00:12:47.017 --> 00:12:50.204
la possibilité de créer des espaces capables de détecter,

219
00:12:50.829 --> 00:12:52.111
via des systèmes de capteurs,

220
00:12:52.564 --> 00:12:53.642
le niveau d'excitation,

221
00:12:53.704 --> 00:12:56.798
de stress ou d'antagonisme des personnes qui s'y trouvent.

222
00:12:57.548 --> 00:12:57.845
souvent

223
00:12:58.249 --> 00:13:01.933
Cela se fera à travers des appareils qu'on ne remarquera presque pas,

224
00:13:02.273 --> 00:13:02.894
ou plus du tout.

225
00:13:03.655 --> 00:13:04.976
Écoutons encore Olivier Dejeu.

226
00:13:06.480 --> 00:13:12.901
Les capteurs et les actionneurs qui nous entourent deviennent petit à petit invisibles,

227
00:13:13.042 --> 00:13:13.605
indolores.

228
00:13:15.480 --> 00:13:19.417
Ils sont insensibles à tel point qu'on les oublie,

229
00:13:19.418 --> 00:13:20.386
on en perd la perception.

230
00:13:21.339 --> 00:13:22.933
Prenez l'exemple des earbuds,

231
00:13:23.151 --> 00:13:25.261
qui sont souvent qualifiés d'écouteurs intelligents.

232
00:13:26.230 --> 00:13:27.464
Certaines personnes les portent.

233
00:13:27.561 --> 00:13:28.222
toute la journée,

234
00:13:28.302 --> 00:13:29.263
de façon courante,

235
00:13:29.264 --> 00:13:30.985
au point de plus du tout s'en rendre compte.

236
00:13:32.466 --> 00:13:33.407
Dans les dernières nouveautés,

237
00:13:33.446 --> 00:13:44.860
il y a le leader mondial des aides auditives qui viennent mettre sur le marché des équipements qui intègrent des microprocesseurs dotés d'une intelligence artificielle.

238
00:13:45.157 --> 00:13:47.579
Le but de cette intelligence artificielle est de filtrer,

239
00:13:48.063 --> 00:13:48.626
de reconnaître,

240
00:13:48.627 --> 00:13:54.360
de filtrer les bruits de fond pour assurer une meilleure qualité d'audition aux porteurs de ces appareils,

241
00:13:54.361 --> 00:13:55.267
de ces aides auditives.

242
00:13:56.313 --> 00:14:00.960
Bien que ce système améliore de façon significative la vie de ses utilisateurs,

243
00:14:01.338 --> 00:14:06.085
il place une puce avec capacité IA pratiquement invisible près du cerveau.

244
00:14:06.725 --> 00:14:08.022
De même pour les écouteurs,

245
00:14:08.186 --> 00:14:12.952
positionnés de façon optimale pour lire les émotions à travers les signaux cérébraux.

246
00:14:14.311 --> 00:14:14.624
Oui,

247
00:14:14.795 --> 00:14:22.077
il y a un principe de la physique quantique qui veut que plus on mesure précisément la vitesse d'une particule,

248
00:14:22.155 --> 00:14:23.264
plus on en perd sa précision.

249
00:14:24.581 --> 00:14:25.062
Pour nous autres,

250
00:14:25.102 --> 00:14:26.203
c'est un petit peu la même chose.

251
00:14:26.243 --> 00:14:30.529
C'est-à-dire que dès l'instant où je sais que j'ai connaissance,

252
00:14:30.666 --> 00:14:32.873
que mes paramètres physiologiques sont mesurés,

253
00:14:32.912 --> 00:14:33.490
sont surveillés,

254
00:14:34.990 --> 00:14:36.412
ça va altérer mon mode de fonctionnement.

255
00:14:36.912 --> 00:14:37.037
Ça,

256
00:14:37.076 --> 00:14:38.271
c'est vrai pour à peu près tout le monde.

257
00:14:39.193 --> 00:14:40.771
Ça peut conduire à des meilleurs comportements,

258
00:14:41.052 --> 00:14:44.615
comme par exemple l'injonction de marcher au moins 10 000 pas par jour.

259
00:14:45.677 --> 00:14:46.443
Mais ces technologies,

260
00:14:46.444 --> 00:14:47.365
elles sont toutes bifaces.

261
00:14:47.396 --> 00:14:49.365
Elles ont toutes deux côtés.

262
00:14:50.193 --> 00:14:53.021
On peut imaginer que la somme de toutes ces données soit capturée

263
00:14:53.645 --> 00:15:05.920
à l'échelle d'une entreprise qui pourrait être peu éthique ou voire même d'un gouvernement hostile donc il devient ensuite relativement facile d'établir des schémas de corrélation sur lesquels

264
00:15:06.572 --> 00:15:08.495
actionner des opérations d'influence.

265
00:15:10.256 --> 00:15:14.799
Bien que le contrôle mental soit jusqu'ici un terreau fertile surtout pour la science-fiction,

266
00:15:15.580 --> 00:15:16.440
à diverses époques,

267
00:15:16.502 --> 00:15:19.823
des gouvernements ont aussi tenté de développer ces capacités.

268
00:15:20.768 --> 00:15:27.776
Certains s'interrogent sur la possibilité d'identifier les individus à travers les patterns cérébraux propres à chacun,

269
00:15:28.510 --> 00:15:30.854
leurs signatures cognitives en quelque sorte.

270
00:15:31.698 --> 00:15:32.713
Et peut-être qu'un jour,

271
00:15:32.979 --> 00:15:34.745
ces signatures feront partie de...

272
00:15:35.088 --> 00:15:36.429
notre profil LinkedIn,

273
00:15:37.050 --> 00:15:39.034
utilisé dans les processus de recrutement.

274
00:15:40.112 --> 00:15:45.339
La recherche progresse non seulement sur la façon de décoder et lire les pensées et les souvenirs,

275
00:15:45.917 --> 00:15:49.604
mais aussi sur comment les modifier et en implanter de nouvelles.

276
00:15:50.964 --> 00:15:58.354
L'activité cérébrale à court terme peut déjà être modifiée via des technologies telles que la stimulation magnétique transcranienne.

277
00:15:59.135 --> 00:16:02.760
Cette méthode induit un champ électrique qui modifie l'activité des neurones visés.

278
00:16:03.444 --> 00:16:05.987
Cela peut aider par exemple à sortir d'un état dépressif.

279
00:16:06.487 --> 00:16:07.909
Mais pour des changements plus profonds,

280
00:16:07.991 --> 00:16:09.651
le défi est celui de la précision,

281
00:16:09.850 --> 00:16:10.752
parce que bien évidemment,

282
00:16:10.991 --> 00:16:13.873
chaque cerveau est physiquement un peu différent des autres.

283
00:16:14.694 --> 00:16:18.077
Y intervenir demande donc d'être hautement spécifique.

284
00:16:18.717 --> 00:16:19.842
Les interfaces invasives,

285
00:16:19.905 --> 00:16:20.014
là,

286
00:16:20.123 --> 00:16:20.983
présentent un avantage,

287
00:16:21.045 --> 00:16:25.639
puisqu'elles sont en fait un réseau de fils implantés directement dans le cerveau.

288
00:16:25.952 --> 00:16:26.686
Et elles sont donc,

289
00:16:26.748 --> 00:16:28.436
du point de vue de la liberté personnelle,

290
00:16:28.483 --> 00:16:29.952
potentiellement plus problématiques.

291
00:16:30.764 --> 00:16:32.327
Mais les systèmes non-invasifs

292
00:16:32.560 --> 00:16:35.260
peuvent aussi induire de nouveaux schémas d'activité cérébrale,

293
00:16:35.561 --> 00:16:36.340
de façon passive.

294
00:16:37.180 --> 00:16:42.922
Une étude remarquable a par exemple été menée en 2024 par des chercheurs de trois universités américaines,

295
00:16:43.125 --> 00:16:43.703
Rochester,

296
00:16:43.922 --> 00:16:44.922
Yale et Princeton.

297
00:16:45.641 --> 00:16:50.219
En utilisant un appareil d'imagerie par résonance magnétique fonctionnelle et un système de neurofeedback,

298
00:16:50.625 --> 00:16:54.812
ils ont réussi à inscrire dans le cerveau des participants une nouvelle information,

299
00:16:55.281 --> 00:16:59.109
comme s'ils l'avaient apprise mais sans effort d'apprentissage conscient.

300
00:16:59.844 --> 00:17:01.125
Voici comment les chercheurs

301
00:17:01.484 --> 00:17:03.226
On décrit le résultat de leurs travaux.

302
00:17:03.926 --> 00:17:07.930
Ce mécanisme de rétroaction a efficacement sculpté l'activité cérébrale des participants,

303
00:17:08.231 --> 00:17:09.414
les guidant vers le schéma souhaité.

304
00:17:10.157 --> 00:17:14.758
Cette méthode pourrait aider à accélérer l'apprentissage puisqu'elle ne nécessite d'aucun effort,

305
00:17:14.821 --> 00:17:15.922
étude ou pratique.

306
00:17:15.938 --> 00:17:18.438
Elle pourrait être utilisée en rééducation,

307
00:17:18.516 --> 00:17:19.094
par exemple,

308
00:17:19.188 --> 00:17:23.469
pour aider les patients victimes d'un AVC à récupérer leurs fonctions cérébrales.

309
00:17:24.313 --> 00:17:29.391
Il est évident toutefois que ces recherches ouvrent la voie à un genre d'utilisation moins bienveillante.

310
00:17:36.416 --> 00:17:37.417
Nita Farahani,

311
00:17:37.577 --> 00:17:39.799
professeure de droit à l'université Duke,

312
00:17:40.240 --> 00:17:43.041
est une des meilleures spécialistes de ces questions au monde.

313
00:17:44.022 --> 00:17:47.584
Elle a disséqué le sujet en détail dans son livre « The Battle for Your Brain »

314
00:17:47.904 --> 00:17:49.272
« La bataille pour votre cerveau »

315
00:17:49.365 --> 00:17:50.592
paru en 2023.

316
00:17:51.451 --> 00:17:52.553
Elle y dit notamment ceci,

317
00:17:52.787 --> 00:17:54.381
traduit et adapté par nos soins.

318
00:17:55.740 --> 00:18:00.194
« Je suis enthousiasmée par la promesse de cette technologie d'aider les gens à vivre mieux.

319
00:18:01.115 --> 00:18:04.990
Ces technologies collectent nos données cérébrales pour nous aider à devenir plus rapides,

320
00:18:05.131 --> 00:18:05.959
plus efficaces. »

321
00:18:06.132 --> 00:18:07.432
plus sûr et plus sain.

322
00:18:08.472 --> 00:18:12.615
Nous aurons donc des raisons de vouloir partager les données brutes de notre activité cérébrale.

323
00:18:13.474 --> 00:18:15.177
Individuellement et collectivement,

324
00:18:15.232 --> 00:18:17.958
nous tirerons à grand profit de ce que nous pourrons en apprendre.

325
00:18:18.833 --> 00:18:20.193
Mais il y a un revers de la médaille,

326
00:18:20.536 --> 00:18:22.458
une boîte de Pandore qui m'empêche de dormir.

327
00:18:23.208 --> 00:18:27.396
Rien dans la loi ni dans les traités internationaux ne confère aux individus une souveraineté,

328
00:18:27.490 --> 00:18:28.583
même rudimentaire,

329
00:18:28.599 --> 00:18:29.677
sur leur propre cerveau.

330
00:18:30.458 --> 00:18:31.255
Ce n'est pas pour demain,

331
00:18:31.583 --> 00:18:35.083
mais nous nous dirigeons rapidement vers un monde de transparence cérébrale totale.

332
00:18:35.380 --> 00:18:38.443
où les avancées en neurotechnologie permettront aux scientifiques,

333
00:18:38.583 --> 00:18:39.124
aux médecins,

334
00:18:39.224 --> 00:18:44.005
aux gouvernements et aux entreprises d'explorer nos cerveaux et nos esprits à volonté.

335
00:18:44.927 --> 00:18:46.333
Je crains que dans un avenir proche,

336
00:18:46.349 --> 00:18:50.396
nous abandonnions volontairement ou involontairement notre dernier bastion de liberté,

337
00:18:50.974 --> 00:18:52.224
notre vie privée mentale.

338
00:18:52.943 --> 00:18:57.958
Que nous échangeons avec des entreprises commerciales l'accès à notre activité cérébrale contre des rabais,

339
00:18:58.318 --> 00:18:59.958
un accès gratuit aux réseaux sociaux,

340
00:19:00.239 --> 00:19:02.411
voire comme condition pour conserver notre emploi.

341
00:19:03.440 --> 00:19:07.044
La neurothèque pourrait devenir une exigence dans les lieux de travail et les écoles.

342
00:19:07.383 --> 00:19:08.024
Pas de bracelet,

343
00:19:08.063 --> 00:19:08.563
pas d'emploi.

344
00:19:09.465 --> 00:19:10.165
Soyons clairs,

345
00:19:10.446 --> 00:19:13.571
les données elles-mêmes ne sont pas la même chose que nos pensées et nos sentiments.

346
00:19:14.149 --> 00:19:20.813
Mais de puissants algorithmes d'apprentissage automatique parviennent de mieux en mieux à traduire l'activité cérébrale en ce que nous ressentons,

347
00:19:21.141 --> 00:19:21.501
voyons,

348
00:19:21.813 --> 00:19:23.141
imaginons ou pensons.

349
00:19:24.126 --> 00:19:25.829
En choisissant d'utiliser ces appareils,

350
00:19:25.830 --> 00:19:28.110
nous risquons de révéler bien plus que ce qu'on a prévu.

351
00:19:30.404 --> 00:19:31.145
Bien utilisées,

352
00:19:31.265 --> 00:19:35.609
ces technologies peuvent apporter des bénéfices individuels et collectifs indéniables,

353
00:19:36.148 --> 00:19:39.234
augmenter la sécurité ou aider l'attention et la performance.

354
00:19:39.812 --> 00:19:43.695
Mais elles mettent en jeu de façon essentielle notre liberté cognitive,

355
00:19:44.320 --> 00:19:48.679
notre droit à l'autodétermination sur notre cerveau et sur nos expériences mentales.

356
00:19:49.460 --> 00:19:49.804
Souvent,

357
00:19:49.945 --> 00:19:53.992
notre activité cérébrale commence à changer avant que nous ne le remarquions,

358
00:19:54.601 --> 00:19:57.148
par exemple quand un état dépressif ou anxieux s'installe.

359
00:19:57.884 --> 00:19:59.789
Que se passera-t-il quand des machines,

360
00:20:00.230 --> 00:20:02.777
contrôlées par des entreprises ou des gouvernements,

361
00:20:03.039 --> 00:20:05.722
pourront savoir ce que nous pensons avant même ?

362
00:20:06.272 --> 00:20:07.053
que nous le pensions.

363
00:20:07.434 --> 00:20:11.076
On touche ici à un enjeu central de la neurotechnologie.

364
00:20:11.799 --> 00:20:14.783
Comprendre que les données cérébrales sont sensibles.

365
00:20:15.518 --> 00:20:16.861
Définir qui peut les collecter,

366
00:20:17.221 --> 00:20:18.768
les utiliser et comment.

367
00:20:19.486 --> 00:20:21.986
Il ne s'agit pas seulement d'augmenter nos capacités,

368
00:20:22.025 --> 00:20:24.877
ce que les neurothèques promettent de faire de façon spectaculaire,

369
00:20:25.268 --> 00:20:26.971
mais aussi de les protéger.

370
00:20:27.674 --> 00:20:32.752
De s'assurer que ces technologies nous aident à améliorer notre compréhension et prise de décision.

371
00:20:33.448 --> 00:20:36.911
plutôt que de permettre à une organisation de décider à notre place,

372
00:20:37.931 --> 00:20:44.357
et surtout éviter que l'augmentation de nos capacités cérébrales ne nous affaiblisse en tant qu'êtres humains,

373
00:20:44.740 --> 00:20:47.060
nous rendant plus vulnérables à la manipulation.

374
00:20:47.583 --> 00:20:49.302
Tout cela peut sembler un peu abstrait.

375
00:20:49.997 --> 00:20:52.326
Voici comment la chercheuse en éthique de la technologie,

376
00:20:52.529 --> 00:20:53.591
Nicoletta Iacobacci,

377
00:20:53.935 --> 00:20:56.044
résume le défi auquel on est confronté.

378
00:20:56.732 --> 00:20:58.794
Les grandes entreprises de la tech,

379
00:20:58.966 --> 00:21:00.935
notamment américaines et chinoises,

380
00:21:01.300 --> 00:21:05.141
ambition de créer des formes d'intelligence artificielle générale,

381
00:21:05.602 --> 00:21:09.403
c'est-à-dire des systèmes capables d'imiter la pensée humaine.

382
00:21:10.020 --> 00:21:10.622
En même temps,

383
00:21:10.684 --> 00:21:11.239
le cerveau,

384
00:21:11.442 --> 00:21:13.622
la partie la plus complexe du corps humain,

385
00:21:14.122 --> 00:21:17.083
qu'on a longtemps considéré comme incompréhensible,

386
00:21:17.247 --> 00:21:18.825
commence à livrer ses secrets.

387
00:21:19.419 --> 00:21:29.966
On doit sérieusement s'interroger sur la convergence de ces deux axes de développement qui fera émerger une machine qui nous dépassera tant un terme d'éviter.

388
00:21:29.968 --> 00:21:35.995
vitesse et puissance des calculs que des connaissances détaillées de nos schémas mentaux et émotionnels.

389
00:21:36.616 --> 00:21:38.640
Ce sera un cerveau collectif,

390
00:21:39.156 --> 00:21:42.741
une superintelligence que nous avons toutes les raisons de craindre,

391
00:21:43.179 --> 00:21:46.343
mais que nous participons à créer jour après jour.

392
00:21:47.827 --> 00:21:49.921
Comme nous l'a dit tout à l'heure Nita Farahani,

393
00:21:50.327 --> 00:21:51.906
tout cela n'est pas pour tout de suite,

394
00:21:52.843 --> 00:21:55.312
mais la technologie avance à grande vitesse.

395
00:21:55.437 --> 00:21:58.109
Dessinons un avenir avec lequel nous devrons composer.

396
00:21:58.768 --> 00:22:03.051
Penser la résilience et la robustesse cognitive devient alors primordial.

397
00:22:04.152 --> 00:22:05.273
Dans le quatrième épisode,

398
00:22:05.676 --> 00:22:09.121
on étendra cette analyse à un domaine essentiel que l'on n'a pas encore évoqué,

399
00:22:09.676 --> 00:22:10.137
la guerre.

400
00:22:11.277 --> 00:22:14.223
Je suis Bruno Giussani et ceci est le DevTech Podcast.

401
00:22:14.582 --> 00:22:15.684
Merci de votre écoute.