WEBVTT

1
00:00:10.966 --> 00:00:11.507
Codecast,

2
00:00:11.767 --> 00:00:15.930
podcast juridique de la Faculté de droit et de sciences politiques d'Aix-Marseille Université.

3
00:00:24.175 --> 00:00:25.276
Bonjour à toutes et à tous,

4
00:00:25.516 --> 00:00:31.260
Codecast est de retour pour un épisode consacré à la détection des contenus générés par l'intelligence artificielle.

5
00:00:31.620 --> 00:00:34.801
ainsi qu'à l'usage de l'IA en matière d'information et de communication,

6
00:00:35.241 --> 00:00:36.902
notamment sur l'IA et les fake news.

7
00:00:37.342 --> 00:00:38.622
Pour nous éclairer sur cette question,

8
00:00:38.762 --> 00:00:40.903
nous avons le plaisir d'accueillir Florian Barbaro,

9
00:00:41.303 --> 00:00:43.664
fondateur et directeur général d'Uncov AI,

10
00:00:44.064 --> 00:00:47.645
une plateforme de détection des contenus générés par l'intelligence artificielle.

11
00:00:48.185 --> 00:00:49.746
Nous recevons également Philippe Mouron,

12
00:00:49.846 --> 00:00:52.586
professeur de droit privé et responsable du Master 2,

13
00:00:52.906 --> 00:00:54.647
droit des communications électroniques.

14
00:00:55.587 --> 00:00:57.828
Alors on va commencer directement avec la première question.

15
00:00:58.220 --> 00:01:02.482
Comment la désinformation et les fake news sont-elles définies et encadrées en droit français

16
00:01:02.963 --> 00:01:03.603
Plus brièvement,

17
00:01:03.923 --> 00:01:09.366
qu'est-ce que cela peut changer et quels risques sont liés à la génération ou à la propagation de fake news par une IA

18
00:01:10.507 --> 00:01:11.527
Alors bonjour,

19
00:01:12.368 --> 00:01:14.389
pour répondre à cette question,

20
00:01:14.969 --> 00:01:18.771
il faut savoir qu'il n'existe pas de définition,

21
00:01:19.412 --> 00:01:20.692
alors je dirais unitaire,

22
00:01:21.012 --> 00:01:23.974
des fausses informations ou fake news en droit français.

23
00:01:24.815 --> 00:01:25.095
En fait,

24
00:01:25.135 --> 00:01:26.756
il en existe plusieurs.

25
00:01:28.184 --> 00:01:31.205
Pourquoi Parce qu'il existe plusieurs types de fausses informations.

26
00:01:32.646 --> 00:01:34.267
Pour remonter un peu dans le temps,

27
00:01:34.467 --> 00:01:35.427
il faut savoir qu'une loi,

28
00:01:35.527 --> 00:01:36.087
la loi du

29
00:01:36.587 --> 00:01:38.168
22 décembre 2018,

30
00:01:38.188 --> 00:01:42.610
a été spécifiquement consacrée à la lutte contre la manipulation de l'information.

31
00:01:43.570 --> 00:01:49.013
Et cette loi n'a pas ajouté de véritable définition consacrée aux fausses informations.

32
00:01:49.513 --> 00:01:53.034
Elle a seulement créé de nouvelles obligations à la charge,

33
00:01:53.234 --> 00:01:55.895
notamment des services de médias audiovisuels,

34
00:01:55.915 --> 00:01:57.056
des plateformes également.

35
00:01:57.708 --> 00:02:04.653
Tout juste peut-on trouver un nouveau pouvoir de référé qui a été créé à l'article

36
00:02:05.093 --> 00:02:15.601
L163-2, qui permet au juge des référés d'ordonner le retrait de fausses informations qui sont partagées de manière délibérée,

37
00:02:15.701 --> 00:02:17.382
artificielle ou automatisée.

38
00:02:18.203 --> 00:02:18.943
Et précisément,

39
00:02:18.963 --> 00:02:21.085
elle donne ce qui semble être une définition,

40
00:02:21.145 --> 00:02:24.908
elle parle d'allégations ou imputations inexactes ou trompeuses.

41
00:02:25.232 --> 00:02:27.794
qui sont de nature à altérer la sincérité du scrutin.

42
00:02:28.534 --> 00:02:28.955
Et là-dessus,

43
00:02:28.956 --> 00:02:30.616
il faut savoir que le Conseil constitutionnel,

44
00:02:30.736 --> 00:02:33.037
dans sa décision du 20 décembre,

45
00:02:33.518 --> 00:02:40.903
a précisé que ce pouvoir d'ordonner une mesure en référé ne concerne que les fausses informations dont le caractère apparaît manifeste.

46
00:02:41.723 --> 00:02:42.103
Autrement,

47
00:02:42.104 --> 00:02:43.044
il existait déjà,

48
00:02:43.524 --> 00:02:45.526
avant cette loi du 22 décembre 2018,

49
00:02:45.906 --> 00:02:47.587
un certain nombre de dispositions,

50
00:02:47.667 --> 00:02:48.828
notamment en matière pénale,

51
00:02:49.808 --> 00:02:54.792
qui ont pour objet ou pour effet de réprimer la diffusion de fausses informations.

52
00:02:54.793 --> 00:02:55.072
Mais alors que...

53
00:02:55.092 --> 00:02:57.573
qui elles-mêmes peuvent être entendues de manière assez diverse.

54
00:02:58.794 --> 00:02:59.214
En soi,

55
00:03:00.174 --> 00:03:00.954
la diffamation,

56
00:03:01.575 --> 00:03:06.057
la diffamation publique peut être considérée comme une catégorie de fausses informations,

57
00:03:06.077 --> 00:03:15.080
puisqu'il s'agit bien d'allégations qui sont faites à l'égard d'une personne et qui portent sur des faits ou des propos qu'elle n'a pas commis ou qu'elle n'a pas tenus.

58
00:03:16.201 --> 00:03:21.143
On pense également à l'infraction qui figure à l'article 226-8 du Code pénal,

59
00:03:21.883 --> 00:03:22.003
qui,

60
00:03:22.083 --> 00:03:23.664
déjà avant la loi de 2018...

61
00:03:24.572 --> 00:03:34.458
Réprimer le montage photographique ou le montage des paroles d'une personne de nature justement à tromper le public.

62
00:03:35.858 --> 00:03:41.822
Le code électoral aussi contenait déjà des mesures répressives de manipulation.

63
00:03:42.282 --> 00:03:44.583
On en trouve également dans le code monétaire et financier.

64
00:03:44.643 --> 00:03:44.803
Enfin,

65
00:03:45.464 --> 00:03:53.228
il existe déjà un arsenal pénal assez important qui permet de réprimer ce qu'on appelle communément des fausses informations.

66
00:03:53.868 --> 00:04:04.951
J'oubliais encore l'article 27 de la loi du 29 juillet 1881 relative à la liberté de la presse qui réprime historiquement la diffusion de fausses nouvelles.

67
00:04:05.671 --> 00:04:07.972
Donc le droit français est déjà bien pourvu en la matière,

68
00:04:08.832 --> 00:04:12.533
mais en vérité ne contient pas de définition unitaire de ce que sont les fausses informations.

69
00:04:12.613 --> 00:04:13.273
Parce qu'en vérité,

70
00:04:13.293 --> 00:04:15.334
il n'y a pas une seule catégorie de fausses informations.

71
00:04:16.294 --> 00:04:18.615
Qu'est-ce qui va changer avec l'intelligence artificielle

72
00:04:20.315 --> 00:04:23.376
Je dirais que la différence va être essentiellement d'échelle.

73
00:04:23.556 --> 00:04:32.498
C'est-à-dire que les systèmes d'intelligence artificielle permettent de fabriquer beaucoup plus rapidement et beaucoup plus facilement des contenus qui sont faux.

74
00:04:33.019 --> 00:04:34.419
Alors ça peut être notamment les deepfakes.

75
00:04:34.859 --> 00:04:35.759
On pense beaucoup à ça.

76
00:04:35.879 --> 00:04:36.760
Donc les deepfakes,

77
00:04:37.720 --> 00:04:44.602
c'est contenus qui utilisent l'image ou la voix d'une personne pour lui faire dire ou lui faire faire,

78
00:04:44.642 --> 00:04:45.322
entre guillemets,

79
00:04:46.522 --> 00:04:49.123
des propos ou des choses qui évidemment sont fausses,

80
00:04:49.124 --> 00:04:52.724
des propos qu'elle n'a jamais tenus ou des choses qu'elle n'a jamais commises.

81
00:04:53.552 --> 00:04:58.757
Il sera également possible de diffuser beaucoup plus rapidement et de manière beaucoup plus massive ces contenus.

82
00:04:59.338 --> 00:05:01.260
Je dirais que les systèmes d'intelligence artificielle,

83
00:05:01.920 --> 00:05:02.441
sur le fond,

84
00:05:02.442 --> 00:05:04.803
ne changent pas grand-chose par rapport à ce qu'on connaissait déjà,

85
00:05:05.904 --> 00:05:13.992
mais vont être simplement des facteurs d'accélération et vont permettre de diffuser de tels contenus à une échelle beaucoup plus large qu'auparavant.

86
00:05:14.859 --> 00:05:15.239
Quant à vous,

87
00:05:15.240 --> 00:05:15.360
M.

88
00:05:15.520 --> 00:05:15.880
Barbaro,

89
00:05:15.960 --> 00:05:20.044
qu'est-ce qui vous a conduit à vous intéresser à la détection des contenus générés par IA

90
00:05:20.965 --> 00:05:21.285
En gros,

91
00:05:21.286 --> 00:05:26.730
j'ai eu un doctorat en mathématiques appliquées et analyse du langage naturel à Paris 1 en juin 2022.

92
00:05:27.351 --> 00:05:27.531
Après,

93
00:05:27.532 --> 00:05:37.961
je suis parti travailler aux États-Unis pour une start-up et on était contracteur du ministère de la Santé américaine pour lequel on étudiait la désinformation liée au Covid et à sa propagation.

94
00:05:38.762 --> 00:05:39.182
Et après,

95
00:05:39.202 --> 00:05:39.482
en fait,

96
00:05:39.502 --> 00:05:40.063
en parallèle...

97
00:05:40.775 --> 00:05:41.716
Sur mon temps personnel,

98
00:05:41.756 --> 00:05:49.280
j'ai étudié la désinformation russe et sa propagation et mettre en place des outils pour lutter contre elle.

99
00:05:49.700 --> 00:05:50.161
Et en fait,

100
00:05:50.361 --> 00:05:52.962
plus j'analysais certains types de réseaux,

101
00:05:53.002 --> 00:05:55.404
notamment des réseaux sociaux free speech,

102
00:05:56.004 --> 00:06:08.031
je me suis aperçu que certains voulaient commencer à générer et mettre en place des modèles génératifs dits non woke pour en fait propager certaines idées politiques.

103
00:06:08.835 --> 00:06:10.636
et des contenus de désinformation.

104
00:06:10.656 --> 00:06:11.816
Et c'est là où je me suis posé la question,

105
00:06:11.856 --> 00:06:14.377
est-ce qu'il est possible de détecter ce type de contenu

106
00:06:15.318 --> 00:06:15.698
Et donc,

107
00:06:16.178 --> 00:06:18.419
j'ai commencé à faire un état de l'art,

108
00:06:18.420 --> 00:06:19.460
à voir ce qui se faisait.

109
00:06:19.920 --> 00:06:24.002
Je me suis aperçu que tout le monde utilisait le même type de modèle basé sur du deep learning.

110
00:06:24.062 --> 00:06:24.322
En fait,

111
00:06:24.362 --> 00:06:32.365
j'ai choisi une autre voie en créant mon propre modèle basé sur des modèles mathématiques qui permet d'avoir un modèle qui soit plus léger,

112
00:06:32.886 --> 00:06:35.887
donc plus scalable et beaucoup plus flexible.

113
00:06:36.499 --> 00:06:41.042
C'est-à-dire qu'on peut l'adapter facilement à de nouvelles langues et de nouveaux types de médias.

114
00:06:41.402 --> 00:06:41.522
Ok,

115
00:06:41.883 --> 00:06:42.383
merci beaucoup.

116
00:06:42.443 --> 00:06:48.847
Et quelles incohérences peuvent être introduites dans les informations en ligne par les contenus générés par IA

117
00:06:49.668 --> 00:06:50.148
Donc en fait,

118
00:06:50.869 --> 00:06:53.631
peut-être pour vraiment aller sur un exemple,

119
00:06:53.791 --> 00:07:00.315
il y a une recherche de la BBC qui montre qu'en utilisant des modèles génératifs,

120
00:07:00.335 --> 00:07:01.876
et notamment dans le cadre de cette étude,

121
00:07:01.976 --> 00:07:04.218
ils ont utilisé quatre modèles qui sont Gimini,

122
00:07:04.838 --> 00:07:05.479
OpenAI...

123
00:07:05.919 --> 00:07:07.140
Copilot et

124
00:07:09.361 --> 00:07:10.021
Perplexity.

125
00:07:10.962 --> 00:07:11.462
Et en fait,

126
00:07:11.762 --> 00:07:15.524
ils ont demandé pendant six mois à ces modèles de récupérer de l'information.

127
00:07:15.624 --> 00:07:16.885
Et dans 51%

128
00:07:16.925 --> 00:07:17.345
des cas,

129
00:07:17.966 --> 00:07:20.887
cette information était au minimum de la mésinformation,

130
00:07:20.987 --> 00:07:24.649
donc avec des problèmes de vocabulaire qui voulaient exprimer d'autres idées.

131
00:07:25.370 --> 00:07:26.671
Et dans le pire des cas,

132
00:07:26.711 --> 00:07:27.311
dans 20%

133
00:07:27.312 --> 00:07:27.611
des cas,

134
00:07:27.631 --> 00:07:29.752
c'était totalement de la désinformation.

135
00:07:30.253 --> 00:07:30.553
Et en fait,

136
00:07:30.554 --> 00:07:30.973
ce qu'on voit,

137
00:07:31.033 --> 00:07:31.633
c'est que par exemple,

138
00:07:31.634 --> 00:07:34.415
on travaille avec un journal régional.

139
00:07:36.440 --> 00:07:41.523
et il y a de la reprise de contenu fait par des personnes qui vont régénérer ces articles-là.

140
00:07:42.144 --> 00:07:42.624
Et en fait,

141
00:07:43.725 --> 00:07:46.467
le modèle n'a pas conscience des informations qu'il va générer.

142
00:07:46.587 --> 00:07:46.807
Et donc,

143
00:07:46.827 --> 00:07:47.207
par exemple,

144
00:07:47.208 --> 00:07:48.488
on avait le cas avec un accident.

145
00:07:48.929 --> 00:07:50.109
Dans l'article originel,

146
00:07:50.970 --> 00:07:52.471
l'accident avait eu lieu à 15h30,

147
00:07:53.372 --> 00:07:54.653
et dans l'article régénéré,

148
00:07:54.733 --> 00:07:55.773
il avait eu lieu à 15h45.

149
00:07:56.514 --> 00:07:56.654
Donc,

150
00:07:56.974 --> 00:07:57.695
dans ce cadre-là,

151
00:07:58.415 --> 00:08:00.877
il n'y a pas mort d'homme,

152
00:08:01.137 --> 00:08:03.499
puisque ça va être une différence de 15 minutes.

153
00:08:03.539 --> 00:08:03.999
Par contre...

154
00:08:04.639 --> 00:08:05.320
Petit à petit,

155
00:08:05.440 --> 00:08:09.502
et c'est un peu le choix de la volonté de certaines politiques,

156
00:08:09.923 --> 00:08:10.863
notamment aux États-Unis,

157
00:08:11.364 --> 00:08:14.486
où ils veulent enlever et détruire Wikipédia,

158
00:08:14.706 --> 00:08:23.272
donc une source d'accès libre et qui essaye d'être autonome pour promouvoir l'histoire telle qu'elle est,

159
00:08:23.992 --> 00:08:29.055
et de promouvoir justement l'utilisation de modèles génératifs pour récupérer cette information.

160
00:08:29.576 --> 00:08:30.236
Et on voit que,

161
00:08:30.276 --> 00:08:30.837
par exemple,

162
00:08:30.897 --> 00:08:32.498
il y a une autre étude qui est sortie hier,

163
00:08:32.718 --> 00:08:33.799
dans 93%

164
00:08:33.859 --> 00:08:34.199
des cas,

165
00:08:35.299 --> 00:08:52.867
l'information de groc est de mauvaise qualité et donc en fait si on se base sur des faits qui sont faux on va juste être transporté dans une réalité parallèle et cette réalité parallèle petit à petit va devenir la réalité réelle

166
00:08:53.587 --> 00:08:57.969
et donc ça sera problématique pour nos futures générations.

167
00:08:58.929 --> 00:09:02.751
Alors justement l'usage de ces deepfakes en politique il est préoccupant.

168
00:09:02.752 --> 00:09:02.871
On

169
00:09:03.171 --> 00:09:05.333
On l'a vu lors de la campagne de Donald Trump,

170
00:09:05.373 --> 00:09:07.315
notamment avec l'exemple de Taylor Swift.

171
00:09:07.795 --> 00:09:08.196
En France,

172
00:09:08.236 --> 00:09:17.284
existe-t-il une définition légale de ce deepfake Une personne qui va être victime d'un deepfake malveillant dispose-t-elle d'un recours efficace en droit français,

173
00:09:17.424 --> 00:09:18.746
voire à l'échelle européenne

174
00:09:19.606 --> 00:09:21.428
Alors, c'est une bonne question qui,

175
00:09:21.468 --> 00:09:21.868
justement,

176
00:09:21.869 --> 00:09:25.652
a fait l'actualité pas plus tard qu'en 2024.

177
00:09:25.653 --> 00:09:28.655
On parlait tout à l'heure de l'article 226-8 du Code pénal.

178
00:09:29.067 --> 00:09:32.789
qui historiquement réprime le montage de l'image d'une personne ou des paroles d'une personne.

179
00:09:33.830 --> 00:09:36.051
Depuis la loi du 21 mai 2024,

180
00:09:36.171 --> 00:09:39.353
cet article sanctionne désormais les deepfakes,

181
00:09:40.213 --> 00:09:50.719
alors entendus comme les contenus visuels ou sonores qui sont générés par un traitement algorithmique et qui utilisent l'image ou les paroles d'une personne sans son consentement.

182
00:09:51.299 --> 00:09:52.800
Donc de tel contenu,

183
00:09:53.260 --> 00:09:58.343
la fabrication de tel contenu ou la diffusion de tel contenu est désormais punie d'un an d'emprisonnement et de...

184
00:09:58.523 --> 00:09:59.544
15 000 euros d'amende,

185
00:09:59.964 --> 00:10:07.210
qui peuvent être portées à deux ans d'emprisonnement et 45 000 euros d'amende lorsque ces contenus sont diffusés via un service de communication en ligne,

186
00:10:07.370 --> 00:10:08.131
comme une plateforme.

187
00:10:08.751 --> 00:10:09.372
Mais attention,

188
00:10:09.572 --> 00:10:11.033
tous les deepfakes ne sont pas sanctionnés.

189
00:10:11.554 --> 00:10:18.980
Cet article précise que l'infraction n'est commise que lorsqu'il n'apparaît pas évident qu'il s'agit d'un deepfake.

190
00:10:19.580 --> 00:10:20.381
Donc entre guillemets,

191
00:10:20.441 --> 00:10:21.982
si le deepfake est réaliste,

192
00:10:21.983 --> 00:10:23.503
qui est susceptible de tromper le public,

193
00:10:24.504 --> 00:10:26.825
c'est le seul cas où il pourrait être sanctionné.

194
00:10:28.206 --> 00:10:28.626
De même,

195
00:10:28.787 --> 00:10:31.729
s'il est expressément fait mention qu'il s'agit d'un deepfake,

196
00:10:31.849 --> 00:10:33.790
l'infraction n'est pas constituée.

197
00:10:34.691 --> 00:10:37.373
Donc deux cas de figure qui expliquent qu'en fait,

198
00:10:39.574 --> 00:10:42.476
la diffusion de certains deepfakes peut être considérée comme parfaitement licite,

199
00:10:42.916 --> 00:10:46.239
par exemple parce qu'il relève du droit à l'information du public,

200
00:10:46.759 --> 00:10:47.960
du droit à l'humour.

201
00:10:48.808 --> 00:10:49.189
Et en soi,

202
00:10:49.229 --> 00:10:52.851
l'utilisation de deepfake peut trouver des raisons parfaitement licites,

203
00:10:54.152 --> 00:10:54.532
tout comme,

204
00:10:54.592 --> 00:10:54.973
je dirais,

205
00:10:54.974 --> 00:10:57.715
les effets spéciaux qu'on connaît en matière cinématographique.

206
00:10:57.716 --> 00:11:02.118
Il peut y avoir des raisons légitimes de faire un deepfake dans le cadre d'un reportage d'actualité,

207
00:11:02.758 --> 00:11:05.400
s'il est bien précisé qu'il s'agit d'un deepfake ou si celui-ci,

208
00:11:05.480 --> 00:11:06.000
justement,

209
00:11:06.841 --> 00:11:08.342
est présenté tel quel.

210
00:11:09.063 --> 00:11:09.343
D'accord.

211
00:11:09.683 --> 00:11:16.708
Et quelles solutions ont été mises en place par les plateformes comme Instagram et LinkedIn pour lutter contre la désinformation générée par IA

212
00:11:18.856 --> 00:11:20.678
Aucune.

213
00:11:20.738 --> 00:11:22.259
Très rapide.

214
00:11:22.319 --> 00:11:23.640
Non,

215
00:11:24.621 --> 00:11:25.342
pour LinkedIn,

216
00:11:25.522 --> 00:11:28.344
ils ont mis en place une certification qui s'appelle C2PA,

217
00:11:29.225 --> 00:11:30.306
qui est poussée par

218
00:11:30.806 --> 00:11:33.628
Adobe, Microsoft et des gros comme ça,

219
00:11:33.869 --> 00:11:34.949
Reporters sans frontières.

220
00:11:35.730 --> 00:11:36.371
Et nous-mêmes,

221
00:11:36.391 --> 00:11:36.851
à NCOVEA,

222
00:11:36.951 --> 00:11:42.676
on est membre justement de cette certification.

223
00:11:43.496 --> 00:11:44.137
Le problème,

224
00:11:44.217 --> 00:11:47.260
c'est qu'avec la nouvelle élection de...

225
00:11:48.040 --> 00:11:48.940
président américain,

226
00:11:49.641 --> 00:12:02.004
il y a vraiment un changement d'orientation politique et un retour en arrière et notamment par exemple pour le cas de Meta et donc d'Instagram il y a un choix,

227
00:12:02.104 --> 00:12:03.585
par exemple quand on va poster une image,

228
00:12:03.705 --> 00:12:13.828
on a le choix de faire d'être déclaratif dans le sens où on peut dire cette image a été générée ou cette image est humaine le problème c'est que dans leur business modèle

229
00:12:14.460 --> 00:12:19.102
Les gens n'ont pas intérêt à dire qu'une image est générée parce que ça va être viral.

230
00:12:19.962 --> 00:12:20.343
Et donc,

231
00:12:20.603 --> 00:12:24.685
les réseaux sociaux ont tout à gagner de cette viralité au niveau business.

232
00:12:24.725 --> 00:12:24.865
Donc,

233
00:12:24.985 --> 00:12:25.445
actuellement,

234
00:12:25.446 --> 00:12:26.345
il n'y a pas grand-chose.

235
00:12:26.445 --> 00:12:28.166
Et avec la dernière élection américaine,

236
00:12:28.666 --> 00:12:30.187
je dirais qu'on est retourné en arrière,

237
00:12:30.227 --> 00:12:30.607
justement,

238
00:12:30.687 --> 00:12:35.930
avec la suppression du service de fact-checking chez Meta,

239
00:12:36.090 --> 00:12:36.510
notamment.

240
00:12:37.490 --> 00:12:38.251
Et donc,

241
00:12:38.271 --> 00:12:40.692
ça va poser de plus en plus de problèmes.

242
00:12:40.693 --> 00:12:41.252
Je pense que...

243
00:12:42.532 --> 00:12:43.413
Les réseaux sociaux,

244
00:12:43.414 --> 00:12:46.255
il n'y aura aucune régulation par eux-mêmes.

245
00:12:46.256 --> 00:12:47.796
Il va falloir vraiment mettre en place,

246
00:12:47.916 --> 00:12:52.899
au niveau des États et du cadre européen au moins pour commencer,

247
00:12:53.560 --> 00:13:02.766
à imposer certaines restrictions aux réseaux et mettre en place des outils qui soient capables de flaguer justement ce type de contenu.

248
00:13:03.426 --> 00:13:03.547
Ok.

249
00:13:04.407 --> 00:13:05.428
Alors en bref,

250
00:13:05.528 --> 00:13:11.052
la régulation européenne est-elle suffisamment armée face à cette prolifération des contenus

251
00:13:11.576 --> 00:13:13.076
trompeurs qui sont générés par l'IA.

252
00:13:13.857 --> 00:13:14.477
Alors justement,

253
00:13:14.478 --> 00:13:17.618
ça a été encore un sujet d'actualité en 2024.

254
00:13:17.619 --> 00:13:19.878
Vous avez parlé du deepfake de Taylor Swift.

255
00:13:20.718 --> 00:13:23.059
Il y en a eu aussi au sein de l'Union européenne.

256
00:13:23.779 --> 00:13:24.800
En 2023,

257
00:13:24.920 --> 00:13:28.180
lors des élections législatives organisées en Slovaquie,

258
00:13:29.541 --> 00:13:32.822
un deepfake sonore a été diffusé la veille du scrutin.

259
00:13:33.882 --> 00:13:40.464
Deepfake sonore d'une prétendue conversation entre la tête de liste qui était favori...

260
00:13:41.344 --> 00:13:47.186
des sondages et une journaliste laissant entendre qu'ils s'organisaient pour provoquer une fraude électorale.

261
00:13:48.106 --> 00:13:51.527
Et c'est finalement une autre liste qui est arrivée en tête des résultats,

262
00:13:51.528 --> 00:13:56.108
ce qui laisse penser que cette manipulation ait pu avoir un impact sur le scrutin.

263
00:13:56.768 --> 00:13:57.388
Alors justement,

264
00:13:57.428 --> 00:13:59.609
l'Union européenne s'est saisie du problème.

265
00:13:59.769 --> 00:14:05.030
C'est pour cette raison que l'article 35 du règlement sur les services numériques,

266
00:14:05.031 --> 00:14:06.951
le fameux Digital Services Act,

267
00:14:07.591 --> 00:14:10.512
incite les plateformes à identifier...

268
00:14:11.112 --> 00:14:14.975
les contenus qui sont générés par intelligence artificielle.

269
00:14:15.535 --> 00:14:16.976
Alors dans le DSA,

270
00:14:17.056 --> 00:14:20.198
ça n'est qu'une mesure recommandée à l'égard des très grandes plateformes,

271
00:14:21.639 --> 00:14:24.721
mais on espère évidemment qu'elles vont pouvoir se saisir de cet outil.

272
00:14:25.542 --> 00:14:28.924
Et c'est là évidemment qu'on aura besoin de moyens techniques,

273
00:14:28.925 --> 00:14:30.845
qui permettent a posteriori,

274
00:14:30.946 --> 00:14:31.826
après leur diffusion,

275
00:14:31.946 --> 00:14:35.769
d'identifier plus facilement ces contenus et de les marquer.

276
00:14:36.409 --> 00:14:39.291
Le règlement sur l'intelligence artificielle de 2024,

277
00:14:39.371 --> 00:14:39.491
lui,

278
00:14:39.531 --> 00:14:40.432
est allé encore plus loin.

279
00:14:41.284 --> 00:14:48.806
puisqu'il impose aux déployeurs et aux fournisseurs de systèmes d'IA d'intégrer ces dispositifs de marquage dès leur conception,

280
00:14:49.867 --> 00:14:52.908
de sorte qu'il sera possible de générer des deepfakes,

281
00:14:52.928 --> 00:14:56.049
mais ceux-ci seront ou devraient être automatiquement identifiés,

282
00:14:56.549 --> 00:14:57.329
comme ayant été créés,

283
00:14:57.330 --> 00:14:58.850
par intelligence artificielle,

284
00:14:59.410 --> 00:15:00.730
de sorte qu'il ne soit pas de nature,

285
00:15:00.770 --> 00:15:01.250
évidemment,

286
00:15:01.310 --> 00:15:02.411
à tromper le public,

287
00:15:02.911 --> 00:15:04.751
notamment en période électorale,

288
00:15:04.771 --> 00:15:06.512
ce qui est un grand sujet de préoccupation.

289
00:15:07.060 --> 00:15:11.823
Quel est l'avenir du projet Uncov en matière de détection des contenus générés par IA,

290
00:15:12.263 --> 00:15:13.684
notamment dans les domaines de l'audio,

291
00:15:13.804 --> 00:15:14.364
de la vidéo

292
00:15:17.846 --> 00:15:18.106
Donc là,

293
00:15:18.326 --> 00:15:21.548
on est une petite équipe et on va commencer à recruter.

294
00:15:22.581 --> 00:15:25.583
On a été labellisé Deep Tech par la BPI,

295
00:15:25.643 --> 00:15:29.166
donc ça permet d'avoir des premiers financements publics.

296
00:15:29.326 --> 00:15:29.446
Là,

297
00:15:29.447 --> 00:15:33.710
on va commencer à recruter justement pour développer le modèle d'audio.

298
00:15:35.471 --> 00:15:37.032
Suite au développement du modèle audio,

299
00:15:37.033 --> 00:15:39.274
le but sera de développer un modèle vidéo.

300
00:15:39.454 --> 00:15:39.715
Comme ça,

301
00:15:39.716 --> 00:15:44.659
ça nous permettra d'avoir une solution horizontale pour couvrir texte,

302
00:15:44.799 --> 00:15:45.159
image,

303
00:15:45.299 --> 00:15:46.240
audio et vidéo.

304
00:15:47.141 --> 00:15:47.401
Après,

305
00:15:47.421 --> 00:15:47.841
le but,

306
00:15:48.062 --> 00:15:49.163
c'est de travailler,

307
00:15:49.183 --> 00:15:50.844
que ce soit avec des entreprises,

308
00:15:51.540 --> 00:15:57.503
et des gouvernements pour justement les aider à authentifier l'origine d'un contenu,

309
00:15:58.224 --> 00:16:06.308
et après toujours aider le citoyen à prendre un peu d'abstraction devant les informations qu'il va consommer,

310
00:16:06.548 --> 00:16:07.569
que ce soit sur les réseaux,

311
00:16:07.769 --> 00:16:09.610
en ligne ou autre,

312
00:16:09.670 --> 00:16:20.476
pour justement radoucir un peu la société et éviter tous ces biais qui sont en train d'être propagés par différents partis politiques,

313
00:16:20.477 --> 00:16:20.856
par exemple.

314
00:16:22.069 --> 00:16:23.310
Merci pour votre réponse.

315
00:16:23.390 --> 00:16:23.911
Merci M.

316
00:16:24.152 --> 00:16:24.833
Barbaro et M.

317
00:16:25.013 --> 00:16:26.655
Mouron pour votre participation.

318
00:16:27.096 --> 00:16:29.319
Nous espérons que cet épisode vous a intéressé.

319
00:16:29.680 --> 00:16:31.562
N'hésitez pas à le partager autour de vous,

320
00:16:31.662 --> 00:16:35.909
à nous faire part de vos retours et nous suggérer des thématiques pour les prochains épisodes.

321
00:16:36.109 --> 00:16:38.132
A très bientôt pour un nouvel épisode de CodeCast.