The Japan Times - "Cela peut détruire une vie": des adolescentes américaines victimes de faux nus créés par l'IA

EUR -
AED 4.028994
AFN 70.758022
ALL 90.062914
AMD 395.9236
ANG 1.963936
AOA 1005.87951
ARS 1715.932817
AUD 1.648828
AWG 1.974463
AZN 1.869118
BAM 1.952541
BBD 2.21022
BDT 136.49215
BGN 1.945362
BHD 0.413815
BIF 3296.256235
BMD 1.096924
BND 1.415151
BOB 12.900582
BRL 6.510252
BSD 1.097323
BTN 102.308027
BWP 15.501476
BYN 3.281487
BYR 21499.70789
BZD 2.207126
CAD 1.573587
CDF 2500.986166
CHF 0.9261
CLF 0.0283
CLP 1113.826948
CNY 7.312807
CNH 7.336556
COP 3763.085097
CRC 491.259772
CUC 1.096924
CUP 26.338033
CVE 110.542511
CZK 24.433705
DJF 194.945209
DKK 7.474308
DOP 65.965795
DZD 150.46069
EGP 59.026477
ERN 16.453858
ETB 176.928112
FJD 2.532246
FKP 0.834079
GBP 0.838198
GEL 2.846508
GGP 0.834079
GHS 12.916261
GIP 0.834079
GMD 81.17248
GNF 9718.745312
GTQ 8.389651
GYD 229.486116
HKD 8.60302
HNL 29.682937
HRK 7.494146
HTG 143.881127
HUF 373.394192
IDR 20032.02375
ILS 3.618702
IMP 0.834079
INR 102.337787
IQD 1660.742742
IRR 2125086.521474
ISK 137.203155
JEP 0.834079
JMD 173.680071
JOD 0.777742
JPY 175.268139
KES 142.654244
KGS 95.92625
KHR 4469.964737
KMF 492.519099
KPW 987.231869
KRW 1464.815721
KWD 0.342207
KYD 0.914594
KZT 494.077474
LAK 24713.694534
LBP 98229.532741
LKR 365.265267
LRD 184.008778
LSL 19.190724
LTL 3.238931
LVL 0.663518
LYD 7.091585
MAD 10.935779
MDL 20.137842
MGA 5029.39572
MKD 61.554656
MMK 2303.32229
MNT 3949.818889
MOP 8.867334
MRU 44.606427
MUR 51.380089
MVR 16.903386
MWK 1905.356681
MXN 20.946917
MYR 4.511863
MZN 70.104816
NAD 19.190698
NGN 1482.887198
NIO 40.520667
NOK 10.721438
NPR 163.723185
NZD 2.001299
OMR 0.42176
PAB 1.097478
PEN 3.782193
PGK 4.959215
PHP 69.996891
PKR 303.244741
PLN 4.437567
PYG 6880.514151
QAR 3.996138
RON 5.348489
RSD 117.690079
RUB 90.117329
RWF 1620.156559
SAR 4.117276
SBD 8.91867
SCR 15.302915
SDG 659.804038
SEK 11.186418
SGD 1.417105
SHP 0.83429
SLE 25.012358
SLL 23001.949153
SOS 627.989411
SRD 40.980751
STD 22704.109469
STN 24.79048
SVC 9.601971
SYP 14262.204553
SZL 19.207293
THB 37.274606
TJS 10.094455
TMT 3.850203
TND 3.344247
TOP 2.64113
TRY 55.478696
TTD 7.446603
TWD 36.239186
TZS 2917.815293
UAH 49.436574
UGX 4647.242219
USD 1.096924
UYU 44.545639
UZS 13157.601889
VES 1006.556816
VND 28251.274322
VUV 132.671979
WST 3.096925
XAF 655.957
XAG 0.025649
XAU 0.000303484188
XCD 2.964492
XCG 1.977807
XDR 0.775582
XOF 655.957
XPF 119.331742
YER 259.477338
ZAR 19.20514
ZMK 9873.628002
ZMW 22.552558
ZWL 353.209039
SSP 6449.472825
MXV 2.348687
  • AEX

    -1.6800

    1118.52

    -0.15%

  • BEL20

    -9.6000

    5637.54

    -0.17%

  • PX1

    -36.9600

    7998.54

    -0.46%

  • ISEQ

    13.0500

    14517.8

    +0.09%

  • OSEBX

    -1.6600

    2073.83

    -0.08%

  • PSI20

    72.5000

    9738.69

    +0.75%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    9.8600

    4491.39

    +0.22%

  • N150

    -2.9600

    4224.74

    -0.07%

"Cela peut détruire une vie": des adolescentes américaines victimes de faux nus créés par l'IA
"Cela peut détruire une vie": des adolescentes américaines victimes de faux nus créés par l'IA / Photo: Stefani REYNOLDS - AFP/Archives

"Cela peut détruire une vie": des adolescentes américaines victimes de faux nus créés par l'IA

Ellis, adolescente texane de 14 ans, s'est réveillée un matin d'octobre avec plusieurs appels manqués et messages affolés sur son téléphone. De fausses photographies d'elle, dénudée, circulaient sur les réseaux sociaux.

Taille du texte:

"C'étaient des photos d'une de mes meilleures amies et de moi tirées d'Instagram. Des corps nus avaient été édités dessus", raconte la collégienne à l'AFP.

"Je me souviens avoir eu très très peur car ces faux nus étaient en train d'être envoyés autour de moi. Et je n'ai jamais rien fait de tel".

Comme plusieurs camarades de son collège de la périphérie de Dallas, au Texas, la jeune fille a été victime de montages hyperréalistes (deepfakes) à caractère sexuel, fabriqués sans leur consentement par un élève puis partagés sur le réseau Snapchat.

Avec la popularisation de l'intelligence artificielle (IA), il est devenu plus facile de fabriquer ces montages photo ou vidéo et de les rendre hyperréalistes, ouvrant la voie à leur utilisation à des fins de harcèlement ou d'humiliation.

"Les filles ne faisaient que pleurer, et pleurer à ne plus en finir, elles avaient honte", se souvient Anna Berry McAdams, mise au courant immédiatement par sa fille Ellis.

"Elle me disait: +Maman, on dirait moi+, et je lui répondais +mais non ma chérie, j'étais avec toi quand la photo a été prise et je sais que ce n'est pas le cas+", poursuit la quinquagénaire, qui se dit "horrifiée" par le réalisme des clichés.

- Quelques dollars -

Fin octobre, d'autres "deepfakes" à caractère sexuel ont été découverts dans un lycée du New Jersey, au nord-est des Etats-Unis. Une enquête a été ouverte pour identifier toutes les victimes et le ou les auteurs.

"Nous commençons à voir de plus en plus de cas émerger (...) mais en matière d'abus sexuels, de +revenge porn+ (divulgation malveillante d'images intimes) ou de +deepfakes pornographiques+, beaucoup de personnes ne se manifestent pas et souffrent en silence parce qu'elles ont peur de rendre l'affaire publique", expose Renée Cummings, criminologue et chercheuse en intelligence artificielle.

S'il est impossible d'évaluer l'ampleur du phénomène, "n'importe qui ayant un smartphone et quelques dollars peut maintenant fabriquer un +deepfake+", précise cette professeure de l'Université de Virginie.

Et ce, grâce aux récents progrès et à la démocratisation de l'IA générative, capable de produire textes, lignes de code, images et sons sur simple requête en langage courant.

De fait, les montages hyperréalistes, qui touchaient auparavant à l'image des célébrités "ayant des tas et des tas de photos et de vidéos d'eux en ligne" concernent à présent tout un chacun, explique Hany Farid, professeur à l'Université de Californie à Berkeley.

"Si vous avez un profil LinkedIn avec une photo de votre tête, quelqu'un peut créer une image sexuelle de vous", poursuit ce spécialiste en détection d'images manipulées numériquement, notant que ces montages "visent principalement les femmes et les jeunes filles".

- "Traumatisme bien réel"-

Face à cette menace grandissante, les systèmes scolaires et judiciaires apparaissent dépassés.

"Bien que votre visage ait été superposé à un corps, ce corps n'est pas vraiment le vôtre, donc ce n'est pas comme si quelqu'un avait partagé un nu de vous" aux yeux de la loi, explique Mme Cummings.

Aux Etats-Unis, aucune loi fédérale ne punit la fabrication et la transmission de fausses images à caractère sexuel, et seule une poignée d'Etats dispose de législations spécifiques.

Fin octobre, Joe Biden a exhorté les législateurs à instaurer des garde-fous, afin d'empêcher notamment "l'IA générative de produire des contenus pédocriminels ou des images intimes non consenties de personnes réelles".

Si la responsabilité des créateurs de ces images -aujourd'hui difficilement identifiables- est centrale, celle des entreprises derrière les sites ou logiciels utilisés, et des réseaux sociaux, vecteurs des contenus, doit aussi être posée, insiste M. Farid.

Car si ces images sont fausses, "le traumatisme est lui bien réel", abonde Renée Cummings, décrivant des personnes "souffrant d'anxiété, de crises de panique, de dépression ou encore de syndromes post-traumatiques après avoir été victimes de +deepfakes pornographiques". "Cela peut détruire une vie".

La texane Ellis, qui se décrit comme une adolescente "sociable" et sportive, raconte avoir à présent "constamment peur", bien que l'élève à l'origine des "deepfakes" ait été identifié et exclu temporairement du collège.

"Je ne sais pas combien de photos il a pu faire ni combien de personnes ont pu les recevoir", explique-t-elle, disant avoir demandé à changer d'établissement scolaire.

Face à cette inconnue, sa mère se mobilise pour faire reconnaître ces images comme de la "pornographie infantile" et les voir punir comme telles.

"Cela pourrait les affecter toute leur vie. Cela ne va jamais sortir d'internet. Donc quand elles vont postuler à l'université par exemple, qui sait si (ces images) ne vont pas resurgir?", s'inquiète Anna Berry McAdams.

T.Ikeda--JT