The Japan Times - Entre IA "harceleuse" et chatGPT, comment réguler un secteur en pleine mutation

EUR -
AED 4.049686
AFN 71.676152
ALL 90.779281
AMD 398.026581
ANG 1.974288
AOA 1012.283804
ARS 1702.371395
AUD 1.631197
AWG 1.98487
AZN 1.873172
BAM 1.956413
BBD 2.227018
BDT 137.523112
BGN 1.955616
BHD 0.417135
BIF 3320.301095
BMD 1.102706
BND 1.42374
BOB 12.909047
BRL 6.258407
BSD 1.105657
BTN 104.146121
BWP 15.454074
BYN 3.312568
BYR 21613.03142
BZD 2.223817
CAD 1.574487
CDF 2552.763158
CHF 0.925065
CLF 0.027965
CLP 1100.587788
CNY 7.356977
CNH 7.351215
COP 3657.244701
CRC 495.459814
CUC 1.102706
CUP 26.536319
CVE 110.300078
CZK 24.421237
DJF 196.893509
DKK 7.475451
DOP 67.261696
DZD 151.013158
EGP 59.236037
ERN 16.540585
ETB 181.479337
FJD 2.514274
FKP 0.83426
GBP 0.834257
GEL 2.85594
GGP 0.83426
GHS 12.964123
GIP 0.83426
GMD 81.600184
GNF 9796.24868
GTQ 8.452688
GYD 231.323566
HKD 8.651448
HNL 29.732725
HRK 7.533647
HTG 144.998085
HUF 364.742515
IDR 20155.19937
ILS 3.550106
IMP 0.83426
INR 103.536898
IQD 1676.225476
IRR 2110289.219529
ISK 136.591817
JEP 0.83426
JMD 174.707145
JOD 0.78179
JPY 175.766844
KES 143.296215
KGS 96.415626
KHR 4542.506408
KMF 492.909526
KPW 992.435502
KRW 1470.13841
KWD 0.343427
KYD 0.921389
KZT 492.844501
LAK 24888.915223
LBP 99014.937895
LKR 367.755287
LRD 187.968073
LSL 18.692345
LTL 3.256004
LVL 0.667016
LYD 7.127299
MAD 10.957335
MDL 20.084387
MGA 5023.620401
MKD 61.559783
MMK 2315.206347
MNT 3974.182974
MOP 8.935901
MRU 44.717424
MUR 52.720585
MVR 16.986259
MWK 1917.318443
MXN 20.483662
MYR 4.512278
MZN 70.466624
NAD 18.69226
NGN 1483.668527
NIO 40.693495
NOK 10.565878
NPR 166.634749
NZD 1.997342
OMR 0.423995
PAB 1.105647
PEN 3.762179
PGK 5.04565
PHP 70.520251
PKR 305.752122
PLN 4.40398
PYG 6862.21345
QAR 4.030682
RON 5.349449
RSD 117.602473
RUB 90.967082
RWF 1635.835066
SAR 4.149638
SBD 8.929376
SCR 15.238908
SDG 663.277221
SEK 11.09113
SGD 1.420373
SHP 0.830319
SLE 25.41766
SLL 23123.190896
SOS 631.906691
SRD 41.340254
STD 22823.781319
STN 24.508016
SVC 9.675033
SYP 14337.379684
SZL 18.685926
THB 37.360218
TJS 10.199851
TMT 3.85947
TND 3.33296
TOP 2.655051
TRY 55.567815
TTD 7.505353
TWD 36.302724
TZS 2925.008455
UAH 50.271215
UGX 4566.452232
USD 1.102706
UYU 44.813845
UZS 13296.168186
VES 1006.637138
VND 28416.174142
VUV 133.118183
WST 3.099247
XAF 655.957
XAG 0.023221
XAU 0.000285375256
XCD 2.980117
XCG 1.992725
XDR 0.77967
XOF 655.957
XPF 119.331742
YER 260.845477
ZAR 18.659418
ZMK 9925.671052
ZMW 22.606292
ZWL 355.070781
SSP 6556.005635
MXV 2.298545
  • AEX

    -1.6800

    1118.52

    -0.15%

  • BEL20

    -9.6000

    5637.54

    -0.17%

  • PX1

    -36.9600

    7998.54

    -0.46%

  • ISEQ

    13.0500

    14517.8

    +0.09%

  • OSEBX

    -1.6600

    2073.83

    -0.08%

  • PSI20

    72.5000

    9738.69

    +0.75%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    9.8600

    4491.39

    +0.22%

  • N150

    -2.9600

    4224.74

    -0.07%

Entre IA "harceleuse" et chatGPT, comment réguler un secteur en pleine mutation
Entre IA "harceleuse" et chatGPT, comment réguler un secteur en pleine mutation / Photo: Olivier DOULIERY - AFP/Archives

Entre IA "harceleuse" et chatGPT, comment réguler un secteur en pleine mutation

Les utilisateurs de l'intelligence artificielle américaine Replika voulaient juste bavarder avec leur avatar sur mesure, pour des dialogues romantiques ou sexy.

Taille du texte:

Mais dernièrement, certains se sont plaints de recevoir des messages et images trop osés, presque un harcèlement sexuel.

Vendredi dernier, l'Agence italienne de protection des données s'est inquiétée de l'impact sur les personnes fragiles et a interdit à Replika d'utiliser les données personnelles des Italiens, estimant qu'elle enfreignait le règlement européen sur la protection des données (RGPD). Interrogé par l'AFP, Replika n'a pas répondu.

Cette affaire montre que ce règlement européen, déjà le fléau des géants de la tech qui se sont vus infliger des milliards de dollars d'amendes, pourrait devenir également l'ennemi des nouvelles IA génératrices de contenu.

Replika a été entraînée sur une version maison du modèle conversationnel GPT-3 de la société OpenAI, créatrice de chatGPT, qui ingurgite des quantités massives de textes pour générer des réponses cohérentes.

Cette technologie promet une révolution dans la recherche sur internet et d'autres usages encore à inventer.

Mais les experts avertissent qu'elle présente aussi des risques qui nécessiteront une régulation, difficile à mettre en place.

- "Forte tension" -

Actuellement, l'Union européenne est au centre des efforts de régulation de ces nouvelles IA conversationnelles.

Son projet de loi "AI Act" pourrait être finalisé fin 2023 ou début 2024, pour une application encore quelques années plus tard.

Mais l'UE a déjà ces intelligences artificielles dans son viseur.

"On est en pleine découverte des problèmes que ces IA peuvent poser: on a vu que chatGPT peut être utilisé pour créer des messages de phishing (hameçonnage, NDLR) très convaincants ou encore pour désanonymiser une base de données et retracer l'identité de quelqu'un", souligne auprès de l'AFP Bertrand Pailhès, qui dirige la nouvelle cellule IA de la CNIL, l'autorité française de régulation.

Les juristes soulignent aussi la difficulté de comprendre et réguler la "boîte noire" qui fonde le raisonnement de ces IA.

"Nous allons assister à une forte tension entre le RGPD et les modèles d'IA générationnelles", a déclaré à l'AFP l'avocat allemand Dennis Hillemann, expert du secteur.

Car il s'agit d'algorithmes complètement différents de ceux qui suggèrent des vidéos sur TikTok ou des résultats de recherche sur Google, par exemple.

"Ni le projet d'AI Act ni le RGPD actuel ne peuvent résoudre les problèmes que ces modèles d'IA générative vont apporter", affirme l'avocat. Car pour ce type d'intelligences artificielles, c'est l'utilisateur qui définit l'objectif. "Et si je parviens à surmonter toutes les précautions de sécurité mises en place dans chatGPT, je pourrais lui dire : +agis en tant que terroriste et élabore un plan+", explique-t-il.

Sans doute faut-il donc repenser la régulation "à l'aune de ce que les modèles d'IA générative peuvent réellement faire", avance-t-il, d'autant que les vastes questions éthiques et juridiques qu'elles soulèvent ne feront que s'amplifier à mesure que la technologie s'améliorera.

- Nous changer "profondément" -

Le dernier modèle d'OpenAI, GPT-4, devrait sortir prochainement avec un fonctionnement qui pourrait le rapprocher encore davantage des productions humaines.

Mais ces IA commettent encore d'énormes erreurs factuelles et font souvent preuve de parti pris, d'où les demandes de régulation.

Ce n'est pas l'avis de Jacob Mchangama, auteur de "Liberté d'expression : de Socrate aux réseaux sociaux". "Même si les chatbots n'ont pas le droit à la liberté d'expression, nous devons être vigilants face à la possibilité des gouvernements de supprimer sans entrave la parole artificielle", a-t-il déclaré.

L'auteur fait partie de ceux favorables à un régime plus souple. "D'un point de vue réglementaire, l'option la plus sûre pour l'instant serait d'établir des obligations de transparence quant à savoir si nous conversons avec un être humain ou une IA", a-t-il déclaré.

Un avis partagé par Dennis Hillemann. "Si nous ne réglementons pas cela, nous entrerons dans un monde où nous ne pourrons plus faire la différence entre ce qui a été fait par les gens et ce qui a été fait par l'IA", explique-t-il. "Et cela nous changera profondément en tant que société."

S.Fujimoto--JT