The Japan Times - L'IA devient menteuse et manipulatrice, les chercheurs s'inquiètent

EUR -
AED 4.04331
AFN 70.462175
ALL 90.791412
AMD 394.704015
ANG 1.97118
AOA 1010.14213
ARS 1706.360552
AUD 1.633801
AWG 1.984498
AZN 1.868669
BAM 1.958798
BBD 2.220798
BDT 137.280079
BGN 1.952537
BHD 0.416339
BIF 3311.097037
BMD 1.10097
BND 1.421388
BOB 12.861624
BRL 6.368559
BSD 1.102617
BTN 103.494087
BWP 15.434039
BYN 3.313285
BYR 21579.008299
BZD 2.217594
CAD 1.574299
CDF 2552.048687
CHF 0.923543
CLF 0.027917
CLP 1098.746278
CNY 7.337469
CNH 7.338432
COP 3652.170087
CRC 491.354149
CUC 1.10097
CUP 26.462495
CVE 110.433997
CZK 24.408723
DJF 196.355833
DKK 7.475079
DOP 67.012854
DZD 150.841664
EGP 59.066593
ERN 16.514547
ETB 180.973543
FJD 2.52871
FKP 0.834939
GBP 0.834177
GEL 2.856966
GGP 0.834939
GHS 12.916708
GIP 0.834939
GMD 80.925701
GNF 9769.038265
GTQ 8.426896
GYD 230.701995
HKD 8.638281
HNL 29.652377
HRK 7.521787
HTG 144.502444
HUF 364.041182
IDR 20073.211888
ILS 3.576776
IMP 0.834939
INR 103.014224
IQD 1671.557981
IRR 2119646.533026
ISK 136.806197
JEP 0.834939
JMD 174.827538
JOD 0.780552
JPY 175.267239
KES 143.180845
KGS 96.279148
KHR 4521.165119
KMF 492.690695
KPW 990.873215
KRW 1473.769003
KWD 0.342886
KYD 0.918906
KZT 490.59075
LAK 24825.991148
LBP 98739.348983
LKR 366.951545
LRD 187.440882
LSL 18.684277
LTL 3.250878
LVL 0.665966
LYD 7.124096
MAD 10.990669
MDL 20.166953
MGA 5015.812359
MKD 61.563722
MMK 2311.841621
MNT 3969.53604
MOP 8.910369
MRU 44.77372
MUR 52.69271
MVR 16.965428
MWK 1911.925815
MXN 20.372571
MYR 4.504033
MZN 70.362936
NAD 18.684192
NGN 1481.993185
NIO 40.572456
NOK 10.618639
NPR 165.590138
NZD 2.003556
OMR 0.423322
PAB 1.102582
PEN 3.760254
PGK 5.033886
PHP 70.153527
PKR 304.880666
PLN 4.399619
PYG 6842.657755
QAR 4.030568
RON 5.343335
RSD 117.604483
RUB 90.938097
RWF 1628.89269
SAR 4.142996
SBD 8.916051
SCR 15.718357
SDG 662.234154
SEK 11.100726
SGD 1.417978
SHP 0.835175
SLE 25.377116
SLL 23086.79049
SOS 630.164339
SRD 41.235173
STD 22787.852242
STN 24.538443
SVC 9.647764
SYP 14314.809856
SZL 18.679094
THB 37.233678
TJS 10.160225
TMT 3.864404
TND 3.333201
TOP 2.650872
TRY 55.507812
TTD 7.48846
TWD 36.280238
TZS 2919.769741
UAH 50.121867
UGX 4575.981831
USD 1.10097
UYU 44.767084
UZS 13242.264602
VES 1006.950951
VND 28333.458091
VUV 133.04769
WST 3.085694
XAF 655.957
XAG 0.023144
XAU 0.000284119775
XCD 2.975426
XCG 1.987141
XDR 0.778443
XOF 655.957
XPF 119.331742
YER 260.371464
ZAR 18.669029
ZMK 9910.054163
ZMW 22.576549
ZWL 354.51183
SSP 6547.415991
MXV 2.285484
  • AEX

    -1.6800

    1118.52

    -0.15%

  • BEL20

    -9.6000

    5637.54

    -0.17%

  • PX1

    -36.9600

    7998.54

    -0.46%

  • ISEQ

    13.0500

    14517.8

    +0.09%

  • OSEBX

    -1.6600

    2073.83

    -0.08%

  • PSI20

    72.5000

    9738.69

    +0.75%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    9.8600

    4491.39

    +0.22%

  • N150

    -2.9600

    4224.74

    -0.07%

L'IA devient menteuse et manipulatrice, les chercheurs s'inquiètent
L'IA devient menteuse et manipulatrice, les chercheurs s'inquiètent / Photo: HENRY NICHOLLS - AFP/Archives

L'IA devient menteuse et manipulatrice, les chercheurs s'inquiètent

Les derniers modèles d'intelligence artificielle (IA) générative ne se contentent plus de suivre les ordres et vont jusqu'à mentir, manigancer ou menacer pour parvenir à leurs fins, sous le regard inquiet des chercheurs.

Taille du texte:

Menacé d'être débranché, Claude 4, le nouveau-né d'Anthropic, fait du chantage à un ingénieur et menace de révéler une liaison extra-conjugale. L'o1 d'OpenAI essaye lui de se télécharger sur des serveurs extérieurs et nie lorsqu'on le prend la main dans le sac.

Pas besoin d'aller fouiller dans la littérature ou le cinéma, l'IA qui se joue de l'homme est désormais une réalité.

Pour Simon Goldstein, professeur à l'université de Hong Kong, ces dérapages tiennent de l'émergence récente des modèles dits de "raisonnement", capables de travailler par étapes plutôt que de produire une réponse instantanée.

o1, version initiale du genre pour OpenAI, sorti en décembre, "a été le premier modèle à se comporter ainsi", explique Marius Hobbhahn, patron d'Apollo Research, qui teste les grands programmes d'IA générative (LLM).

Ces programmes tendent aussi parfois à simuler "l'alignement", c'est-à-dire à donner l'impression qu'ils se plient aux consignes d'un programmeur tout en poursuivant, en fait, d'autres objectifs.

Pour l'heure, ces traits se manifestent lorsque les algorithmes sont soumis à des scénarios extrêmes par des humains, mais "la question, c'est de savoir si les modèles de plus en plus puissants auront tendance à être honnêtes ou pas", estime Michael Chen, de l'organisme d'évaluation METR.

"Les utilisateurs poussent tout le temps les modèles aussi", fait valoir Marius Hobbhahn. "Ce que nous observons est un vrai phénomène. Nous n'inventons rien."

Beaucoup d'internautes évoquent, sur les réseaux sociaux, "un modèle qui leur ment ou invente. Et ce ne sont pas des hallucinations, mais une duplicité stratégique", insiste le co-fondateur d'Apollo Research.

Même si Anthropic et OpenAI font appel à des sociétés extérieures, comme Apollo, pour étudier leurs programmes, "davantage de transparence et un accès élargi" à la communauté scientifique "permettraient de meilleures recherches pour comprendre et prévenir la tromperie", suggère Michael Chen.

Autre handicap, "le monde de la recherche et les organisations indépendantes ont infiniment moins de ressources informatiques que les acteurs de l'IA", ce qui rend "impossible" l'examen de grands modèles, souligne Mantas Mazeika, du Centre pour la sécurité de l'intelligence artificielle (CAIS).

Si l'Union européenne s'est dotée d'une législation, elle concerne surtout l'utilisation des modèles par des humains.

Aux Etats-Unis, le gouvernement de Donald Trump ne veut pas entendre parler de régulation et le Congrès pourrait même bientôt interdire aux Etats d'encadrer l'IA.

- L'IA en justice? -

"Il y a très peu de prise de conscience pour l'instant", constate Simon Goldstein, qui voit néanmoins le sujet s'imposer dans les mois à venir avec la révolution des agents IA, des interfaces à même de réaliser seules une multitude de tâches.

Les ingénieurs sont engagés dans une course derrière l'IA et ses dérives, à l'issue incertaine, dans un contexte de compétition féroce.

Anthropic se veut plus vertueux que ses concurrents, "mais il essaye en permanence de sortir un nouveau modèle pour dépasser OpenAI", selon Simon Goldstein, une cadence qui offre peu de temps pour des vérifications et corrections éventuelles.

"En l'état, les capacités (de l'IA) se développent plus rapidement que la compréhension et la sécurité", reconnaît Marius Hobbhahn, "mais nous sommes toujours en mesure de rattraper notre retard".

Certains pointent dans la direction de l'interprétabilité, une science récente qui consiste à décrypter de l'intérieur le fonctionnement d'un modèle d'IA générative, même si d'autres, notamment le directeur du CAIS, Dan Hendrycks, sont sceptiques.

Les combines de l'IA "pourraient gêner son adoption si elles se multiplient, ce qui constitue une forte incitation pour les entreprises (du secteur) à résoudre" ce problème, selon Mantas Mazeika.

Simon Goldstein évoque, lui, le recours à la justice pour mettre au pas l'intelligence artificielle, en se tournant vers les sociétés en cas de sortie de route.

Mais il va plus loin et propose même de "tenir légalement responsables" les agents IA "en cas d'accident ou de crime".

M.Ito--JT