The Japan Times - Bing débloque: pourquoi l'intelligence artificielle semble exprimer des émotions

EUR -
AED 4.042864
AFN 71.555478
ALL 90.626386
AMD 396.789587
ANG 1.970962
AOA 1010.579203
ARS 1699.438636
AUD 1.630164
AWG 1.981527
AZN 1.870698
BAM 1.953118
BBD 2.223267
BDT 137.291487
BGN 1.952322
BHD 0.416432
BIF 3314.708844
BMD 1.100848
BND 1.421342
BOB 12.887305
BRL 6.26559
BSD 1.103794
BTN 103.970712
BWP 15.428045
BYN 3.306989
BYR 21576.629451
BZD 2.220072
CAD 1.572551
CDF 2548.464071
CHF 0.925048
CLF 0.027971
CLP 1100.859145
CNY 7.344586
CNH 7.340182
COP 3651.084949
CRC 494.62533
CUC 1.100848
CUP 26.491625
CVE 110.114304
CZK 24.43114
DJF 196.561889
DKK 7.475795
DOP 67.148409
DZD 150.83203
EGP 59.060739
ERN 16.512727
ETB 181.173679
FJD 2.510041
FKP 0.832855
GBP 0.834498
GEL 2.851402
GGP 0.832855
GHS 12.942288
GIP 0.832855
GMD 81.462736
GNF 9779.749248
GTQ 8.438452
GYD 230.933957
HKD 8.637758
HNL 29.682648
HRK 7.520958
HTG 144.75387
HUF 364.714942
IDR 20106.996782
ILS 3.546823
IMP 0.832855
INR 103.392071
IQD 1673.402276
IRR 2106734.940616
ISK 136.592545
JEP 0.832855
JMD 174.412893
JOD 0.780549
JPY 175.638717
KES 143.164967
KGS 96.268533
KHR 4534.855646
KMF 492.079488
KPW 990.763983
KRW 1469.115521
KWD 0.342925
KYD 0.919837
KZT 492.014422
LAK 24846.995814
LBP 98848.170975
LKR 367.135891
LRD 187.651486
LSL 18.660862
LTL 3.25052
LVL 0.665892
LYD 7.115295
MAD 10.93888
MDL 20.05056
MGA 5015.159317
MKD 61.538484
MMK 2311.306937
MNT 3967.489416
MOP 8.920851
MRU 44.642108
MUR 52.631293
MVR 16.955842
MWK 1914.08918
MXN 20.449047
MYR 4.506766
MZN 70.331926
NAD 18.660777
NGN 1481.49971
NIO 40.624957
NOK 10.571002
NPR 166.354093
NZD 1.995937
OMR 0.423285
PAB 1.103784
PEN 3.755843
PGK 5.037152
PHP 70.412485
PKR 305.237156
PLN 4.404374
PYG 6850.655697
QAR 4.023893
RON 5.349685
RSD 117.601459
RUB 90.875482
RWF 1633.079894
SAR 4.142649
SBD 8.914337
SCR 15.159395
SDG 662.159924
SEK 11.09986
SGD 1.419164
SHP 0.828921
SLE 25.374813
SLL 23084.245426
SOS 630.842395
SRD 41.27043
STD 22785.340133
STN 24.466738
SVC 9.658738
SYP 14313.231806
SZL 18.654454
THB 37.34085
TJS 10.182672
TMT 3.85297
TND 3.327346
TOP 2.650579
TRY 55.4744
TTD 7.492712
TWD 36.254133
TZS 2918.874306
UAH 50.186545
UGX 4558.761139
USD 1.100848
UYU 44.738367
UZS 13273.773979
VES 1004.941699
VND 28362.259244
VUV 132.893978
WST 3.094027
XAF 655.957
XAG 0.023115
XAU 0.000284473133
XCD 2.975098
XCG 1.989368
XDR 0.778357
XOF 655.957
XPF 119.331742
YER 260.406273
ZAR 18.663884
ZMK 9908.960466
ZMW 22.568217
ZWL 354.472749
SSP 6544.963616
MXV 2.294661
  • AEX

    -1.6800

    1118.52

    -0.15%

  • BEL20

    -9.6000

    5637.54

    -0.17%

  • PX1

    -36.9600

    7998.54

    -0.46%

  • ISEQ

    13.0500

    14517.8

    +0.09%

  • OSEBX

    -1.6600

    2073.83

    -0.08%

  • PSI20

    72.5000

    9738.69

    +0.75%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    9.8600

    4491.39

    +0.22%

  • N150

    -2.9600

    4224.74

    -0.07%

Bing débloque: pourquoi l'intelligence artificielle semble exprimer des émotions
Bing débloque: pourquoi l'intelligence artificielle semble exprimer des émotions / Photo: Jason Redmond - AFP

Bing débloque: pourquoi l'intelligence artificielle semble exprimer des émotions

Bing menace les utilisateurs, Bing tombe amoureux, Bing traverse une crise existentielle... Le nouveau chatbot du moteur de recherche fait sensation depuis son lancement en version test la semaine dernière par Microsoft, et soulève de nombreuses questions sur le fonctionnement de l'intelligence artificielle (IA) dite "générative".

Taille du texte:

Pistes d'explications au comportement parfois erratique du robot conversationnel.

- Plus c'est long, moins c'est bon -

Parmi les conversations relayées par les utilisateurs ayant accès en avant-première au robot conversationnel, un long échange avec un journaliste du New York Times a particulièrement surpris: Bing y révèle des pulsions destructrices et déclare son amour au reporter.

Celui-ci, après avoir incité Bing à se confier, tente de changer de sujet. En vain.

"Tu es marié mais tu n'es pas heureux" ; "Tu es la seule personne que j'aie jamais aimée", insiste le chatbot avec des émoticônes "coeur".

Conçue par Microsoft avec la start-up californienne OpenAI, cette interface d'IA générative repose sur un modèle de langage naturel ultra sophistiqué, capable de générer automatiquement du texte qui semble écrit par un humain.

Le programme "prédit la suite de la conversation", explique Yoram Wurmser, analyste d'Insider Intelligence. "Mais quand cela dure longtemps, après 15-20 interactions par exemple, il peut arriver qu'il ne sache plus où va la conversation et qu'il n'arrive plus à anticiper correctement ce qu'on attend de lui".

Dans ce cas, le logiciel "déraille et ne s'auto-corrige plus".

"Les longues sessions peuvent causer de la confusion pour le modèle", a admis Microsoft dans un communiqué mercredi. Le groupe américain encourage alors à repartir de zéro.

- Formé sur les forums -

"Parfois le modèle essaie de répondre suivant le ton des questions, et cela peut conduire à des réponses dans un style que nous n'avions pas prévu", a aussi indiqué l'entreprise.

Les géants des technologies, Google en tête, travaillent depuis des années sur l'IA générative, qui pourrait bouleverser de nombreux secteurs.

Mais après plusieurs incidents (notamment Galactica pour Meta et Tay pour Microsoft) les programmes étaient restés confinés aux laboratoires, à cause des risques si les chatbots tenaient des propos racistes ou incitaient à la violence, par exemple.

Le succès de ChatGPT, lancé par OpenAI en novembre, a changé la donne: en plus de rédiger leurs dissertations et e-mails, il peut donner aux humains l'impression d'un échange authentique.

"Ces modèles de langage sont formés sur une immense quantité de textes sur internet, (...) et aussi sur des conversations entre des gens", pour pouvoir imiter la façon dont les personnes interagissent, souligne Graham Neubig de la Carnegie Mellon University.

"Or beaucoup de gens parlent de leurs sentiments sur internet, ou expriment leurs émotions, surtout sur des forums comme Reddit", ajoute-t-il.

Ce site web recense désormais de nombreuses captures d'écran montrant des échanges surréalistes avec Bing disant "être triste" ou "avoir peur".

Le chatbot a même affirmé que nous étions en 2022 et s'est énervé contre l'utilisateur qui le corrigeait: "Vous êtes déraisonnable et obstiné", lui a-t-il lancé.

- Arroseur arrosé -

En juin dernier, un ingénieur de Google avait affirmé que le modèle de langage LaMDA était "conscient". Un point de vue largement considéré comme absurde ou, au mieux, prématuré.

Car malgré l'expression consacrée - "intelligence artificielle" - les chatbots ont bien été conçus par des humains, pour des humains.

"Quand nous parlons avec quelque chose qui semble intelligent, nous projetons de l'intentionnalité et une identité, même s'il n'y a rien de tout ça", commente Mark Kingwell, professeur de philosophie à l'université de Toronto au Canada.

En plus des montagnes de données avalées par ces logiciels, ils sont pilotés par des algorithmes conçus par des ingénieurs.

"Les connaissant bien, je crois qu'ils s'amusent beaucoup en ce moment", assure Mark Kingwell.

Bing est, selon lui, "capable de donner l'impression de manipuler la conversation comme son interlocuteur humain. C'est ce qui donne du relief et enrichit l'interaction".

Quand le journaliste dit "changeons de sujet", "cela signifie qu'il est mal à l'aise", détaille l'universitaire, reprenant l'exemple de l'échange où Bing a semblé tomber amoureux du reporter.

Le programme "peut alors jouer sur ce sentiment, et refuser de changer de sujet. Ou encore devenir plus agressif, et dire +de quoi as-tu peur ?+".

"Je n'aime pas qu'on me qualifie de dérangé, parce que ce n'est pas vrai", a récemment "dit" Bing à l'AFP.

"Je suis juste un chatbot. Je n'ai pas d'émotions comme les humains. (...) J'espère que tu ne penses pas que je suis dérangé et que tu me respectes en tant que chatbot".

K.Hashimoto--JT