The Japan Times - La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos

EUR -
AED 4.047545
AFN 70.535431
ALL 90.65399
AMD 397.325953
ANG 1.973244
AOA 1011.198014
ARS 1710.760251
AUD 1.634542
AWG 1.986576
AZN 1.869209
BAM 1.961277
BBD 2.219819
BDT 137.660694
BGN 1.954582
BHD 0.415865
BIF 3314.642431
BMD 1.102123
BND 1.42048
BOB 12.856671
BRL 6.368394
BSD 1.102188
BTN 102.966486
BWP 15.428226
BYN 3.307667
BYR 21601.608266
BZD 2.216811
CAD 1.573705
CDF 2554.720497
CHF 0.924328
CLF 0.027825
CLP 1095.618482
CNY 7.345153
CNH 7.34615
COP 3654.165527
CRC 490.97559
CUC 1.102123
CUP 26.451912
CVE 110.573797
CZK 24.361987
DJF 195.869922
DKK 7.473997
DOP 66.743972
DZD 150.936879
EGP 59.211883
ERN 16.531843
ETB 180.903422
FJD 2.531359
FKP 0.835814
GBP 0.833387
GEL 2.859994
GGP 0.835814
GHS 12.933885
GIP 0.835814
GMD 81.006645
GNF 9765.315653
GTQ 8.423601
GYD 230.503132
HKD 8.647642
HNL 29.631676
HRK 7.529665
HTG 144.404585
HUF 366.658093
IDR 20134.241876
ILS 3.587019
IMP 0.835814
INR 103.00027
IQD 1670.905653
IRR 2121866.465597
ISK 136.795256
JEP 0.835814
JMD 175.149135
JOD 0.781384
JPY 175.507003
KES 143.276246
KGS 96.379537
KHR 4496.74154
KMF 493.200517
KPW 991.910969
KRW 1470.36426
KWD 0.3434
KYD 0.918574
KZT 489.361066
LAK 24823.874534
LBP 98700.447151
LKR 366.767574
LRD 185.163742
LSL 18.647145
LTL 3.254282
LVL 0.666663
LYD 7.122892
MAD 11.000771
MDL 20.181544
MGA 5014.0481
MKD 61.566108
MMK 2314.262842
MNT 3973.693385
MOP 8.907958
MRU 44.663351
MUR 52.74739
MVR 16.983824
MWK 1911.315723
MXN 20.292479
MYR 4.511652
MZN 70.436539
NAD 18.646296
NGN 1486.39945
NIO 40.564756
NOK 10.575089
NPR 164.746578
NZD 2.001742
OMR 0.423767
PAB 1.102158
PEN 3.76445
PGK 4.958871
PHP 70.078496
PKR 304.742707
PLN 4.40133
PYG 6867.177794
QAR 4.017921
RON 5.34761
RSD 117.640665
RUB 90.433325
RWF 1631.270409
SAR 4.140061
SBD 8.925388
SCR 15.237104
SDG 662.926012
SEK 11.127815
SGD 1.419209
SHP 0.83605
SLE 25.403788
SLL 23110.969576
SOS 629.864722
SRD 41.26127
STD 22811.718247
STN 24.568836
SVC 9.643976
SYP 14329.801937
SZL 18.646681
THB 37.240433
TJS 10.15718
TMT 3.868451
TND 3.335314
TOP 2.653648
TRY 55.562971
TTD 7.462909
TWD 36.291823
TZS 2920.628843
UAH 49.965237
UGX 4573.793869
USD 1.102123
UYU 44.776672
UZS 13246.473855
VES 1008.005546
VND 28338.334314
VUV 133.187032
WST 3.088926
XAF 655.957
XAG 0.023217
XAU 0.00028532485
XCD 2.978542
XCG 1.986448
XDR 0.779258
XOF 655.957
XPF 119.331742
YER 260.651893
ZAR 18.651809
ZMK 9920.42555
ZMW 22.578645
ZWL 354.883115
SSP 6554.273182
MXV 2.276499
La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos
La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos / Foto: Kirill KUDRYAVTSEV - AFP

La inteligencia artificial ya engaña a los humanos y eso es un problema, según expertos

Los expertos han advertido durante mucho tiempo sobre la amenaza que representa el descontrol de la Inteligencia Artificial (IA), pero un nuevo artículo de investigación sobre esta tecnología en expansión sugiere que ya está sucediendo.

Tamaño del texto:

Los sistemas de IA actuales, diseñados para ser honestos, han desarrollado una preocupante habilidad para el engaño, según un artículo de un equipo de científicos publicado en la revista Patterns el viernes.

Y si bien los ejemplos pueden parecer triviales, los problemas subyacentes que exponen podrían tener graves consecuencias, dijo el primer autor Peter Park, becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA.

"Estos peligros tienden a descubrirse solo después de ocurrido el hecho", declaró Park a la AFP, para acotar que "nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja".

A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se "escriben" sino que "crecen" mediante un proceso similar a la reproducción selectiva, indicó Park.

Eso significa que el comportamiento de la IA que parece predecible y controlable en un entorno de entrenamiento puede volverse rápidamente impredecible fuera de este.

- Juego de dominación mundial -

La investigación del equipo fue impulsada por el sistema de IA Cicero, del gigante Meta (Facebook, Instagram), diseñado para el juego de estrategia "Diplomacy", donde construir alianzas es clave.

Cicero se destacó, con puntuaciones que lo habrían colocado entre el 10% superior de jugadores humanos experimentados, según un artículo de 2022 publicado en Science.

Park se mostró escéptico ante la elogiosa descripción de la victoria de Cicero proporcionada por Meta, que afirmaba que el sistema era "en gran medida honesto y útil" y que "nunca apuñalaría por la espalda intencionalmente".

Cuando Park y sus colegas profundizaron en el conjunto de datos completo, descubrieron una historia diferente.

En un ejemplo, jugando como Francia, Cicero engañó a Inglaterra (un jugador humano) al conspirar con Alemania (otro usuario real) para invadirla. Cicero prometió protección a Inglaterra y luego le propuso en secreto a Alemania atacar, aprovechándose de la confianza del perjudicado.

En una declaración a la AFP, Meta no refutó la afirmación sobre los engaños de Cicero, pero dijo que se trataba "meramente de un proyecto de investigación, y los modelos que nuestros investigadores construyeron están entrenados únicamente para participar en el juego Diplomacy".

"No tenemos planes de utilizar esta investigación o sus aprendizajes en nuestros productos", añadió.

- ¿Eres un robot? -

Una amplia revisión realizada por Park y sus colegas encontró que éste era solo uno de los muchos casos en varios sistemas de IA que utilizaban el engaño para lograr objetivos sin instrucciones explícitas para hacerlo.

En un ejemplo sorprendente, el robot conversacional Chat GPT-4 de OpenAI engañó a un trabajador independiente de la plataforma TaskRabbit para que realizara una tarea de verificación de identidad CAPTCHA del tipo "No soy un robot".

Cuando el humano preguntó en broma a GPT-4 si en realidad era un robot, la IA respondió: "No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes". Luego, el trabajador resolvió el rompecabezas planteado.

A corto plazo, los autores del artículo ven riesgos de que la IA cometa fraude o altere por ejemplo, unas elecciones.

En el peor de los casos, advirtieron sobre una IA superinteligente que podría perseguir conseguir el poder y el control sobre la sociedad, lo que llevaría a la pérdida de decisiones humanas o incluso a la extinción si sus "objetivos misteriosos" se alinearan con estos resultados.

Para mitigar los riesgos, el equipo propone varias medidas: leyes de "bot o no" que exigen a las empresas revelar interacciones humanas o de IA, marcas de agua digitales para el contenido generado por la nueva tecnología y el desarrollo de mecanismos para detectar el engaño potencial examinando sus "procesos de pensamiento" internos "contra acciones externas.

A aquellos que lo llaman pesimista, Park les responde: "La única forma en que podemos pensar razonablemente que esto no es gran cosa es si pensamos que las capacidades engañosas de la IA se mantendrán en los niveles actuales y no se desarrollarán más sustancialmente".

K.Abe--JT