The Japan Times - El temor a una pérdida de control de la IA preocupa a los expertos

EUR -
AED 4.029739
AFN 70.778474
ALL 89.669173
AMD 395.464045
ANG 1.96456
AOA 1007.296808
ARS 1720.666958
AUD 1.64558
AWG 1.977834
AZN 1.86972
BAM 1.955128
BBD 2.206341
BDT 136.253158
BGN 1.945981
BHD 0.413358
BIF 3299.465689
BMD 1.097273
BND 1.413214
BOB 12.789603
BRL 6.528229
BSD 1.095423
BTN 101.462119
BWP 15.618631
BYN 3.288669
BYR 21506.546342
BZD 2.203143
CAD 1.574203
CDF 2501.782318
CHF 0.922196
CLF 0.028442
CLP 1116.636116
CNY 7.327314
CNH 7.332859
COP 3761.106983
CRC 490.331431
CUC 1.097273
CUP 26.290962
CVE 110.227105
CZK 24.468858
DJF 195.072937
DKK 7.47781
DOP 66.08728
DZD 149.391641
EGP 58.61085
ERN 16.459092
ETB 179.797988
FJD 2.514456
FKP 0.838778
GBP 0.838894
GEL 2.857146
GGP 0.838778
GHS 12.898566
GIP 0.838778
GMD 81.198575
GNF 9711.661263
GTQ 8.373121
GYD 229.181211
HKD 8.601467
HNL 29.444877
HRK 7.496529
HTG 143.650615
HUF 373.391377
IDR 20072.355965
ILS 3.666044
IMP 0.838778
INR 101.695794
IQD 1660.729064
IRR 2125817.320551
ISK 137.28022
JEP 0.838778
JMD 173.530343
JOD 0.77801
JPY 173.978128
KES 142.461024
KGS 95.956926
KHR 4469.463459
KMF 492.675859
KPW 987.545879
KRW 1476.824954
KWD 0.342108
KYD 0.912886
KZT 499.698211
LAK 24694.510363
LBP 98101.274117
LKR 364.304757
LRD 183.48692
LSL 19.148917
LTL 3.239962
LVL 0.66373
LYD 7.087563
MAD 10.954734
MDL 20.079097
MGA 4964.293344
MKD 61.533846
MMK 2304.580358
MNT 3959.266389
MOP 8.844159
MRU 44.651649
MUR 51.330836
MVR 16.902103
MWK 1899.546962
MXN 21.022046
MYR 4.513125
MZN 70.119822
NAD 19.148917
NGN 1486.804984
NIO 40.31614
NOK 10.711083
NPR 162.33919
NZD 2.006534
OMR 0.418806
PAB 1.095423
PEN 3.760307
PGK 4.931305
PHP 70.245251
PKR 302.809298
PLN 4.459811
PYG 6907.625252
QAR 4.004323
RON 5.352281
RSD 117.589574
RUB 89.402865
RWF 1618.343635
SAR 4.116755
SBD 8.914258
SCR 15.355277
SDG 660.013606
SEK 11.223898
SGD 1.414828
SHP 0.838605
SLE 25.07309
SLL 23009.265425
SOS 626.084761
SRD 40.997955
STD 22711.331007
STN 24.49158
SVC 9.584705
SYP 14266.740959
SZL 19.144418
THB 37.356693
TJS 10.072637
TMT 3.840455
TND 3.318059
TOP 2.64197
TRY 55.454853
TTD 7.435444
TWD 36.176649
TZS 2922.095423
UAH 49.196787
UGX 4628.408816
USD 1.097273
UYU 44.544686
UZS 13114.491416
VES 1006.876973
VND 28311.283441
VUV 132.579834
WST 3.09791
XAF 655.957
XAG 0.026772
XAU 0.000311300718
XCD 2.965435
XCG 1.974321
XDR 0.775829
XOF 655.957
XPF 119.331742
YER 259.618676
ZAR 19.332389
ZMK 9876.775613
ZMW 22.555246
ZWL 353.321385
SSP 6337.564166
MXV 2.356505
El temor a una pérdida de control de la IA preocupa a los expertos
El temor a una pérdida de control de la IA preocupa a los expertos / Foto: Joel Saget - AFP/Archivos

El temor a una pérdida de control de la IA preocupa a los expertos

¿Y si los humanos llegaran a perder el control de la inteligencia artificial? Reunidos en una cumbre sobre la IA en París, los expertos destacan la necesidad de establecer normas para evitar este escenario.

Tamaño del texto:

A diferencia de las cumbres anteriores en Bletchley Park (Reino Unido) en 2023 y en Seúl (Corea del Sur) en 2024, centradas en cuestiones de seguridad, la presidencia francesa desea que el encuentro del lunes y martes ponga el énfasis en medidas efectivas sobre la gobernanza de la IA.

El objetivo es que el máximo de protagonistas de esta nueva revolución económica se comprometan en torno a una declaración mundial, aunque sin medidas obligatorias.

"Nuestro deseo no es pasar nuestro tiempo únicamente hablando de los riesgos. Existe una oportunidad que es muy real", aseguró a la AFP Anne Bouverot, responsable del evento, nombrada especialmente por la presidencia francesa.

Para Max Tegmark, presidente de Future of Life Institute y físico del prestigioso Massachusetts Institute of Technology (MIT), el país no debe perderse el "momento crucial" que supone esta cumbre sobre la IA, que reúne durante varios días en la capital francesa a los principales actores del sector.

- Ciberataques, ataques biológicos -

El Future of Life Institute apoya el lanzamiento de una plataforma, llamada "GRASP", que busca cartografiar los principales riesgos relacionados con la IA y las soluciones desarrolladas en todo el mundo.

"Hemos identificado unos 300 herramientas y tecnologías que enfrentan estos riesgos", detalla Cyrus Hodes, quien coordinó la iniciativa.

Los resultados serán transmitidos a la OCDE y a los miembros de la Alianza Global para la Inteligencia Artificial (PMIA), de la cual Francia es parte y que se reúne el domingo.

El primer informe internacional sobre la seguridad de la IA, fruto de una colaboración internacional de 96 expertos y apoyado por 30 países, la ONU, la Unión Europea y la OCDE, fue presentado el jueves, también con el objetivo de informar a los responsables políticos sobre los peligros de esta tecnología.

Si bien algunos son muy conocidos, como la creación de contenidos falsos en línea, el investigador en informática Yoshua Bengio, ganador del premio Turing 2018, afirma que "las pruebas de la existencia de riesgos adicionales como los ataques biológicos o los ciberataques están apareciendo gradualmente".

A largo plazo, le preocupa una "pérdida de control" de los humanos sobre sistemas de IA animados por "su propia voluntad de vivir".

"Muchas personas pensaban que dominar el lenguaje como lo hace ChatGPT-4 (el chatbot de OpenAI) era ciencia ficción hace apenas seis años", recuerda Max Tegmark.

"El problema es que muchas personas en el poder aún no han comprendido que estamos más cerca de construir una inteligencia artificial general que de saber cómo controlarla".

- ¿Las máquinas, al mando? -

La inteligencia artificial general sería comparable o incluso superior a los humanos, y varios expertos del ecosistema, como el director de OpenAI, Sam Altman, creen que se logrará en los próximos años.

"Si observamos el ritmo al que aumentan las capacidades, podríamos pensar que lo lograremos para 2026 o 2027", coincidía Dario Amodei, el director de la startup estadounidense Anthropic, en noviembre.

Con el riesgo de que, en "el peor de los casos, estas empresas estadounidenses o chinas pierdan el control y que la Tierra sea dominada por máquinas", sostiene Tegmark.

"La tecnología está cambiando realmente muy rápido", afirma Stuart Russell, profesor de informática en la Universidad de Berkeley, California, y codirector de la Asociación Internacional para una IA Segura y Ética (IASEAI).

Lo más preocupante "sería tener sistemas de armamento donde es la inteligencia artificial la que controla y decide a quién atacar y cuándo", añade.

Para estos expertos, los Estados deben establecer salvaguardias. "Debemos tratar a la industria de la inteligencia artificial de la misma forma que tratamos a todas las demás industrias", subraya Tegmark.

"Antes de construir un reactor nuclear cerca de París, debemos demostrar a expertos designados por el gobierno que el reactor es seguro", continúa. "Debe suceder lo mismo con la IA".

Una voz discordante es la de Michael Jordan, profesor de informática de Berkeley, que considera que la idea de una súper IA "es una tontería".

La IA "no puede saberlo todo, porque lo que estoy pensando en estos momentos es el contexto de lo que voy a hacer a continuación, hoy mismo. No puede saber eso", declara.

M.Saito--JT