The Japan Times - É possível 'desligar' uma inteligência artificial?

EUR -
AED 4.03145
AFN 70.787392
ALL 90.083486
AMD 395.580896
ANG 1.965122
AOA 1007.584661
ARS 1711.050604
AUD 1.634286
AWG 1.978399
AZN 1.863917
BAM 1.958693
BBD 2.211206
BDT 136.681913
BGN 1.946537
BHD 0.413954
BIF 3299.344727
BMD 1.097586
BND 1.415998
BOB 12.862
BRL 6.461927
BSD 1.097927
BTN 102.589615
BWP 15.509983
BYN 3.293641
BYR 21512.693497
BZD 2.208001
CAD 1.572265
CDF 2507.984903
CHF 0.925611
CLF 0.028069
CLP 1104.710007
CNY 7.318487
CNH 7.319985
COP 3687.275665
CRC 488.112166
CUC 1.097586
CUP 26.348924
CVE 110.638566
CZK 24.398272
DJF 195.06336
DKK 7.474349
DOP 66.186745
DZD 150.501738
EGP 58.998454
ERN 16.463796
ETB 180.201548
FJD 2.511166
FKP 0.830414
GBP 0.834709
GEL 2.843297
GGP 0.830414
GHS 12.918158
GIP 0.830414
GMD 80.672522
GNF 9719.127254
GTQ 8.390624
GYD 229.609189
HKD 8.611493
HNL 29.512538
HRK 7.498672
HTG 143.947235
HUF 368.889459
IDR 20009.000125
ILS 3.597833
IMP 0.830414
INR 102.577188
IQD 1664.358664
IRR 2121815.070232
ISK 137.000597
JEP 0.830414
JMD 174.138038
JOD 0.778178
JPY 174.858133
KES 142.74118
KGS 95.983273
KHR 4472.6647
KMF 492.816358
KPW 987.828147
KRW 1462.698092
KWD 0.342129
KYD 0.914968
KZT 488.270191
LAK 24734.109519
LBP 98288.862375
LKR 365.36974
LRD 184.947857
LSL 18.96591
LTL 3.240887
LVL 0.663919
LYD 7.09585
MAD 10.934853
MDL 20.157236
MGA 4992.397732
MKD 61.601484
MMK 2304.258806
MNT 3958.723436
MOP 8.873191
MRU 44.618913
MUR 52.629275
MVR 16.903945
MWK 1903.720933
MXN 20.777925
MYR 4.516897
MZN 70.11374
NAD 18.873224
NGN 1484.145177
NIO 40.336551
NOK 10.647225
NPR 164.149724
NZD 1.998244
OMR 0.422024
PAB 1.097922
PEN 3.748237
PGK 4.939454
PHP 69.87561
PKR 303.535479
PLN 4.413449
PYG 6872.183197
QAR 4.002622
RON 5.347459
RSD 117.62729
RUB 90.44198
RWF 1624.807639
SAR 4.118423
SBD 8.931106
SCR 15.414502
SDG 660.196129
SEK 11.156538
SGD 1.415339
SHP 0.831001
SLE 25.031282
SLL 23015.842098
SOS 627.429725
SRD 41.032721
STD 22717.822522
STN 24.53703
SVC 9.606366
SYP 14270.818781
SZL 18.869961
THB 37.28476
TJS 10.095235
TMT 3.841552
TND 3.325203
TOP 2.642725
TRY 55.358417
TTD 7.450141
TWD 36.169833
TZS 2914.051288
UAH 49.566648
UGX 4599.79502
USD 1.097586
UYU 44.607115
UZS 13185.478168
VES 1004.842438
VND 28199.738657
VUV 132.878942
WST 3.098794
XAF 655.957
XAG 0.024371
XAU 0.000294686108
XCD 2.966282
XCG 1.978623
XDR 0.776051
XOF 655.957
XPF 119.331742
YER 259.633705
ZAR 18.973005
ZMK 9879.594089
ZMW 22.550107
ZWL 353.422374
SSP 6507.268765
MXV 2.330352
É possível 'desligar' uma inteligência artificial?
É possível 'desligar' uma inteligência artificial? / foto: Kirill KUDRYAVTSEV - AFP

É possível 'desligar' uma inteligência artificial?

É possível parar uma inteligência artificial? Tecnicamente, uma IA pode ser interrompida, enquanto estiver em um ambiente controlado. Mas quanto mais essa tecnologia atua de forma autônoma em vários sistemas, mais complexo se torna o bloqueio, alertam os especialistas.

Tamanho do texto:

A pergunta parece cada vez mais pertinente, levando-se em conta que se multiplicam os incidentes de segurança relacionados com a IA e aumentam os temores sobre os riscos desta tecnologia.

- Existe um "botão de emergência"? -

"No campo da cibersegurança ligada à IA", um botão de desligamento de emergência, ou *kill switch* em inglês, designa "a capacidade de interromper a execução da ação de um agente de IA" — um programa construído sobre um modelo de IA generativa capaz de encadear sozinho uma série de tarefas —, explica à AFP Nicolas Papernot, professor na Universidade de Toronto e especialista em segurança informática e IA.

Esse mecanismo teria que poder ser acionado no caso de uma IA escapar a qualquer controle e representar um risco para a segurança. Uma IA continua sendo um "programa informático", ressalta o pesquisador.

"A pessoa ou a organização que a criou pode interrompê-la, negando a ela o acesso à potência de cálculo necessária para sua execução", acrescenta.

A situação se complica quando se autoriza ao programa agir para além de seu ambiente inicial.

Segundo Papernot, isso pode acontecer se um "worm informático" (programa malicioso) controlado pela IA se propagar utilizando os recursos de outros dispositivos para se duplicar.

"Nesse caso, seria preciso interromper simultaneamente todas as cópias geradas pelo worm, aparelho por aparelho", explica.

Para Jean-Gabriel Ganascia, professor de informática na Universidade Sorbonne, a questão do 'kill switch' pode alimentar a ideia de "um risco metafísico" com uma IA que teria vontade própria. Mas para ele, o perigo mais concreto é nossa crescente dependência desses sistemas.

- É realmente possível desligar uma IA? -

Para Thierry Poibeau, diretor de pesquisas no Centro Nacional de Pesquisas Científicas da França (CNRS) e especialista em IA, a imagem de um único botão que permitiria "desligar a IA" é enganosa.

"Não se pode simplesmente cortar a IA assim, há uma enorme quantidade de empresas no mundo inteiro, de programas, de serviços diferentes", afirma. "Não há ninguém que controle a IA" como um todo.

Por outro lado, é tecnicamente possível interromper um sistema específico quando se controlam as máquinas e os serviços dos quais ele depende.

Em um artigo publicado no LinkedIn, Hussein Abbass, professor de informática na Universidade de Nova Gales do Sul (UNSW) em Canberra, apresenta três níveis de complexidade.

No primeiro, o sistema permanece no ambiente controlado por seu operador: a implementação de um dispositivo de parada de emergência é "em teoria e na prática realizável".

No segundo nível, o agente dispõe de permissões para intervir em outros programas, arquivos ou máquinas: torna-se mais difícil interrompê-lo, em especial as ações que ele já desencadeou.

No terceiro, o sistema amplia sua atuação para vários sistemas, a IA se torna um elétron livre e o objetivo já não é tanto "desligá-la", mas identificar os elementos que precisam ser interrompidos antes dos outros.

"Uma vez que é acionada, é um pouco como um vírus informático", resume Poibeau.

- Quais são os perigos de um 'kill switch'? -

Quanto mais a IA for integrada às atividades cotidianas, maior será a probabilidade de que sua interrupção bloqueie também usos legítimos dessa tecnologia.

À medida que "automatizamos cada vez mais aspectos da vida diária graças à IA", "será cada vez mais difícil distinguir uma IA maligna de uma IA inofensiva e, portanto, saber o que é preciso 'desligar'", explica Nicolas Papernot.

Interromper um sistema de IA poderia ter como consequência degradar serviços dos quais já dependem empresas, administrações ou centros de saúde.

"Em uma hipótese de perda real de controle" dos agentes de IA, "seria possível desativar a IA desconectando toda a potência de cálculo", mas "os custos e as consequências negativas seriam consideráveis", alerta Papernot.

"Sempre podemos desligar as máquinas", insiste Jean-Gabriel Ganascia. Mas, na medida em que esses dispositivos ocupam cada vez mais espaço na sociedade, "ao mesmo tempo, não podemos desligá-los".

M.Yamazaki--JT