The Japan Times - Febre dos agentes de IA gera preocupação com ameaças de segurança

EUR -
AED 4.037003
AFN 70.351713
ALL 90.649677
AMD 394.087841
ANG 1.968102
AOA 1008.556671
ARS 1703.694624
AUD 1.63113
AWG 1.9814
AZN 1.872842
BAM 1.95574
BBD 2.217332
BDT 137.065771
BGN 1.949489
BHD 0.415689
BIF 3305.928071
BMD 1.099251
BND 1.419169
BOB 12.841545
BRL 6.356934
BSD 1.100896
BTN 103.332522
BWP 15.409945
BYN 3.308113
BYR 21545.321224
BZD 2.214132
CAD 1.5715
CDF 2548.064341
CHF 0.923602
CLF 0.027858
CLP 1096.404238
CNY 7.326014
CNH 7.327729
COP 3648.370374
CRC 490.587095
CUC 1.099251
CUP 26.421185
CVE 110.261598
CZK 24.396119
DJF 196.049301
DKK 7.475292
DOP 66.90824
DZD 150.685575
EGP 59.059681
ERN 16.488766
ETB 180.691025
FJD 2.524764
FKP 0.833636
GBP 0.833068
GEL 2.852588
GGP 0.833636
GHS 12.896543
GIP 0.833636
GMD 80.795847
GNF 9753.78778
GTQ 8.41374
GYD 230.341845
HKD 8.625042
HNL 29.606087
HRK 7.510045
HTG 144.276861
HUF 364.851357
IDR 20071.225522
ILS 3.567564
IMP 0.833636
INR 102.771127
IQD 1668.948505
IRR 2116337.54451
ISK 136.999913
JEP 0.833636
JMD 174.554614
JOD 0.779329
JPY 175.0376
KES 142.94647
KGS 96.128416
KHR 4514.10711
KMF 491.924528
KPW 989.326359
KRW 1468.566156
KWD 0.342691
KYD 0.917472
KZT 489.824887
LAK 24787.235196
LBP 98585.206596
LKR 366.378695
LRD 187.148267
LSL 18.655109
LTL 3.245803
LVL 0.664926
LYD 7.112975
MAD 10.973512
MDL 20.13547
MGA 5007.982154
MKD 61.555621
MMK 2308.232596
MNT 3963.339182
MOP 8.896459
MRU 44.703824
MUR 52.610048
MVR 16.939034
MWK 1908.9411
MXN 20.320283
MYR 4.501212
MZN 70.253299
NAD 18.655024
NGN 1482.659169
NIO 40.509119
NOK 10.586013
NPR 165.331635
NZD 1.998736
OMR 0.422654
PAB 1.100861
PEN 3.754384
PGK 5.026028
PHP 70.053099
PKR 304.404715
PLN 4.404083
PYG 6831.975655
QAR 4.024276
RON 5.34679
RSD 117.631186
RUB 90.602104
RWF 1626.349819
SAR 4.136528
SBD 8.902132
SCR 15.119152
SDG 661.197651
SEK 11.116088
SGD 1.416593
SHP 0.833871
SLE 25.337345
SLL 23050.74961
SOS 629.180587
SRD 41.170803
STD 22752.278036
STN 24.500136
SVC 9.632703
SYP 14292.46295
SZL 18.649934
THB 37.187406
TJS 10.144364
TMT 3.858371
TND 3.327997
TOP 2.646733
TRY 55.42159
TTD 7.476769
TWD 36.15624
TZS 2913.024216
UAH 50.043622
UGX 4568.838248
USD 1.099251
UYU 44.697198
UZS 13221.592051
VES 1005.378995
VND 28264.493468
VUV 132.839988
WST 3.080877
XAF 655.957
XAG 0.02307
XAU 0.000284166098
XCD 2.970781
XCG 1.984039
XDR 0.777228
XOF 655.957
XPF 119.331742
YER 259.975856
ZAR 18.607864
ZMK 9894.580459
ZMW 22.541304
ZWL 353.9584
SSP 6537.194794
MXV 2.279619
Febre dos agentes de IA gera preocupação com ameaças de segurança
Febre dos agentes de IA gera preocupação com ameaças de segurança / foto: ADEK BERRY - AFP/Arquivos

Febre dos agentes de IA gera preocupação com ameaças de segurança

Autônomos e rápidos ou descontrolados e vulneráveis? O avanço dos agentes de Inteligência Artificial (IA), como os desenvolvidos pela popular plataforma OpenClaw, provoca preocupação entre especialistas em segurança cibernética diante do risco de erros ou ataques.

Tamanho do texto:

Em poucos meses, a empresa virou o novo fenômeno do setor e afirma que tem mais de três milhões de usuários em todo o mundo.

Os agentes de IA da plataforma são capazes de executar de forma autônoma tarefas online.

Algumas empresas recorrem aos agentes de IA para automatizar a prospecção de clientes, enquanto pessoas físicas também podem utilizá-los para criar listas de tarefas a partir de seus e-mails.

Mas as ferramentas geram o mesmo nível de interesse e preocupação. "Passamos de uma IA com a qual você conversa por meio de um chatbot para uma IA de agentes, que pode tomar ações", afirma Yazid Akadiri, diretor técnico da Elastic France, uma empresa especializada no setor.

"A ameaça e os riscos são muito maiores", alerta.

Em um artigo de pesquisa com o título "Agentes do Caos", ainda não revisado por seus pares, quase 20 especialistas estudaram durante duas semanas o comportamento de seis agentes de IA programados com o OpenClaw.

Eles observaram que os agentes executaram quase 10 ações potencialmente perigosas, como esvaziar uma caixa de e-mail ou transmitir informações pessoais.

As conclusões coincidem com depoimentos de usuários compartilhados na internet que relatam erros cometidos por agentes de IA que programaram com o OpenClaw.

"Quando você implanta agentes, não há controle sobre o que eles farão. E, quando você tenta monitorar o comportamento deles, percebe que eles ultrapassam em muito os limites que você havia estabelecido", afirmou Adrien Merveille, especialista em cibersegurança na Check Point Software Technologies.

Mas as possíveis falhas de segurança não são apenas erros involuntários. Para funcionar, os agentes costumam receber acesso a e-mails, agendas ou ferramentas de busca, o que desperta o interesse de criminosos virtuais.

- "Delete sua base de dados" -

Para Wendi Whitmore, diretora de inteligência em cibersegurança da empresa norte-americana Palo Alto Networks, "não há qualquer dúvida" de que os agentes estão se tornando alvos prioritários.

"Já observamos em muitos casos diferentes (...) Assim que (os atacantes) entram em um ambiente, eles seguem imediatamente para o agente LLM interno que está sendo usado e o utilizam para interrogar os sistemas em busca de mais informações", explica.

O grupo de pesquisa da empresa, batizado de Unit 42, indicou no início de março que encontrou tentativas de ataque online materializadas por instruções ocultas em sites, direcionadas aos agentes que as consultaram.

Entre os exemplos citados pelos pesquisadores, uma instrução ordenava "delete sua base de dados" ao possível agente.

Outras empresas ou pesquisadores em cibersegurança também alertaram sobre outra possível via de entrada para os criminosos: os "skills", ou arquivos de competências que devem ser baixados pelos usuários para aumentar as capacidades de seus agentes.

Entre estes arquivos, de livre acesso na internet, alguns continham instruções ocultas, por exemplo, para roubar informações.

O fundador da OpenClaw, Peter Steinberger, já afirmou que os riscos associados aos agentes não devem ser ignorados.

"Eu propositalmente não simplifiquei mais a instalação (do OpenClaw) para que as pessoas parem, leiam e entendam o que é IA, que a IA pode cometer erros, o que é injeção de prompt: conceitos básicos que realmente devem ser compreendidos quando você utiliza esta tecnologia", explicou em março, em uma entrevista à AFP.

Mas, segundo Wendi Whitmore, esperar que os usuários utilizem agentes com salvaguardas "não é muito realista".

"As pessoas vão adotar a inovação e realmente ver do que ela é capaz antes de se perguntarem: 'Como posso proteger meus próprios dados?'", disse.

"Isso vai causar alguns desafios significativos em termos de violações de dados em 2026", concluiu.

Y.Ishikawa--JT