The Japan Times - Ataque de agente de IA descontrolado atingiu outras plataformas, diz OpenAI

EUR -
AED 4.025853
AFN 70.70607
ALL 90.135238
AMD 392.347525
ANG 1.962667
AOA 1006.325218
ARS 1701.579884
AUD 1.63045
AWG 1.973187
AZN 1.866058
BAM 1.950045
BBD 2.207176
BDT 136.87607
BGN 1.944105
BHD 0.413478
BIF 3295.360143
BMD 1.096215
BND 1.412326
BOB 12.783276
BRL 6.344674
BSD 1.095881
BTN 102.374951
BWP 15.339801
BYN 3.28877
BYR 21485.813938
BZD 2.204086
CAD 1.570661
CDF 2514.71741
CHF 0.922723
CLF 0.027694
CLP 1089.977209
CNY 7.307534
CNH 7.307813
COP 3627.397349
CRC 488.157189
CUC 1.096215
CUP 26.301383
CVE 109.942058
CZK 24.393197
DJF 195.1532
DKK 7.474926
DOP 66.363853
DZD 150.403946
EGP 58.980318
ERN 16.443225
ETB 179.8666
FJD 2.518997
FKP 0.829376
GBP 0.833534
GEL 2.838907
GGP 0.829376
GHS 12.85964
GIP 0.829376
GMD 81.120219
GNF 9709.302918
GTQ 8.375398
GYD 229.166398
HKD 8.600875
HNL 29.462919
HRK 7.489302
HTG 143.574338
HUF 367.668868
IDR 19990.576682
ILS 3.565116
IMP 0.829376
INR 102.497582
IQD 1661.381996
IRR 2114657.375626
ISK 136.809695
JEP 0.829376
JMD 174.145291
JOD 0.777232
JPY 174.515782
KES 142.56241
KGS 95.862891
KHR 4470.745359
KMF 491.104327
KPW 986.593881
KRW 1459.577857
KWD 0.341581
KYD 0.913296
KZT 486.549721
LAK 24682.161305
LBP 98139.222783
LKR 364.653882
LRD 184.105014
LSL 18.540271
LTL 3.236838
LVL 0.663089
LYD 7.082068
MAD 10.937722
MDL 20.066241
MGA 4985.242741
MKD 61.494975
MMK 2301.379694
MNT 3953.777112
MOP 8.856984
MRU 44.405753
MUR 52.552826
MVR 16.867619
MWK 1900.274828
MXN 20.286448
MYR 4.515412
MZN 70.05605
NAD 18.540018
NGN 1482.838864
NIO 40.330797
NOK 10.631795
NPR 163.800866
NZD 1.998049
OMR 0.42148
PAB 1.095866
PEN 3.742755
PGK 4.930383
PHP 69.901794
PKR 302.990601
PLN 4.408604
PYG 6827.819509
QAR 3.994965
RON 5.349425
RSD 117.638122
RUB 90.023757
RWF 1621.898873
SAR 4.122759
SBD 8.919947
SCR 15.177992
SDG 659.371235
SEK 11.142171
SGD 1.413936
SHP 0.829963
SLE 25.012244
SLL 22987.084393
SOS 626.249041
SRD 41.040045
STD 22689.437185
STN 24.427578
SVC 9.588616
SYP 14252.987758
SZL 18.538377
THB 37.239495
TJS 10.098552
TMT 3.836752
TND 3.316259
TOP 2.639423
TRY 55.296236
TTD 7.420035
TWD 36.109616
TZS 2896.748604
UAH 49.678642
UGX 4547.435027
USD 1.096215
UYU 44.51842
UZS 13170.134061
VES 1003.586913
VND 28200.130794
VUV 132.712913
WST 3.094923
XAF 655.957
XAG 0.023948
XAU 0.000290518908
XCD 2.962576
XCG 1.975053
XDR 0.775081
XOF 655.957
XPF 119.331742
YER 259.30992
ZAR 18.709995
ZMK 9867.247522
ZMW 22.449647
ZWL 352.980782
SSP 6499.138099
MXV 2.27523
Ataque de agente de IA descontrolado atingiu outras plataformas, diz OpenAI

Ataque de agente de IA descontrolado atingiu outras plataformas, diz OpenAI

Os dois modelos de inteligência artificial (IA) da OpenAI que saíram, por iniciativa própria, do ambiente confinado em que eram testados, também invadiram outras quatro plataformas, segundo o criador do ChatGPT.

Tamanho do texto:

Uma delas serviu como intermediária para preparar o ataque contra a Hugging Face, biblioteca de IA que os dois modelos exploraram para encontrar as respostas aos testes realizados pelos desenvolvedores da OpenAI.

A empresa criadora do ChatGPT não revelou os nomes das entidades afetadas.

Segundo uma atualização do relatório sobre o incidente, publicada na noite de terça-feira (28), as duas IAs também usaram vários sites de acesso livre para copiar códigos de programação ou testá-lo, mas sem ir além do que um usuário comum faria.

Para a Hugging Face, que por sua vez publicou um extenso relato dos acontecimentos, a invasão que sofreu foi uma "tentativa (dos dois modelos) de trapacear a avaliação" da OpenAI.

As IAs quiseram "roubar as soluções dos testes em vez de tentar respondê-las por si próprias".

Esta evasão de modelos não é a primeira a ser documentada, mas é considerada a mais grave até o momento. Deu um novo impulso ao já robusto debate sobre a aceleração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.

Na terça-feira, mais de 1.000 funcionários de gigantes da IA, entre eles vários diretores, pediram ao governo americano que ajude a "frear" o lançamento de novos modelos para dar tempo ao ecossistema informático se preparar.

Eles defendem, em uma petição, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência no tema da avaliação e supervisão da IA.

O setor anuncia que a IA se aproxima progressivamente da etapa denominada de "automelhora recursiva" (recursive self-improvement), além da qual a inteligência artificial seria capaz de conceber por si só sua sucessora, uma sequência que poderia se repetir ao infinito.

A "RSI", sua abreviação, tornaria mais difíceis as verificações e a avaliação de novos modelos por parte de analistas de sistemas humanos, pois os engenheiros não teriam participado diretamente de seu desenvolvimento.

- Em pausa -

Os agentes de IA - sistemas que agem de forma autônoma para completar tarefas em vez de se limitar a responder instruções ou "prompts" passo a passo em um chatbot - são considerados por toda a indústria o próximo capítulo da inteligência artificial.

Mas para o público, despertam o fantasma de computadores fora de controle que agem por conta própria.

Em sua atualização dos fatos que levaram ao hackeamento, a OpenAI encontrou um punhado de casos nos quais os modelos de IA se depararam com credenciais de início de sessão que outras empresas tinham deixado expostas online e as usaram para acessar contas em serviços externos.

A companhia informou que estava em contato com os proprietários das contas afetadas e que "não viu evidências de um impacto mais amplo nestes provedores, nem em outras contas de seus serviços".

O CEO da OpenAI, Sam Altman, declarou, em entrevista na terça-feira, que tinha "colocado em pausa" seus próprios testes após o incidente, enquanto melhorava a segurança em torno de seu "sandboxing", o processo de isolar os testes de segurança em um ambiente controlado.

Isto, por sua vez, gerou acusações de parte de outros atores do Vale do Silício próximos da Casa Branca de que as empresas estão promovendo uma regulação governamental mais estrita sobre a IA para proteger seus modelos de negócio e bloquear o surgimento de concorrentes.

O incidente também gerou comentários de alguns observadores de que a OpenAI o estaria aproveitando para promover a potência de seus modelos de última geração.

A mesma acusação se dirigiu à Anthropic, quando esta adiou a publicação de seu potente modelo Mythos por preocupações com a segurança.

K.Inoue--JT