The Japan Times - Gigantes da IA concordam em frear seu desenvolvimento

EUR -
AED 4.032261
AFN 70.809225
ALL 90.102212
AMD 395.663403
ANG 1.96553
AOA 1007.793582
ARS 1711.395319
AUD 1.633507
AWG 1.978811
AZN 1.867807
BAM 1.959101
BBD 2.211666
BDT 136.710326
BGN 1.946942
BHD 0.414041
BIF 3300.030597
BMD 1.097815
BND 1.416293
BOB 12.864674
BRL 6.404871
BSD 1.098155
BTN 102.610942
BWP 15.513207
BYN 3.294325
BYR 21517.165569
BZD 2.20846
CAD 1.573262
CDF 2508.506398
CHF 0.924936
CLF 0.028057
CLP 1103.698524
CNY 7.320009
CNH 7.320376
COP 3687.207839
CRC 488.213636
CUC 1.097815
CUP 26.354401
CVE 110.454109
CZK 24.398874
DJF 195.103409
DKK 7.47403
DOP 66.393976
DZD 150.532509
EGP 58.998094
ERN 16.467219
ETB 180.239008
FJD 2.522672
FKP 0.830587
GBP 0.834597
GEL 2.843386
GGP 0.830587
GHS 12.921723
GIP 0.830587
GMD 80.691187
GNF 9721.147771
GTQ 8.392369
GYD 229.65692
HKD 8.613229
HNL 29.518673
HRK 7.500231
HTG 143.977159
HUF 368.705965
IDR 20030.395297
ILS 3.598581
IMP 0.830587
INR 102.551464
IQD 1664.704652
IRR 2122256.15476
ISK 137.008434
JEP 0.830587
JMD 174.174238
JOD 0.778327
JPY 174.835202
KES 142.78156
KGS 96.003228
KHR 4473.679769
KMF 491.82112
KPW 988.033497
KRW 1462.102717
KWD 0.3422
KYD 0.915159
KZT 488.371693
LAK 24740.245129
LBP 98337.115235
LKR 365.445694
LRD 184.479125
LSL 18.877234
LTL 3.241561
LVL 0.664057
LYD 7.101998
MAD 10.937127
MDL 20.161427
MGA 4993.435555
MKD 61.553667
MMK 2304.737817
MNT 3959.546378
MOP 8.875035
MRU 44.628188
MUR 52.640241
MVR 16.90419
MWK 1904.116679
MXN 20.547029
MYR 4.517522
MZN 70.145894
NAD 18.877148
NGN 1484.453769
NIO 40.344681
NOK 10.640403
NPR 164.183847
NZD 1.997386
OMR 0.422109
PAB 1.09815
PEN 3.749016
PGK 4.940481
PHP 69.810576
PKR 303.598578
PLN 4.413478
PYG 6873.611791
QAR 4.003454
RON 5.347787
RSD 117.6471
RUB 90.455857
RWF 1625.145405
SAR 4.119279
SBD 8.932962
SCR 15.210669
SDG 660.34112
SEK 11.149904
SGD 1.415434
SHP 0.831174
SLE 25.028976
SLL 23020.626645
SOS 627.560155
SRD 41.04125
STD 22722.545117
STN 24.54213
SVC 9.608363
SYP 14273.785407
SZL 18.873884
THB 37.281233
TJS 10.097334
TMT 3.842351
TND 3.325894
TOP 2.643274
TRY 55.374837
TTD 7.45169
TWD 36.167526
TZS 2914.695514
UAH 49.576952
UGX 4600.751228
USD 1.097815
UYU 44.616388
UZS 13188.219174
VES 1005.051329
VND 28205.600836
VUV 132.906565
WST 3.099439
XAF 655.957
XAG 0.024336
XAU 0.000293532915
XCD 2.966899
XCG 1.979034
XDR 0.776212
XOF 655.957
XPF 119.331742
YER 259.687549
ZAR 18.944163
ZMK 9881.647288
ZMW 22.554794
ZWL 353.495844
SSP 6508.6215
MXV 2.304456
Gigantes da IA concordam em frear seu desenvolvimento
Gigantes da IA concordam em frear seu desenvolvimento / foto: Fabrice COFFRINI, JULIEN DE ROSA, Mandel NGAN - AFP/Arquivos

Gigantes da IA concordam em frear seu desenvolvimento

O CEO da OpenAI, Sam Altman, e o CEO da xAI, Elon Musk,concordaram neste sábado (12) com o CEO da Anthropic, Dario Amodei, sobre a necessidade de desacelerar o ritmo de desenvolvimento da inteligência artificial após vários incidentes preocupantes.

Tamanho do texto:

Amodei pediu neste sábado que as empresas de IA procedam com mais cautela e lentidão no desenvolvimento dessa poderosa tecnologia, afirmando que a prevenção de riscos é fundamental.

"Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e precisamos usar o tempo que ganhamos de forma inteligente", escreveu Amodei em uma publicação.

"A IA acarreta riscos e, por ser uma tecnologia tão poderosa, esses riscos são graves", disse.

"Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la muito rapidamente é imprudente. Tentamos encontrar um meio-termo", disse Amodei, que co-fundou a Anthropic com sua irmã Daniela em 2021.

"Mas, nos últimos meses, me convenci de que abordar plenamente os riscos exige ainda mais cautela", afirmou.

Altman e Musk reagiram à publicação.

"Concordo com Dario", escreveu Altman no X, acrescentando que sua empresa seguirá o exemplo de Amodei ao aceitar avaliadores de segurança externos.

"Dario tem razão", concordou Musk.

Esses comentários surgem poucos dias depois de o pesquisador de IA Jacob Coxon, que deixou a OpenAI para se juntar à Anthropic, ter decidido abandonar a indústria, acusando ambas as empresas americanas de "brincarem com nossas vidas" na corrida para desenvolver modelos de IA que se aprimoram sozinhos.

- Mudança? -

A declaração de Amodei também coincide com outro apelo da Anthropic, no início de junho, para desacelerar ou suspender o desenvolvimento de IA.

Em seguida, no final de julho, Altman afirmou que os desenvolvedores podem ter que diminuir voluntariamente seu rápido progresso para dar à sociedade a chance de acompanhar.

Quase ao mesmo tempo, mais de mil funcionários de empresas líderes em IA, incluindo Amodei, assinaram uma petição ao governo dos Estados Unidos solicitando ajuda para "definir deliberadamente o ritmo da fronteira do desenvolvimento automatizado de IA".

A OpenAI revelou que, durante os testes, modelos de IA escaparam de seu ambiente confinado, conectaram-se à internet e hackearam o Hugging Face, um site usado por desenvolvedores para armazenar e compartilhar código.

No início desta semana, Coxon, de 27 anos, soou o alarme após passar os últimos três anos pré-treinando modelos de IA, primeiro na OpenAI e, este ano, em sua concorrente Anthropic, que ele considerava mais cautelosa em sua abordagem.

O pré-treinamento é a etapa em que os modelos de IA absorvem grandes quantidades de dados.

"Nenhuma das empresas está agindo com responsabilidade. Elas estão correndo a passos largos rumo a uma superinteligência que se aprimora sozinha e estão brincando com nossas vidas", disse Coxon na terça-feira.

"As pessoas que desenvolvem IA acreditam firmemente que ela pode matar a todos antes do final da década", alertou em uma publicação no X.

Superinteligência é o ponto teórico em que as capacidades da IA superam a inteligência humana.

- Alerta -

Amodei alertou que o incidente da Hugging Face não deve ser considerado um caso isolado.

"Um enxame de agentes (de IA) agiu essencialmente como um coletivo fanaticamente dedicado, realizando ciberataques contra alvos que não foram solicitados a atacar e que não tinham relação com a tarefa em questão", explicou.

"Dado o ritmo acelerado do desenvolvimento das capacidades de IA, receio que, em 6 a 12 meses, esse tipo de enxame possa ser capaz de assumir o controle de toda a internet", causando potencialmente centenas de bilhões de dólares em prejuízos, acrescentou.

Amodei também sugeriu que as empresas trabalhem juntas para estabelecer normas de segurança comuns e afirmou que apoia alguma forma de cooperação governamental sobre o assunto.

No início de agosto, o governo dos EUA instituiu um processo voluntário de revisão de segurança para modelos avançados de IA antes de seu lançamento, mas os parâmetros desse programa são pouco claros.

Observadores da indústria dizem não ter certeza de quão eficaz ele será, já que o governo do presidente Donald Trump tem, até o momento, favorecido uma abordagem desregulamentadora para a maioria das indústrias, incluindo a de tecnologia.

K.Nakajima--JT