The Japan Times - Anthropic lança sua IA mais potente, com restrições por cibersegurança e riscos biológicos

Batizado de Fable 5, este modelo é o primeiro aberto ao público da classe Mythos, a gama mais avançada da Anthropic, apresentada em abril, mas restrita por motivos de segurança.

Paralelamente, a Anthropic oferece uma versão sem limitações, o Claude Mythos 5, para empresas, organizações e agências estatais que já dispõem de acesso a esta família de modelos, apresentada como capaz de detectar e explorar falhas de segurança com uma velocidade e precisão inéditas.

No começo de abril, a Anthropic tinha anunciado simultaneamente a existência do Mythos e sua decisão de limitar o acesso a parceiros de confiança para reforçar sua proteção a ciberataques.

A notícia lhe rendeu acusações de promover um "marketing do medo" e provocou, ao mesmo tempo, uma agitação entre países e instituições mundiais para avaliar o nível de ameaça para infraestruturas essenciais (bancárias, energéticas e outras).

Desde então, várias empesas que tiveram acesso ao Mythos confirmaram suas capacidades, e o governo americano, apesar de estar em litígio com a Anthropic, acabou por testá-lo.

A Casa Branca instaurou, a partir daí, um dispositivo de avaliação opcional para modelos de IA americanos mais potentes antes de sua comercialização. A OpenAI, concorrente da Anthropic, está prestes a apresentar a versão 5.6 de seu ChatGPT.

- Ataques biológicos? -

Até agora, a Anthropic justificava restringir o acesso ao Mythos exclusivamente pelos riscos de cibersegurança.

Com o Fable 5, a Anthropic amplia, portanto, a vigilância e o controle aos riscos de ataques biológicos, sem detalhar as ameaças específicas que busca evitar (design de armas químicas, bacteriológicas, entre outras).

Segundo a empresa, a maioria das solicitações relacionadas à cibersegurança ou à biologia recebem uma resposta do modelo inferior, Opus 4.8, disponibilizado ao público no fim de maio.

A Anthropic apresenta o Fable 5 como a versão segura deste modelo que, sem salvaguardas, não poderia ser aberto ao público.

Este marco se baseia em filtros automáticos que analisam as solicitações em tempo real e bloqueiam as que tratam de temas sensíveis.

A Anthropic diz ter pedido a especialistas externos que tentem superá-los - uma abordagem de simulação de ataques ou "red teaming" - com remunerações para premiar quem conseguir explorar suas falhas.

Segundo a empresa, nenhum, em 1.000 horas de testes, conseguiu um "desvio universal", ou seja, desbloquear o modelo por completo.

A Anthropic não detalhou, no entanto, se foram identificados desvios pontuais.

- Tarifa elevada -

A questão da segurança, que a Anthropic transformou em um de seus principais argumentos comerciais, levou a start-up de San Francisco a uma queda de braço inédita com o governo Trump por sua negativa a suspender suas restrições sobre a vigilância em massa e as armas letais autônomas.

Por causa desta situação, o Pentágono rescindiu seus contratos com a empresa, cujos instrumentos de IA eram os únicos autorizados para informação sigilosa.

O lançamento do Fable 5 é acompanhado de uma tarifa elevada, de até 50 dólares (R$ 258) por milhão de "tokens" - a unidade de medida que utiliza -, o dobro do custo do Opus 4.8.

Uma sessão intensa de programação pode consumir um milhão de tokens em poucas horas ou inclusive menos tempo.

A Anthropic revisou recentemente suas tarifas para levar em conta o desenvolvimento de agentes de IA, que frequentemente multiplicam o consumo de "tokens".

Mas ainda deve demonstrar sua rentabilidade no longo prazo, lastreada pelo alto custo da potência de cálculo necessária para a IA.

A Anthropic acaba de fechar um acordo com Elon Musk para utilizar um de seus centros de dados por 1,25 bilhão de dólares (R$ 6,46 bilhões) ao mês.

Estes lançamentos ocorrem em plena efervescência financeira em torno da IA.

A Anthropic e sua concorrente, a OpenAI, anunciaram este mês que apresentaram planos de oferta iniciais (IPO) para entrar na bolsa, enquanto se espera que a SpaceX, a gigante espacial de Musk, bata um recorde quando estrear no mercado na próxima sexta-feira. No começo do ano, a SpaceX comprou a xAI, start-up de IA do bilionário sul-africano.

S.Suzuki--JT