Anthropic diz que os benefícios do projeto de lei de IA da Califórnia provavelmente superam os custos

Os benefícios do projeto de lei revisado da Califórnia que busca regulamentar como a inteligência artificial é desenvolvida e implantada no estado provavelmente superam os custos, disse a Anthropic na quinta-feira.

A Anthropic, sediada em San Francisco, é rival da OpenAI, fabricante do ChatGPT, e é apoiada pela Amazon AMZN e pela Alphabet GOOG.

O projeto de lei proposto pela Califórnia sobre regulamentação de IA, SB 1047, apresentado pelo senador estadual Scott Wiener, um democrata, exige testes de segurança para muitos dos modelos de IA mais avançados que custam mais de 100 milhões de dólares para serem desenvolvidos ou aqueles que exigem uma quantidade definida de poder de computação.

Os desenvolvedores de software de IA que operam no estado precisariam delinear métodos para desligar os modelos de IA se eles derem errado, efetivamente um kill switch. O projeto de lei também daria ao procurador-geral do estado o poder de processar se os desenvolvedores não estiverem em conformidade.

POR QUE É IMPORTANTE

O senador Wiener revisou recentemente o projeto de lei para apaziguar as empresas de tecnologia, contando em parte com a contribuição da Anthropic. O projeto de lei revisado eliminou uma provisão para um comitê de supervisão de IA do governo.

As empresas de tecnologia que desenvolvem IA — que pode responder a solicitações com texto, imagens ou áudio totalmente formados, bem como executar tarefas repetitivas com intervenção mínima — têm se recusado amplamente a aceitar o projeto de lei.

O Google, da Alphabet, e a Meta META expressaram preocupações em cartas a Wiener, com a Meta dizendo que o projeto de lei ameaça tornar o estado desfavorável ao desenvolvimento e implantação de IA.

A OpenAI disse que a IA deveria ser regulamentada pelo governo federal e que o projeto de lei da Califórnia cria um ambiente jurídico incerto.

CITAÇÕES-CHAVE

"Em nossa avaliação, o novo SB 1047 foi substancialmente melhorado, a ponto de acreditarmos que seus benefícios provavelmente superam seus custos. No entanto, não temos certeza disso, e ainda há alguns aspectos do projeto de lei que parecem preocupantes ou ambíguos para nós", disse o presidente-executivo da Anthropic, Dario Amodei, em uma carta ao governador da Califórnia, Gavin Newsom, em 21 de agosto.

"Nossas preocupações iniciais sobre o potencial do projeto de lei atrapalhar a inovação devido à natureza de rápida evolução do campo foram bastante reduzidas na versão alterada."