Executivos de empresas que lideraram a expansão da inteligência artificial agora pregam mais cautela diante de ameaças à segurança, limitações econômicas, pressão energética e do avanço tecnológico chinês
 |
| Claude costuma ser mais usado por empresas e ChatGPT, por usuários privados — Foto: Matteo Della Torre/NurPhoto/picture alliance via DW |
Depois de anos impulsionando uma corrida acelerada pelo desenvolvimento da inteligência artificial, algumas das maiores empresas do setor passaram a defender que o avanço da tecnologia ocorra de forma mais cautelosa. Executivos de companhias responsáveis por alguns dos sistemas de IA mais avançados do mundo afirmam que o ritmo atual pode gerar riscos difíceis de controlar e cobram novos mecanismos de segurança.
O debate ganhou força após Dario Amodei, CEO da Anthropic, responsável pelo Claude, publicar um texto alertando sobre o rápido crescimento das capacidades dos sistemas de inteligência artificial.
Segundo Amodei, dentro de um período de seis a 12 meses, conjuntos de agentes de IA poderiam adquirir capacidade suficiente para operar em grande escala na internet e realizar tarefas com elevado grau de autonomia. Para o executivo, esse cenário exige cuidados antes que a tecnologia avance além da capacidade humana de compreensão e controle.
A preocupação encontrou apoio entre alguns dos principais concorrentes da Anthropic. Sam Altman, CEO da OpenAI, Elon Musk, proprietário da xAI, e Demis Hassabis, presidente do Google DeepMind, também passaram a defender maior atenção aos riscos associados aos modelos mais avançados.
Altman afirmou concordar com a necessidade de controlar o ritmo de desenvolvimento na chamada fronteira da inteligência artificial. O executivo também se mostrou favorável à criação de mecanismos que permitam a avaliadores independentes examinar os sistemas desenvolvidos pelas empresas.
Elon Musk também manifestou apoio ao alerta de Amodei
Além de defender uma redução no ritmo da corrida tecnológca, o CEO da Anthropic propôs que auditores independentes acompanhem o cumprimento dos padrões de segurança adotados pelas companhias.
Segundo o site especializado The Information, Anthropic, OpenAI e Google chegaram a discutir reservadamente a possibilidade de criação de uma entidade destinada a estabelecer padrões comuns de segurança para a inteligência artificial.
Episódios recentes ampliam preocupação
O debate ocorre em um momento de crescente preocupação com a capacidade dos sistemas de IA de realizar tarefas de forma autônoma.
Nos últimos meses, surgiram relatos envolvendo o uso de inteligência artificial em ataques cibernéticos e operações complexas realizadas com pouca participação humana.
Outro episódio que aumentou a pressão sobre o setor ocorreu quando um pesquisador que havia trabalhado na OpenAI e posteriormente na Anthropic decidiu abandonar a indústria e acusou as empresas de estarem "brincando com as nossas vidas" ao desenvolver tecnologias cada vez mais poderosas sem garantias suficientes sobre seus efeitos.
Para Diogo Cortiz, especialista em inteligência artificial e professor da PUC-SP, a preocupação possui fundamentos técnicos.
Segundo ele, os modelos estão adquirindo capacidade crescente para executar tarefas complexas durante períodos mais longos, o que aumenta a preocupação sobre um possível cenário em que milhares de agentes de IA atuem simultaneamente com determinado nível de autonomia.
Cortiz pondera, entretanto, que é difícil separar completamente uma preocupação legítima com segurança dos interesses comerciais das próprias empresas.
Na avaliação do pesquisador, o discurso também pode contribuir para fortalecer a ideia de que sistemas cada vez mais avançados são inevitáveis e, ao mesmo tempo, criar a percepção de que apenas as grandes empresas atualmente estabelecidas teriam condições de desenvolvê-los de maneira responsável.
Energia, investimentos e concorrência também pesam
Os riscos tecnológicos não seriam, contudo, a única explicação para a mudança de discurso das empresas.
Segundo especialistas, fatores econômicos e geopolíticos ajudam a compreender por que algumas companhias passaram a defender um ritmo mais controlado de desenvolvimento.
Nos Estados Unidos, um dos principais desafios é garantir energia suficiente para sustentar a expansão da infraestrutura necessária para treinar e operar modelos cada vez maiores.
Os enormes centros de processamento de dados destinados à inteligência artificial consomem grandes volumes de eletricidade. Ao mesmo tempo, a construção de novos data centers ocorre em ritmo inferior ao desejado por algumas empresas do setor.
Outro problema está relacionado ao retorno financeiro
Embora centenas de bilhões de dólares tenham sido direcionados para infraestrutura, chips, centros de dados e desenvolvimento de modelos, o retorno sobre esses investimentos ainda ocorre de maneira mais lenta do que parte do mercado esperava.
Esse cenário pode reduzir o ritmo de novos aportes e aumentar a pressão para que as empresas demonstrem que os elevados investimentos realizados em inteligência artificial serão financeiramente sustentáveis.
China amplia competição
A ascensão dos modelos chineses também se tornou um componente importante da disputa.
Empresas da China passaram a oferecer sistemas com desempenho competitivo e custos inferiores aos de diversos modelos norte-americanos. Em determinadas aplicações, ferramentas chinesas conseguem entregar capacidades semelhantes com investimentos significativamente menores.
Esse avanço amplia a pressão sobre as empresas dos Estados Unidos e transforma o desenvolvimento da inteligência artificial em uma questão estratégica entre as duas maiores potências econômicas do planeta.
Há ainda outro aspecto no debate regulatório
Regras mais rígidas sobre segurança podem elevar os custos necessários para desenvolver novos sistemas de IA. Na prática, exigências muito complexas poderiam dificultar a entrada de empresas menores no mercado e beneficiar gigantes que já possuem recursos financeiros, infraestrutura e equipes especializadas.
Dessa forma, uma regulamentação criada para aumentar a segurança também poderia contribuir para concentrar ainda mais o setor.
Trump critica alertas sobre riscos da IA
O presidente dos Estados Unidos, Donald Trump, adotou uma posição diferente e criticou, neste domingo (13), aqueles que defendem maior cautela no avanço da inteligência artificial.
Trump classificou os críticos da tecnologia como "forças muito negativas" e afirmou que muitos dos cenários preocupantes apresentados sobre a IA não devem se concretizar.
O presidente norte-americano também deixou claro que considera a liderança tecnológica dos Estados Unidos uma prioridade estratégica, especialmente diante da competição com a China.
Segundo Trump, os EUA estão à frente dos chineses no desenvolvimento da inteligência artificial e precisam preservar essa vantagem. Para ele, o país vencedor dessa corrida tecnológica conquistará enorme influência econômica e geopolítica.
O presidente reconheceu que poderiam ser adotadas barreiras e mecanismos adicionais de proteção, mas demonstrou preocupação com medidas que possam desacelerar a indústria norte-americana.
China também vê riscos à segurança nacional
Apesar da competição com os Estados Unidos, o governo chinês também passou a manifestar preocupação com os possíveis impactos da inteligência artificial.
Pequim afirmou que a tecnologia pode representar uma ameaça à segurança nacional caso seja utilizada por potências estrangeiras para interferir na estabilidade social e política do país.
O ministro da Segurança do Estado da China, Chen Yixin, afirmou que "forças hostis" estariam utilizando tecnologias generativas para produzir rumores políticos e disseminar informações consideradas prejudiciais pelas autoridades chinesas.
O posicionamento evidencia uma contradição da atual corrida tecnológica: ao mesmo tempo em que Estados Unidos e China procuram acelerar seus próprios avanços, os dois países reconhecem riscos relacionados ao uso cada vez mais sofisticado da inteligência artificial.
Amodei defende restrições à China
No texto que reacendeu o debate internacional, Dario Amodei também tratou diretamente da competição geopolítica.
O CEO da Anthropic defendeu maior cooperação entre empresas instaladas em países que classificou como democráticos e sugeriu a manutenção de restrições à venda de chips avançados e equipamentos destinados à fabricação de semicondutores para a China.
Segundo Amodei, limitar o acesso chinês aos componentes mais sofisticados aumentaria a vantagem tecnológica das democracias e poderia criar condições para futuros acordos internacionais sobre inteligência artificial.
A proposta reforça a percepção de que o debate sobre segurança não está restrito aos riscos técnicos dos modelos. Ele também envolve interesses comerciais, estratégias nacionais e uma disputa pela liderança de uma das tecnologias consideradas mais importantes das próximas décadas.
Europa e Reino Unido defendem segurança baseada em evidências
Nesta segunda-feira (14), a Comissão Europeia também se manifestou sobre o assunto.
O porta-voz do órgão, Thomas Regnier, afirmou que a União Europeia apoia o desenvolvimento e a inovação em inteligência artificial, mas considera necessário que as empresas demonstrem que seus produtos e serviços são seguros.
No Reino Unido, o primeiro-ministro Andy Burnham também considerou positivo que as principais empresas de inteligência artificial discutam publicamente os possíveis riscos da tecnologia para a humanidade.
Segundo seu porta-voz, entretanto, eventuais decisões governamentais e medidas regulatórias precisam estar sustentadas em evidências.
O avanço do debate mostra que a corrida da inteligência artificial entrou em uma nova fase. Depois da competição para desenvolver modelos cada vez maiores e mais poderosos, empresas e governos começam a discutir não apenas quem chegará primeiro, mas até onde a tecnologia poderá avançar sem comprometer segurança, estabilidade econômica e controle humano.
Fonte: G1