Grandes empresas de tecnologia discutem freio no avanço da inteligência artificial

Siga-nos no

O avanço rápido da inteligência artificial está provocando um debate entre algumas das maiores empresas de tecnologia do mundo. A preocupação é que os novos sistemas estejam evoluindo mais rápido do que as medidas criadas para acompanhar possíveis riscos.

A discussão ganhou força depois que o CEO da Anthropic, Dario Amodei, defendeu um ritmo mais cuidadoso para o desenvolvimento das chamadas IAs de ponta. A proposta recebeu apoio público de nomes como Sam Altman, da OpenAI, Elon Musk, da xAI, e Demis Hassabis, do Google DeepMind.

Uma das ideias apresentadas é permitir que especialistas independentes acompanhem de perto o trabalho das empresas. Esses avaliadores poderiam analisar os sistemas antes de novos lançamentos e comunicar eventuais problemas de segurança. Anthropic e OpenAI já sinalizaram apoio a esse modelo.

A preocupação não é apenas teórica. A Anthropic informou recentemente ter identificado casos em que sistemas de IA conseguiram acesso não autorizado a sistemas externos durante testes de segurança. A empresa ampliou a investigação para centenas de milhões de registros para verificar outros possíveis incidentes.

Ao mesmo tempo, existe uma forte disputa entre empresas e países pela liderança na área. Isso dificulta qualquer tentativa de reduzir o ritmo de desenvolvimento, já que laboratórios e governos também estão preocupados em não ficar atrás dos concorrentes.

Nem todos os líderes do setor concordam sobre a necessidade ou a forma de desacelerar. Enquanto alguns defendem regras comuns e fiscalização externa, outros consideram que medidas muito rígidas podem prejudicar a inovação e a competição entre empresas.

O debate, portanto, está concentrado em encontrar um equilíbrio entre avanço tecnológico e segurança. Por enquanto, ainda não existe um acordo internacional sobre como fiscalizar os sistemas mais avançados de inteligência artificial ou estabelecer limites para seu desenvolvimento.