Especialistas Defendem Cautela no Desenvolvimento de IA Superinteligente nos EUA
Em um artigo de políticas publicado na quarta-feira, o ex-CEO do Google, Eric Schmidt, o CEO da Scale AI, Alexandr Wang, e o diretor do Center for AI Safety, Dan Hendrycks, afirmaram que os EUA não devem seguir uma abordagem semelhante ao Projeto Manhattan para desenvolver sistemas de inteligência artificial com “inteligência super-humana”, também conhecidos como IA Superinteligente.
Risco de Reações Agressivas por Parte da China
O documento, intitulado “Superintelligence Strategy”, afirma que uma tentativa agressiva por parte dos EUA para controlar exclusivamente sistemas de IA Superinteligente poderia provocar reações agressivas da China, possivelmente na forma de um ciberataque, o que poderia desestabilizar as relações internacionais.
[A] Manhattan Project [for IA Superinteligente] assumes that rivals will acquiesce to an enduring imbalance or omnicide rather than move to prevent it,”
escrevem os co-autores. “O que começa como uma pressão por uma superarma e controle global arrisca provocar medidas contra-atacantes hostis, escalando tensões e, assim, minando a própria estabilidade que a estratégia afirma buscar.”
A Emergência de um Novo Modelo
Co-autorado por três figuras influentes na indústria de IA nos EUA, o artigo surge poucos meses após uma comissão do Congresso dos EUA ter proposto um esforço no estilo do Projeto Manhattan para financiar o desenvolvimento de IA Superinteligente, modelo inspirado no programa de armas nucleares americano da década de 1940. Recentemente, o Secretário de Energia dos EUA, Chris Wright, mencionou que os EUA estão no “início de um novo Projeto Manhattan” para a IA Superinteligente, enquanto estava em um site de supercomputadores ao lado do co-fundador da OpenAI, Greg Brockman.
A Proposta de Mudança de Foco
O documento Superintelligence Strategy desafia a ideia de que um programa apoiado pelo governo visando a IA Superinteligente é a melhor forma de competir com a China. Para Schmidt, Wang e Hendrycks, os EUA se encontram em uma espécie de impasse sobre a IA Superinteligente, não muito diferente da teoria da destruição mútua assegurada. Assim como as potências globais não buscam monopólios sobre armamentos nucleares — o que poderia desencadear um ataque preventivo de um adversário — os autores argumentam que os EUA devem ser cautelosos sobre a corrida em direção à dominância de sistemas de IA Superinteligente.
A IA Superinteligente como Vantagem Militar
Embora comparar sistemas de IA Superinteligente a armas nucleares possa soar extremo, os líderes mundiais já consideram a IA Superinteligente como uma grande vantagem militar. O Pentágono já afirmou que a IA Superinteligente está ajudando a acelerar a cadeia de mortes militares, demonstrando sua crescente importância no campo de batalha.
Malfuncionamento Mútuo Assegurado de IA Superinteligente
Os autores introduzem um conceito que chamam de Malfuncionamento Mútuo Assegurado de IA Superinteligente (MAIM), no qual os governos poderiam desabilitar proativamente projetos de IA Superinteligente ameaçadores ao invés de esperar que adversários armem a IA Superinteligente.
Um Novo Paradigma de Competição
Schmidt, Wang e Hendrycks propõem que os EUA mudem seu foco de “vencer a corrida pela IA Superinteligente” para desenvolver métodos que desencorajem outros países a criarem IA Superinteligente. Os co-autores argumentam que o governo deveria “expandir [seu] arsenal de ciberataques para desabilitar projetos de IA Superinteligente ameaçadores” controlados por outras nações, além de limitar o acesso de adversários a chips avançados de IA Superinteligente e modelos de código aberto.
Visões Divergentes sobre a IA Superinteligente
Os co-autores identificam uma dicotomia que tem se desenrolado no cenário de políticas de IA Superinteligente. Há os “pessimistas”, que acreditam que resultados catastróficos do desenvolvimento de IA Superinteligente são inevitáveis e defendem que os países desacelerem o progresso da IA Superinteligente. Por outro lado, há os “avestruzes”, que acreditam que as nações deveriam acelerar o desenvolvimento da IA Superinteligente e simplesmente torcer para que tudo dê certo.
O artigo propõe um terceiro caminho: uma abordagem equilibrada para o desenvolvimento da IA Superinteligente que prioriza estratégias defensivas.
Conclusão
Essa estratégia é particularmente notável vinda de Schmidt, que anteriormente já se manifestou sobre a necessidade de os EUA competirem agressivamente com a China no desenvolvimento de sistemas de IA Superinteligente. Apenas alguns meses atrás, Schmidt publicou um artigo de opinião afirmando que a DeepSeek marcava um ponto de inflexão na corrida de IA Superinteligente dos EUA com a China.
A administração Trump parece determinada a avançar no desenvolvimento de IA Superinteligente nos EUA. No entanto, como ressaltam os co-autores, as decisões da América sobre IA Superinteligente não existem em um vácuo.
Enquanto o mundo observa os EUA ultrapassarem os limites da IA Superinteligente, Schmidt e seus co-autores sugerem que pode ser mais sábio adotar uma abordagem defensiva.
FAQ
Por que especialistas defendem cautela no desenvolvimento de IA Superinteligente?
Especialistas como Eric Schmidt e Alexandr Wang alertam que uma abordagem semelhante ao Projeto Manhattan não é adequada para o desenvolvimento de IA Superinteligente nos EUA. Eles argumentam que tal estratégia poderia resultar em reações adversas de outros países, promovendo uma escalada das tensões internacionais e comprometendo a estabilidade global.
Qual é o principal risco associado a uma corrida por IA Superinteligente?
O principal risco mencionado é a possibilidade de reações agressivas por parte da China. O documento sugere que a tentativa dos EUA de monopolizar a IA Superinteligente poderia levar a um ciberataque chinês. Isso tornaria as relações internacionais ainda mais tensas, minando a segurança global conforme as nações reagem a esse desafio.
O que é o Malfuncionamento Mútuo Assegurado de IA Superinteligente (MAIM)?
O MAIM é um conceito proposto pelos autores que sugere que os governos devem desabilitar projetos perigosos de IA Superinteligente antes que eles sejam armados por adversários. Assim, em vez de esperar por uma ameaça, os países se adiantariam, criando uma forma de prevenir possíveis desastres associados a essa tecnologia.
Como a IA Superinteligente é vista como uma vantagem militar?
A IA Superinteligente é considerada uma vantagem militar importante, de acordo com o Pentágono. Ela está sendo usada para acelerar processos críticos, como a cadeia de mortes militares. Isso demonstra como sua aplicação está cada vez mais integrada nas estratégias militares, elevando o nível de importância da tecnologia no campo de batalha.
Qual é a proposta apresentada pelos autores sobre a corrida pela IA Superinteligente?
Os autores propõem que os EUA mudem seu enfoque. Em vez de tentar vencer a corrida pela IA Superinteligente, a prioridade deve ser desencorajar outros países a desenvolverem suas próprias tecnologias. Para isso, recomendam expandir o arsenal de ciberataques e limitar o acesso a chips avançados usados em IA Superinteligente.
Quais são os pontos de vista divergentes sobre a IA Superinteligente?
No cenário de políticas, dois grupos se destacam. Os “pessimistas” acreditam que o desenvolvimento de IA Superinteligente levará a resultados catastróficos, enquanto os “avestruzes” defendem acelerar seu desenvolvimento e torcer para que tudo ocorra bem. O artigo propõe uma terceira via, uma abordagem equilibrada que prioriza a defesa na evolução desse campo.
Como a mudança de foco sugere uma abordagem defensiva para a IA Superinteligente?
A nova proposta estabelece que, em vez de simplesmente competir agressivamente, os EUA deveriam considerar uma postura mais defensiva. Isso incluiria desenvolver métodos para desabilitar ameaças externas de IA Superinteligente e proteger sua própria infraestrutura de inteligência, em vez de buscar a dominância a todo custo.
Qual é o impacto das decisões dos EUA sobre IA Superinteligente no cenário global?
As decisões dos EUA sobre IA Superinteligente têm relevância internacional significativa, uma vez que influenciam como outros países, como a China, reagem e se adaptam. As escolhas feitas no desenvolvimento dessa tecnologia não existem em um vácuo, afetando as relações e a estabilidade global no cenário de alianças e rivalidades.
O que os autores sugerem para uma abordagem equilibrada?
Os autores sugerem que os EUA devem buscar uma abordagem equilibrada que priorize estratégias defensivas sobre a mera corrida ao desenvolvimento de IA Superinteligente. Isso pode incluir diálogos diplomáticos e cooperação internacional para abordar questões de segurança, em vez de propagar uma competição acadêmica ou tecnológica desenfreada.
Qual foi a posição anterior de Eric Schmidt sobre a IA Superinteligente?
Eric Schmidt anteriormente defendeu uma postura mais agressiva dos EUA na competição com a China em relação à IA Superinteligente. Recentemente, ele mudou sua perspectiva, enfatizando a necessidade de cautela. Ao invés de apenas ver a corrida como uma oportunidade de avanço, agora considera os riscos significativos associados.
Com informações: TechCrunch
Veja também: GibberLink: IAs Criam uma Linguagem Própria que Humanos Não Podem Entender