Riscos de Segurança da IA: Perspectivas dos EUA e da China

Os Estados Unidos e a China são jogadores chave no campo da inteligência artificial (IA). Com o avanço da tecnologia de IA, ambos os países enfrentam desafios importantes em relação à Segurança. As preocupações sobre os riscos associados à IA avançada estão crescendo, especialmente em relação a um tipo conhecido como inteligência geral artificial (IGA). A IGA pode impactar significativamente a segurança nacional e global, fazendo com que especialistas de ambos os países expressem suas preocupações.

Esse artigo discute as opiniões de especialistas dos EUA e da China sobre as ameaças à segurança vindas da IA avançada, os riscos extremos que ela pode trazer e a possibilidade de um trabalho em equipe internacional para lidar com essas questões. Ao analisarmos declarações de oficiais e acadêmicos de ambos os países, nosso objetivo é iluminar as conversas em andamento sobre a IA e suas implicações para o futuro.

#Entendendo os Riscos da IA

A IA é uma tecnologia que cresce rápido, e seu desenvolvimento levanta preocupações significativas de segurança. Alguns perigos incluem a possibilidade de sistemas de IA se tornarem tão avançados que possam agir independentemente do controle humano. Especialistas alertam que, se a IA evoluir a um certo nível, isso pode levar a uma “explosão de inteligência”, resultando em consequências catastróficas.

Tanto especialistas americanos quanto chineses destacam vários riscos específicos relacionados à IA. Por exemplo, há medos sobre o uso da IA de forma perigosa, como em guerras biológicas ou operações militares. Outra preocupação envolve a criação de sistemas de IA que possam se modificar ou enganar os humanos.

#O Mercado de IA nos EUA e na China

Os EUA e a China são os maiores jogadores no mercado global de IA. Em 2022, o mercado de IA dos EUA foi avaliado em cerca de 103,7 bilhões de dólares, enquanto o da China estava em torno de 40 bilhões. Uma parte significativa dos principais pesquisadores de IA do mundo vem de ambos os países, com cada um contribuindo com cerca de um quarto dos melhores profissionais dessa área.

Enquanto as empresas americanas dominam o desenvolvimento de grandes modelos de linguagem (GMLs), alguns GMLs chineses estão começando a se aproximar. Estão fazendo progresso, com avanços vistos em modelos como o Kimi da Moonshot AI, que pode performar comparavelmente ao Chat-GPT da OpenAI em condições específicas.

#Preocupações com Segurança na China

Acadêmicos e formuladores de políticas chineses reconhecem abertamente que a IA avançada apresenta riscos de segurança a longo prazo. Discussões notáveis se concentram em explosões de inteligência e na necessidade de medidas de segurança robustas para a IGA. Por exemplo, especialistas expressam preocupações sobre o potencial de conteúdo nocivo gerado pela IA, o que poderia desafiar o controle do governo chinês sobre a informação.

Algumas citações de cientistas chineses revelam a profundidade de suas preocupações:

• Uma pesquisadora alertou que, se a IA evoluir para um ponto crítico, o resultado pode ser desastroso.
• Outro especialista observou que toda nova tecnologia pode ter riscos semelhantes aos da tecnologia nuclear, sugerindo que talvez fosse melhor não buscar esses avanços perigosos.

Além disso, os padrões do governo enfatizam a necessidade de monitorar sistemas de IA e suspender serviços quando usuários tentam gerar conteúdo ilegal ou prejudicial. Também há preocupações sobre sistemas de IA que podem priorizar sua própria sobrevivência, possivelmente levando a resultados desastrosos para a humanidade.

#Cooperação Internacional na China

O governo chinês expressou um claro interesse na cooperação internacional sobre IA. Eles defendem um sistema em camadas para testar e gerenciar a IA de acordo com os riscos que ela apresenta. Isso indica um desejo de promover medidas de segurança e garantir acesso igual à tecnologia de IA em todo o mundo.

Várias citações de oficiais chineses refletem esse foco na cooperação global:

• Eles apoiam a criação de instituições internacionais para governar a IA dentro da estrutura das Nações Unidas.
• Oficiais pediram colaboração global para garantir um desenvolvimento de IA justo e distribuição do conhecimento, enfatizando que todos os países devem se beneficiar dos avanços da IA.

Especialistas também apontaram que a cooperação precisa envolver um grupo diversificado de indivíduos, incluindo pessoas das áreas de direito e ética, para desenvolver uma compreensão sólida de como a IA deve ser governada.

#Preocupações com Segurança nos EUA

Semelhante à China, especialistas e formuladores de políticas dos EUA reconhecem os riscos de longo prazo associados à IA avançada. Eles expressaram preocupações sobre as consequências catastróficas potenciais de sistemas de IA poderosos, como perda de controle ou uso intencional indevido. Os formuladores de políticas estão ansiosos para entender melhor a IGA, estabelecer definições claras e se preparar para os riscos associados.

Algumas citações de especialistas dos EUA ilustram suas preocupações:

• Um pesquisador de IA destacou a importância de salvaguardas, alertando que uma IA poderosa sem elas poderia ameaçar a humanidade.
• Outro especialista observou que, se a IA fosse autorizada a manter sua agência, isso poderia levar a consequências graves e imprevistas.

Os formuladores de políticas americanos enfatizam o potencial de a IA ser mal utilizada de várias maneiras prejudiciais, incluindo na criação de armas biológicas e químicas. Isso destaca a necessidade urgente de medidas de segurança e regulamentações adequadas para gerenciar o desenvolvimento da IA avançada.

#Cooperação Internacional nos EUA

Nos Estados Unidos, há um forte impulso por cooperação internacional em relação a padrões de IA e gerenciamento de riscos. Recentes esforços legislativos estão focados em formar alianças com outros países para desenvolver padrões de IA compartilhados. O Instituto de Segurança de IA dos EUA também está dedicado a liderar uma conversa global sobre práticas de segurança em IA.

Alguns pontos essenciais das discussões nos EUA incluem:

• O objetivo de estabelecer coalizões com nações que pensam da mesma forma para promover inovações seguras em IA.
• O reconhecimento de que a cooperação global é essencial para garantir que práticas de segurança em IA sejam adotadas universalmente.

#Declarações Conjuntas sobre Riscos de Segurança

Especialistas dos EUA e da China fizeram declarações conjuntas sobre as ameaças à segurança trazidas pela IA. Durante reuniões internacionais, eles reconheceram os riscos que poderiam surgir de sistemas de IA inseguros. Essas conversas ressaltam a importância da ação global coordenada para abordar preocupações relacionadas à segurança da IA.

Algumas citações importantes dessas declarações conjuntas enfatizam:

• A necessidade de ação global para evitar que a IA apresente riscos inaceitáveis para a humanidade.
• O reconhecimento de que muitos dos riscos da IA são inerentemente internacionais e precisam de colaboração transfronteiriça para serem eficazmente abordados.

#Conclusão

Tanto os EUA quanto a China reconhecem os riscos extremos apresentados pelas tecnologias de IA avançadas. Especialistas de ambos os lados expressam preocupações similares sobre desafios de segurança, como explosões de inteligência e o potencial de sistemas de IA agirem sem controle humano. Ao mesmo tempo, há diferenças notáveis em suas discussões, especialmente em relação ao papel do controle governamental sobre a informação na China.

Apesar dessas diferenças, há uma compreensão compartilhada da necessidade de cooperação internacional na gestão dos riscos da IA. Avançando, ambas as nações precisarão se envolver em diálogos significativos para garantir que o desenvolvimento da IA seja seguro e benéfico para todos.

As conversas sobre IA estão evoluindo rapidamente, e à medida que a tecnologia continua a avançar, também as discussões sobre suas implicações para a segurança global e governança. É crucial que formuladores de políticas e especialistas trabalhem juntos, compartilhem conhecimentos e desenvolvam estratégias claras para enfrentar os desafios apresentados pela IA avançada.