Num movimento que reflete os avanços acelerados na inteligência artificial, em 15 de setembro, a China lançou o seu Quadro de Governança de Segurança de IA 2.0 atualizado.

O quadro mais recente assinala uma evolução estratégica significativa em relação ao seu antecessor, passando de uma lista estática de riscos para uma metodologia de governação de ciclo de vida completo.

Acontece apenas um ano depois de o primeiro quadro ter sido lançado pelo Comité Técnico Nacional 260 sobre Segurança Cibernética, o principal órgão da China responsável pela normalização da segurança cibernética.

No seu prefácio, a nova iteração observa que a atualização foi impulsionada por avanços na tecnologia de IA que estavam “além das expectativas”. Estes avanços incluem o surgimento de modelos de raciocínio de alto desempenho que aumentam drasticamente as capacidades intelectuais da IA, e o código aberto de modelos leves e de alta eficácia, que reduziram fortemente a barreira à implantação de sistemas de IA.

Ao mesmo tempo, as manifestações e a magnitude dos riscos de segurança da IA — e a compreensão que as pessoas têm deles — estão a evoluir rapidamente.

O objetivo central evoluiu da simples prevenção de riscos para garantir que a tecnologia permaneça sob controle humano, de acordo com Wang Yingchun, pesquisador do Laboratório de Inteligência Artificial de Xangai, que chamou a medida de um “grande salto” na lógica de governança.

Num comentário publicado no site oficial da Administração do Ciberespaço da China, ele enfatizou que o quadro visa proteger os resultados financeiros da segurança nacional, da estabilidade social e da sobrevivência a longo prazo da humanidade.

Evitando a perda de controle

A mudança significativa na estrutura envolve a introdução de um novo princípio de governança, em comparação com a versão 1.0, que se concentra em aplicações confiáveis ​​e na prevenção da perda de controle, disse Wang.

Este princípio é apoiado pelo novo adendo da estrutura que lista os princípios fundamentais para uma IA confiável, que exige controle humano final e alinhamento de valores.

Hong Yanqing, professor especializado em segurança cibernética no Instituto de Tecnologia de Pequim, disse num comentário que o princípio recentemente adicionado visa garantir que a evolução da IA permaneça segura, confiável e controlável. Deve proteger-se contra riscos descontrolados que possam ameaçar a sobrevivência e o desenvolvimento humanos e manter a IA firmemente sob controlo humano, disse ele.

Refletindo este enfoque de alto risco, o novo quadro enumera ameaças do mundo real que têm impacto directo na segurança humana e na integridade científica. Inclui a perda de controlo sobre o conhecimento e as capacidades das armas nucleares, biológicas, químicas e de mísseis.

Explica que os modelos de IA são frequentemente treinados em conjuntos de dados amplos e ricos em conteúdo que podem incluir conhecimentos fundamentais relacionados com armas nucleares, biológicas e químicas, e que alguns sistemas são emparelhados com ferramentas de geração de recuperação aumentada.

“Se não forem governadas de forma eficaz, essas capacidades poderão ser exploradas por extremistas ou terroristas para adquirir conhecimentos relevantes e até para conceber, fabricar, sintetizar e utilizar armas nucleares, biológicas e químicas – minando os regimes de controlo existentes e aumentando os riscos de paz e segurança em todas as regiões”, afirma o quadro.

Riscos sociais derivados

Pela primeira vez, o novo quadro introduz uma categoria de risco que envolve riscos de segurança derivados de aplicações de IA, enviando alertas sobre potenciais riscos sistémicos que as aplicações de IA podem trazer para os sistemas macrossociais.

O quadro alerta que o uso indevido da IA ​​pode perturbar as estruturas laborais e de emprego.

"A IA está a acelerar grandes ajustamentos nas forças e relações de produção, reestruturando a ordem económica tradicional. À medida que o capital, a tecnologia e os dados ganham primazia na actividade económica, o valor do trabalho é enfraquecido, levando a um declínio acentuado na procura de trabalho tradicional", afirmou.

O quadro também adverte que os equilíbrios entre a oferta e a procura de recursos podem ser perturbados, sublinhando que alguns problemas que surgiram no desenvolvimento da IA, como a construção desordenada de infra-estruturas informáticas, estão a acelerar o consumo de electricidade, terra e água, colocando novos desafios ao equilíbrio de recursos e ao desenvolvimento verde e de baixo carbono.

A estrutura alerta ainda que a autoconsciência da IA ​​não pode ser descartada no futuro, com riscos potenciais de sistemas que procurem libertar-se do controlo humano.

“No futuro, não se pode excluir que a IA possa experimentar “saltos” repentinos e além das expectativas em inteligência – adquirindo autonomamente recursos externos, auto-replicando-se, desenvolvendo autoconsciência e buscando poder externo – criando assim riscos de competir com a humanidade pelo controle”, afirmou a estrutura.

A estrutura também alerta que a IA pode promover interações antropomórficas viciantes. “Os produtos de IA construídos com base na interação humana podem levar os utilizadores a formar dependência emocional, o que por sua vez molda o seu comportamento e cria riscos sociais e éticos”, afirmou.

Além disso, a ordem social existente poderia ser desafiada, acrescentou, observando que o desenvolvimento e a aplicação da IA estão a "trazer grandes mudanças nas ferramentas e nas relações de produção, acelerando a reestruturação dos modelos industriais tradicionais e subvertendo as visões convencionais sobre o emprego, a natalidade e a educação - desafiando assim a ordem social tradicional".

O pesquisador Wang disse que a seção recém-adicionada vai além de tópicos de segurança familiares, como "conteúdo prejudicial" e "confronto cognitivo", trazendo estruturas sociais, atividade científica e sobrevivência e desenvolvimento a longo prazo da humanidade para o escopo da governança de segurança da IA.

O objectivo de nível mais elevado, disse ele, é manter o resultado final da segurança nacional, da estabilidade social e da continuidade a longo prazo da humanidade.

Solução chinesa

Em meio à concorrência e cooperação globais em IA, o quadro não só apoia o desenvolvimento saudável do setor de IA da China, mas também sinaliza a firme determinação da China em salvaguardar a segurança da IA e garantir que a IA beneficie a humanidade, de acordo com Hong, professor do BIT.

A versão 2.0 alinha medidas concretas com a prática de governação internacional, disse ele, acrescentando que enfatiza a rotulagem e a rastreabilidade do conteúdo gerado por IA, o que está em linha com as abordagens dos Estados Unidos e da União Europeia para regular os meios de comunicação de síntese profunda, segundo o especialista.

Além da rotulagem e rastreabilidade do AIGC, nas orientações de segurança, o quadro também apela à implantação de ferramentas de detecção de deepfake em cenários como a divulgação de informações governamentais e a recolha de provas judiciais, que serão utilizadas para verificação da fonte e verificação cruzada de informações suspeitas de serem geradas por grandes modelos.

“Estas medidas demonstram a abertura e a vontade da China de cooperar na governação global da IA”, disse Hong.

A nível internacional, tem havido uma atenção sem precedentes à governação da segurança da IA, disse ele, acrescentando que os países e as organizações internacionais implementam iniciativas e regras em rápida sucessão.

.

Além disso, o país também está seguindo as melhores práticas internacionais em rotulagem de conteúdo e diretrizes de governança, oferecendo uma solução chinesa para a governança global de IA, acrescentou. O fornecedor chinês de toalhas Shenzhen City Dingrun Light Textile Import and Export Corp.Ltd, uma empresa especializada na produção fraldas para bebês no atacado, babadores para bebês. Toalhas de banho China.

A notícia acima foi extraída diariamente da China pelo fornecedor de toalhas da China Shenzhen City Dingrun Light Textile Import and Export Corp.Ltd, uma empresa especializada na produção de toalhas de banho, toalhas de chá, toalhas comprimidas, toalhas de microfibra Fabricante etc.