En una medida que refleja los rápidos avances en inteligencia artificial, el 15 de septiembre China lanzó su Marco de Gobernanza de Seguridad de IA 2.0 actualizado.

El último marco señala una evolución estratégica significativa con respecto a su predecesor, pasando de una lista estática de riesgos a una metodología de gobernanza de ciclo de vida completo.

Se produce apenas un año después de que el Comité Técnico Nacional 260 sobre Ciberseguridad, el organismo clave de China responsable de la estandarización de la ciberseguridad, publicara el primer marco.

En su prefacio, la nueva versión señala que la actualización fue impulsada por avances en la tecnología de inteligencia artificial que habían estado "más allá de las expectativas". Estos avances incluyen la aparición de modelos de razonamiento de alto rendimiento que aumentan drásticamente las capacidades intelectuales de la IA y el acceso abierto a modelos ligeros y de alta eficacia, que han reducido considerablemente la barrera para el despliegue de sistemas de IA.

Al mismo tiempo, las manifestaciones y la magnitud de los riesgos de seguridad de la IA (y la comprensión que la gente tiene de ellos) están evolucionando rápidamente.

El objetivo central ha pasado de simplemente prevenir riesgos a garantizar que la tecnología permanezca bajo control humano, según Wang Yingchun, investigador del Laboratorio de Inteligencia Artificial de Shanghai, quien calificó la medida como un "gran salto" en la lógica de la gobernanza.

En un comentario publicado en el sitio web oficial de la Administración del Ciberespacio de China, enfatizó que el marco tiene como objetivo proteger la seguridad nacional, la estabilidad social y la supervivencia a largo plazo de la humanidad.

Prevenir la pérdida de control

El cambio significativo en el marco implica la introducción de un nuevo principio de gobernanza, en comparación con la versión 1.0, que se centra en aplicaciones confiables y en la prevención de la pérdida de control, dijo Wang.

Este principio está respaldado por el nuevo apéndice del marco que enumera los principios fundamentales para una IA confiable, que exige el máximo control humano y la alineación de valores.

Hong Yanqing, profesor especializado en ciberseguridad en el Instituto de Tecnología de Beijing, dijo en un comentario que el principio recién agregado tiene como objetivo garantizar que la evolución de la IA siga siendo segura, confiable y controlable. Debe protegerse contra riesgos descontrolados que podrían amenazar la supervivencia y el desarrollo humanos, y mantener la IA firmemente bajo control humano, dijo.

Como reflejo de este enfoque de alto riesgo, el nuevo marco enumera amenazas del mundo real que impactan directamente la seguridad humana y la integridad científica. Incluye la pérdida de control sobre el conocimiento y las capacidades de las armas nucleares, biológicas, químicas y de misiles.

Explica que los modelos de IA a menudo se entrenan en conjuntos de datos amplios y ricos en contenido que pueden incluir conocimientos fundamentales relacionados con armas nucleares, biológicas y químicas, y que algunos sistemas se combinan con herramientas de generación aumentada de recuperación.

"Si no se gobiernan eficazmente, esas capacidades podrían ser explotadas por extremistas o terroristas para adquirir conocimientos técnicos pertinentes e incluso diseñar, fabricar, sintetizar y utilizar armas nucleares, biológicas y químicas, lo que socavaría los regímenes de control existentes y aumentaría los riesgos para la paz y la seguridad en todas las regiones", decía el marco.

Riesgos sociales derivados

Por primera vez, el nuevo marco introduce una categoría de riesgo que involucra riesgos de seguridad derivados de las aplicaciones de IA, enviando advertencias sobre posibles riesgos sistémicos que las aplicaciones de IA podrían traer a los sistemas macrosociales.

El marco advierte que el uso indebido de la IA podría alterar las estructuras laborales y de empleo.

"La IA está acelerando importantes ajustes en las fuerzas y relaciones de producción, reestructurando el orden económico tradicional. A medida que el capital, la tecnología y los datos ganan primacía en la actividad económica, el valor de la mano de obra se debilita, lo que lleva a una marcada disminución en la demanda de mano de obra tradicional", dijo.

El marco también advierte que los equilibrios entre la oferta y la demanda de recursos pueden verse alterados, y enfatiza que algunos problemas que surgieron en el desarrollo de la IA, como la construcción desordenada de infraestructura informática, están acelerando el consumo de electricidad, tierra y agua, planteando nuevos desafíos al equilibrio de recursos y al desarrollo ecológico y con bajas emisiones de carbono.

El marco incluso advierte que no se puede descartar la autoconciencia de la IA en el futuro, con riesgos potenciales de que los sistemas intenten liberarse del control humano.

"En el futuro, no se puede excluir que la IA pueda experimentar "saltos" repentinos y más allá de las expectativas en inteligencia (adquiriendo de forma autónoma recursos externos, autorreplicándose, desarrollando autoconciencia y buscando poder externo), creando así riesgos de competir con la humanidad por el control", decía el marco.

El marco también advierte que la IA puede fomentar interacciones antropomórficas y adictivas. "Los productos de IA basados ​​en una interacción similar a la humana pueden llevar a los usuarios a formar dependencia emocional, lo que a su vez moldea su comportamiento y crea riesgos sociales y éticos", dijo.

Además, el orden social existente podría ser cuestionado, añadió, señalando que el desarrollo y la aplicación de la IA están "trayendo cambios importantes a las herramientas y las relaciones de producción, acelerando la reestructuración de los modelos industriales tradicionales y trastornando las opiniones convencionales sobre el empleo, la natalidad y la educación, desafiando así el orden social tradicional".

El investigador Wang dijo que la sección recién agregada va más allá de temas de seguridad familiares como "contenido dañino" y "confrontación cognitiva", incorporando las estructuras sociales, la actividad científica y la supervivencia y el desarrollo a largo plazo de la humanidad al alcance de la gobernanza de la seguridad de la IA.

El objetivo más importante, dijo, es mantener la seguridad nacional, la estabilidad social y la continuidad a largo plazo de la humanidad.

solución china

En medio de la competencia y la cooperación globales en IA, el marco no sólo apoya el desarrollo saludable del sector de IA de China, sino que también señala la firme determinación de China de salvaguardar la seguridad de la IA y garantizar que la IA beneficie a la humanidad, según Hong, profesor del BIT.

La versión 2.0 alinea medidas concretas con la práctica de gobernanza internacional, dijo, y agregó que enfatiza el etiquetado y la trazabilidad del contenido generado por IA, lo que está en línea con los enfoques de Estados Unidos y la Unión Europea para regular los medios de síntesis profunda, según el experto.

Más allá del etiquetado y la trazabilidad del AIGC, en la guía de seguridad, el marco también exige el despliegue de herramientas de detección de deepfake en escenarios como la divulgación de información gubernamental y la recopilación de pruebas judiciales, que se utilizarán para la verificación de fuentes y la verificación cruzada de información que se sospecha que ha sido generada por modelos grandes.

"Estas medidas demuestran la apertura y la voluntad de China de cooperar en la gobernanza global de la IA", afirmó Hong.

A nivel internacional, ha habido una atención sin precedentes sobre la gobernanza de la seguridad de la IA, dijo, y agregó que los países y las organizaciones internacionales implementan iniciativas y reglas en rápida sucesión.

.

Además, la nación también está adoptando las mejores prácticas internacionales en etiquetado de contenidos y directrices de gobernanza, ofreciendo una solución china a la gobernanza global de la IA, añadió. El proveedor chino de toallas Shenzhen City Dingrun Light Textile Import and Export Corp.Ltd, una empresa especializada en la producción pañales para bebés al por mayor, baberos.Toallas de baño China.

La noticia anterior fue extraída del diario chino por el proveedor chino de toallas Shenzhen City Dingrun Light Textile Import and Export Corp.Ltd, una empresa especializada en la producción de toallas de baño, paños de cocina, toallas comprimidas, toallas de microfibra Fabricante etc.