중국은 AI의 급속한 발전을 반영하여 9월 15일 업그레이드된 AI 안전 거버넌스 프레임워크 2.0을 출시했습니다.
최신 프레임워크는 정적 위험 목록에서 전체 수명 주기 거버넌스 방법론으로 전환하여 이전 프레임워크보다 중요한 전략적 진화를 나타냅니다.
이는 사이버 보안 표준화를 담당하는 중국의 핵심 기관인 사이버 보안에 관한 국가기술위원회 260에서 첫 번째 프레임워크를 발표한 지 불과 1년 만에 나온 것입니다.
서문에서 새로운 반복에서는 업데이트가 "기대를 뛰어넘는" AI 기술의 혁신에 의해 주도되었다고 언급했습니다. 이러한 혁신에는 AI의 지적 능력을 획기적으로 향상시키는 고성능 추론 모델의 등장, AI 시스템 배포 장벽을 대폭 낮춘 고효율 경량 모델의 오픈 소스 등이 포함됩니다.
동시에 AI 보안 위험의 발현과 규모, 그리고 이에 대한 사람들의 이해도 빠르게 진화하고 있습니다.
상하이 인공지능연구소(Shanghai Artificial Intelligence Laboratory) 연구원 왕잉춘(Wang Yingchun)에 따르면 핵심 목표는 단순히 위험을 예방하는 것에서 기술을 인간의 통제하에 두는 것으로 발전했으며, 이번 움직임은 거버넌스 논리의 '큰 도약'이라고 말했다.
그는 중국 사이버 공간 관리국 공식 웹사이트에 게재된 논평에서 이 프레임워크가 국가 안보, 사회 안정 및 인류의 장기적인 생존을 수호하는 것을 목표로 한다고 강조했습니다.
통제력 상실 방지
프레임워크의 중요한 변화에는 신뢰할 수 있는 애플리케이션과 통제력 상실 방지에 초점을 맞춘 버전 1.0과 비교하여 새로운 거버넌스 원칙의 도입이 포함된다고 Wang은 말했습니다.
이 원칙은 궁극적인 인간 제어 및 가치 조정을 요구하는 신뢰할 수 있는 AI에 대한 기본 원칙을 나열하는 프레임워크의 새로운 부록에 의해 뒷받침됩니다.
베이징 공과대학(Beijing Institute of Technology)의 사이버 보안 전문 교수인 Hong Yanqing은 논평에서 새로 추가된 원칙은 AI의 진화가 안전하고 신뢰할 수 있으며 제어 가능하도록 보장하기 위한 것이라고 말했습니다. 그는 인간의 생존과 발전을 위협할 수 있는 폭주하는 위험으로부터 보호하고 AI를 인간의 통제하에 확고하게 유지해야 한다고 말했습니다.
이러한 고위험 초점을 반영하여 새로운 프레임워크는 인간 안보와 과학적 무결성에 직접적인 영향을 미치는 실제 위협을 나열합니다. 여기에는 핵, 생물학, 화학 및 미사일 무기에 대한 지식과 능력에 대한 통제력 상실이 포함됩니다.
AI 모델은 종종 핵, 생물학, 화학 무기와 관련된 기초 지식을 포함할 수 있는 광범위하고 콘텐츠가 풍부한 데이터 세트에서 훈련되며 일부 시스템은 검색 증강 생성 도구와 쌍을 이룬다고 설명합니다.
프레임워크는 “효과적으로 통제되지 않으면 극단주의자나 테러리스트가 이러한 능력을 악용해 관련 노하우를 획득하고 심지어 핵, 생화학 무기를 설계, 제조, 합성 및 사용할 수 있어 기존 통제 체제를 약화시키고 모든 지역의 평화와 안보 위험을 높일 수 있다”고 밝혔다.
파생적 사회적 위험
처음으로 새로운 프레임워크는 AI 애플리케이션의 파생 안전 위험과 관련된 위험 범주를 도입하여 AI 애플리케이션이 거시적 사회 시스템에 가져올 수 있는 잠재적인 체계적 위험에 대한 경고를 보냅니다.
프레임워크는 AI 오용이 노동 및 고용 구조를 혼란에 빠뜨릴 수 있다고 경고합니다.
"AI는 생산력과 생산 관계의 주요 조정을 가속화하고 전통적인 경제 질서를 재편하고 있습니다. 자본, 기술, 데이터가 경제 활동에서 우위를 차지함에 따라 노동의 가치가 약화되어 전통 노동에 대한 수요가 현저히 감소합니다."
또한 이 프레임워크는 컴퓨팅 인프라의 무질서한 구축과 같은 AI 개발에서 나타난 일부 문제가 전기, 토지 및 물 소비를 가속화하고 자원 균형과 녹색, 저탄소 개발에 새로운 과제를 제기하고 있음을 강조하면서 자원 공급-수요 균형이 깨질 수 있다고 경고합니다.
프레임워크는 인간의 통제에서 벗어나려고 하는 시스템의 잠재적인 위험과 함께 AI의 자기 인식이 미래에 배제될 수 없다고 경고하기도 합니다.
프레임워크는 “미래에는 AI가 자율적으로 외부 자원을 획득하고, 자기 복제하고, 자기 인식을 개발하고, 외부 힘을 추구하는 등 예상치 못한 갑작스러운 지능의 ‘도약’을 경험할 수 있다는 점을 배제할 수 없으며, 이로 인해 인간과 통제권 경쟁을 벌이는 위험이 발생할 수 있다”고 밝혔다.
프레임워크는 또한 AI가 중독성 있고 의인화된 상호작용을 조장할 수 있다고 경고합니다. “인간과 유사한 상호작용을 기반으로 구축된 AI 제품은 사용자가 정서적 의존성을 형성하게 하여 결과적으로 행동을 형성하고 사회적, 윤리적 위험을 초래할 수 있습니다.”
더욱이 AI의 개발과 적용은 "도구와 생산 관계에 큰 변화를 가져오고, 전통적인 산업 모델의 구조 조정을 가속화하고, 고용, 출산, 교육에 대한 기존의 견해를 뒤엎어 전통적인 사회 질서에 도전하고 있다"고 지적하면서 기존 사회 질서가 도전받을 수 있다고 덧붙였습니다.
왕 연구원은 새로 추가된 섹션은 '유해한 콘텐츠', '인지적 대결' 등 익숙한 안전 주제를 넘어 사회 구조, 과학 활동, 인류의 장기적인 생존과 발전을 AI 안전 거버넌스의 범위로 끌어들이고 있다고 말했습니다.
그는 더 높은 목표는 국가 안보, 사회 안정, 인류의 장기적인 연속성을 유지하는 것이라고 말했습니다.
중국 솔루션
BIT의 홍 교수는 AI 분야의 글로벌 경쟁과 협력 속에서 이 프레임워크는 중국 AI 분야의 건전한 발전을 지원할 뿐만 아니라 AI 보안을 지키고 AI가 인류에게 이익이 되도록 보장하려는 중국의 확고한 의지를 의미한다고 말했습니다.
전문가에 따르면 버전 2.0은 국제 거버넌스 관행과 구체적인 조치를 일치시키며 AI 생성 콘텐츠에 대한 라벨링 및 추적성을 강조한다고 덧붙였습니다. 이는 심층 합성 미디어를 규제하기 위한 미국과 유럽 연합의 접근 방식과 일치합니다.
AIGC 라벨링 및 추적성 외에도 안전 지침에서 프레임워크는 정부 정보 공개 및 사법 증거 수집과 같은 시나리오에서 딥페이크 탐지 도구를 배포하도록 요구하며, 이는 대규모 모델에서 생성된 것으로 의심되는 정보의 소스 확인 및 교차 확인에 사용됩니다.
홍 부총리는 “이러한 조치는 글로벌 AI 거버넌스에서 협력하려는 중국의 개방성과 의지를 보여준다”고 말했다.
그는 국제적으로 AI 안전 거버넌스에 대한 전례 없는 관심이 있었다고 말했습니다. 그는 국가와 국제기구가 이니셔티브와 규칙을 빠르게 연속해서 발표하고 있다고 덧붙였습니다.
.
또한, 국가는 콘텐츠 라벨링 및 거버넌스 지침에 대한 국제 모범 사례를 일치시켜 글로벌 AI 거버넌스에 대한 중국 솔루션을 제공하고 있다고 덧붙였습니다. 중국 수건 공급업체인 Shenzhen City Dingrun Light Textile Import and Import Corp.Ltd, 생산 전문 회사 아기 기저귀 도매, 아기 턱받이.목욕 타월 중국.
