人工知能の急速な進歩を反映する動きとして、中国は 9 月 15 日に、アップグレードされた AI 安全ガバナンス フレームワーク 2。0 をリリースしました。

最新のフレームワークは、以前のフレームワークからの大幅な戦略的進化を示しており、リスクの静的なリストから完全なライフサイクル ガバナンス方法論に移行しています。

これは、サイバーセキュリティの標準化を担当する中国の主要機関であるサイバーセキュリティに関する国家技術委員会 260 によって最初のフレームワークがリリースされてからわずか 1 年後に誕生しました。

新しい反復版は序文で、今回のアップデートは「予想を超えた」AI技術の画期的な成果によってもたらされたと述べている。これらのブレークスルーには、AI の知的能力を大幅に向上させる高性能推論モデルの出現や、AI システム導入の障壁を大幅に引き下げた高効率で軽量なモデルのオープンソース化が含まれます。

同時に、AI セキュリティ リスクの現れ方と大きさ、そしてそれらに対する人々の理解は急速に進化しています。

上海人工知能研究所の研究者ワン・インチュン氏は、この動きをガバナンスの論理における「大きな飛躍」と呼んだ、中核的な目的は単にリスクを防ぐことから、テクノロジーが人間の制御下に残ることを保証することに進化したと述べた。

中国サイバースペース局の公式ウェブサイトに掲載された解説の中で、同氏は、この枠組みが国家安全保障、社会の安定、人類の長期生存の最終ラインを守ることを目的としていると強調した。

制御不能の防止

フレームワークの大幅な変更には、信頼できるアプリケーションと制御喪失の防止に焦点を当てたバージョン 1.0 と比較して、新しいガバナンス原則の導入が含まれると Wang 氏は述べました。

この原則は、信頼できる AI の基本原則を列挙したフレームワークの新しい補遺によって裏付けられており、人間による究極の制御と価値の調整が義務付けられています。

北京工業大学のサイバーセキュリティを専門とするホン・ヤンチン教授は解説の中で、新たに追加された原則は、AIの進化が安全で信頼性が高く、制御可能であることを保証することを目的としていると述べた。人類の生存と発展を脅かす可能性のある暴走リスクを防ぎ、AIを人間の管理下にしっかりと維持しなければならないと同氏は述べた。

この一か八かの焦点を反映して、新しい枠組みには人間の安全保障と科学的完全性に直接影響を与える現実世界の脅威が列挙されています。これには、核兵器、生物兵器、化学兵器、ミサイル兵器の知識と能力に対する制御の喪失が含まれます。

AIモデルは核兵器、生物兵器、化学兵器に関連する基礎知識を含む可能性のある広範でコンテンツ豊富なデータセットでトレーニングされることが多く、一部のシステムは検索拡張生成ツールと組み合わせられると説明しています。

同枠組みは、「効果的に統治されなければ、こうした能力は過激派やテロリストによって関連ノウハウの取得、さらには核兵器、生物兵器、化学兵器の設計、製造、合成、使用に悪用される可能性があり、既存の管理体制を弱体化させ、あらゆる地域の平和と安全保障のリスクを高めることになる」としている。

派生的な社会リスク

新しいフレームワークでは、AI アプリケーションから派生する安全性リスクを含むリスクのカテゴリが初めて導入され、AI アプリケーションがマクロな社会システムにもたらす可能性のある潜在的なシステミック リスクに警告が送られます。

この枠組みは、AIの悪用が労働と雇用の構造を破壊する可能性があると警告している。

同報告書は、「AIは生産力と生産関係の大きな調整を加速し、伝統的な経済秩序を再構築している。経済活動において資本、技術、データが優位性を増すにつれ、労働の価値が低下し、伝統的な労働力の需要の顕著な減少につながっている」と述べた。

この枠組みはまた、資源の需要と供給のバランスが崩れる可能性があると警告し、コンピューティングインフラストラクチャの無秩序な建設など、AI開発で表面化したいくつかの問題が電力、土地、水の消費を加速させ、資源バランスとグリーン低炭素開発に新たな課題を引き起こしていると強調している。

この枠組みは、将来的にはAIの自己認識が排除できず、システムが人間の制御から解放されようとする潜在的なリスクがあると警告している。

「将来、AIが突然、予想を超える知能の『飛躍』を経験する可能性は排除できない。自律的に外部リソースを取得し、自己複製し、自己認識を発達させ、外部の力を求めることで、人類と制御を争うリスクが生じる」と枠組みは述べている。

このフレームワークはまた、AI が中毒性のある擬人化された相互作用を助長する可能性があると警告しています。 「人間のような相互作用に基づいて構築されたAI製品は、ユーザーの感情的な依存を形成する可能性があり、それがユーザーの行動を形成し、社会的および倫理的リスクを生み出す可能性がある」と同報告書は述べている。

さらに同報告書は、既存の社会秩序に挑戦が起きる可能性があると付け加え、AIの開発と応用は「生産ツールと生産関係に大きな変化をもたらし、伝統的な産業モデルの再構築を加速し、雇用、出産、教育に関する従来の見方を覆し、それによって伝統的な社会秩序に挑戦している」と指摘した。

研究者のワン氏は、新たに追加されたセクションは「有害なコンテンツ」や「認知的対立」などのよく知られた安全性の話題を超え、社会構造、科学活動、人類の長期的な生存と発展をAI安全性ガバナンスの範囲に組み込むものだと述べた。

同氏は、より高い目標は、国家安全保障、社会の安定、人類の長期的な継続という最終ラインを維持することであると述べた。

中国ソリューション

BITのホン教授によると、AIにおける世界的な競争と協力の中で、この枠組みは中国のAI分野の健全な発展を支援するだけでなく、AIのセキュリティを守り、AIが人類に利益をもたらすことを保証するという中国の断固とした決意を示すものだという。

同専門家によると、バージョン2.0は具体的な措置を国際的なガバナンスの実践に合わせたものであり、AI生成コンテンツのラベル表示とトレーサビリティを重視していると付け加え、深層合成メディアの規制に関する米国や欧州連合のアプローチと一致しているという。

AIGC のラベル付けとトレーサビリティだけでなく、安全性ガイダンスでは、このフレームワークでは、政府の情報開示や司法証拠収集などのシナリオでディープフェイク検出ツールを導入することも求められており、これは大規模モデルによって生成されたと疑われる情報の出所検証と照合に使用されます。

「これらの措置は、中国のオープンな姿勢と世界的なAIガバナンスに協力する意欲を示している」とホン氏は述べた。

同氏は、国際的にAIの安全性ガバナンスに対して前例のない注目が集まっていると述べ、各国や国際機関が相次いで取り組みやルールを展開していると付け加えた。

.

さらに、同国はコンテンツのラベル付けとガバナンスガイドラインにおける国際的なベストプラクティスにも適合しており、世界的なAIガバナンスに対する中国のソリューションを提供していると付け加えた。中国のタオルサプライヤーである深セン市鼎潤軽紡織輸出入有限公司は、生産を専門とする会社である。 赤ちゃんのおむつの卸売、ベビーよだれかけ、バスタオル中国。

上記のニュースは、バスタオル、ティータオル、圧縮タオル、 マイクロファイバータオル メーカー など