大臣がAIリスク管理システムの導入を要請

陳氏は、AIは主要国間の新たな戦略的戦場となっており、セキュリティ対策とガバナンスを強化しつつ、AIの発展を促進する必要があると強調した。

彼の発言は、中国国家インターネット情報弁公室が発行する雑誌に最近掲載された記事の中で発表された。記事の中で陳氏は、AIは新たな技術革命と産業変革の原動力であり、社会のあらゆる側面に急速に統合され、世界経済、技術革新、社会統治を再構築していると述べた。

同時に、彼はAIの急速な発展によってもたらされるリスクと課題を明確に理解するよう求め、セキュリティの維持を確保するための努力を継続する必要があると述べた。

陳氏は、AIは政治や国家安全保障だけでなく、サイバーセキュリティ、スパイ活動、データ保護、技術開発、社会統治、軍事問題にも影響を与えていると述べた。

陳氏によると、6月時点で中国では5億人以上がAI製品を利用しており、AI製品は急速かつ大規模に普及しているという。

彼は、敵対勢力や悪意のある行為者が、テキスト、画像、音声、動画を生成できる技術である生成型AIや自動化されたオンラインアカウントを利用して、政治的な噂や有害な情報を拡散し、低コストで大規模に紛争を煽っていると述べた。

「これは中国の政治的、制度的、そしてイデオロギー的な安全保障に対する直接的な脅威となる」と彼は述べた。

人工知能（AI）は、コンピュータシステムの脆弱性を発見し、悪意のあるソフトウェアを開発することをより容易かつ迅速にしている、と陳氏は述べた。現在、一部の国や組織はシステムの脆弱性を特定し、高度なサイバー攻撃を実行する能力を備えており、これにより、そのような攻撃を実行するために必要な技術スキルとコストが低下し、中国の重要な情報インフラに深刻なリスクをもたらす可能性がある。

彼はまた、AIを活用した情報収集によって機密データが取得されるリスクについても警告した。

「外国の情報機関は、高度なウェブクローラー、データマイニング、プロファイリング技術を活用して、国家の重要データ、企業秘密、市民のプライバシーといった機密情報を収集している」と陳氏は述べた。

彼はさらに、国内ユーザーの中には、データセキュリティに対する意識が不十分なため、機密情報を処理するために外国製のAI製品を使用している者がおり、その結果、データが海外に転送され、深刻なデータ漏洩につながっていると付け加えた。

陳氏はまた、一部の国が国家安全保障の名の下に先端技術や機器へのアクセスに制限を課していることを指摘した。こうした措置は技術革新を阻害し、世界のAI産業とサプライチェーンに新たな課題を生み出していると彼は述べた。

一方、AIの急速な発展は既存の法律、倫理基準、ガバナンスの仕組みを凌駕しており、効果的な規制をより困難にしていると陳氏は述べた。

AIは戦争の性質も変えつつあり、アルゴリズムが攻撃の精度と有効性を判断する上でますます役立ち、戦闘の結果に影響を与える可能性もある、と彼は付け加えた。

これらの課題に対処するため、陳氏は政府機関間の連携強化とセキュリティ審査の強化を求め、AIセキュリティに対する協調的なアプローチが必要であると強調した。

彼はまた、リスク監視を強化し早期警告を提供するためのAIセキュリティ監視プラットフォームの設立と、AI開発動向などの主要な問題に関するさらなる研究を求めた。

さらに陳氏は、AIを支える基本原理や主要技術（コンピューティングチップやソフトウェアなど）に関する研究をさらに進めることを提言し、AIの研究、開発、応用、監督を網羅する具体的な法律や規制の導入を加速させるよう求めた。

AIのセキュリティを強化する一方で、「我々は覇権主義と技術的障壁に断固として反対し、公正で開かれた国際的なAIルールシステムの構築に努め、技術交流と成果のオープンな共有を促進し、包摂的でバランスの取れた発展を追求し、AIが人々と世界により良い利益をもたらすよう導くことを目指す」と彼は述べた。