Open Secure AI Alliance設立とサイバー防御の狙い
NVIDIAをはじめとする企業や団体が、AIの安全性とサイバーセキュリティを支える「Open Secure AI Alliance」を設立しました。AIを守る仕組みを少数の非公開システムに依存させず、専門家が検証・改善できるオープンな形で構築する取り組みです。本記事では、設立の背景や参加各社の技術、今後の課題を紹介します。
ARCHETYP Staffingでは現在クリエイターを募集しています。
エンジニア、デザイナー、ディレクター以外に、生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください！
AIを守る仕組みをオープンにする理由
オープンソースソフトウェアは、技術の仕組みを外部から確認でき、専門家が問題の発見や修正に参加できる形で公開されたソフトウェアです。クラウドコンピューティングや金融、製造、通信、行政、インターネットサービスなど、幅広い分野を支えてきました。
Open Secure AI Allianceは、Linux FoundationのAkritesイニシアチブやOpenSSFコミュニティの活動を基盤として、オープン技術を使った脆弱性への対応と情報開示に取り組みます。ソフトウェアを多くの人が検証しながら守ってきた考え方を、AIの安全性やサイバーセキュリティにも取り入れる狙いです。
AIを守る機能が少数の非公開システムに集まると、利用する企業や組織は、その仕組みを十分に確認できません。
自社のデータや運用環境に合わせて調整したり、必要な分析を自社インフラ上で実行したりすることが難しくなるほか、特定のシステムへの依存によって代替手段を確保しにくくなります。
そこで重視されているのが、利用者が自ら実行や調整を行えるオープンモデルと、モデルにツールや権限、安全対策を組み合わせるオープンなハーネスです。ハーネスとは、AIモデルと外部ツールなどを接続し、AIエージェントの処理や行動を制御するための仕組みです。
NVIDIAの発表では、Hugging Faceで発生したセキュリティインシデントが例として紹介されています。クローズドなAIツールが攻撃者と防御側を区別できず、必要なフォレンジック分析を妨げたため、同社はオープンウェイトモデル「GLM 5.2」を自社インフラ上で実行しました。フォレンジック分析とは、システムに残された操作履歴などを調べ、侵入経路や被害の範囲を確認する作業です。Hugging Faceは1万7,000件を超える操作を分析し、不正侵入を封じ込めたとされています。
対応の速さが求められる場面では、企業や組織がAIを自ら検証、調整、実行できる環境が重要になります。Open Secure AI Allianceは、この考え方を具体的な仕組みにするため、参加企業が技術や研究成果を持ち寄り、オープンな防御基盤の構築に取り組みます。
AIの活用が広がる一方で、安全性や悪用への懸念も残されています。幅広い企業や専門家が知見を共有し、防御の仕組みを検証・改善できる環境を整えることが、AIを安全に活用するための基盤の一つになるでしょう。
NVIDIAや参加企業が構築するAIエージェントの防御基盤
AIエージェントは、質問に答える言語モデルだけで構成されているわけではありません。利用者やシステムを識別するID、操作できる範囲を決める権限、外部ツールとの接続、行動履歴、安全対策、評価方法など、複数の仕組みを組み合わせて動きます。
Open Secure AI Allianceは、モデルの重みが公開されているかどうかだけでなく、こうした仕組みを含むエージェント全体を検証し、改善できることが安全性につながるとしています。
NVIDIAは、オープンモデルやモデルの重み、データに加え、エージェント用ハーネスに関する研究成果を提供します。その一つが、GitHubで公開された「NVIDIA Labs Object-Oriented Agent（NOOA）」です。
NOOAは、AIエージェントの行動をテストし、処理の流れを追跡しながら、監査や管理を行いやすくするための研究フレームワークです。
参加企業や団体も、それぞれ異なる領域の技術を持ち寄ります。HPEが貢献するSPIFFE／SPIREは、AIエージェントやサービスの身元を暗号技術で確認し、許可された処理だけが通信や企業リソースへのアクセスを行えるようにする仕組みです。
Hugging FaceのSafetensorsは、AIモデルの重みを安全に保存するための形式で、ファイルの読み込みによって任意のプログラムが実行されないよう設計されています。同社はSafetensorsをPyTorch Foundationへ提供しました。
IBMとRed HatのLightwellは、デジタル署名された修正ファイルによって、オープンソースの供給経路全体のセキュリティを強化します。MicrosoftのMDASHは、専門分野の異なる複数のAIエージェントを連携させ、悪用可能な脆弱性を発見し、議論や検証を行うためのスキャン基盤です。
SpaceXAIは、ターミナル上で動くAIコーディングエージェント「Grok Build」をオープンソース化しました。さらに、開発者や研究者を支援するため、Grokシリーズのモデルの重みも公開する方針を示しています。
各社の技術は、ID確認、安全なモデル保存、修正ファイルの検証、脆弱性の発見、行動の監査など、異なる役割を担います。アライアンスは、モデルだけでなく、こうした技術を組み合わせたAIエージェント全体を検証し、改善できる防御基盤の構築を目指しています。
AIエージェントの活用が広がるほど、一つの技術だけで安全性を確保するのではなく、複数の企業や団体がそれぞれの専門性を持ち寄り、仕組み全体を支える視点の重要性も高まるでしょう。
オープンなAI防御を社会に広げるための課題
Open Secure AI Allianceは、政策立案者や規制当局に対し、オープンモデルやセキュリティツールを危険要因として一律に制限するのではなく、防御に活用できる技術として捉えるよう求めています。最先端のオープンAIシステムが広く制限されれば、防御側が高性能なAIを検証し、自らの環境に合わせて運用する選択肢も狭まるためです。
一方、NVIDIAは、オープンモデルには安全対策を弱めるように改変されたり、サイバー攻撃に転用されたりするリスクがあると認めています。ただし、モデルの重みを非公開にするだけでは、強力なAIを悪用しようとする攻撃者を防げないとも説明しています。
アライアンスは、オープンモデルの利用を広げるだけでなく、強固な安全対策や悪意ある利用を禁じる明確なルール、厳格な評価、問題が見つかった際の迅速な修正を組み合わせる必要があるとしています。
企業や政府による共同投資も重要な論点です。Open Secure AI Allianceは、AI防御に使用するデータセットや評価フレームワーク、攻撃シミュレーター、レッドチーミング用ツールなどを、共有可能なオープン基盤として整備するよう呼びかけています。レッドチーミングとは、攻撃者の視点からAIやシステムを検証し、弱点や想定外の動作を見つける安全性評価の手法です。
NVIDIAの発表によると、最先端のオープンAIを一律に制限した場合、技術や防御能力が少数のクローズドなサービス提供者へ集中するおそれがあります。特定の企業やシステムだけに依存すると、障害や利用制限が発生した際に、利用者が自ら対応する余地も限られます。
求められているのは、クローズドモデルとオープンモデルのどちらか一方を選ぶことではありません。用途に応じて両者を使い分けながら、透明性や調整の自由、自ら管理できる環境を確保することです。多くの専門家がAIを検証し、問題を修正できる環境を整えることが、今後のAI防御を考えるうえでの課題といえます。
まとめ
いかがだったでしょうか？
Open Secure AI Allianceは、AIモデルだけでなく、ID管理や監査、脆弱性の検出まで含めた防御基盤を、複数の企業や団体で構築しようとしています。NVIDIAは、オープンモデルには悪用のリスクがある一方、モデルを非公開にするだけで安全を確保できるとは限らないと説明しています。今後、AIを活用したサイバー防御の選択肢を確保するには、オープン性と安全対策を両立し、目的に応じてクローズドモデルとオープンモデルを選べる環境を整えることが重要だと考えられます。