OpenAI、データ保護と安全対策を両立する新システムをプレビュー公開
AIが長く複雑な作業を担うようになる一方、企業には機密データを安全に扱う仕組みが求められます。OpenAIは、データを保持しないZero Data Retention（ZDR）と安全対策を両立する「Private Safety Processing」をプレビュー公開しました。どのような仕組みなのか、背景と特徴を紹介します。
ARCHETYP Staffingでは現在クリエイターを募集しています。
エンジニア、デザイナー、ディレクター以外に、生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください！
AIの安全確認とデータ保護を両立するには
OpenAIが提供するZero Data Retention（ZDR）は、対象となるAPI顧客のプロンプトやモデルの応答を、リクエスト処理後に保持しない仕組みです。顧客のコンテンツはOpenAIの担当者による確認には利用できず、エンタープライズ顧客のデータも、明示的に同意しない限りモデルの学習には使われません。
一方、AIがより長く複雑な作業を担うようになると、1回のやり取りだけでは判断しにくいリスクも出てきます。現在のZDR対応の安全システムは、やり取りを一つずつ個別に評価しています。しかし、悪意のある利用者が安全対策を繰り返し試したり、複数のアカウントを使って連携したり、危険な意図を通常の調査に見せかけたりするケースでは、複数のやり取りをまとめて見て初めて問題が明確になります。
AIエージェントのように、複数の手順を続けて実行する仕組みでも同様です。たとえば、利用者から停止を指示されたにもかかわらず動作を続ければ、利用者の意図から外れた状態になる可能性があります。AIが長時間の作業を担うほど、正当な利用と不正利用を区別し、与えられた権限の範囲内で動作しているかを確認するためには、より広い文脈を見ることが重要になります。
ただし、安全性を確認するためにAI提供企業が顧客の機密データを保持することは、別の課題につながります。OpenAIの発表によると、近年の一部のフロンティアモデルの導入では、安全監視のためにAI提供企業が機密性の高いコンテンツを保持することを顧客に求めるケースがあります。金融記録や健康関連データ、機密性の高い事業計画などを扱う組織にとっては、セキュリティ上の義務や顧客への約束との両立が難しくなる場合があります。そこでOpenAIが開発しているのが、ZDRを維持しながら複数のやり取りにまたがるリスクを確認するPrivate Safety Processingです。
データ保護を維持したまま安全確認の範囲を広げようとしている点は、機密情報を扱う企業にとって重要なポイントです。AI活用が広がるほど、こうした両立の考え方が求められる場面も増えていくでしょう。
データを守る「Private Safety Processing」の仕組み
Private Safety Processingは、現在のZDR対応の安全システムを拡張し、関連する複数のやり取りからリスクのパターンを自動で確認する仕組みです。安全確認の範囲を広げながら、OpenAIの担当者が顧客のプロンプトやモデルの応答そのものにアクセスしないよう設計されています。
ZDR環境では、顧客コンテンツは引き続き顧客自身が管理するインフラ上に保持されます。さらにOpenAIは、顧客コンテンツをOpenAIのインフラに保存しながら、顧客が管理する鍵で暗号化する選択肢も開発しています。OpenAIの担当者はその鍵のコピーを持たないため、保存された元のコンテンツにはアクセスできません。
自動システムが潜在的な不正利用を検知した場合、OpenAIが受け取るのは、活動の種類などを示す限定的な「安全性シグナル」です。プロンプトやモデルの応答そのものが共有されるわけではなく、OpenAIはこのシグナルをもとに措置が必要かどうかを判断します。
顧客側は、自社のシステムにある情報を使ってアラートや措置の判断を確認できます。異議申し立てや正当な利用であることの説明、確認された不正利用の調査に協力する場合には、関連する情報をOpenAIへ共有するかどうかを顧客自身で選択できます。
Private Safety Processingは現在、一部の顧客とテストを進めており、OpenAIは2026年9月から順次提供を開始し、技術ホワイトペーパーも公開する予定です。なお、児童性的虐待コンテンツ（CSAM）の可能性があると判定された画像については、法律上の報告義務に対応するため、ZDR環境でも人による確認と報告を目的に引き続き保持されます。顧客データへのアクセスを制限しながら、長期化するAIの利用に必要な安全確認をどう実現するか。その両立を目指すのがPrivate Safety Processingの基本的な考え方です。
安全確認に必要な情報だけを扱う設計は、データ保護と安全対策を両立するうえで特徴的な考え方です。AIの安全性を高める際にも、確認対象となるデータを必要以上に広げない設計が求められていくでしょう。
まとめ
いかがだったでしょうか？
Private Safety Processingは、限定的な安全性シグナルをもとに安全対策を行うことを目指す仕組みで、2026年9月から順次提供される予定です。
AIの能力が高まるほど、それを安全に運用するための仕組みも同時に進化する必要があります。Private Safety Processingの取り組みは、AIの性能だけでなく、データ保護や運用面を含めて導入を考える重要性を示しているといえるでしょう。