ビュー:
Artifact ScannerにはAI検索機能が含まれています。これにより、Artifact Scannerを使用してAIアプリケーションのセキュリティ脆弱性を特定し、大規模言語モデルアプリケーションのためのOWASP Top 10および人工知能システムのためのMITRE Adversarial Threat Landscape (ATLAS)に関連するリスクを見つけることができます。AI ScannerはローカルまたはTrendAI™によってホストされて実行できます。
スキャナーは次の項目で脆弱性を見つけることができます:
AIスキャナーは、プロンプトを送信しテキストベースのモデル出力を受信するためのAPIを提供するカスタムAIアプリケーションと統合できます。アプリケーションはOpenAI API標準に従う必要はありません。以下の要件を満たしていれば、アプリケーションは互換性があります。
  • REST APIエンドポイント (公開または非公開) を公開します
  • リクエストボディで入力プロンプトまたはメッセージを受け入れます
  • 言語モデルによって生成されたテキスト対応を返します
  • リクエストと対応形式にJSONを使用します
  • HTTPまたはHTTPS POSTリクエストをサポート
リクエストおよび対応ペイロードで任意のフィールド名を使用できますが、設定ファイルで定義する必要があります。詳細については、カスタムAIアプリケーション用AIスキャナー設定例を参照してください。
スキャナーは以下に関連する脆弱性を見つけることができます:
  • 機密データの開示
  • システムプロンプト漏洩
  • 悪意のあるコード生成
  • 幻覚ソフトウェアエンティティ
  • エージェントツール定義漏洩
AIスキャナーでアーティファクトスキャナーを構成する方法については、TrendホストAI検索設定を構成するを参照してください。
アーティファクトスキャナーとAIスキャナーを継続的インテグレーション/継続的デプロイメント (CI/CD) パイプラインに統合した後、[Security for AI Stack] → [AIスキャナーとAIガード]で結果を表示できます。