AIレッドチーミング

Arthur AIは、AIモデルの信頼性、安全性、およびパフォーマンスを確保するための「AIモニタリング・観測（Observability）」プラットフォームです。AIレッドチーミングの文脈では、主にArthur Shieldという製品を通じて、大規模言語モデル（LLM）に対する攻撃や不適切な出力をリアルタイムで防ぐ「ファイアウォール」機能を提供しています。

Giskardは、AIモデル（特に大規模言語モデル：LLM）の安全性と信頼性を確保するための、AIレッドチーミングおよび品質テスト用オープンソース・プラットフォームです。

HiddenLayerは、エンタープライズ企業が利用するAIモデルやアプリケーションの脆弱性を特定・防御するための包括的な「AIセキュリティプラットフォーム（AISec）」を提供するサービスです。特に「AIレッドチーミング」においては、自動化された攻撃シミュレーションを通じて、攻撃者に悪用される前にAIシステムの弱点を発見することに特化しています。

Lakera（ラケラ）は、生成AIおよび大規模言語モデル（LLM）アプリケーション向けのAIネイティブなセキュリティプラットフォームを提供しています。特に「AIレッドチーミング」においては、Lakera Red というサービスを展開しています。

Patronus AIは、エンタープライズ向けのAI自動評価・セキュリティプラットフォームを提供するスタートアップです。特に「AIレッドチーミング（攻撃的な手法を用いたAIの脆弱性診断）」や「ハルシネーション（もっともらしい嘘）の検出」に強みを持ち、大規模言語モデル（LLM）を用いたアプリケーションの信頼性と安全性を高めるサービスを展開しています。

Prompt Securityは、企業が生成AI（Generative AI）を安全に導入・利用するための包括的なAIセキュリティプラットフォームを提供しています。「AIレッドチーミング」カテゴリにおいては、開発中のAIアプリケーションや自社導入済みのAIツールに対し、自動化された攻撃シミュレーションを行うことで脆弱性を特定するサービスを展開しています。

Protect AI は、AI および機械学習（ML）システムのセキュリティを保護するための「MLSecOps」プラットフォームを提供するサービスです。特に AI レッドチーミングの分野では、AI モデルの脆弱性、データの改ざん（ポイズニング）、プロンプトインジェクションなどを特定・防御する包括的なソリューションを展開しています。

Robust Intelligenceは、AIモデルのライフサイクル全体（開発から本番運用まで）におけるセキュリティと信頼性を自動で検証・保護する「AI Integrity」プラットフォームを提供しています。