WAND、ChatGPT API導入サービス開発者向けプロンプトインジェクション対策コンサル開始

ChatGPTやStable DiffusionなどのジェネレーティブAI(生成AI)をを活用したサービス開発やシステム開発支援を行う研究開発機関『WIZARD AI』(旧称:LUMOS LAB)を展開するWANDは5月31日、プロンプトインジェクションの対策コンサルティングサービスを提供開始すると発表した。

プロンプトインジェクションは、ChatGPTを始めとする生成AIを活用したサービス開発において増加の一途をたどるセキュリティ脅威の1つであり、データプライバシーの侵害やサービスの挙動の乗っ取りを目指す悪意のある攻撃を指す。

この脅威に対抗するため、WANDで生成AIセキュリティチームを発足し、生成AI特化型のセキュリティコンサルティング/攻撃対策支援および、自社オリジナルのプロンプトインジェクション判定AIモデルの提供を開始した。

WANDのプロンプトインジェクション対策コンサルティングサービスでは、プロンプトインジェクションに精通するエンジニアがクライアント企業を訪問し、AI事業に関するセキュリティ面での対策提言、従業員教育とトレーニング、緊急時の対応支援などを提供する。クライアントの個別のニーズに合わせた、カスタマイズされたソリューションを提供し、セキュリティインシデントの発生を最小限に抑える。

また、あわせて簡単に悪意あるプロンプトインジェクションをAIが検知できる『プロンプトインジェクション検知AI』をリリースした。

たった数行のコードを埋め込むだけで、悪意あるプロンプトインジェクションをAIが検知し、機密情報の引き出しやAIの乗っ取りを防止。

ジェネリックAIの研究開発集団WIZARD AIが開発したプロンプトインジェクション検知AIに関する詳細はこちら

関連URL

WAND

関連記事

注目記事

  1. 2024-5-17

    ホープリヴス、生成AIでモデル撮影の時間とコストを大幅削減「アイファモ」をリリース

    ホープリヴスは14日、サービス展開しているAIキャスティで、アパレル業界の撮影プロセスを根本から変革…
  2. 2024-5-17

    アイスマイリー、AIの導入を促進させる「生成AI導入ガイドブック」リリース

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは13日、AI導入推進の一環として、…
  3. 2024-5-10

    生成AI・ChatGPTが進化させるイベント情報メディア「EventNews」サービス開始

    bravesoftは9日、新たなAI技術を活用したイベント情報メディア「EventNews」のサービ…
  4. 2024-5-10

    テラドローン、九州電力送配電にAIを搭載したドローン自動鉄塔点検システムを導入

    Terra Drone(テラドローン)は8日、九州電力送配電に、AI によるがいし自動検出機能を搭載…
  5. 2024-5-10

    アイスマイリー、「AI博覧会 Summer 2024」を8月29日30日に開催

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは、8月29日~8月30日に「AI博…

カテゴリー

最近の投稿

ページ上部へ戻る