WAND、ChatGPT API導入サービス開発者向けプロンプトインジェクション対策コンサル開始
ChatGPTやStable DiffusionなどのジェネレーティブAI(生成AI)をを活用したサービス開発やシステム開発支援を行う研究開発機関『WIZARD AI』(旧称：LUMOS LAB)を展開するWANDは5月31日、プロンプトインジェクションの対策コンサルティングサービスを提供開始すると発表した。
プロンプトインジェクションは、ChatGPTを始めとする生成AIを活用したサービス開発において増加の一途をたどるセキュリティ脅威の1つであり、データプライバシーの侵害やサービスの挙動の乗っ取りを目指す悪意のある攻撃を指す。
この脅威に対抗するため、WANDで生成AIセキュリティチームを発足し、生成AI特化型のセキュリティコンサルティング/攻撃対策支援および、自社オリジナルのプロンプトインジェクション判定AIモデルの提供を開始した。
WANDのプロンプトインジェクション対策コンサルティングサービスでは、プロンプトインジェクションに精通するエンジニアがクライアント企業を訪問し、AI事業に関するセキュリティ面での対策提言、従業員教育とトレーニング、緊急時の対応支援などを提供する。クライアントの個別のニーズに合わせた、カスタマイズされたソリューションを提供し、セキュリティインシデントの発生を最小限に抑える。
また、あわせて簡単に悪意あるプロンプトインジェクションをAIが検知できる『プロンプトインジェクション検知AI』をリリースした。
たった数行のコードを埋め込むだけで、悪意あるプロンプトインジェクションをAIが検知し、機密情報の引き出しやAIの乗っ取りを防止。
ジェネリックAIの研究開発集団WIZARD AIが開発したプロンプトインジェクション検知AIに関する詳細はこちら。
関連URL
関連記事
注目記事
-
2024-4-26
アイスマイリー、「生成AIウェビナーWEEK!第2弾」5月14日・15日・16日開催
AIポータルメディア「AIsmiley」を運営するアイスマイリーは、5月14日～5月16の3日間12… -
2024-4-26
カウネット、ChatGPTなどの生成AIツールについての意識調査を実施
コクヨグループでＥコマースサービスを提供するカウネットは25日、コミュニティサイト「カウネットモニカ… -
2024-4-23
アース製薬、ChatGPT搭載のAIチャットボットによる無料の虫ケア相談サービスを開始
アース製薬は22日、アース製薬公式LINEで、誰もが簡単に害虫の生態や虫ケア対策を気軽に相談できるC… -
2024-4-19
GreenSnap、生成AIフラワーアレンジメント「AI:zen～Flower Arrangement Assistant～」提供開始
植物コミュニティアプリ「GreenSnap」を運営するGreenSnapは18日、生成AIを活用しフ… -
2024-4-17
生成AIの教育活用”EdGPT”への進展「デジタル・ナレッジ教育テクノロジ研究所 オンラインセミナー」
eラーニング専門ソリューション企業デジタル・ナレッジは、デジタル・ナレッジ教育テクノロジ研究所 主催…