WAND、ChatGPT API導入サービス開発者向けプロンプトインジェクション対策コンサル開始
ChatGPTやStable DiffusionなどのジェネレーティブAI(生成AI)をを活用したサービス開発やシステム開発支援を行う研究開発機関『WIZARD AI』(旧称：LUMOS LAB)を展開するWANDは5月31日、プロンプトインジェクションの対策コンサルティングサービスを提供開始すると発表した。
プロンプトインジェクションは、ChatGPTを始めとする生成AIを活用したサービス開発において増加の一途をたどるセキュリティ脅威の1つであり、データプライバシーの侵害やサービスの挙動の乗っ取りを目指す悪意のある攻撃を指す。
この脅威に対抗するため、WANDで生成AIセキュリティチームを発足し、生成AI特化型のセキュリティコンサルティング/攻撃対策支援および、自社オリジナルのプロンプトインジェクション判定AIモデルの提供を開始した。
WANDのプロンプトインジェクション対策コンサルティングサービスでは、プロンプトインジェクションに精通するエンジニアがクライアント企業を訪問し、AI事業に関するセキュリティ面での対策提言、従業員教育とトレーニング、緊急時の対応支援などを提供する。クライアントの個別のニーズに合わせた、カスタマイズされたソリューションを提供し、セキュリティインシデントの発生を最小限に抑える。
また、あわせて簡単に悪意あるプロンプトインジェクションをAIが検知できる『プロンプトインジェクション検知AI』をリリースした。
たった数行のコードを埋め込むだけで、悪意あるプロンプトインジェクションをAIが検知し、機密情報の引き出しやAIの乗っ取りを防止。
ジェネリックAIの研究開発集団WIZARD AIが開発したプロンプトインジェクション検知AIに関する詳細はこちら。
関連URL
関連記事
注目記事
-
2026-3-11
日本経営協会、生成AIの業務活用２位は「文章校正」１位は？
日本経営協会は、2025年9月10日～9月18日の期間、企業・団体に勤務するビジネスパーソン729名… -
2026-3-11
アイスマイリー、物流・交通・運輸向けAIサービスカオスマップ公開
AIポータルメディア「AIsmiley」を運営するアイスマイリーは10日、現場の課題に応じた最適解を… -
2024-9-19
小学校の授業における生成AIの活用と文科省ガイドライン
小学校の授業における生成AIの活用は、教育の質を向上させる新たな可能性を秘めている。生成AIを活用す… -
2024-8-19
生成AIの種類（ChatGPT, Gemini, Copilot）・特徴と使い方
生成AI（生成型人工知能）は、テキスト、画像、音声などのコンテンツを自動で生成する技術。日本国内でも… -
2023-8-21
総社市スマホ市役所、生成AIを用いた対話応答型サービスを開始
岡山県総社市とBot Expressは18日、7月に開設した総社市スマホ市役所で、生成AIを用いた対…