WAND、ChatGPT API導入サービス開発者向けプロンプトインジェクション対策コンサル開始
ChatGPTやStable DiffusionなどのジェネレーティブAI(生成AI)をを活用したサービス開発やシステム開発支援を行う研究開発機関『WIZARD AI』(旧称：LUMOS LAB)を展開するWANDは5月31日、プロンプトインジェクションの対策コンサルティングサービスを提供開始すると発表した。
プロンプトインジェクションは、ChatGPTを始めとする生成AIを活用したサービス開発において増加の一途をたどるセキュリティ脅威の1つであり、データプライバシーの侵害やサービスの挙動の乗っ取りを目指す悪意のある攻撃を指す。
この脅威に対抗するため、WANDで生成AIセキュリティチームを発足し、生成AI特化型のセキュリティコンサルティング/攻撃対策支援および、自社オリジナルのプロンプトインジェクション判定AIモデルの提供を開始した。
WANDのプロンプトインジェクション対策コンサルティングサービスでは、プロンプトインジェクションに精通するエンジニアがクライアント企業を訪問し、AI事業に関するセキュリティ面での対策提言、従業員教育とトレーニング、緊急時の対応支援などを提供する。クライアントの個別のニーズに合わせた、カスタマイズされたソリューションを提供し、セキュリティインシデントの発生を最小限に抑える。
また、あわせて簡単に悪意あるプロンプトインジェクションをAIが検知できる『プロンプトインジェクション検知AI』をリリースした。
たった数行のコードを埋め込むだけで、悪意あるプロンプトインジェクションをAIが検知し、機密情報の引き出しやAIの乗っ取りを防止。
ジェネリックAIの研究開発集団WIZARD AIが開発したプロンプトインジェクション検知AIに関する詳細はこちら。
関連URL
関連記事
注目記事
-
2025-3-15
企業の45%が生成AIを利用、日常業務では80%超の企業が利用成果を認識 =JIPDECとITR調べ=
日本情報経済社会推進協会（JIPDEC）とアイ・ティ・アール（ITR）は14日、国内企業1110社の… -
2025-3-5
BizTech、『今さら聞けない！ChatGPT基本のキ』ホワイトペーパー公開
最適なAI開発会社やAIサービスの選定を支援するコンシェルジュサービス「AI Market」を運営す… -
2025-2-18
アイスマイリー、「AIエージェントカオスマップ 2025」を公開
AIポータルメディア「AIsmiley」を運営するアイスマイリーは17日、「AIエージェントカオスマ… -
2025-2-15
ベクトル、人材業界向け「ChatGPTを活用した顧客体験の進化と収益向上方法をまとめたレポート」
ベクトルの子会社であるOwnedは14日、人材業界向けに「ChatGPTを活用した顧客体験の進化と収… -
2025-2-12
「AI博覧会 Spring 2025」3月27日・28日開催
AIポータルメディア「AIsmiley」を運営するアイスマイリーは、2025年3月27日・28日に「…