WAND、ChatGPT API導入サービス開発者向けプロンプトインジェクション対策コンサル開始
ChatGPTやStable DiffusionなどのジェネレーティブAI(生成AI)をを活用したサービス開発やシステム開発支援を行う研究開発機関『WIZARD AI』(旧称：LUMOS LAB)を展開するWANDは5月31日、プロンプトインジェクションの対策コンサルティングサービスを提供開始すると発表した。
プロンプトインジェクションは、ChatGPTを始めとする生成AIを活用したサービス開発において増加の一途をたどるセキュリティ脅威の1つであり、データプライバシーの侵害やサービスの挙動の乗っ取りを目指す悪意のある攻撃を指す。
この脅威に対抗するため、WANDで生成AIセキュリティチームを発足し、生成AI特化型のセキュリティコンサルティング/攻撃対策支援および、自社オリジナルのプロンプトインジェクション判定AIモデルの提供を開始した。
WANDのプロンプトインジェクション対策コンサルティングサービスでは、プロンプトインジェクションに精通するエンジニアがクライアント企業を訪問し、AI事業に関するセキュリティ面での対策提言、従業員教育とトレーニング、緊急時の対応支援などを提供する。クライアントの個別のニーズに合わせた、カスタマイズされたソリューションを提供し、セキュリティインシデントの発生を最小限に抑える。
また、あわせて簡単に悪意あるプロンプトインジェクションをAIが検知できる『プロンプトインジェクション検知AI』をリリースした。
たった数行のコードを埋め込むだけで、悪意あるプロンプトインジェクションをAIが検知し、機密情報の引き出しやAIの乗っ取りを防止。
ジェネリックAIの研究開発集団WIZARD AIが開発したプロンプトインジェクション検知AIに関する詳細はこちら。
関連URL
関連記事
注目記事
-
2024-11-13
手術室の主役は「人」から「AI・ロボット」へ 病院に於ける「AI・ロボット」の利用状況
AIホスピタルは、医療分野における革新的な取り組みとして注目されている。特に「AI・ロボット」は、病… -
2024-11-2
「AI博覧会 Osaka 2025」2025年1月22日～1月23日開催
AIポータルメディア「AIsmiley」を運営するアイスマイリーは、2025年1月22日（水）～1月… -
2024-9-27
アイスマイリー、AI検索システムカオスマップ 2024を公開
AIポータルメディア「AIsmiley」を運営するアイスマイリーは26日、各業界のDX推進の支援の一… -
2024-9-19
小学校の授業における生成AIの活用と文科省ガイドライン
小学校の授業における生成AIの活用は、教育の質を向上させる新たな可能性を秘めている。生成AIを活用す… -
2024-9-13
「生成AI大賞2024」エントリーの受付を開始
Generative AI Japan（GenAI：ジェナイ〉」）は12日、日経BPが発行・運営する…