WAND、ChatGPT API導入サービス開発者向けプロンプトインジェクション対策コンサル開始
ChatGPTやStable DiffusionなどのジェネレーティブAI(生成AI)をを活用したサービス開発やシステム開発支援を行う研究開発機関『WIZARD AI』(旧称：LUMOS LAB)を展開するWANDは5月31日、プロンプトインジェクションの対策コンサルティングサービスを提供開始すると発表した。
プロンプトインジェクションは、ChatGPTを始めとする生成AIを活用したサービス開発において増加の一途をたどるセキュリティ脅威の1つであり、データプライバシーの侵害やサービスの挙動の乗っ取りを目指す悪意のある攻撃を指す。
この脅威に対抗するため、WANDで生成AIセキュリティチームを発足し、生成AI特化型のセキュリティコンサルティング/攻撃対策支援および、自社オリジナルのプロンプトインジェクション判定AIモデルの提供を開始した。
WANDのプロンプトインジェクション対策コンサルティングサービスでは、プロンプトインジェクションに精通するエンジニアがクライアント企業を訪問し、AI事業に関するセキュリティ面での対策提言、従業員教育とトレーニング、緊急時の対応支援などを提供する。クライアントの個別のニーズに合わせた、カスタマイズされたソリューションを提供し、セキュリティインシデントの発生を最小限に抑える。
また、あわせて簡単に悪意あるプロンプトインジェクションをAIが検知できる『プロンプトインジェクション検知AI』をリリースした。
たった数行のコードを埋め込むだけで、悪意あるプロンプトインジェクションをAIが検知し、機密情報の引き出しやAIの乗っ取りを防止。
ジェネリックAIの研究開発集団WIZARD AIが開発したプロンプトインジェクション検知AIに関する詳細はこちら。
関連URL
関連記事
注目記事
-
2024-7-25
ロボットバンク、【追従機能付き】自律走行搬送ロボットを発表
ロボットバンクは24日、追従機能付きの自律走行搬送ロボットの販売開始を発表致した。 本製品は、… -
2024-7-25
DNP、全国の自治体が共同で利用可能な「メタバース役所」の提供を開始
大日本印刷（DNP）は24日、生活者が自治体の各種サービスをインターネット上の仮想空間・メタバースで… -
2024-7-19
人機一体、直感的な操作システム搭載人型重機が JR西日本の鉄道設備メンテナンスに導入
人機一体は17日、同社のロボット工学技術が搭載された初めての製品となる「多機能鉄道重機」が、7 月か… -
2024-7-17
順天堂大学、AIを用いた脳容積解析ソフトウェアを開発
順天堂は16日、順天堂大学保健医療学部診療放射線学科の後藤政実 先任准教授、京極伸介 教授、代田浩之… -
2024-7-12
生成AIによるオススメフォントのアドバイスサービス「DynaGPT」リリース記念キャンペーン
主に文字フォント開発、およびその関連製品の開発・販売・保守を行う、ダイナコムウェアは、生成AIによる…