SHIFT SECURITY、生成AI固有のセキュリティリスクを可視化する「生成AI活用システム診断」リリース

脆弱性診断・セキュリティ監視運用支援サービスを提供するSHIFT SECURITYは16日、ChatGPT等の生成AIを活用したシステム固有のセキュリティリスクを可視化する「生成AI活用システム診断」をリリースした。

近年、AI技術は目覚ましい進化を遂げ、その中でも生成AIは、文章や画像、音楽など様々なコンテンツを自動生成する技術として注目を集めている。中でも生成AIの代表的な技術の一つであるLLM(大規模言語モデル)は、膨大なテキストデータを学習することで、人間のような文章生成や質問への回答を実現する。

しかし、生成AIを活用したWebサービスや業務システムの開発が進む一方で、LLMによる生成AIは、以下のような従来のシステム開発と大きく異なる性質を持つ。

・自然言語(日本語や英語)で生成AIを操作する
・プログラムに比べて完全な制御が困難
・回答が学習データに依存する

このような性質から、生成AI固有の脆弱性をふまえたセキュリティ対策が必要。同社は、国際基準であるOWASP Top10 for LLMsに基づいた脆弱性診断を実施する「生成AI活用システム診断サービス」を提供し、安心・安全な生成AIシステムの実現を支援する。

WASP Top10 for LLMsに基づき、生成AIを活用したWebサービスやシステムの脆弱性を診断。従来のWebアプリケーション診断では検出できない生成AI固有の脆弱性を検出し、セキュリティリスクを可視化する。

同社の脆弱性診断は、ホワイトハッカーの技術を標準化・仕組化することで、属人性を排除し、高い生産性を実現した。これにより、バラつきのない高い診断品質かつ低価格で短納期な診断サービスを提供する。

サービス名称:生成AI活用システム診断
診断項目:OWASP Top10 for LLMs
納品物 :詳細な診断レポート・対策案
納期  :診断後1営業日で報告書を納品
診断スケジュール例:
診断実行日数が5日間の準委任の場合

生成AI活用システム診断の紹介

関連URL

SHIFT SECURITY

関連記事

注目記事

  1. 2024-5-17

    ホープリヴス、生成AIでモデル撮影の時間とコストを大幅削減「アイファモ」をリリース

    ホープリヴスは14日、サービス展開しているAIキャスティで、アパレル業界の撮影プロセスを根本から変革…
  2. 2024-5-17

    アイスマイリー、AIの導入を促進させる「生成AI導入ガイドブック」リリース

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは13日、AI導入推進の一環として、…
  3. 2024-5-10

    生成AI・ChatGPTが進化させるイベント情報メディア「EventNews」サービス開始

    bravesoftは9日、新たなAI技術を活用したイベント情報メディア「EventNews」のサービ…
  4. 2024-5-10

    テラドローン、九州電力送配電にAIを搭載したドローン自動鉄塔点検システムを導入

    Terra Drone(テラドローン)は8日、九州電力送配電に、AI によるがいし自動検出機能を搭載…
  5. 2024-5-10

    アイスマイリー、「AI博覧会 Summer 2024」を8月29日30日に開催

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは、8月29日~8月30日に「AI博…

カテゴリー

最近の投稿

ページ上部へ戻る