脆弱性診断・セキュリティ監視運用支援サービスを提供するSHIFT SECURITYは16日、ChatGPT等の生成AIを活用したシステム固有のセキュリティリスクを可視化する「生成AI活用システム診断」をリリースした。

近年、AI技術は目覚ましい進化を遂げ、その中でも生成AIは、文章や画像、音楽など様々なコンテンツを自動生成する技術として注目を集めている。中でも生成AIの代表的な技術の一つであるLLM（大規模言語モデル）は、膨大なテキストデータを学習することで、人間のような文章生成や質問への回答を実現する。

しかし、生成AIを活用したWebサービスや業務システムの開発が進む一方で、LLMによる生成AIは、以下のような従来のシステム開発と大きく異なる性質を持つ。

・自然言語（日本語や英語）で生成AIを操作する
・プログラムに比べて完全な制御が困難
・回答が学習データに依存する

このような性質から、生成AI固有の脆弱性をふまえたセキュリティ対策が必要。同社は、国際基準であるOWASP Top10 for LLMsに基づいた脆弱性診断を実施する「生成AI活用システム診断サービス」を提供し、安心・安全な生成AIシステムの実現を支援する。

WASP Top10 for LLMsに基づき、生成AIを活用したWebサービスやシステムの脆弱性を診断。従来のWebアプリケーション診断では検出できない生成AI固有の脆弱性を検出し、セキュリティリスクを可視化する。

同社の脆弱性診断は、ホワイトハッカーの技術を標準化・仕組化することで、属人性を排除し、高い生産性を実現した。これにより、バラつきのない高い診断品質かつ低価格で短納期な診断サービスを提供する。

サービス名称：生成AI活用システム診断
診断項目：OWASP Top10 for LLMs
納品物　：詳細な診断レポート・対策案
納期　　：診断後1営業日で報告書を納品
診断スケジュール例：
診断実行日数が5日間の準委任の場合

生成AI活用システム診断の紹介

関連URL

SHIFT SECURITY