KELA、生成AI特有のサイバー脅威に対抗するセキュリティソリューション「AiFort」提供開始

サイバー脅威インテリジェンスを提供するKELA(ケラ、イスラエル)の日本法人であるKELAは19日、生成AIセキュリティソリューション「AiFort(エーアイフォート)」を発表し国内販売開始することを発表した。

「AiFort」は、生成AI /大規模言語モデル(LLM)をセーフティ、セキュリティ、プライバシーの3つの観点で保護するために、AIモデル学習用データセットや模擬攻撃などを提供する。開発から運用までMLOpsライフサイクル全般をカバーし、安全な生成AIモデルを構築・運用できるよう支援する。

「AiFort」は、アンダーグラウンドの犯罪社会を常時監視することで収集・蓄積した膨大なデータに基づいているのが特長で、実際の犯罪の背景にある情報や、最新の脅威動向が反映されているので、より現実的な対策を講じることができる。「AiFort」を継続的に利用することで、犯罪のトレンドや犯罪の新技術に追随することができ、生成AIを利用したシステム/サービスのセキュリティレベルを維持することができる。

◆「AiFort」の構成
「AiFort suite」として、以下3つの機能とサービスを提供するモジュールで構成される。

(1) AiFort Data … AIトレーニングデータセット
生成AIモデルのトレーニングで利用する、脅威インテリジェンスに基づくデータセット。

最新の脅威動向や犯罪技術などを反映した「AiFort Data」を利用して、生成AIモデルに学習させることで、セキュリティを強化することができる。例えば、ジェイルブレイクの手口を学習させることで、AIチャットボットによる暴力的な発言や誤情報の流出などの脅威リスクを回避することができる。

(2) AiFort Red … レッドチームサービス
AIモデルの脆弱性やセキュリティリスクがないかどうか、信頼性と安全性を診断するための、脅威インテリジェンスに基づくアドバーサリーエミュレーション(攻撃模倣プログラム)。利用ユーザーが簡単な操作でテストプランを作成し、プランに基づいて「AiFort Red」が模擬攻撃を実行し、ユーザーは分析・診断結果をダッシュボードで把握できる。

「AiFort Red」がレッドチームを支援することで、テストを効率化し、テスト漏れを低減する。

「AiFort Red」で、安全性を確認・検証することで、例えば、AIチャットボットやAIヘルプデスクなどのAIアプリケーションを、安全性に⾃信を持って導⼊できるようになる。

運用開始後も継続的に診断を続けることで、システム/サービスのセキュリティレベルを維持するのに役立つ。

(3) AiFort Protect … プロンプトフィルタリング  ※2024年中に提供開始予定
悪意のある不正なプロンプト入力をリアルタイムに検知・通知し、プロンプトインジェクションやデータ漏洩、ハッキングなどの不正行為を防ぐことができる。

生成AIを用いたシステム/サービスの運用開始後、いわば生成AI向けのファイアウォールのように機能する。

「AiFort Suite」の詳細

関連URL

KELA

関連記事

注目記事

  1. 2024-5-17

    ホープリヴス、生成AIでモデル撮影の時間とコストを大幅削減「アイファモ」をリリース

    ホープリヴスは14日、サービス展開しているAIキャスティで、アパレル業界の撮影プロセスを根本から変革…
  2. 2024-5-17

    アイスマイリー、AIの導入を促進させる「生成AI導入ガイドブック」リリース

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは13日、AI導入推進の一環として、…
  3. 2024-5-10

    生成AI・ChatGPTが進化させるイベント情報メディア「EventNews」サービス開始

    bravesoftは9日、新たなAI技術を活用したイベント情報メディア「EventNews」のサービ…
  4. 2024-5-10

    テラドローン、九州電力送配電にAIを搭載したドローン自動鉄塔点検システムを導入

    Terra Drone(テラドローン)は8日、九州電力送配電に、AI によるがいし自動検出機能を搭載…
  5. 2024-5-10

    アイスマイリー、「AI博覧会 Summer 2024」を8月29日30日に開催

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは、8月29日~8月30日に「AI博…

カテゴリー

最近の投稿

ページ上部へ戻る