Robust Intelligence、生成AIモデルのリスクを検証・分析する評価サービスを提供開始

AIのリスクを適切に管理したモデルの運用“AI Integrity”を実現するシリコンバレー発のAIスタートアップ・Robust Intelligence, Inc.(米国カリフォルニア州:ロバストインテリジェンス)は30日、生成AIモデルのリスクを検証・分析する「生成AIリスク評価サービス」の提供を開始すると発表した。

ロバストインテリジェンスは、AIの開発段階から運用段階まで一貫して、テストベースでリスク検証を行うプラットフォーム「Robust Intelligence Platform」を、国内外の大手企業に提供してきた。

そんな中、昨今ではChatGPTを始めとする生成AIの利用が急速に広がる中で、不正確な出力や倫理的に問題のある出力、プロンプト・インジェクションなどの、これまでのAIモデルと異なる形のAIリスクが問題視されるようになった。これを受けて、各国政府の政策も転換しており、G7でも生成AIのリスク対策のための国際的ルール作りが急がれている。同社としても、自民党・AIプロジェクトチームへの参加などを通じて、急ピッチで進むAI政策の立案に貢献しているという。

こうした背景を受け、生成AIを企業が安心して活用するためのサポートを行うため、ロバストインテリジェンスは「生成AIリスク評価サービス」の提供を開始する。

このサービスは、従来のソリューションの基本的な考え方であるTest-Drivenアプローチを生成AIにも適用し、上記のような多岐にわたるAIリスクの検証・解決を行う。ロバストインテリジェンスのプラットフォームは日本のビジネス環境に準拠するため、日本語LLMにも適用可能であり、日本企業の準拠すべき各種規制にも対応している。また、各国政策や国内外のユースケースに関する知見を活かし、AIリスク管理において重要となる社内のAIガイドライン・プロセス整備等もサポートする。

【本サービスの特長】
・生成AIのリスクを包括的に検証する先進的なサービスにより、生成AIの実装を目指す企業にとってネックとなる「リスク対策」を一手に引き受け
・自動化したテストケースにより、不正な出力や有害な出力を防止
・セキュリティ上の脆弱性を検知・修復
・AIモデルが国内外の規制・ガイドラインに準拠していることを第三者の目線から確認

生成AIリスク評価サービスについての詳細な情報

関連URL

「Robust Intelligence Platform」
Robust Intelligence

関連記事

注目記事

  1. 2024-5-10

    生成AI・ChatGPTが進化させるイベント情報メディア「EventNews」サービス開始

    bravesoftは9日、新たなAI技術を活用したイベント情報メディア「EventNews」のサービ…
  2. 2024-5-10

    テラドローン、九州電力送配電にAIを搭載したドローン自動鉄塔点検システムを導入

    Terra Drone(テラドローン)は8日、九州電力送配電に、AI によるがいし自動検出機能を搭載…
  3. 2024-5-10

    アイスマイリー、「AI博覧会 Summer 2024」を8月29日30日に開催

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは、8月29日~8月30日に「AI博…
  4. 2024-5-8

    エファタ、「AI遺言書作成支援サービス」の無償提供を開始

    エファタは2日、法律的な要件を満たしたうえで、AIとの会話を通して遺言者の希望に沿った遺言書の下書き…
  5. 2024-5-8

    生成AIサービスの本格導入を計画している地方自治体は7割以上=イマクリエ調べ=

    イマクリエは、2024年2月から4月の3カ月間に、106の地方自治体に対して、生成AI活用状況のヒア…

カテゴリー

最近の投稿

ページ上部へ戻る