K-walk、完全オフライン対応の生成AIシステム「Chimaki」実運用を開始

K-walkは27日、完全オフライン対応の生成AIシステム「Chimaki(チマキ)」における社内導入および性能評価を終了し、実運用を開始した。

業務マニュアル、自社セキュリティガイドライン等のデータ検索、要約や既存データをもとにした文章生成等に活用する。また、11月中旬を目処にサービス化および導入を開始する。

Chimakiは、インターネット接続が不要で、様々な状況下での活用が可能な生成AIシステム。独自の言語モデル(オープンソースモデル等)による回答の生成が可能であり、利用者の疑問に対してリアルタイムで回答を検索、生成する。

現状、実用レベルの言語モデルにおいては、パラメータサイズの影響により膨大なVRAM(GPU上のメモリ)を要求されるが、量子化等の軽量化・最適化によりシングルGPUによる実用可能レベルでの文章生成が可能となった。

これにより完全オフラインおよびローカルネットワーク(社内ネットワーク)での稼働が実現し、情報漏洩リスクや従量課金コスト問題に寄与できるという。

さらに回答の生成時に事前知識として、構築済みのベクトル化したデータベースを用途によって選択・使用し、回答とともに引用部分を出力することにより、従来から問題視されていた回答の正確性や回答根拠がブラックボックス化する問題を解決できる。

活用事例
Chimakiはオフラインで利用可能なLLM(Large Language Model)を搭載したシステムであり、さまざまな場面で効果的に活用できる。
・社内マニュアル等を読み込ませ、従業員の問い合わせ対応窓口として運用
・作成された文章をもとにした案内文章や案内メールの作成
・補助金関連資料や行政資料等の年度ごとに変更がある膨大な文章の要約や文章に対する検索
・バッテリー駆動端末での災害対応マニュアルQAシステムの構築
・インターネット環境がないエリアにおけるQAボット構築

今後は自社での試験導入結果および、試験導入の承諾を得た企業への導入結果をもとに最終的な調整および最適なデバイス選定やライセンスチェックを行った後に、正式リリースとなる。

導入や協業等を検討の企業、自治体、団体は、下記ページ内のフォームから問い合わせする。

「Chimaki」

関連URL

K-walk

関連記事

注目記事

  1. 2024-6-19

    NVIDIA、生成 AI が台風を追跡しエネルギー消費を抑制

    NVIDIAは12日、従来、CPU のクラスターで複雑なアルゴリズムを実行し、25キロメートル解像度…
  2. 2024-6-10

    アイスマイリー、認識系から生成系までAI活用の最前線ウェビナー28日開催

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは、ビジネス現場向け最新AIウェビナ…
  3. 2024-5-31

    リブ・コンサルティング、「生成AIアプリケーション カオスマップ2024」を公開

    リブ・コンサルティングは29日、急速に発展する生成AIビジネス市場で欧米において生成AIアプリケーシ…
  4. 2024-5-23

    そらかぜ、AIで天気と相談するコーデアプリ「そらコーデ」公開

    そらかぜと日本気象協会は22日、AIを活用した新しいアプリ「そらコーデ」をiOSおよびAndroid…
  5. 2024-5-23

    ネクストシステム、AIで人物のシンクロ度を評価 「VP-Sync」を販売開始

    ネクストシステムは20日、AIで読み取った骨格情報から、人物動作のシンクロ度を自動評価するAIシンク…

カテゴリー

最近の投稿

ページ上部へ戻る