K-walk、完全オフライン対応の生成AIシステム「Chimaki」実運用を開始

K-walkは27日、完全オフライン対応の生成AIシステム「Chimaki(チマキ)」における社内導入および性能評価を終了し、実運用を開始した。

業務マニュアル、自社セキュリティガイドライン等のデータ検索、要約や既存データをもとにした文章生成等に活用する。また、11月中旬を目処にサービス化および導入を開始する。

Chimakiは、インターネット接続が不要で、様々な状況下での活用が可能な生成AIシステム。独自の言語モデル(オープンソースモデル等)による回答の生成が可能であり、利用者の疑問に対してリアルタイムで回答を検索、生成する。

現状、実用レベルの言語モデルにおいては、パラメータサイズの影響により膨大なVRAM(GPU上のメモリ)を要求されるが、量子化等の軽量化・最適化によりシングルGPUによる実用可能レベルでの文章生成が可能となった。

これにより完全オフラインおよびローカルネットワーク(社内ネットワーク)での稼働が実現し、情報漏洩リスクや従量課金コスト問題に寄与できるという。

さらに回答の生成時に事前知識として、構築済みのベクトル化したデータベースを用途によって選択・使用し、回答とともに引用部分を出力することにより、従来から問題視されていた回答の正確性や回答根拠がブラックボックス化する問題を解決できる。

活用事例
Chimakiはオフラインで利用可能なLLM(Large Language Model)を搭載したシステムであり、さまざまな場面で効果的に活用できる。
・社内マニュアル等を読み込ませ、従業員の問い合わせ対応窓口として運用
・作成された文章をもとにした案内文章や案内メールの作成
・補助金関連資料や行政資料等の年度ごとに変更がある膨大な文章の要約や文章に対する検索
・バッテリー駆動端末での災害対応マニュアルQAシステムの構築
・インターネット環境がないエリアにおけるQAボット構築

今後は自社での試験導入結果および、試験導入の承諾を得た企業への導入結果をもとに最終的な調整および最適なデバイス選定やライセンスチェックを行った後に、正式リリースとなる。

導入や協業等を検討の企業、自治体、団体は、下記ページ内のフォームから問い合わせする。

「Chimaki」

関連URL

K-walk

関連記事

注目記事

  1. 2024-11-2

    「AI博覧会 Osaka 2025」2025年1月22日~1月23日開催

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは、2025年1月22日(水)~1月…
  2. 2024-9-27

    アイスマイリー、AI検索システムカオスマップ 2024を公開

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは26日、各業界のDX推進の支援の一…
  3. 2024-9-19

    小学校の授業における生成AIの活用と文科省ガイドライン

    小学校の授業における生成AIの活用は、教育の質を向上させる新たな可能性を秘めている。生成AIを活用す…
  4. 2024-9-13

    「生成AI大賞2024」エントリーの受付を開始

    Generative AI Japan(GenAI:ジェナイ〉」)は12日、日経BPが発行・運営する…
  5. 2024-9-13

    レスキューロボットコンテスト25周年 2025年震災30年の大阪・神戸で競技会開催

    レスキューロボットコンテスト実行委員会は12日、防災啓発と創造性教育の提供を目的とした『レスキューロ…

カテゴリー

最近の投稿

ページ上部へ戻る