K-walkは27日、完全オフライン対応の生成AIシステム「Chimaki（チマキ）」における社内導入および性能評価を終了し、実運用を開始した。

業務マニュアル、自社セキュリティガイドライン等のデータ検索、要約や既存データをもとにした文章生成等に活用する。また、11月中旬を目処にサービス化および導入を開始する。

Chimakiは、インターネット接続が不要で、様々な状況下での活用が可能な生成AIシステム。独自の言語モデル(オープンソースモデル等)による回答の生成が可能であり、利用者の疑問に対してリアルタイムで回答を検索、生成する。

現状、実用レベルの言語モデルにおいては、パラメータサイズの影響により膨大なVRAM(GPU上のメモリ)を要求されるが、量子化等の軽量化・最適化によりシングルGPUによる実用可能レベルでの文章生成が可能となった。

これにより完全オフラインおよびローカルネットワーク(社内ネットワーク)での稼働が実現し、情報漏洩リスクや従量課金コスト問題に寄与できるという。

さらに回答の生成時に事前知識として、構築済みのベクトル化したデータベースを用途によって選択・使用し、回答とともに引用部分を出力することにより、従来から問題視されていた回答の正確性や回答根拠がブラックボックス化する問題を解決できる。

活用事例
Chimakiはオフラインで利用可能なLLM（Large Language Model）を搭載したシステムであり、さまざまな場面で効果的に活用できる。
・社内マニュアル等を読み込ませ、従業員の問い合わせ対応窓口として運用
・作成された文章をもとにした案内文章や案内メールの作成
・補助金関連資料や行政資料等の年度ごとに変更がある膨大な文章の要約や文章に対する検索
・バッテリー駆動端末での災害対応マニュアルQAシステムの構築
・インターネット環境がないエリアにおけるQAボット構築

今後は自社での試験導入結果および、試験導入の承諾を得た企業への導入結果をもとに最終的な調整および最適なデバイス選定やライセンスチェックを行った後に、正式リリースとなる。

導入や協業等を検討の企業、自治体、団体は、下記ページ内のフォームから問い合わせする。

「Chimaki」

関連URL

K-walk