アドバンテック、エッジ生成AIシステムをリリース 生成AI開発を大幅に加速

アドバンテックは3月29日、NVIDIA Jetson AGX Orinを搭載したMIC-733-AOによる生成AIデモの実施に成功したと発表した。

このデモは、クラウドベースの生成AIと比較して、より即時性が高く、セキュリティが強化され、インターネットコストが削減されるという利点がある。MIC-733-AO エッジ生成AIシステムでは、Jetson AIラボのジェネレーティブAIモデルが無償で基礎となるAIモデルを提供するため、カスタマイズが可能になり、開発時間が大幅に短縮されるという。

MIC-733-AO エッジ生成AIシステムは、Jetson AI labのNVIDIA 生成AIモデルと互換性があり、NVIDIA Jetson AGX Orinによって効率的に大規模言語モデル(LLM)、ビジョン言語モデル(VLM)、ビジョン・トランスフォーマー(ViT)、および画像生成とLlamaspeakをエッジで実行することができる。このプラットフォームは、加速計算、重要なAIソフトウェア、および事前トレーニング済みモデルを含む複数のレイヤーにわたる独自の提供を行い、さまざまなアプリケーションや場所に適した生成型AIモデルの作成、カスタマイズ、展開を容易にする。

Jetson AI labの生成AIモデルを使用することで、開発者はリトリーバル拡張生成(RAG)技術を活用し、LLMとVLMを企業の知識ベースに接続することができる。この手法により、従来のAIモデルのトレーニングが不要となり、シンプルな対話形式でシステムとやり取りするだけでAIの推論が得られるため、開発時間が大幅に短縮される。

アドバンテックのMIC-733-AOは、高いAI性能とIPカメラ、USB/gigE産業用カメラ、GMSLカメラ、LiDARなど複数のビデオインターフェースを備えており、エッジベースの生成型AIモデルの動作を可能にしている。その優れた熱設計により、NVIDIA Jetson AGX Orinがフル稼働していてもホットクラッシュを防ぐという。

即答性アプリケーション向けのエッジでの生成AI
生成AIは、テキストや画像などさまざまな入力と出力から新しいコンテンツを作成することで、人間とコンピュータの相互作用に革新的な変化をもたらしている。クラウドからエッジへの需要のシフトにより、生成AIは高応答性と低レイテンシの環境に最適化しつつある。

エッジベースの生成AIは、クラウドベースに比べていくつかの利点がある。
・即応性: カメラやセンサーなどのデータソースを統合したエッジコンピューティングシステムは、クラウドへのデータアップロードなどがなく、遅延なしに迅速な生成AIの応答を可能にする。
・情報セキュリティ: データはエッジシステム内に残るため、クラウドデータの送信に関連するサイバーセキュリティリスクを回避する。
・安定したネットワーク接続: 無線ネットワークなしでも動作可能で、エッジシステムはネットワークの復旧までデータをローカルに保存する。クラウドベースのAIと異なり、ネットワークなしで機能停止する事はない。
・送信コストの低減: エッジAIは、バックエンド通信が不要な場合には送信コストがかかりません。クラウドのアップロードに比べて低帯域幅の送信のみが必要であり、非常に低コスト。

MIC-733-AO Live LLaVAデモアプリケーションノートのダウンロード

関連URL

アドバンテック

関連記事

注目記事

  1. 2024-4-19

    GreenSnap、生成AIフラワーアレンジメント「AI:zen~Flower Arrangement Assistant~」提供開始

    植物コミュニティアプリ「GreenSnap」を運営するGreenSnapは18日、生成AIを活用しフ…
  2. 2024-4-17

    生成AIの教育活用”EdGPT”への進展「デジタル・ナレッジ教育テクノロジ研究所 オンラインセミナー」

    eラーニング専門ソリューション企業デジタル・ナレッジは、デジタル・ナレッジ教育テクノロジ研究所 主催…
  3. 2024-4-15

    AI食事管理アプリ「あすけん」、累計会員数1000万人突破大感謝祭キャンペーン第5弾

    AI食事管理アプリ「あすけん」の開発・運営を行うaskenは、累計会員数が1000万人を突破したこと…
  4. 2024-4-15

    学校向け生成AIクラウド「スタディポケット for TEACHER」、「無料」で利用可能に

    CODEGYMは12日、同社の学校向け、校務DXを推進する生成AIクラウドサービス「スタディポケット…
  5. 2024-4-11

    アイスマイリー、人事・総務向け問い合わせ対応AIカオスマップを公開

    AIポータルメディア「AIsmiley」を運営するアイスマイリーは11日、各業界のDX推進の支援の一…

カテゴリー

最近の投稿

ページ上部へ戻る