すべての電力を
信頼できる知能へ

信頼基盤は物理層から始まります。データはデバイス内に留まり、推論はローカルで行い、計算資源は企業が保有します。そのため、LoLR.AIはオンデバイス計算機器を自社開発しています。電力とサイズが限られるため、汎用計算に加えてFPGA(特定の処理向けに構成できるプログラマブルな専用ハードウェア)と専用アクセラレーターを導入し、タスクの種類に応じて負荷を分担します。さらにLoLR分散計算ネットワークがデバイス・エッジ・クラウドを、統一的にスケジュールし監査できる仕組みにまとめます。

  • CPU論理とスケジューリング:複雑な論理判断、システムの処理調整、非構造化の小規模タスク。
  • GPU並列推論:大規模モデルの推論と並列行列演算により、中核となるAI計算能力を提供します。
  • FPGA · 専用アクセラレーション記憶管理、OCR、暗号化など頻度の高い処理をパイプライン化して高速化し、消費電力を大幅に削減します。
  • 協調スケジューリングタスクの種類に応じて負荷を分担し、全機種で共通の LoLR.AI OSとSkills体系を実行します。
LoLR HPCsの全製品を見る→
CPU
論理・スケジューリングルール判断 · システム調整 · 非構造化の小規模タスク
GPU
並列推論の高速化大規模モデル推論 · 並列行列演算 · 中核AI計算
FPGA
専用ハードウェアによる高速化FPGA・専用アクセラレーター · 記憶管理 · OCR · 暗号化
汎用計算で高頻度タスクを処理
1×
専用ハードウェアによる高速化
10×

記憶管理、OCR、暗号化など高頻度の特定処理について、実験室条件下でエネルギー効率を比較したデータです。システム全体の性能は使用するモデルと環境によって異なります。

デバイス・クラウド連携による計算資源の構成

単体機器の計算能力には限りがありますが、企業のタスクは個人・部門・組織にまたがります。LoLR分散計算ネットワークは、携帯機器、デスクトップ機器、組織内サーバー、許可されたクラウドを一つのネットワークに統合します。ノード内で異種計算を分担し、ネットワーク全体を統一管理し、安全な接続でノード間のやり取りを制御します。

統一スケジューリング · LoLR.AI OS 機密性・遅延要件・モデル規模・コストで各タスクの実行場所を決定 デバイス 携帯・個人用デバイス LoLR ticTALK · mini · BOX 高頻度タスクを手元で処理 OCR · 文字起こし · 記憶検索 · 日常の質問応答 CPU · GPU · FPGA · 専用アクセラレーション データを端末内に保持 · ミリ秒応答 · 低消費電力 エッジ 部門・組織の内部ネットワーク LoLR STUDIO · STATION LoLR STATION プロジェクト型ソリューション · ラック規模 大規模モデル推論と複数ユーザーでの共有 コンプライアンス・リスク管理 · 部門のデジタルエキスパート · 全データ分析 CPU · GPU · FPGA · 専用アクセラレーション · 複数機器の統合制御 全データを管理域内に保持 · 高い同時処理性能 · 中国国産IT クラウド 許可されたクラウド LoLR Cloud · 許可に基づく公共計算資源への接続 LoLR Cloud 伸縮自在な計算資源とモデル更新 大規模分析 · 管理域をまたぐ推論 · モデル・Skills更新 伸縮自在なGPU計算資源 · 許可とデータ方針に従って利用 許可されたタスクのみ処理 · すべての呼び出しを記録 安全な接続:デバイス認証 · エンドツーエンド暗号化 · 権限制御 · 全過程の監査 原データは生成元のノードに留め、ノード間ではタスク・結論・許可されたモデル機能をやり取りします
(左右にスワイプして図全体を表示)
統一スケジューリングでデバイス・エッジ・クラウドの実行層を選び、安全な接続でノード間のやり取りを制御LoLR分散計算ネットワーク · 概念図
異種計算ノード

各ノード内で、CPUが論理とスケジューリング、GPUが並列推論、FPGAと専用アクセラレーターが記憶管理・OCR・暗号化などの高頻度タスクを分担します。

分散スケジューリング

データの機密性、遅延要件、モデル規模、コストに応じてデバイス・エッジ・クラウドの実行場所を選び、組織内の複数機器を同時処理の需要に合わせて統合制御します。

安全な接続

デバイス認証、エンドツーエンド暗号化、権限制御、全過程の記録に対応。原データは生成元のノードに保持し、ノード間ではタスクと結論をやり取りします。

高エネルギー効率の分散計算

高頻度タスクは近くの専用デバイスで処理し、大規模モデルの推論は部門・組織のノードに集約します。変動する需要には許可されたクラウドを利用し、エネルギー効率に応じて計算資源を配分します。

信頼基盤=高エネルギー効率の異種計算ノード+分散計算ネットワーク+安全な接続データ主権・計算主権・業務主権を実現します。データは企業が保有し、計算資源は企業が管理し、業務は企業が定義します。