Edge0-145Bは、145B規模のローカルAIを業務端末や社内GPU環境で試す流れを一段進める発表です。公式ブログはEdge0-145B/120B、統合推論フレームワーク、デプロイツールをオープンソース化したと説明しています。導入判断で重要なのは「クラウド代替になるか」ではなく、機密データ、推論コスト、オフライン運用、検証端末、監査ログをどう切り分けるかです。
HelloCraftAIでは、ローカルAIやAIエージェントの導入可否を、用途・権限・費用・セキュリティ要件から整理します。PoC設計や社内展開の相談は お問い合わせ からご相談ください。
Edge0-145Bとは？公式発表で確認できる要点
Edge0-145BはEdge0が公開した145Bパラメータ規模のon-device向けモデルです。公式ブログでは、145Bモデル、120Bモデル、推論フレームワーク、デプロイツールをまとめて公開したと説明されています。GitHub READMEでは、2026年11月13日のリリースとして、Edge0-145BとEdge0-120BがQwen3.8-Flash-Next由来のlatent mixture-of-expertsモデルであり、edge0-strataとedge0-inferで動作すると整理されています。
ここで注意したいのは、すべてのPCで即使えるという意味ではない点です。GitHub docsでは、145B/120Bの主な対象はLinuxまたはWindows、NVIDIA GPU、CUDA 13の環境です。旧35B系はmacOS/iOS/Androidなどの話もありますが、145B/120Bではプラットフォーム条件を分けて読む必要があります。
何が変わる？ローカルAIの判断軸が5つに増える
従来のローカルLLM導入は、軽量モデルで社内検索や要約を試すか、クラウドAPIで高性能モデルを使うかの二択になりがちでした。Edge0-145Bのような大型ローカルモデルが現れると、判断軸は性能だけでは足りません。少なくとも、1. 扱うデータの機密度、2. 推論頻度とAPI費用、3. GPU端末の調達・保守、4. オフライン時の業務継続、5. 監査・ログ・モデル更新管理の5項目を並べて評価する必要があります。
特に社内資料、設計情報、顧客情報を扱うワークフローでは、クラウドAPIに送れないデータをローカルで処理できる価値があります。一方で、モデル重みの取得、GPUドライバ、CUDA、ローカルAPIサーバー、利用者権限を管理する負担も増えます。導入効果は「無料で高性能」ではなく、「送信できない仕事をどこまで自動化できるか」で測るべきです。
ベンチマークと実行条件はどう読むべきか
公式ブログは、Edge0-145BがDeepSWE 1.1で64.6、Terminal-Bench 2.1で86.52、GPQA-Diamondで90.4、IFBenchで80.6を記録したと示しています。GitHub docsにも同じ系統の表があり、Qwen3.8-Flash-Next、DeepSeek-V4-Flash-0731、Claude Opus 4.6 Maxなどとの比較が掲載されています。これらは導入検討の参考になりますが、Edge0側の内部評価を含むため、自社タスクでの再評価が必須です。
速度面では、docsにRTX 5090 D 24GB、RTX 4090 24GB、RTX Spark N1X 60GiBなどの測定値が並びます。たとえばEdge0-145B Q3_KはRTX 5090 D 24GBでagent decode 121.2 tok/s、RTX 4090 24GBで91.7 tok/sと記載されています。ただし、端末の冷却、メモリ制限、同時利用者数、長文コンテキストの長さで体感は変わります。
企業PoCで最初に確認する5項目
PoCは30日で小さく切るのが現実的です。第1週は対象業務を1つに絞り、クラウドに送れなかった文書分類・コードレビュー・仕様書確認などから選びます。第2週はGPU端末または社内サーバーでedge0-inferの起動、モデルフォルダの検査、ローカルAPI接続を確認します。第3週は20〜50件の実データで回答品質、処理時間、失敗パターンを測ります。第4週はログ、権限、利用ルール、モデル更新手順を文書化します。
見るべき指標は、正答率だけではありません。クラウド送信を避けられた件数、1件あたり処理時間、人手レビューで差し戻された割合、GPU使用率、運用担当者が再起動・更新にかけた時間を記録します。ここまで測ると、Edge0-145Bを全社展開するべきか、特定部署の閉域PoCに留めるべきかが判断しやすくなります。
クラウドAIと併用する設計が現実的
Edge0-145Bの登場で、すべてをローカルに寄せる必要はありません。公開情報の要約、一般的な文章生成、外部連携が多い業務はクラウドAIが向く場面もあります。逆に、未公開の設計文書、顧客別の議事録、社内コード、ネットワークが不安定な現場端末ではローカルAIが効きます。重要なのは、業務ごとに「クラウド可」「ローカル優先」「人間承認必須」を分けるルーティングです。
たとえば、問い合わせ分類はローカルで一次判定し、公開FAQ作成はクラウドで整える。コードの機密部分はローカルでレビューし、公開ライブラリ調査はクラウド検索を使う。このように役割を分けると、費用削減とセキュリティを同時に狙えます。
FAQ
Q. Edge0-145BはMacBookで使えますか？
A. 公式ブログにはpersonal computerという表現がありますが、GitHub docsでは145B/120Bの主な実行対象をLinuxまたはWindows、NVIDIA GPU、CUDA 13としています。macOS向けの数値は測定表に残されていますが、リリース可用性を示すものではないと明記されています。
Q. API費用はゼロになりますか？
A. クラウドモデルのトークン/API費用は避けやすくなります。ただし、GPU端末、電力、保守、モデル更新、監査設計のコストは残ります。総コストは30日PoCで測るべきです。
Q. すぐ本番導入できますか？
A. まずは閉域の限定業務で、品質・速度・運用手順・権限を確認するのが安全です。ベンチマークが高くても、自社文書や社内コードでの失敗パターンは別に検証する必要があります。
まとめ：145BローカルAIは用途分離から始める
Edge0-145Bは、ローカルAIを軽量な補助ツールから業務エージェント候補へ押し上げる発表です。一方で、実行条件、GPU運用、ログ、権限管理を無視すると、クラウドAPIより扱いにくくなる可能性もあります。まずは5項目のチェックリストで用途を分け、30日PoCで品質と運用負荷を測るのが現実的です。
ローカルAI、クラウドAI、社内エージェントの使い分けを整理したい場合は、 HelloCraftAIへご相談ください 。要件整理からPoC設計、評価指標、運用ルールまで一緒に設計します。
