←新闻详情

gihyo.jp更新于 10月21日 22:36

Lemonade+FastFlowLM:在 Ubuntu 上用 AMD NPU 运行 AI 模型

第928回 Lemonade+FastFlowLMでAMDのNPUを使ってAIモデルを利用する | gihyo.jp

AI 导读

Ubuntu 26.04 LTS 默认内核 7.0 起支持 AMD NPU,配合已转为 MIT 许可的 FastFlowLM 运行时和 Lemonade 服务器即可调用 NPU 与 GPU 运行 AI 模型。文中在 AI X1 Pro(64GB 内存)上安装 FastFlowLM 1.0.6,并通过 Lemonade 下载运行 qwen3.6-moe-35b-a3b-FLM,还可用 snap 版 OpenClaw 以 Llama.cpp GPU 模型做文本问答。

正文

今回はUbuntuでAMDのNPUを使用する方法を紹介します。またsnapのOpenClawパッケージについても紹介します。

FastFlowLM

PCがすっかり高くなってしまった昨今ではありますが、最近販売されているPCの多くにはNPUが内蔵されています。うち一定以上の性能を持つNPUを積んだPCはCopilot+ PCと呼ばれています。

NPUはAMDにしろIntelにしろQualcommにせよ全く異なるドライバーを必要としています。今回はUbuntuからでも比較的簡単に使えるAMDのNPUに限定しますが、カーネル7.0以上、すなわちUbuntu 26.04 LTSのデフォルトカーネルからAMDのNPUをサポートしています。また実際にAMDのNPUを使用するのに必要なランタイムはFastFlowLMという名称でリリースされています。当初はNPUカーネルに関してはプロプライエタリで商用利用には制限がありましたが、現在はFastFlowLMの開発チームがAMDに合流しており、すべてMITライセンスとなっています。詳しい歴史はThe Story of FastFlowLM (FLM)をご覧ください。

NPUは最近のノートPCやミニPCにはかなり高い確率で搭載されており、ニーズはさておき普及自体は進んでいます。FastFlowLMがオープンソース化されたことにより、使わない手はないというわけです。

Lemonadeサーバー

カーネルでNPUをサポートし、FastFlowLMによってバックエンドが整備されても、簡単に使用できるようにはなりません。その最後のピースを埋めるのがLemonadeです。これはNPUだけではなくGPUにも対応し、同じユーザーインターフェースからAIモデルを使用できます。Ubuntu Weekly Topics 2026年4月17日号で簡単に紹介されているとおりのもので、26.04 LTSのリポジトリにもありますが、やや古いのでPPAからインストールします。snapパッケージも用意されていますが、今回は都合上紹介しません。

ハードウェア

今回使用したPCは第883回や第917回と同じAI X1 Proです。メモリーは64GBありますが、今回の用途であれば32GBでも問題ないはずです。

Ubuntuのバージョンは26.04.1です。

インストール

ではFastFlowLMとLemonadeをインストールします。FastFlowLMはオープンソース化されたとはいっても現状PPA等でリリースされているわけではなく、以前と同じようにリリースページからパッケージをダウンロードし、インストールする必要があります。

例えば26.04 LTSに執筆時点での最新版である1.0.6をインストールするには、ダウンロード後次のコマンドを実行します。

Lemonadeに関しては、次のコマンドを実行します。

Lemonadeを使用する

lemonade-desktopパッケージをインストールするとアプリメニューに「Lemonade Web App」が登録されるので、これをクリックするとWebブラウザーでLemonadeサーバーを開きます(図1)。

左側にモデルがジャンルごとに並んでいますが、ひとまずは「FastFlowLM NPU」を開くと、「⁠Backend update is required before use.」と表示されます(図2)。タイミングによっては表示されないこともありますが、長く使っていくといつかは表示されるものです。ダウンロードボタンをクリックしてアップデートします。

ダウンロード後、再び「FastFlowLM NPU」を開くと、たくさんのモデルが表示されます。今回は「qwen3.6-moe-35b-a3b-FLM」をダウンロードし、使用してみます。やはりここでも右側に表示されるダウンロードボタンをクリックします(図3)。

目のアイコンがついているモデルはVISIONモデルで、画像を読み込むことができます。試しに画像を読み込んでみましょう(図4)。

Qwen 3.6 35B A3Bはなるとや漬物のことを知らないようですが、おおむね正解しています。写真は茨城空港のすぎのや本陣で食べたソースカツ丼です。

OpenClawを使用する

NPUの話から外れるのですが、snapパッケージのOpenClawはなぜかLemonadeを簡単にバックエンドとして使用できるコマンドを用意しています。

ひとまずOpenClawをインストールしてみましょう。次のコマンドを実行してください。

インストール完了後、次のコマンドを実行します。

すると図5のような候補が表示されます。

これは使用するモデルを選択するコマンドであることがわかりますが、残念ながらNPUを使用する「FastFlowLM NPU」ではなく、「⁠Llama.cpp GPU」のモデルです。

今回は試しに8の「Qwen3.6-35B-A3B-MTP-GGUF」を使用してみます。一旦Ctrl+Cで終了し、該当のモデルをダウンロードしておきます。

ダウンロード完了後に再びopenclaw.lemonadeを実行すると、図6のようになります。

ダウンロードが終わってアクティブになってるものは末尾が「recipe」ではなく「loaded now」になります。また「Choose a model」も「[8]」になっており、このままエンターキーを押せば8が選択されます。

このOpenClawはフル機能版ではありませんが、openclawコマンドで起動します。「⁠tui」でテキストベースの問い合わせが可能となります(図7)。

Ubuntuの使い方がわからないときに聞いてみるのに便利かなと思い、例として「ファイル」でフォルダーをシングルクリックで開くように変更してもらいます(図8)。

エージェントをこんなふうに使用すれば、慣れないUbuntuであっても簡単に使用できるようになるのではないでしょうか。もちろん解説書の存在を否定するものではないのですが。

来源

gihyo.jp