NVIDIA OpenShellのinference.local経由で、OpenClaw TUIからローカルLLMと会話する
今回は、NVIDIA NemoClaw(以下「NemoClaw」)をLambda Cloud上に構築し、NVIDIA OpenShell(以下「OpenShell」) sandbox内でOpenClawを起動して、ローカルLLMと会話できるところまで試してみます。
今回の最終的な構成は以下です。
Lambda Cloud
│
├─ NVIDIA NemoClaw
│ └─ セットアップ / Lifecycle管理
│
├─ NVIDIA OpenShell
│ └─ Gateway / Sandbox / Policy / Inference Routing
│
└─ OpenShell Sandbox
└─ OpenClaw
↓
inference.local
↓
NVIDIA OpenShell Gateway
↓
Ollama
↓
qwen3.5:9b
2026年8月14日時点のnemoclaw onboardでは、OpenShell gatewayの起動、Ollamaのインストール、推論providerの設定、sandbox作成、OpenClaw Gatewayの起動、Policy設定までかなり自動化されています。
実際にLambda Cloud上で一通りセットアップし、最終的にOpenClaw TUIからqwen3.5:9bの応答を取得できるところまで確認しました。
ただし、今回の環境ではContainer Device Interface(以下「CDI」)の初期設定で一度止まり、そこだけ手動で修復しています。
実際に行った手順を順番に見ていきます。
2026年9月12日追記
NVIDIA NemoClawは更新頻度が高く、本記事の検証を行った2026年8月14日以降も機能追加や構成変更が続いています。2026年9月12日時点の最新リリースはv0.0.123で、引き続きEarly Preview / alphaとして提供されています。
本記事では、実際にLambda Cloud上で動作確認した2026年8月14日時点の画面表示やコマンド出力はそのまま掲載し、現在の仕様と異なる部分については必要に応じて補足します。
検証環境
今回使用した環境は以下です。
Cloud: Lambda Cloud
Region: California, USA
Instance: 1x NVIDIA A10
Base image: GPU Base 24.04
Filesystem: 追加なし
OS: Ubuntu 24.04.4 LTS
Architecture: x86_64
GPU: NVIDIA A10
GPU Memory: 23028 MiB
NVIDIA Driver: 580.126.20
CUDA: 13.0
Docker: 29.2.1
RAM: 222 GiB
Disk: 約1.4 TB
OpenShell: 0.0.85
OpenClaw: 2026.7.1
Model: qwen3.5:9b
NVIDIA OpenShellは事前に個別インストールしたものではなく、NemoClaw installer / onboardingによってセットアップされたものです。
また、主な必要要件としては以下の通りとなっています。
| 項目 | 最低要件 |
|---|---|
| CPU | 4 vCPU |
| RAM | 8GB |
| 空きディスク | 20GB |
| Node.js | 22.19以上 |
| npm | 10以上 |
| Python | Python 3 |
https://docs.nvidia.com/nemoclaw/user-guide/deepagents/get-started/prerequisites
Lambda Cloudのインスタンス
今回の目的はGPU性能のベンチマークではなく、NemoClaw / OpenShell / OpenClawの構築経路を確認することです。
そのため、利用可能だった中から、
1x A10 (24 GB PCIe)
を選択しました。
24GBのVRAMがあれば、今回使用するqwen3.5:9bを動かすには十分です。
Region
利用可能だったCaliforniaとVirginiaのうち、
California
を選択しました。
日本からSSHで繰り返し操作するため、西海岸側を選んでいます。
Base image
Base imageには、
GPU Base 24.04
を使用しました。
今回の検証では余計なAI / MLスタックをあらかじめ入れる必要がないため、Lambda StackではなくGPU Baseを選択しています。
Filesystem
追加Filesystemは設定していません。
今回の用途ではモデルや検証データを長期間保存する必要がなく、インスタンスローカルのストレージだけで十分です。
Firewall
追加のFirewall ruleも作成していません。
OpenClaw GatewayやOllamaをインターネットへ直接公開する必要はなく、基本的にはSSH経由で操作します。
Lambda CloudへSSH接続する
Lambda Cloudのインスタンス作成時にはSSH Keyを指定します。
今回は最初にMacBook Proから、
ssh -i ~/.ssh/id_ed25519 ubuntu@<SERVER_IP>
として接続しようとしましたが、
Warning: Identity file ~/.ssh/id_ed25519 not accessible
Permission denied (publickey)
となりました。
MacBook Pro側にLambda Cloud用の秘密鍵が存在していなかったためです。
別のMacに保存していたLambda Cloud用のED25519鍵を確認すると、
ssh-keygen -lf ~/.ssh/id_ed25519.pub
以下のようにLambda Cloud用として作成した鍵であることを確認できました。
256 SHA256:... lamda-cloud (ED25519)
その鍵をMacBook Pro側へ移し、
chmod 600 ~/.ssh/id_ed25519
chmod 644 ~/.ssh/id_ed25519.pub
としてから再接続します。
ssh -i ~/.ssh/id_ed25519 ubuntu@<SERVER_IP>
これでLambda CloudへSSH接続できました。
環境を確認する
NemoClawをインストールする前に、OS、GPU、Docker、メモリ、ディスクを確認します。
cat /etc/os-release
uname -m
nvidia-smi
docker --version
docker ps
free -h
df -h /
OSは、
Ubuntu 24.04.4 LTS
Architectureは、
x86_64
でした。
GPUは、
NVIDIA A10
23028 MiB
として認識されています。
Dockerは、
Docker version 29.2.1
です。
RAMは約222GiB、ルートディスクは約1.4TBありました。
Dockerの権限を確認する
最初にdocker psを実行すると、
permission denied while trying to connect to the docker API at unix:///var/run/docker.sock
となりました。
ただし、この段階では手動で設定を変更せず、NemoClaw installerを実行してみます。
NVIDIA NemoClawをインストールする
作業用ディレクトリを用意します。
mkdir -p ~/nemoclaw-work
cd ~/nemoclaw-work
NVIDIA公式のinstallerを実行します。
curl -fsSL https://www.nvidia.com/nemoclaw.sh | bash
今回実行したinstallerでは、冒頭に、
Launch OpenClaw in an OpenShell sandbox. v0.0.103
と表示されました。続いて、third-party software noticeへの同意を求められます。
内容を確認したうえで、
Type 'yes' to accept the NemoClaw license and third-party software notice and continue [no]: yes
として進めます。
Docker group不足をNVIDIA NemoClawが検知
installerは、現在のubuntuユーザーがDocker groupに入っていないことを検知しました。
Your user 'ubuntu' is not in the docker group.
さらに、
1) Run: newgrp docker
2) Re-run: curl -fsSL <https://www.nvidia.com/nemoclaw.sh> | bash
と案内されます。
今回はその指示どおり、
newgrp docker
を実行します。
確認します。
docker ps
結果は、
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
となり、Dockerを一般ユーザーから操作できるようになりました。
その後、もう一度installerを実行します。
curl -fsSL https://www.nvidia.com/nemoclaw.sh | bash
Container Device Interface (CDI)の設定
次の段階で、NVIDIA GPUをOpenShell sandboxへ渡すためのCDI設定が確認されました。
今回の環境では、
Docker is configured for CDI, but the nvidia.com/gpu spec is missing or may be stale.
と判定されました。
NemoClawはCDI device specを自動生成しようとします。
しかし、
[sudo] password for ubuntu:
sudo: a password is required
となり、
Could not obtain sudo credentials for NVIDIA CDI device spec generation.
として自動処理が止まりました。
一方、Lambda Cloud側のsudo設定を確認すると、
sudo -l
結果は、
(ALL) NOPASSWD: ALL
です。
さらに、
sudo -n true
echo $?
では、
0
が返っています。
つまり、ubuntuユーザー自体はpasswordless sudoを使用できます。
そこで、NemoClawが表示した手順を手動で実行しました。
まずCDI用ディレクトリを作成します。
sudo mkdir -p /etc/cdi
続いて、CDI refresh serviceを有効化します。
sudo systemctl enable --now \
nvidia-cdi-refresh.path \
nvidia-cdi-refresh.service
CDI deviceを確認します。
nvidia-ctk cdi list
今回は、
INFO[0000] Found 3 CDI devices
nvidia.com/gpu=0
nvidia.com/gpu=GPU-xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx
nvidia.com/gpu=all
となりました。
これでOpenShellから利用するNVIDIA GPUのCDI device specが準備できました。
nemoclaw onboardを開始する
PATHを反映します。
source ~/.bashrc
export PATH="$HOME/.local/bin:$PATH"
続いて、
nemoclaw onboard
を実行します。
Agentを選択する
2026年8月14日時点では、以下の3種類からAgentを選択できました。
1) OpenClaw
2) Hermes Agent
3) LangChain Deep Agents Code
2026年9月12日追記
現在も通常のNemoClaw環境で正式に選択できる主なAgentは、OpenClaw、Hermes、LangChain Deep Agents Codeです。
このほか、PiについてもNemoClaw向けのドキュメントが公開されていますが、現時点ではrelease candidateです。通常のインストールではまだ選択できず、正式な対応Agentとして有効化される前の段階となっています。
OpenClaw
Gateway型のAIエージェントです。
プラグインや外部サービスとの連携を持ち、常時稼働型のAIエージェントとして利用できます。
Hermes Agent
Nous Researchが開発するAIエージェントです。
継続的な学習やスキル改善を意識した構成を特徴としています。
LangChain Deep Agents Code
LangChainのDeep Agents SDKをベースとした、ターミナル型のコーディングエージェントです。
CLIを中心にコード作成や開発作業を行う用途を想定しています。
今回は、
1) OpenClaw
を選択しました。
Preflight checks
OpenClawを選択すると、ホスト環境のPreflight checksが実行されます。
今回の結果は以下でした。
✓ Docker is running
✓ Docker can start bridge containers
✓ Container DNS resolution works
✓ Docker CDI GPU support detected
✓ Container runtime: docker
✓ Container runtime resources: 30 vCPU / 222.2 GiB
✓ openshell CLI: openshell 0.0.85
✓ Port 8080 available
✓ NVIDIA GPU detected (NVIDIA A10, 23028 MB)
✓ Sandbox GPU: enabled (auto)
✓ Memory OK
さらに、
NVIDIA GPU detected; enabling OpenShell GPU passthrough.
と表示され、GPU passthroughも自動的に有効になりました。
Sandboxを管理するGatewayを起動する
続いてOpenShell gatewayが起動します。
最初はmanaged serviceとして、
Starting OpenShell Docker-driver gateway via managed service...
と起動を試みます。
しかし、今回の環境では60秒以内にhealthyになりませんでした。
OpenShell gateway managed service did not become healthy within the configured 60s health deadline; using standalone fallback.
その後、自動的にstandalone fallbackへ切り替わります。
Starting OpenShell Docker-driver gateway...
✓ Docker-driver gateway is healthy
ここでは利用者側でgatewayを再起動したり、手動で作成し直したりする必要はありませんでした。
Inference Providerを選択する
続いて、OpenClawが使用するInference Providerを選択します。
2026年8月14日時点で今回表示された選択肢は以下です。
1) NVIDIA Endpoints
2) OpenRouter
3) OpenAI
4) Other OpenAI-compatible endpoint
5) Anthropic
6) Other Anthropic-compatible endpoint
7) Google Gemini
8) Install Ollama (Linux)
9) Model Router (experimental)
10) Local llama.cpp
NemoClawはNVIDIA Endpointsだけでなく、OpenAI、Anthropic、Google Gemini、OpenRouter、Ollama、llama.cppなど、複数の推論基盤を選択できます。
2026年9月12日時点の公式ドキュメントでは、vLLMやNVIDIA NIMもローカル推論の選択肢として案内されています。NVIDIA NIMのローカル実行はExperimentalです。
今回NVIDIA Endpointsを選ばなかった理由
NVIDIAサービスを中心に試すのであれば、
1) NVIDIA Endpoints
は非常に自然な選択肢です。
ただし今回は、外部APIを使用せず、Lambda Cloud上のGPUだけでローカルLLMを動かす構成を確認したかったため、
8) Install Ollama (Linux)
を選択しました。
これにより、
OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
Ollama
↓
qwen3.5:9b
というローカル推論経路を確認できます。
ちなみに、NemoClawやOpenShellが実行時の負荷などを見て、ローカルLLMとクラウドLLMを自動的に切り替えているわけではありません。基本的にはonboarding等で指定したProvider / Modelがinference.localの接続先として設定されます。
NVIDIA Endpointsを利用する場合については、別途比較する価値がありそうです。
Ollamaをインストールする
Install Ollamaを選択すると、NemoClawがOllamaの導入を進めます。
今回確認できた処理は以下です。
Ollama本体のダウンロード
↓
ollamaユーザー作成
↓
renderグループへ追加
↓
videoグループへ追加
↓
現在のユーザーをollama groupへ追加
↓
systemd service作成
↓
Ollama service起動
↓
NVIDIA GPU検出
↓
OLLAMA_HOST=127.0.0.1:11434
↓
localhost:11434
↓
proxy :11435
Ollamaのインストールだけでなく、systemd serviceやNVIDIA GPU利用まで自動で設定されます。
qwen3.5:9bを使用する
Ollamaのセットアップ後、利用可能なGPUメモリが確認されます。
Available GPU memory: 22.06 GB.
今回のA10環境で提示されたstarter modelは、
1) qwen3.5:9b
6.15 GB download
~11.72 GB VRAM
2) Other...
でした。
今回は、そのまま、
qwen3.5:9b
を使用します。
Download Ollama model 'qwen3.5:9b' (6.14 GB)? [y/N]: y
モデルのpullが開始され、
success
となりました。
続いて、
Chat Completions API available — OpenClaw will use openai-completions.
と表示されます。
さらに、
✓ Using Ollama runtime context length: 16384 tokens
となり、context lengthも自動的に設定されました。
現在の公式Providerドキュメントでは、Local Ollamaの検証モデルとして、
qwen3.6:35bnemotron-3-nano:30bqwen3.5:9bが記載されています。
Sandbox名を設定する
Sandbox名にはデフォルトの、
my-assistant
を使用しました。
確認画面では、
Provider: ollama-local
Model: qwen3.5:9b
API key: (not required for ollama-local)
Web search: disabled
Managed tools: none
Messaging: none
Sandbox name: my-assistant
となります。
このまま適用します。
inference.localを構成する
Inference Providerのセットアップでは、
✓ Created provider ollama-local
となりました。
さらに、
Route: inference.local
Provider: ollama-local
Model: qwen3.5:9b
Version: 1
Timeout: 180s
と設定され、
✓ Inference route set: ollama-local / qwen3.5:9b
となります。
つまり、
OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
ollama-local provider
↓
Ollama
↓
qwen3.5:9b
という推論経路を、nemoclaw onboardが自動的に構成します。
Web Searchは使用しない
次に、OpenClawで使用するWeb Searchを選択できます。
1) No web search
2) Brave Search
3) Tavily Search
今回は、
1) No web search
を選択しました。
現行のNemoClawでは、OpenClawのWeb検索機能としてBrave SearchまたはTavily Searchをonboarding中に選択できます。今回はローカルLLMとの会話経路の確認を目的としているためWeb検索は無効のままとしました。
Messaging channel
Messaging channelもonboarding中に設定できます。
今回表示されたものは以下です。
Telegram
Discord
WeChat
Slack
WhatsApp
Microsoft Teams
Google Chat
Microsoft TeamsとGoogle Chatにはexperimentalと表示されていました。
今回はTUIからの会話確認が目的なので、Messaging channelは選択しません。
Skipping messaging channels.
Resource Profile
続いて、SandboxのResource Profileを設定できます。
1) creator (cpu=50%, ram=50%)
2) gamer (cpu=25%, ram=25%)
3) game-developer (cpu=60%, ram=60%)
4) developer (cpu=75%, ram=75%)
5) custom
6) No profile (OpenShell defaults)
今回は、
6) No profile (OpenShell defaults)
を使用しました。
今回の環境には30 vCPU / 222GiB RAMがあり、リソースに十分余裕があります。
また、リソース調整そのものを検証することが目的ではないため、OpenShellのデフォルト値を使用します。
Sandboxを作成する
ここからOpenShell Sandboxのbuildが開始されます。
途中、
SecretsUsedInArgOrEnv
というDocker build warningも表示されましたが、buildはそのまま継続しました。
Sandbox作成後、GPU利用も確認されます。
✓ GPU proof passed: nvidia-smi when available
✓ GPU proof passed: /proc/<pid>/task/<tid>/comm write
✓ GPU proof passed: cuInit(0) via libcuda.so.1
✓ Sandbox CUDA usability proven (cuInit succeeded).
nvidia-smiだけではなく、cuInit(0)まで成功しているため、Sandbox内でCUDAを使用できる状態になっています。
続いて、
✓ Dashboard is live
✓ Sandbox 'my-assistant' created
となりました。
今回の実測では、
583s
約9分43秒かかっています。
セットアップ画面には3〜8分程度と表示されていたため、環境によってはそれ以上かかる場合もありそうです。
OpenClaw Gatewayを起動する
Sandboxの作成後、
[7/8] Setting up OpenClaw inside sandbox
が実行され、
✓ OpenClaw gateway launched inside sandbox
となりました。
OpenClaw Gatewayもnemoclaw onboardによって自動的に起動されています。
Policy tierを選択する
最後にOpenShellのPolicyを設定します。
Policy tierは、
Restricted
Balanced
Open
から選択できます。
今回はデフォルトの、
Balanced
を使用しました。
Balancedで有効になっていたpresetは以下です。
npm
pypi
huggingface
brew
local-inference
openclaw-pricing
一方、
brave
claude-code
github
gmail
jira
outlook
public-reference
tavily
weather
telegram
discord
wechat
slack
whatsapp
teams
googlechat
などは無効です。
今回は外部サービスとの連携を行わないため、このまま使用します。
local-inference Policy
今回特に重要なのが、
local-inference
のpresetです。
実際に以下への通信が許可されました。
host.openshell.internal:8081
host.openshell.internal:11434
host.openshell.internal:11435
host.openshell.internal:8000
それぞれGET / POSTが許可されています。
対象binaryも、
/usr/local/bin/openclaw
/usr/local/bin/node
/usr/bin/node
/usr/bin/curl
/usr/bin/python3
などに限定されています。
OpenShellではSandboxから自由に外部通信できるわけではなく、Policyで許可された通信経路を使用する構成になっています。
Onboarding完了
最終的に、
✓ Deployment verified — gateway, dashboard, and inference route are healthy.
となりました。
OpenClawのバージョンは、
OpenClaw version: 2026.7.1
です。
そして、
OpenClaw is ready
Sandbox: my-assistant
Model: qwen3.5:9b (Local Ollama)
と表示されました。
これでnemoclaw onboardは完了です。
Sandboxへ接続する
Sandboxへ接続します。
nemoclaw my-assistant connect
すると、
✓ Connecting to sandbox 'my-assistant'
となり、
sandbox@xxxxxxxxxxxx:~$
というプロンプトになります。
また、接続時には、
this sandbox restricts outbound network access by policy.
Blocked requests fail with 'CONNECT tunnel failed, response 403'.
という案内も表示されます。
OpenShellでは外向き通信がPolicyで制御されていることが分かります。
OpenClawのモデル設定を確認する
OpenClawが実際にどのモデルを使用する設定になっているか確認します。
openclaw models status
今回の結果は、
OpenClaw 2026.7.1
Default : inference/qwen3.5:9b
Fallbacks (0) : -
でした。
Authについても、
Providers w/ OAuth/tokens (0): -
OAuth/token status
- none
となっています。
つまり、
inference/qwen3.5:9b
が最初からDefault modelとして設定されており、ローカルOllama構成なので外部API keyも必要ありません。
OpenClaw TUIを起動する
最後にOpenClaw TUIを起動します。
openclaw tui
TUI上で、
hello
と入力しました。
すると、
Hello! 👋 How can I help you today?
と応答が返ってきました。
これで、OpenShell Sandbox内のOpenClawから、
OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
ollama-local provider
↓
Ollama
↓
qwen3.5:9b
という経路で会話できることを確認できました。
今回の構築手順を整理する
今回の流れを整理すると以下です。
1. Lambda CloudでA10インスタンスを作成
2. RegionはCalifornia
3. GPU Base 24.04を使用
4. 追加Filesystemなし
5. SSH接続
6. OS / GPU / Dockerを確認
7. NemoClaw installerを実行
8. newgrp dockerでDocker権限を反映
9. CDI device specを修復
10. nemoclaw onboardを実行
11. OpenClawを選択
12. Ollamaを選択
13. qwen3.5:9bをpull
14. ollama-local providerを作成
15. inference.localを自動構成
16. Web Searchは無効
17. Messaging channelは無効
18. Resource ProfileはOpenShell defaults
19. Sandboxを作成
20. Sandbox内のGPU / CUDAを確認
21. OpenClaw Gatewayを自動起動
22. Balanced Policyを適用
23. local-inference Policyを設定
24. Sandboxへ接続
25. openclaw models statusを確認
26. openclaw tuiを起動
27. qwen3.5:9bから応答を取得
まとめ
今回は、2026年8月14日時点のNVIDIA NemoClawをLambda Cloud上に構築してみました。
環境は、
Lambda Cloud
Ubuntu 24.04.4 LTS
NVIDIA A10 24GB
OpenShell 0.0.85
OpenClaw 2026.7.1
Ollama
qwen3.5:9b
です。
今回の環境ではCDI device specの初期設定だけ手動で修復しましたが、その後はnemoclaw onboardの案内に従うことで、
- OpenShell gateway
- Ollama
- inference.local
- OpenShell sandbox
- GPU passthrough
- OpenClaw Gateway
- Policy
- local-inference
まで構成できました。
特に、
OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
ollama-local
↓
Ollama
↓
qwen3.5:9b
という推論経路がonboardingの中で自動的に作られるため、利用者側でOpenClawのprovider設定を直接編集する必要はありませんでした。
最終的には、
openclaw tui
から、
hello
と入力し、
Hello! 👋 How can I help you today?
という応答を確認できました。
NemoClawは、単にOpenClawを起動するだけではなく、OpenShellによるSandbox、GPU passthrough、Inference routing、Network Policyまで含めて構成する仕組みになっています。
今回はローカルOllamaを使用しましたが、Inference Providerの選択肢にはNVIDIA Endpointsも用意されています。