NVIDIA OpenShellのinference.local経由で、OpenClaw TUIからローカルLLMと会話する

Ikeya Yuta

2026.11.16

NVIDIA OpenShellのinference.local経由で、OpenClaw TUIからローカルLLMと会話する

今回は、NVIDIA NemoClaw(以下「NemoClaw」)をLambda Cloud上に構築し、NVIDIA OpenShell(以下「OpenShell」) sandbox内でOpenClawを起動して、ローカルLLMと会話できるところまで試してみます。

今回の最終的な構成は以下です。

Lambda Cloud
│
├─ NVIDIA NemoClaw
│   └─ セットアップ / Lifecycle管理
│
├─ NVIDIA OpenShell
│   └─ Gateway / Sandbox / Policy / Inference Routing
│
└─ OpenShell Sandbox
    └─ OpenClaw
        ↓
      inference.local
        ↓
      NVIDIA OpenShell Gateway
        ↓
      Ollama
        ↓
      qwen3.5:9b

2026年8月14日時点のnemoclaw onboardでは、OpenShell gatewayの起動、Ollamaのインストール、推論providerの設定、sandbox作成、OpenClaw Gatewayの起動、Policy設定までかなり自動化されています。

実際にLambda Cloud上で一通りセットアップし、最終的にOpenClaw TUIからqwen3.5:9bの応答を取得できるところまで確認しました。

ただし、今回の環境ではContainer Device Interface(以下「CDI」)の初期設定で一度止まり、そこだけ手動で修復しています。

実際に行った手順を順番に見ていきます。

2026年9月12日追記
NVIDIA NemoClawは更新頻度が高く、本記事の検証を行った2026年8月14日以降も機能追加や構成変更が続いています。2026年9月12日時点の最新リリースはv0.0.123で、引き続きEarly Preview / alphaとして提供されています。
本記事では、実際にLambda Cloud上で動作確認した2026年8月14日時点の画面表示やコマンド出力はそのまま掲載し、現在の仕様と異なる部分については必要に応じて補足します。


検証環境

今回使用した環境は以下です。

Cloud: Lambda Cloud
Region: California, USA
Instance: 1x NVIDIA A10
Base image: GPU Base 24.04
Filesystem: 追加なし
OS: Ubuntu 24.04.4 LTS
Architecture: x86_64
GPU: NVIDIA A10
GPU Memory: 23028 MiB
NVIDIA Driver: 580.126.20
CUDA: 13.0
Docker: 29.2.1
RAM: 222 GiB
Disk: 約1.4 TB
OpenShell: 0.0.85
OpenClaw: 2026.7.1
Model: qwen3.5:9b

NVIDIA OpenShellは事前に個別インストールしたものではなく、NemoClaw installer / onboardingによってセットアップされたものです。

また、主な必要要件としては以下の通りとなっています。

項目最低要件
CPU4 vCPU
RAM8GB
空きディスク20GB
Node.js22.19以上
npm10以上
PythonPython 3

https://docs.nvidia.com/nemoclaw/user-guide/deepagents/get-started/prerequisites

Lambda Cloudのインスタンス

今回の目的はGPU性能のベンチマークではなく、NemoClaw / OpenShell / OpenClawの構築経路を確認することです。

そのため、利用可能だった中から、

1x A10 (24 GB PCIe)

を選択しました。

24GBのVRAMがあれば、今回使用するqwen3.5:9bを動かすには十分です。

Region

利用可能だったCaliforniaとVirginiaのうち、

California

を選択しました。

日本からSSHで繰り返し操作するため、西海岸側を選んでいます。

Base image

Base imageには、

GPU Base 24.04

を使用しました。

今回の検証では余計なAI / MLスタックをあらかじめ入れる必要がないため、Lambda StackではなくGPU Baseを選択しています。

Filesystem

追加Filesystemは設定していません。

今回の用途ではモデルや検証データを長期間保存する必要がなく、インスタンスローカルのストレージだけで十分です。

Firewall

追加のFirewall ruleも作成していません。

OpenClaw GatewayやOllamaをインターネットへ直接公開する必要はなく、基本的にはSSH経由で操作します。


Lambda CloudへSSH接続する

Lambda Cloudのインスタンス作成時にはSSH Keyを指定します。

今回は最初にMacBook Proから、

ssh -i ~/.ssh/id_ed25519 ubuntu@<SERVER_IP>

として接続しようとしましたが、

Warning: Identity file ~/.ssh/id_ed25519 not accessible
Permission denied (publickey)

となりました。

MacBook Pro側にLambda Cloud用の秘密鍵が存在していなかったためです。

別のMacに保存していたLambda Cloud用のED25519鍵を確認すると、

ssh-keygen -lf ~/.ssh/id_ed25519.pub

以下のようにLambda Cloud用として作成した鍵であることを確認できました。

256 SHA256:... lamda-cloud (ED25519)

その鍵をMacBook Pro側へ移し、

chmod 600 ~/.ssh/id_ed25519
chmod 644 ~/.ssh/id_ed25519.pub

としてから再接続します。

ssh -i ~/.ssh/id_ed25519 ubuntu@<SERVER_IP>

これでLambda CloudへSSH接続できました。


環境を確認する

NemoClawをインストールする前に、OS、GPU、Docker、メモリ、ディスクを確認します。

cat /etc/os-release
uname -m
nvidia-smi
docker --version
docker ps
free -h
df -h /

OSは、

Ubuntu 24.04.4 LTS

Architectureは、

x86_64

でした。

GPUは、

NVIDIA A10
23028 MiB

として認識されています。

Dockerは、

Docker version 29.2.1

です。

RAMは約222GiB、ルートディスクは約1.4TBありました。


Dockerの権限を確認する

最初にdocker psを実行すると、

permission denied while trying to connect to the docker API at unix:///var/run/docker.sock

となりました。

ただし、この段階では手動で設定を変更せず、NemoClaw installerを実行してみます。


NVIDIA NemoClawをインストールする

作業用ディレクトリを用意します。

mkdir -p ~/nemoclaw-work
cd ~/nemoclaw-work

NVIDIA公式のinstallerを実行します。

curl -fsSL https://www.nvidia.com/nemoclaw.sh | bash

今回実行したinstallerでは、冒頭に、

Launch OpenClaw in an OpenShell sandbox. v0.0.103

と表示されました。続いて、third-party software noticeへの同意を求められます。

内容を確認したうえで、

Type 'yes' to accept the NemoClaw license and third-party software notice and continue [no]: yes

として進めます。


Docker group不足をNVIDIA NemoClawが検知

installerは、現在のubuntuユーザーがDocker groupに入っていないことを検知しました。

Your user 'ubuntu' is not in the docker group.

さらに、

1) Run: newgrp docker
2) Re-run: curl -fsSL <https://www.nvidia.com/nemoclaw.sh> | bash

と案内されます。

今回はその指示どおり、

newgrp docker

を実行します。

確認します。

docker ps

結果は、

CONTAINER ID   IMAGE   COMMAND   CREATED   STATUS   PORTS   NAMES

となり、Dockerを一般ユーザーから操作できるようになりました。

その後、もう一度installerを実行します。

curl -fsSL https://www.nvidia.com/nemoclaw.sh | bash

Container Device Interface (CDI)の設定

次の段階で、NVIDIA GPUをOpenShell sandboxへ渡すためのCDI設定が確認されました。

今回の環境では、

Docker is configured for CDI, but the nvidia.com/gpu spec is missing or may be stale.

と判定されました。

NemoClawはCDI device specを自動生成しようとします。

しかし、

[sudo] password for ubuntu:
sudo: a password is required

となり、

Could not obtain sudo credentials for NVIDIA CDI device spec generation.

として自動処理が止まりました。

一方、Lambda Cloud側のsudo設定を確認すると、

sudo -l

結果は、

(ALL) NOPASSWD: ALL

です。

さらに、

sudo -n true
echo $?

では、

0

が返っています。

つまり、ubuntuユーザー自体はpasswordless sudoを使用できます。

そこで、NemoClawが表示した手順を手動で実行しました。

まずCDI用ディレクトリを作成します。

sudo mkdir -p /etc/cdi

続いて、CDI refresh serviceを有効化します。

sudo systemctl enable --now \
  nvidia-cdi-refresh.path \
  nvidia-cdi-refresh.service

CDI deviceを確認します。

nvidia-ctk cdi list

今回は、

INFO[0000] Found 3 CDI devices

nvidia.com/gpu=0
nvidia.com/gpu=GPU-xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx
nvidia.com/gpu=all

となりました。

これでOpenShellから利用するNVIDIA GPUのCDI device specが準備できました。


nemoclaw onboardを開始する

PATHを反映します。

source ~/.bashrc
export PATH="$HOME/.local/bin:$PATH"

続いて、

nemoclaw onboard

を実行します。


Agentを選択する

2026年8月14日時点では、以下の3種類からAgentを選択できました。

1) OpenClaw
2) Hermes Agent
3) LangChain Deep Agents Code

2026年9月12日追記

現在も通常のNemoClaw環境で正式に選択できる主なAgentは、OpenClaw、Hermes、LangChain Deep Agents Codeです。

このほか、PiについてもNemoClaw向けのドキュメントが公開されていますが、現時点ではrelease candidateです。通常のインストールではまだ選択できず、正式な対応Agentとして有効化される前の段階となっています。

OpenClaw

Gateway型のAIエージェントです。

プラグインや外部サービスとの連携を持ち、常時稼働型のAIエージェントとして利用できます。

Hermes Agent

Nous Researchが開発するAIエージェントです。

継続的な学習やスキル改善を意識した構成を特徴としています。

LangChain Deep Agents Code

LangChainのDeep Agents SDKをベースとした、ターミナル型のコーディングエージェントです。

CLIを中心にコード作成や開発作業を行う用途を想定しています。

今回は、

1) OpenClaw

を選択しました。


Preflight checks

OpenClawを選択すると、ホスト環境のPreflight checksが実行されます。

今回の結果は以下でした。

✓ Docker is running
✓ Docker can start bridge containers
✓ Container DNS resolution works
✓ Docker CDI GPU support detected
✓ Container runtime: docker
✓ Container runtime resources: 30 vCPU / 222.2 GiB
✓ openshell CLI: openshell 0.0.85
✓ Port 8080 available
✓ NVIDIA GPU detected (NVIDIA A10, 23028 MB)
✓ Sandbox GPU: enabled (auto)
✓ Memory OK

さらに、

NVIDIA GPU detected; enabling OpenShell GPU passthrough.

と表示され、GPU passthroughも自動的に有効になりました。


Sandboxを管理するGatewayを起動する

続いてOpenShell gatewayが起動します。

最初はmanaged serviceとして、

Starting OpenShell Docker-driver gateway via managed service...

と起動を試みます。

しかし、今回の環境では60秒以内にhealthyになりませんでした。

OpenShell gateway managed service did not become healthy within the configured 60s health deadline; using standalone fallback.

その後、自動的にstandalone fallbackへ切り替わります。

Starting OpenShell Docker-driver gateway...
✓ Docker-driver gateway is healthy

ここでは利用者側でgatewayを再起動したり、手動で作成し直したりする必要はありませんでした。


Inference Providerを選択する

続いて、OpenClawが使用するInference Providerを選択します。

2026年8月14日時点で今回表示された選択肢は以下です。

1) NVIDIA Endpoints
2) OpenRouter
3) OpenAI
4) Other OpenAI-compatible endpoint
5) Anthropic
6) Other Anthropic-compatible endpoint
7) Google Gemini
8) Install Ollama (Linux)
9) Model Router (experimental)
10) Local llama.cpp

NemoClawはNVIDIA Endpointsだけでなく、OpenAI、Anthropic、Google Gemini、OpenRouter、Ollama、llama.cppなど、複数の推論基盤を選択できます。

2026年9月12日時点の公式ドキュメントでは、vLLMやNVIDIA NIMもローカル推論の選択肢として案内されています。NVIDIA NIMのローカル実行はExperimentalです。

https://docs.nvidia.com/nemoclaw/latest/user-guide/deepagents/inference/learn-and-choose/choose-inference-provider

今回NVIDIA Endpointsを選ばなかった理由

NVIDIAサービスを中心に試すのであれば、

1) NVIDIA Endpoints

は非常に自然な選択肢です。

ただし今回は、外部APIを使用せず、Lambda Cloud上のGPUだけでローカルLLMを動かす構成を確認したかったため、

8) Install Ollama (Linux)

を選択しました。

これにより、

OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
Ollama
↓
qwen3.5:9b

というローカル推論経路を確認できます。

ちなみに、NemoClawやOpenShellが実行時の負荷などを見て、ローカルLLMとクラウドLLMを自動的に切り替えているわけではありません。基本的にはonboarding等で指定したProvider / Modelがinference.localの接続先として設定されます。

NVIDIA Endpointsを利用する場合については、別途比較する価値がありそうです。


Ollamaをインストールする

Install Ollamaを選択すると、NemoClawがOllamaの導入を進めます。

今回確認できた処理は以下です。

Ollama本体のダウンロード
↓
ollamaユーザー作成
↓
renderグループへ追加
↓
videoグループへ追加
↓
現在のユーザーをollama groupへ追加
↓
systemd service作成
↓
Ollama service起動
↓
NVIDIA GPU検出
↓
OLLAMA_HOST=127.0.0.1:11434
↓
localhost:11434
↓
proxy :11435

Ollamaのインストールだけでなく、systemd serviceやNVIDIA GPU利用まで自動で設定されます。


qwen3.5:9bを使用する

Ollamaのセットアップ後、利用可能なGPUメモリが確認されます。

Available GPU memory: 22.06 GB.

今回のA10環境で提示されたstarter modelは、

1) qwen3.5:9b
   6.15 GB download
   ~11.72 GB VRAM

2) Other...

でした。

今回は、そのまま、

qwen3.5:9b

を使用します。

Download Ollama model 'qwen3.5:9b' (6.14 GB)? [y/N]: y

モデルのpullが開始され、

success

となりました。

続いて、

Chat Completions API available — OpenClaw will use openai-completions.

と表示されます。

さらに、

✓ Using Ollama runtime context length: 16384 tokens

となり、context lengthも自動的に設定されました。

現在の公式Providerドキュメントでは、Local Ollamaの検証モデルとして、

  • qwen3.6:35b
  • nemotron-3-nano:30b
  • qwen3.5:9b

が記載されています。


Sandbox名を設定する

Sandbox名にはデフォルトの、

my-assistant

を使用しました。

確認画面では、

Provider:      ollama-local
Model:         qwen3.5:9b
API key:       (not required for ollama-local)
Web search:    disabled
Managed tools: none
Messaging:     none
Sandbox name:  my-assistant

となります。

このまま適用します。


inference.localを構成する

Inference Providerのセットアップでは、

✓ Created provider ollama-local

となりました。

さらに、

Route: inference.local
Provider: ollama-local
Model: qwen3.5:9b
Version: 1
Timeout: 180s

と設定され、

✓ Inference route set: ollama-local / qwen3.5:9b

となります。

つまり、

OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
ollama-local provider
↓
Ollama
↓
qwen3.5:9b

という推論経路を、nemoclaw onboardが自動的に構成します。


Web Searchは使用しない

次に、OpenClawで使用するWeb Searchを選択できます。

1) No web search
2) Brave Search
3) Tavily Search

今回は、

1) No web search

を選択しました。

現行のNemoClawでは、OpenClawのWeb検索機能としてBrave SearchまたはTavily Searchをonboarding中に選択できます。今回はローカルLLMとの会話経路の確認を目的としているためWeb検索は無効のままとしました。


Messaging channel

Messaging channelもonboarding中に設定できます。

今回表示されたものは以下です。

Telegram
Discord
WeChat
Slack
WhatsApp
Microsoft Teams
Google Chat

Microsoft TeamsとGoogle Chatにはexperimentalと表示されていました。

今回はTUIからの会話確認が目的なので、Messaging channelは選択しません。

Skipping messaging channels.

Resource Profile

続いて、SandboxのResource Profileを設定できます。

1) creator (cpu=50%, ram=50%)
2) gamer (cpu=25%, ram=25%)
3) game-developer (cpu=60%, ram=60%)
4) developer (cpu=75%, ram=75%)
5) custom
6) No profile (OpenShell defaults)

今回は、

6) No profile (OpenShell defaults)

を使用しました。

今回の環境には30 vCPU / 222GiB RAMがあり、リソースに十分余裕があります。

また、リソース調整そのものを検証することが目的ではないため、OpenShellのデフォルト値を使用します。


Sandboxを作成する

ここからOpenShell Sandboxのbuildが開始されます。

途中、

SecretsUsedInArgOrEnv

というDocker build warningも表示されましたが、buildはそのまま継続しました。

Sandbox作成後、GPU利用も確認されます。

✓ GPU proof passed: nvidia-smi when available
✓ GPU proof passed: /proc/<pid>/task/<tid>/comm write
✓ GPU proof passed: cuInit(0) via libcuda.so.1
✓ Sandbox CUDA usability proven (cuInit succeeded).

nvidia-smiだけではなく、cuInit(0)まで成功しているため、Sandbox内でCUDAを使用できる状態になっています。

続いて、

✓ Dashboard is live
✓ Sandbox 'my-assistant' created

となりました。

今回の実測では、

583s

約9分43秒かかっています。

セットアップ画面には3〜8分程度と表示されていたため、環境によってはそれ以上かかる場合もありそうです。


OpenClaw Gatewayを起動する

Sandboxの作成後、

[7/8] Setting up OpenClaw inside sandbox

が実行され、

✓ OpenClaw gateway launched inside sandbox

となりました。

OpenClaw Gatewayもnemoclaw onboardによって自動的に起動されています。


Policy tierを選択する

最後にOpenShellのPolicyを設定します。

Policy tierは、

Restricted
Balanced
Open

から選択できます。

今回はデフォルトの、

Balanced

を使用しました。

Balancedで有効になっていたpresetは以下です。

npm
pypi
huggingface
brew
local-inference
openclaw-pricing

一方、

brave
claude-code
github
gmail
jira
outlook
public-reference
tavily
weather
telegram
discord
wechat
slack
whatsapp
teams
googlechat

などは無効です。

今回は外部サービスとの連携を行わないため、このまま使用します。


local-inference Policy

今回特に重要なのが、

local-inference

のpresetです。

実際に以下への通信が許可されました。

host.openshell.internal:8081
host.openshell.internal:11434
host.openshell.internal:11435
host.openshell.internal:8000

それぞれGET / POSTが許可されています。

対象binaryも、

/usr/local/bin/openclaw
/usr/local/bin/node
/usr/bin/node
/usr/bin/curl
/usr/bin/python3

などに限定されています。

OpenShellではSandboxから自由に外部通信できるわけではなく、Policyで許可された通信経路を使用する構成になっています。


Onboarding完了

最終的に、

✓ Deployment verified — gateway, dashboard, and inference route are healthy.

となりました。

OpenClawのバージョンは、

OpenClaw version: 2026.7.1

です。

そして、

OpenClaw is ready

Sandbox:  my-assistant
Model:    qwen3.5:9b (Local Ollama)

と表示されました。

これでnemoclaw onboardは完了です。


Sandboxへ接続する

Sandboxへ接続します。

nemoclaw my-assistant connect

すると、

✓ Connecting to sandbox 'my-assistant'

となり、

sandbox@xxxxxxxxxxxx:~$

というプロンプトになります。

また、接続時には、

this sandbox restricts outbound network access by policy.
Blocked requests fail with 'CONNECT tunnel failed, response 403'.

という案内も表示されます。

OpenShellでは外向き通信がPolicyで制御されていることが分かります。


OpenClawのモデル設定を確認する

OpenClawが実際にどのモデルを使用する設定になっているか確認します。

openclaw models status

今回の結果は、

OpenClaw 2026.7.1

Default       : inference/qwen3.5:9b
Fallbacks (0) : -

でした。

Authについても、

Providers w/ OAuth/tokens (0): -
OAuth/token status
- none

となっています。

つまり、

inference/qwen3.5:9b

が最初からDefault modelとして設定されており、ローカルOllama構成なので外部API keyも必要ありません。


OpenClaw TUIを起動する

最後にOpenClaw TUIを起動します。

openclaw tui

TUI上で、

hello

と入力しました。

すると、

Hello! 👋 How can I help you today?

と応答が返ってきました。

これで、OpenShell Sandbox内のOpenClawから、

OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
ollama-local provider
↓
Ollama
↓
qwen3.5:9b

という経路で会話できることを確認できました。


今回の構築手順を整理する

今回の流れを整理すると以下です。

1. Lambda CloudでA10インスタンスを作成
2. RegionはCalifornia
3. GPU Base 24.04を使用
4. 追加Filesystemなし
5. SSH接続
6. OS / GPU / Dockerを確認
7. NemoClaw installerを実行
8. newgrp dockerでDocker権限を反映
9. CDI device specを修復
10. nemoclaw onboardを実行
11. OpenClawを選択
12. Ollamaを選択
13. qwen3.5:9bをpull
14. ollama-local providerを作成
15. inference.localを自動構成
16. Web Searchは無効
17. Messaging channelは無効
18. Resource ProfileはOpenShell defaults
19. Sandboxを作成
20. Sandbox内のGPU / CUDAを確認
21. OpenClaw Gatewayを自動起動
22. Balanced Policyを適用
23. local-inference Policyを設定
24. Sandboxへ接続
25. openclaw models statusを確認
26. openclaw tuiを起動
27. qwen3.5:9bから応答を取得

まとめ

今回は、2026年8月14日時点のNVIDIA NemoClawをLambda Cloud上に構築してみました。

環境は、

Lambda Cloud
Ubuntu 24.04.4 LTS
NVIDIA A10 24GB
OpenShell 0.0.85
OpenClaw 2026.7.1
Ollama
qwen3.5:9b

です。

今回の環境ではCDI device specの初期設定だけ手動で修復しましたが、その後はnemoclaw onboardの案内に従うことで、

  • OpenShell gateway
  • Ollama
  • inference.local
  • OpenShell sandbox
  • GPU passthrough
  • OpenClaw Gateway
  • Policy
  • local-inference

まで構成できました。

特に、

OpenClaw
↓
inference.local
↓
NVIDIA OpenShell
↓
ollama-local
↓
Ollama
↓
qwen3.5:9b

という推論経路がonboardingの中で自動的に作られるため、利用者側でOpenClawのprovider設定を直接編集する必要はありませんでした。

最終的には、

openclaw tui

から、

hello

と入力し、

Hello! 👋 How can I help you today?

という応答を確認できました。

NemoClawは、単にOpenClawを起動するだけではなく、OpenShellによるSandbox、GPU passthrough、Inference routing、Network Policyまで含めて構成する仕組みになっています。

今回はローカルOllamaを使用しましたが、Inference Providerの選択肢にはNVIDIA Endpointsも用意されています。

ブログ一覧へ戻る

お気軽にお問い合わせください

SREの設計・技術支援から、
SRE運用で使用する
ツールの導入など、
SRE全般についてご支援しています。

資料請求・お問い合わせ