NVIDIA

NVIDIA cung cấp miễn phí các mô hình mở thông qua API tương thích với OpenAI tại https://integrate.api.nvidia.com/v1, được xác thực bằng khóa API từ build.nvidia.com. OpenClaw mặc định dùng Nemotron 3 Ultra cho nhà cung cấp NVIDIA, mô hình suy luận có tổng 550B tham số / 55B tham số hoạt động của NVIDIA dành cho tác vụ tác tử có ngữ cảnh dài.

Bắt đầu

export NVIDIA_API_KEY="nvapi-..."openclaw onboard --auth-choice nvidia-api-key

openclaw models set nvidia/nvidia/nemotron-3-ultra-550b-a55b

Để thiết lập không tương tác, hãy truyền trực tiếp khóa:

openclaw onboard --auth-choice nvidia-api-key --nvidia-api-key "nvapi-..."

Ví dụ cấu hình

{  env: { NVIDIA_API_KEY: "nvapi-..." },  models: {    providers: {      nvidia: {        baseUrl: "https://integrate.api.nvidia.com/v1",        api: "openai-completions",      },    },  },  agents: {    defaults: {      model: { primary: "nvidia/nvidia/nemotron-3-ultra-550b-a55b" },    },  },}

Danh mục nổi bật

Khi khóa API NVIDIA được cấu hình, các luồng thiết lập và chọn mô hình sẽ tải danh mục mô hình nổi bật công khai của NVIDIA từ https://assets.ngc.nvidia.com/products/api-catalog/featured-models.json và lưu kết quả vào bộ nhớ đệm trong 24 giờ (32 mục đầu tiên, được nhập dưới dạng các hàng đầu vào văn bản miễn phí). Vì vậy, các mô hình nổi bật mới từ build.nvidia.com sẽ xuất hiện trong các giao diện thiết lập và chọn mô hình mà không cần chờ bản phát hành OpenClaw. Khi nguồn cấp dữ liệu trực tiếp khả dụng, mô hình đầu tiên được trả về sẽ là tùy chọn được chọn sẵn trong quá trình thiết lập NVIDIA.

Quá trình tải sử dụng chính sách máy chủ HTTPS cố định cho assets.ngc.nvidia.com. Nếu không có khóa API NVIDIA được cấu hình, hoặc nếu nguồn cấp dữ liệu không khả dụng hay không đúng định dạng, OpenClaw sẽ dùng danh mục đi kèm và giá trị mặc định đi kèm bên dưới.

Nemotron 3 Ultra

Nemotron 3 Ultra là mô hình NVIDIA mặc định trong OpenClaw. Trang build của NVIDIA cho nvidia/nemotron-3-ultra-550b-a55b liệt kê mô hình này là điểm cuối miễn phí khả dụng với đặc tả ngữ cảnh 1 triệu token.

Hàng Ultra đi kèm gửi chat_template_kwargs: { enable_thinking: false, force_nonempty_content: true } theo mặc định để đầu ra trò chuyện thông thường nằm trong câu trả lời hiển thị thay vì làm lộ văn bản suy luận.

Dùng Ultra để có tùy chọn NVIDIA mặc định với năng lực cao nhất. Giữ Super được chọn khi bạn muốn tùy chọn Nemotron 3 nhỏ hơn, hoặc chọn một trong các mô hình bên thứ ba được lưu trữ trong danh mục của NVIDIA khi ngữ cảnh, độ trễ hoặc hành vi của chúng phù hợp hơn.

Danh mục dự phòng đi kèm

Các hàng đi kèm có thể chọn là bản chụp danh mục mô hình nổi bật của NVIDIA. Các hàng tương thích đã ngừng khuyến nghị vẫn có thể được phân giải bằng tham chiếu chính xác nhưng không xuất hiện trong bộ chọn mô hình.

Danh mục tương thích đầy đủ cũng giữ lại các tham chiếu đã phát hành sau đây cho các cấu hình hiện có: nvidia/moonshotai/kimi-k2.5, nvidia/z-ai/glm-5.1, nvidia/minimaxai/minimax-m2.5, nvidia/z-ai/glm5 và nvidia/minimaxai/minimax-m2.7. Chúng vẫn khả dụng qua tham chiếu chính xác nhưng không bao giờ xuất hiện trong quy trình thiết lập ban đầu hoặc bộ chọn mô hình.

Cấu hình nâng cao

{  agents: {    defaults: {      models: {        "nvidia/nvidia/nemotron-3-ultra-550b-a55b": {          params: {            chat_template_kwargs: { enable_thinking: true },            extra_body: { reasoning_budget: 16384 },          },        },      },    },  },}

{  models: {    providers: {      "custom-integrate-api-nvidia-com": {        baseUrl: "https://integrate.api.nvidia.com/v1",        api: "openai-completions",        apiKey: "NVIDIA_API_KEY",        timeoutSeconds: 300,      },    },  },  agents: {    defaults: {      models: {        "custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": {          params: { thinking: "off" },        },      },    },  },}

Liên quan