CLI инференса

openclaw infer — канонический headless-интерфейс для рабочих процессов инференса, поддерживаемых провайдерами.

Он намеренно предоставляет семейства возможностей, а не сырые имена RPC Gateway и не сырые идентификаторы инструментов агента.

Превратите infer в навык

Скопируйте и вставьте это агенту:

Read https://docs.openclaw.ai/cli/infer, then create a skill that routes my common workflows to `openclaw infer`.Focus on model runs, image generation, video generation, audio transcription, TTS, web search, and embeddings.

Хороший навык на основе infer должен:

• сопоставлять распространенные намерения пользователя с правильной подкомандой infer
• включать несколько канонических примеров infer для рабочих процессов, которые он покрывает
• предпочитать openclaw infer ... в примерах и предложениях
• избегать повторного документирования всей поверхности infer внутри тела навыка

Типичное покрытие навыка, сфокусированного на infer:

• openclaw infer model run
• openclaw infer image generate
• openclaw infer audio transcribe
• openclaw infer tts convert
• openclaw infer web search
• openclaw infer embedding create

Зачем использовать infer

openclaw infer предоставляет единый согласованный CLI для задач инференса, поддерживаемых провайдерами, внутри OpenClaw.

Преимущества:

• Используйте провайдеры и модели, уже настроенные в OpenClaw, вместо создания одноразовых оберток для каждого бэкенда.
• Держите рабочие процессы с моделями, изображениями, аудиотранскрипцией, TTS, видео, вебом и эмбеддингами в одном дереве команд.
• Используйте стабильную форму вывода --json для скриптов, автоматизации и рабочих процессов, управляемых агентами.
• Предпочитайте собственный интерфейс OpenClaw, когда задача по сути сводится к «запустить инференс».
• Используйте обычный локальный путь без необходимости Gateway для большинства команд infer.

Для сквозных проверок провайдеров предпочитайте openclaw infer ... после того, как низкоуровневые тесты провайдера уже проходят. Это проверяет поставляемый CLI, загрузку конфигурации, разрешение агента по умолчанию, активацию встроенных Plugin и общий runtime возможностей до выполнения запроса к провайдеру.

Дерево команд

 openclaw infer  list  inspect   model    run    list    inspect    providers    auth login    auth logout    auth status   image    generate    edit    describe    describe-many    providers   audio    transcribe    providers   tts    convert    voices    providers    status    enable    disable    set-provider   video    generate    describe    providers   web    search    fetch    providers   embedding    create    providers

Распространенные задачи

Эта таблица сопоставляет распространенные задачи инференса с соответствующей командой infer.

Поведение

• openclaw infer ... — основной CLI-интерфейс для этих рабочих процессов.
• Используйте --json, когда вывод будет потребляться другой командой или скриптом.
• Используйте --provider или --model provider/model, когда требуется конкретный бэкенд.
• Используйте model run --thinking <level>, чтобы передать одноразовый уровень мышления/рассуждения (off, minimal, low, medium, high, adaptive, xhigh или max), сохраняя запуск сырым.
• Для image describe, audio transcribe и video describe --model должна использовать форму <provider/model>.
• Для image describe --file принимает локальные пути и HTTP(S)-URL изображений. Удаленные URL используют обычную SSRF-политику получения медиа.
• Для image describe явная --model сначала запускает этот provider/model, затем пробует настроенные agents.defaults.imageModel.fallbacks, если вызов модели завершается ошибкой. Ошибки подготовки входных данных, такие как отсутствующие файлы или неподдерживаемые URL, завершаются до попыток fallback. Модель должна поддерживать изображения в каталоге моделей или конфигурации провайдера. codex/<model> запускает ограниченный ход понимания изображения через app-server Codex; openai/<model> использует путь провайдера OpenAI с авторизацией по API-ключу или OAuth ChatGPT/Codex.
• Команды выполнения без состояния по умолчанию используют локальный режим.
• Команды состояния, управляемого Gateway, по умолчанию используют Gateway.
• Обычный локальный путь не требует, чтобы Gateway был запущен.
• Локальный model run — это компактное одноразовое завершение провайдера. Он разрешает настроенную модель агента и авторизацию, но не запускает ход чат-агента, не загружает инструменты и не открывает встроенные MCP-серверы.
• model run --file принимает файлы изображений, определяет их MIME-тип и отправляет их вместе с указанным промптом выбранной модели. Повторите --file для нескольких изображений.
• model run --file отклоняет входные данные, не являющиеся изображениями. Используйте infer audio transcribe для аудиофайлов и infer video describe для видеофайлов.
• model run --gateway проверяет маршрутизацию Gateway, сохраненную авторизацию, выбор провайдера и встроенный runtime, но все равно выполняется как сырой модельный probe: он отправляет указанный промпт и любые вложения изображений без предыдущего transcript сессии, контекста bootstrap/AGENTS, сборки context-engine, инструментов или встроенных MCP-серверов.
• model run --gateway --model <provider/model> требует доверенные учетные данные оператора Gateway, потому что запрос просит Gateway выполнить одноразовое переопределение provider/model.
• Локальный model run --thinking использует компактный путь provider-completion; специфичные для провайдера уровни, такие как adaptive и max, сопоставляются с ближайшим переносимым уровнем simple-completion.

Модель

Используйте model для текстового инференса, поддерживаемого провайдерами, и инспекции моделей/провайдеров.

openclaw infer model run --prompt "Reply with exactly: smoke-ok" --jsonopenclaw infer model run --prompt "Summarize this changelog entry" --model openai/gpt-5.4 --jsonopenclaw infer model run --prompt "Describe this image in one sentence" --file ./photo.jpg --model google/gemini-2.5-flash --jsonopenclaw infer model run --prompt "Use more reasoning here" --thinking high --jsonopenclaw infer model providers --jsonopenclaw infer model inspect --name gpt-5.5 --json

Используйте полные ссылки <provider/model>, чтобы выполнить smoke-тест конкретного провайдера без запуска Gateway или загрузки полной поверхности инструментов агента:

openclaw infer model run --local --model anthropic/claude-sonnet-4-6 --prompt "Reply with exactly: pong" --jsonopenclaw infer model run --local --model cerebras/zai-glm-4.7 --prompt "Reply with exactly: pong" --jsonopenclaw infer model run --local --model google/gemini-2.5-flash --prompt "Reply with exactly: pong" --jsonopenclaw infer model run --local --model groq/llama-3.1-8b-instant --prompt "Reply with exactly: pong" --jsonopenclaw infer model run --local --model mistral/mistral-medium-3-5 --prompt "Reply with exactly: pong" --jsonopenclaw infer model run --local --model mistral/mistral-small-latest --prompt "Reply with exactly: pong" --jsonopenclaw infer model run --local --model openai/gpt-5.5 --prompt "Reply with exactly: pong" --jsonopenclaw infer model run --local --model ollama/qwen2.5vl:7b --prompt "Describe this image." --file ./photo.jpg --json

Примечания:

• Локальный model run — самый узкий CLI-smoke для проверки работоспособности provider/model/auth, потому что для не-Codex-провайдеров он отправляет выбранной модели только указанный промпт.
• Локальный model run --model <provider/model> может использовать точные встроенные статические строки каталога из models list --all до того, как этот провайдер будет записан в конфигурацию. Авторизация провайдера все равно требуется; отсутствующие учетные данные завершаются ошибками авторизации, а не Unknown model.
• Для reasoning-probe Mistral Medium 3.5 оставляйте temperature неустановленной/по умолчанию. Mistral отклоняет reasoning_effort="high" плюс temperature: 0; используйте mistral/mistral-medium-3-5 с temperature по умолчанию или ненулевым значением режима reasoning, например 0.7.
• Локальные probe Codex Responses — узкое исключение: OpenClaw добавляет минимальную системную инструкцию, чтобы transport мог заполнить обязательное поле instructions, не добавляя полный контекст агента, инструменты, память или transcript сессии.
• Локальный model run --file сохраняет этот компактный путь и прикрепляет содержимое изображения напрямую к одному сообщению пользователя. Распространенные файлы изображений, такие как PNG, JPEG и WebP, работают, когда их MIME-тип определяется как image/*; неподдерживаемые или нераспознанные файлы завершаются ошибкой до вызова провайдера.
• model run --file лучше всего подходит, когда вы хотите напрямую протестировать выбранную мультимодальную текстовую модель. Используйте infer image describe, когда вам нужен выбор провайдера OpenClaw для понимания изображений и маршрутизация модели изображений по умолчанию.
• Выбранная модель должна поддерживать вход изображений; текстовые модели могут отклонить запрос на уровне провайдера.
• model run --prompt должна содержать непустой текст; пустые промпты отклоняются до вызова локальных провайдеров или Gateway.
• Локальный model run завершается с ненулевым кодом, когда провайдер не возвращает текстовый вывод, поэтому недоступные локальные провайдеры и пустые завершения не выглядят как успешные probe.
• Используйте model run --gateway, когда нужно протестировать маршрутизацию Gateway, настройку agent-runtime или состояние провайдера, управляемое Gateway, сохраняя вход модели сырым. Используйте openclaw agent или чат-интерфейсы, когда нужен полный контекст агента, инструменты, память и transcript сессии.
• model auth login, model auth logout и model auth status управляют сохраненным состоянием авторизации провайдера.

Изображение

Используйте image для генерации, редактирования и описания.

openclaw infer image generate --prompt "friendly lobster illustration" --jsonopenclaw infer image generate --prompt "cinematic product photo of headphones" --jsonopenclaw infer image generate --model openai/gpt-image-1.5 --output-format png --background transparent --prompt "simple red circle sticker on a transparent background" --jsonopenclaw infer image generate --model openai/gpt-image-2 --quality low --openai-moderation low --prompt "low-cost draft poster" --jsonopenclaw infer image generate --prompt "slow image backend" --timeout-ms 180000 --jsonopenclaw infer image edit --file ./logo.png --model openai/gpt-image-1.5 --output-format png --background transparent --prompt "keep the logo, remove the background" --jsonopenclaw infer image edit --file ./poster.png --prompt "make this a vertical story ad" --size 2160x3840 --aspect-ratio 9:16 --resolution 4K --jsonopenclaw infer image describe --file ./photo.jpg --jsonopenclaw infer image describe --file https://example.com/photo.png --jsonopenclaw infer image describe --file ./receipt.jpg --prompt "Extract the merchant, date, and total" --jsonopenclaw infer image describe-many --file ./before.png --file ./after.png --prompt "Compare the screenshots and list visible UI changes" --jsonopenclaw infer image describe --file ./ui-screenshot.png --model openai/gpt-5.4-mini --jsonopenclaw infer image describe --file ./photo.jpg --model ollama/qwen2.5vl:7b --prompt "Describe the image in one sentence" --timeout-ms 300000 --json

Примечания:

• Используйте image edit, если начинаете с существующих входных файлов.

• Используйте --size, --aspect-ratio или --resolution с image edit для провайдеров/моделей, которые поддерживают подсказки геометрии при редактировании опорных изображений.

• Используйте --output-format png --background transparent с --model openai/gpt-image-1.5 для вывода OpenAI PNG с прозрачным фоном; --openai-background остается доступным как псевдоним, специфичный для OpenAI. Провайдеры, которые не заявляют поддержку фона, сообщают подсказку как проигнорированное переопределение.

• Используйте --quality low|medium|high|auto для провайдеров, которые поддерживают подсказки качества изображения, включая OpenAI. OpenAI также принимает --openai-moderation low|auto для специфичной для провайдера подсказки модерации.

• Используйте image providers --json, чтобы проверить, какие встроенные провайдеры изображений обнаруживаются, настроены, выбраны и какие возможности генерации/редактирования предоставляет каждый провайдер.

• Используйте image generate --model <provider/model> --json как самый узкий live CLI smoke для изменений генерации изображений. Пример:

  openclaw infer image providers --jsonopenclaw infer image generate \  --model google/gemini-3.1-flash-image-preview \  --prompt "Minimal flat test image: one blue square on a white background, no text." \  --output ./openclaw-infer-image-smoke.png \  --json

  JSON-ответ сообщает ok, provider, model, attempts и записанные пути вывода. Когда задан --output, итоговое расширение может соответствовать MIME-типу, возвращенному провайдером.

• Для image describe и image describe-many используйте --prompt, чтобы дать визуальной модели инструкцию под конкретную задачу, например OCR, сравнение, инспекцию UI или краткое описание.

• Используйте --timeout-ms с медленными локальными визуальными моделями или холодным запуском Ollama.

• Для image describe значение --model должно быть поддерживающим изображения <provider/model>. Если оно задано, OpenClaw сначала пробует эту явную модель, а затем настроенные резервные image-модели, если вызов модели завершается ошибкой.

• Для локальных визуальных моделей Ollama сначала загрузите модель и задайте OLLAMA_API_KEY любым значением-заполнителем, например ollama-local. См. Ollama.

Аудио

Используйте audio для транскрибации файлов.

openclaw infer audio transcribe --file ./memo.m4a --jsonopenclaw infer audio transcribe --file ./team-sync.m4a --language en --prompt "Focus on names and action items" --jsonopenclaw infer audio transcribe --file ./memo.m4a --model openai/whisper-1 --json

Примечания:

• audio transcribe предназначен для транскрибации файлов, а не для управления сеансами в реальном времени.
• --model должно быть <provider/model>.

TTS

Используйте tts для синтеза речи и состояния TTS-провайдера.

openclaw infer tts convert --text "hello from openclaw" --output ./hello.mp3 --jsonopenclaw infer tts convert --text "Your build is complete" --output ./build-complete.mp3 --jsonopenclaw infer tts providers --jsonopenclaw infer tts status --json

Примечания:

• tts status по умолчанию использует Gateway, потому что отражает состояние TTS, управляемое Gateway.
• Используйте tts providers, tts voices и tts set-provider, чтобы проверять и настраивать поведение TTS.

Видео

Используйте video для генерации и описания.

openclaw infer video generate --prompt "cinematic sunset over the ocean" --jsonopenclaw infer video generate --prompt "slow drone shot over a forest lake" --resolution 768P --duration 6 --jsonopenclaw infer video describe --file ./clip.mp4 --jsonopenclaw infer video describe --file ./clip.mp4 --model openai/gpt-5.4-mini --json

Примечания:

• video generate принимает --size, --aspect-ratio, --resolution, --duration, --audio, --watermark и --timeout-ms и передает их в среду выполнения генерации видео.
• --model должно быть <provider/model> для video describe.

Веб

Используйте web для рабочих процессов поиска и получения данных.

openclaw infer web search --query "OpenClaw docs" --jsonopenclaw infer web search --query "OpenClaw infer web providers" --jsonopenclaw infer web fetch --url https://docs.openclaw.ai/cli/infer --jsonopenclaw infer web providers --json

Примечания:

• Используйте web providers, чтобы проверить доступных, настроенных и выбранных провайдеров.

Эмбеддинги

Используйте embedding для создания векторов и проверки провайдеров эмбеддингов.

openclaw infer embedding create --text "friendly lobster" --jsonopenclaw infer embedding create --text "customer support ticket: delayed shipment" --model openai/text-embedding-3-large --jsonopenclaw infer embedding providers --json

JSON-вывод

Команды infer нормализуют JSON-вывод в общей оболочке:

{  "ok": true,  "capability": "image.generate",  "transport": "local",  "provider": "openai",  "model": "gpt-image-2",  "attempts": [],  "outputs": []}

Поля верхнего уровня стабильны:

• ok
• capability
• transport
• provider
• model
• attempts
• outputs
• error

Для команд сгенерированных медиа outputs содержит файлы, записанные OpenClaw. Используйте path, mimeType, size и любые специфичные для медиа размеры в этом массиве для автоматизации вместо разбора человекочитаемого stdout.

Распространенные ошибки

# Badopenclaw infer media image generate --prompt "friendly lobster" # Goodopenclaw infer image generate --prompt "friendly lobster"

# Badopenclaw infer audio transcribe --file ./memo.m4a --model whisper-1 --json # Goodopenclaw infer audio transcribe --file ./memo.m4a --model openai/whisper-1 --json

Примечания

• openclaw capability ... является псевдонимом для openclaw infer ....

Связанные материалы

• Справочник CLI
• Модели