mirror of
https://github.com/ollama/ollama.git
synced 2026-05-06 16:11:34 -05:00
[GH-ISSUE #10907] Critical Error: deepseek-r1:8b-0528-qwen3-q8_0 Has No Streamed Output #7172
Closed
opened 2026-04-12 19:10:10 -05:00 by GiteaMirror
·
9 comments
No Branch/Tag Specified
main
dhiltgen/ci
parth-launch-plan-gating
hoyyeva/anthropic-reference-images-path
parth-anthropic-reference-images-path
brucemacd/download-before-remove
hoyyeva/editor-config-repair
parth-mlx-decode-checkpoints
parth-launch-codex-app
hoyyeva/fix-codex-model-metadata-warning
hoyyeva/qwen
parth/hide-claude-desktop-till-release
hoyyeva/opencode-image-modality
parth-add-claude-code-autoinstall
release_v0.22.0
pdevine/manifest-list
codex/fix-codex-model-metadata-warning
pdevine/addressable-manifest
brucemacd/launch-fetch-reccomended
jmorganca/llama-compat
launch-copilot-cli
hoyyeva/opencode-thinking
release_v0.20.7
parth-auto-save-backup
parth-test
jmorganca/gemma4-audio-replacements
fix-manifest-digest-on-pull
hoyyeva/vscode-improve
brucemacd/install-server-wait
parth/update-claude-docs
brucemac/start-ap-install
pdevine/mlx-update
pdevine/qwen35_vision
drifkin/api-show-fallback
mintlify/image-generation-1773352582
hoyyeva/server-context-length-local-config
jmorganca/faster-reptition-penalties
jmorganca/convert-nemotron
parth-pi-thinking
pdevine/sampling-penalties
jmorganca/fix-create-quantization-memory
dongchen/resumable_transfer_fix
pdevine/sampling-cache-error
jessegross/mlx-usage
hoyyeva/openclaw-config
hoyyeva/app-html
pdevine/qwen3next
brucemacd/sign-sh-install
brucemacd/tui-update
brucemacd/usage-api
jmorganca/launch-empty
fix-app-dist-embed
mxyng/mlx-compile
mxyng/mlx-quant
mxyng/mlx-glm4.7
mxyng/mlx
brucemacd/simplify-model-picker
jmorganca/qwen3-concurrent
fix-glm-4.7-flash-mla-config
drifkin/qwen3-coder-opening-tag
brucemacd/usage-cli
fix-cuda12-fattn-shmem
ollama-imagegen-docs
parth/fix-multiline-inputs
brucemacd/config-docs
mxyng/model-files
mxyng/simple-execute
fix-imagegen-ollama-models
mxyng/async-upload
jmorganca/lazy-no-dtype-changes
imagegen-auto-detect-create
parth/decrease-concurrent-download-hf
fix-mlx-quantize-init
jmorganca/x-cleanup
usage
imagegen-readme
jmorganca/glm-image
mlx-gpu-cd
jmorganca/imagegen-modelfile
parth/agent-skills
parth/agent-allowlist
parth/signed-in-offline
parth/agents
parth/fix-context-chopping
improve-cloud-flow
parth/add-models-websearch
parth/prompt-renderer-mcp
jmorganca/native-settings
jmorganca/download-stream-hash
jmorganca/client2-rebased
brucemacd/oai-chat-req-multipart
jessegross/multi_chunk_reserve
grace/additional-omit-empty
grace/mistral-3-large
mxyng/tokenizer2
mxyng/tokenizer
jessegross/flash
hoyyeva/windows-nacked-app
mxyng/cleanup-attention
grace/deepseek-parser
hoyyeva/remember-unsent-prompt
parth/add-lfs-pointer-error-conversion
parth/olmo2-test2
hoyyeva/ollama-launchagent-plist
nicole/olmo-model
parth/olmo-test
mxyng/remove-embedded
parth/render-template
jmorganca/intellect-3
parth/remove-prealloc-linter
jmorganca/cmd-eval
nicole/nomic-embed-text-fix
mxyng/lint-2
hoyyeva/add-gemini-3-pro-preview
hoyyeva/load-model-list
mxyng/expand-path
mxyng/environ-2
hoyyeva/deeplink-json-encoding
parth/improve-tool-calling-tests
hoyyeva/conversation
hoyyeva/assistant-edit-response
hoyyeva/thinking
origin/brucemacd/invalid-char-i-err
parth/improve-tool-calling
jmorganca/required-omitempty
grace/qwen3-vl-tests
mxyng/iter-client
parth/docs-readme
nicole/embed-test
pdevine/integration-benchstat
parth/remove-generate-cmd
parth/add-toolcall-id
mxyng/server-tests
jmorganca/glm-4.6
jmorganca/gin-h-compat
drifkin/stable-tool-args
pdevine/qwen3-more-thinking
parth/add-websearch-client
nicole/websearch_local
jmorganca/qwen3-coder-updates
grace/deepseek-v3-migration-tests
mxyng/fix-create
jmorganca/cloud-errors
pdevine/parser-tidy
revert-12233-parth/simplify-entrypoints-runner
parth/enable-so-gpt-oss
brucemacd/qwen3vl
jmorganca/readme-simplify
parth/gpt-oss-structured-outputs
revert-12039-jmorganca/tools-braces
mxyng/embeddings
mxyng/gguf
mxyng/benchmark
mxyng/types-null
parth/move-parsing
mxyng/gemma2
jmorganca/docs
mxyng/16-bit
mxyng/create-stdin
pdevine/authorizedkeys
mxyng/quant
parth/opt-in-error-context-window
brucemacd/cache-models
brucemacd/runner-completion
jmorganca/llama-update-6
brucemacd/benchmark-list
brucemacd/partial-read-caps
parth/deepseek-r1-tools
mxyng/omit-array
parth/tool-prefix-temp
brucemacd/runner-test
jmorganca/qwen25vl
brucemacd/model-forward-test-ext
parth/python-function-parsing
jmorganca/cuda-compression-none
drifkin/num-parallel
drifkin/chat-truncation-fix
jmorganca/sync
parth/python-tools-calling
drifkin/array-head-count
brucemacd/create-no-loop
parth/server-enable-content-stream-with-tools
qwen25omni
mxyng/v3
brucemacd/ropeconfig
jmorganca/silence-tokenizer
parth/sample-so-test
parth/sampling-structured-outputs
brucemacd/doc-go-engine
parth/constrained-sampling-json
jmorganca/mistral-wip
brucemacd/mistral-small-convert
parth/sample-unmarshal-json-for-params
brucemacd/jomorganca/mistral
pdevine/bfloat16
jmorganca/mistral
brucemacd/mistral
pdevine/logging
parth/sample-correctness-fix
parth/sample-fix-sorting
jmorgan/sample-fix-sorting-extras
jmorganca/temp-0-images
brucemacd/parallel-embed-models
brucemacd/shim-grammar
jmorganca/fix-gguf-error
bmizerany/nameswork
jmorganca/faster-releases
bmizerany/validatenames
brucemacd/err-no-vocab
brucemacd/rope-config
brucemacd/err-hint
brucemacd/qwen2_5
brucemacd/logprobs
brucemacd/new_runner_graph_bench
progress-flicker
brucemacd/forward-test
brucemacd/go_qwen2
pdevine/gemma2
jmorganca/add-missing-symlink-eval
mxyng/next-debug
parth/set-context-size-openai
brucemacd/next-bpe-bench
brucemacd/next-bpe-test
brucemacd/new_runner_e2e
brucemacd/new_runner_qwen2
pdevine/convert-cohere2
brucemacd/convert-cli
parth/log-probs
mxyng/next-mlx
mxyng/cmd-history
parth/templating
parth/tokenize-detokenize
brucemacd/check-key-register
bmizerany/grammar
jmorganca/vendor-081b29bd
mxyng/func-checks
jmorganca/fix-null-format
parth/fix-default-to-warn-json
jmorganca/qwen2vl
jmorganca/no-concat
parth/cmd-cleanup-SO
brucemacd/check-key-register-structured-err
parth/openai-stream-usage
parth/fix-referencing-so
stream-tools-stop
jmorganca/degin-1
brucemacd/install-path-clean
brucemacd/push-name-validation
brucemacd/browser-key-register
jmorganca/openai-fix-first-message
jmorganca/fix-proxy
jessegross/sample
parth/disallow-streaming-tools
dhiltgen/remove_submodule
jmorganca/ga
jmorganca/mllama
pdevine/newlines
pdevine/geems-2b
jmorganca/llama-bump
mxyng/modelname-7
mxyng/gin-slog
mxyng/modelname-6
jyan/convert-prog
jyan/quant5
paligemma-support
pdevine/import-docs
jmorganca/openai-context
jyan/paligemma
jyan/p2
jyan/palitest
bmizerany/embedspeedup
jmorganca/llama-vit
brucemacd/allow-ollama
royh/ep-methods
royh/whisper
mxyng/api-models
mxyng/fix-memory
jyan/q4_4/8
jyan/ollama-v
royh/stream-tools
roy-embed-parallel
bmizerany/hrm
revert-5963-revert-5924-mxyng/llama3.1-rope
royh/embed-viz
jyan/local2
jyan/auth
jyan/local
jyan/parse-temp
jmorganca/template-mistral
jyan/reord-g
royh-openai-suffixdocs
royh-imgembed
royh-embed-parallel
jyan/quant4
royh-precision
jyan/progress
pdevine/fix-template
jyan/quant3
pdevine/ggla
mxyng/update-registry-domain
jmorganca/ggml-static
mxyng/create-context
jyan/v0.146
mxyng/layers-from-files
build_dist
bmizerany/noseek
royh-ls
royh-name
timeout
mxyng/server-timestamp
bmizerany/nosillyggufslurps
royh-params
jmorganca/llama-cpp-7c26775
royh-openai-delete
royh-show-rigid
jmorganca/enable-fa
jmorganca/no-error-template
jyan/format
royh-testdelete
bmizerany/fastverify
language_support
pdevine/ps-glitches
brucemacd/tokenize
bruce/iq-quants
bmizerany/filepathwithcoloninhost
mxyng/split-bin
bmizerany/client-registry
jmorganca/if-none-match
native
jmorganca/native
jmorganca/batch-embeddings
jmorganca/initcmake
jmorganca/mm
pdevine/showggmlinfo
modenameenforcealphanum
bmizerany/modenameenforcealphanum
jmorganca/done-reason
jmorganca/llama-cpp-8960fe8
ollama.com
bmizerany/filepathnobuild
bmizerany/types/model/defaultfix
rmdisplaylong
nogogen
bmizerany/x
modelfile-readme
bmizerany/replacecolon
jmorganca/limit
jmorganca/execstack
jmorganca/replace-assets
mxyng/tune-concurrency
jmorganca/testing
whitespace-detection
jmorganca/options
upgrade-all
scratch
cuda-search
mattw/airenamer
mattw/allmodelsonhuggingface
mattw/quantcontext
mattw/whatneedstorun
brucemacd/llama-mem-calc
mattw/faq-context
mattw/communitylinks
mattw/noprune
mattw/python-functioncalling
rename
mxyng/install
pulse
remove-first
editor
mattw/selfqueryingretrieval
cgo
mattw/howtoquant
api
matt/streamingapi
format-config
mxyng/extra-args
shell
update-nous-hermes
cp-model
upload-progress
fix-unknown-model
fix-model-names
delete-fix
insecure-registry
ls
deletemodels
progressbar
readme-updates
license-layers
skip-list
list-models
modelpath
matt/examplemodelfiles
distribution
go-opts
v0.23.1
v0.23.1-rc0
v0.23.0
v0.23.0-rc0
v0.22.1
v0.22.1-rc1
v0.22.1-rc0
v0.22.0
v0.22.0-rc1
v0.21.3-rc0
v0.21.2-rc1
v0.21.2
v0.21.2-rc0
v0.21.1
v0.21.1-rc1
v0.21.1-rc0
v0.21.0
v0.21.0-rc1
v0.21.0-rc0
v0.20.8-rc0
v0.20.7
v0.20.7-rc1
v0.20.7-rc0
v0.20.6
v0.20.6-rc1
v0.20.6-rc0
v0.20.5
v0.20.5-rc2
v0.20.5-rc1
v0.20.5-rc0
v0.20.4
v0.20.4-rc2
v0.20.4-rc1
v0.20.4-rc0
v0.20.3
v0.20.3-rc0
v0.20.2
v0.20.1
v0.20.1-rc2
v0.20.1-rc1
v0.20.1-rc0
v0.20.0
v0.20.0-rc1
v0.20.0-rc0
v0.19.0
v0.19.0-rc2
v0.19.0-rc1
v0.19.0-rc0
v0.18.4-rc1
v0.18.4-rc0
v0.18.3
v0.18.3-rc2
v0.18.3-rc1
v0.18.3-rc0
v0.18.2
v0.18.2-rc1
v0.18.2-rc0
v0.18.1
v0.18.1-rc1
v0.18.1-rc0
v0.18.0
v0.18.0-rc2
v0.18.0-rc1
v0.18.0-rc0
v0.17.8-rc4
v0.17.8-rc3
v0.17.8-rc2
v0.17.8-rc1
v0.17.8-rc0
v0.17.7
v0.17.7-rc2
v0.17.7-rc1
v0.17.7-rc0
v0.17.6
v0.17.5
v0.17.4
v0.17.3
v0.17.2
v0.17.1
v0.17.1-rc2
v0.17.1-rc1
v0.17.1-rc0
v0.17.0
v0.17.0-rc2
v0.17.0-rc1
v0.17.0-rc0
v0.16.3
v0.16.3-rc2
v0.16.3-rc1
v0.16.3-rc0
v0.16.2
v0.16.2-rc0
v0.16.1
v0.16.0
v0.16.0-rc2
v0.16.0-rc0
v0.16.0-rc1
v0.15.6
v0.15.5
v0.15.5-rc5
v0.15.5-rc4
v0.15.5-rc3
v0.15.5-rc2
v0.15.5-rc1
v0.15.5-rc0
v0.15.4
v0.15.3
v0.15.2
v0.15.1
v0.15.1-rc1
v0.15.1-rc0
v0.15.0-rc6
v0.15.0
v0.15.0-rc5
v0.15.0-rc4
v0.15.0-rc3
v0.15.0-rc2
v0.15.0-rc1
v0.15.0-rc0
v0.14.3
v0.14.3-rc3
v0.14.3-rc2
v0.14.3-rc1
v0.14.3-rc0
v0.14.2
v0.14.2-rc1
v0.14.2-rc0
v0.14.1
v0.14.0-rc11
v0.14.0
v0.14.0-rc10
v0.14.0-rc9
v0.14.0-rc8
v0.14.0-rc7
v0.14.0-rc6
v0.14.0-rc5
v0.14.0-rc4
v0.14.0-rc3
v0.14.0-rc2
v0.14.0-rc1
v0.14.0-rc0
v0.13.5
v0.13.5-rc1
v0.13.5-rc0
v0.13.4-rc2
v0.13.4
v0.13.4-rc1
v0.13.4-rc0
v0.13.3
v0.13.3-rc1
v0.13.3-rc0
v0.13.2
v0.13.2-rc2
v0.13.2-rc1
v0.13.2-rc0
v0.13.1
v0.13.1-rc2
v0.13.1-rc1
v0.13.1-rc0
v0.13.0
v0.13.0-rc0
v0.12.11
v0.12.11-rc1
v0.12.11-rc0
v0.12.10
v0.12.10-rc1
v0.12.10-rc0
v0.12.9-rc0
v0.12.9
v0.12.8
v0.12.8-rc0
v0.12.7
v0.12.7-rc1
v0.12.7-rc0
v0.12.7-citest0
v0.12.6
v0.12.6-rc1
v0.12.6-rc0
v0.12.5
v0.12.5-rc0
v0.12.4
v0.12.4-rc7
v0.12.4-rc6
v0.12.4-rc5
v0.12.4-rc4
v0.12.4-rc3
v0.12.4-rc2
v0.12.4-rc1
v0.12.4-rc0
v0.12.3
v0.12.2
v0.12.2-rc0
v0.12.1
v0.12.1-rc1
v0.12.1-rc2
v0.12.1-rc0
v0.12.0
v0.12.0-rc1
v0.12.0-rc0
v0.11.11
v0.11.11-rc3
v0.11.11-rc2
v0.11.11-rc1
v0.11.11-rc0
v0.11.10
v0.11.9
v0.11.9-rc0
v0.11.8
v0.11.8-rc0
v0.11.7-rc1
v0.11.7-rc0
v0.11.7
v0.11.6
v0.11.6-rc0
v0.11.5-rc4
v0.11.5-rc3
v0.11.5
v0.11.5-rc5
v0.11.5-rc2
v0.11.5-rc1
v0.11.5-rc0
v0.11.4
v0.11.4-rc0
v0.11.3
v0.11.3-rc0
v0.11.2
v0.11.1
v0.11.0-rc0
v0.11.0-rc1
v0.11.0-rc2
v0.11.0
v0.10.2-int1
v0.10.1
v0.10.0
v0.10.0-rc4
v0.10.0-rc3
v0.10.0-rc2
v0.10.0-rc1
v0.10.0-rc0
v0.9.7-rc1
v0.9.7-rc0
v0.9.6
v0.9.6-rc0
v0.9.6-ci0
v0.9.5
v0.9.4-rc5
v0.9.4-rc6
v0.9.4
v0.9.4-rc3
v0.9.4-rc4
v0.9.4-rc1
v0.9.4-rc2
v0.9.4-rc0
v0.9.3
v0.9.3-rc5
v0.9.4-citest0
v0.9.3-rc4
v0.9.3-rc3
v0.9.3-rc2
v0.9.3-rc1
v0.9.3-rc0
v0.9.2
v0.9.1
v0.9.1-rc1
v0.9.1-rc0
v0.9.1-ci1
v0.9.1-ci0
v0.9.0
v0.9.0-rc0
v0.8.0
v0.8.0-rc0
v0.7.1-rc2
v0.7.1
v0.7.1-rc1
v0.7.1-rc0
v0.7.0
v0.7.0-rc1
v0.7.0-rc0
v0.6.9-rc0
v0.6.8
v0.6.8-rc0
v0.6.7
v0.6.7-rc2
v0.6.7-rc1
v0.6.7-rc0
v0.6.6
v0.6.6-rc2
v0.6.6-rc1
v0.6.6-rc0
v0.6.5-rc1
v0.6.5
v0.6.5-rc0
v0.6.4-rc0
v0.6.4
v0.6.3-rc1
v0.6.3
v0.6.3-rc0
v0.6.2
v0.6.2-rc0
v0.6.1
v0.6.1-rc0
v0.6.0-rc0
v0.6.0
v0.5.14-rc0
v0.5.13
v0.5.13-rc6
v0.5.13-rc5
v0.5.13-rc4
v0.5.13-rc3
v0.5.13-rc2
v0.5.13-rc1
v0.5.13-rc0
v0.5.12
v0.5.12-rc1
v0.5.12-rc0
v0.5.11
v0.5.10
v0.5.9
v0.5.9-rc0
v0.5.8-rc13
v0.5.8
v0.5.8-rc12
v0.5.8-rc11
v0.5.8-rc10
v0.5.8-rc9
v0.5.8-rc8
v0.5.8-rc7
v0.5.8-rc6
v0.5.8-rc5
v0.5.8-rc4
v0.5.8-rc3
v0.5.8-rc2
v0.5.8-rc1
v0.5.8-rc0
v0.5.7
v0.5.6
v0.5.5
v0.5.5-rc0
v0.5.4
v0.5.3
v0.5.3-rc0
v0.5.2
v0.5.2-rc3
v0.5.2-rc2
v0.5.2-rc1
v0.5.2-rc0
v0.5.1
v0.5.0
v0.5.0-rc1
v0.4.8-rc0
v0.4.7
v0.4.6
v0.4.5
v0.4.4
v0.4.3
v0.4.3-rc0
v0.4.2
v0.4.2-rc1
v0.4.2-rc0
v0.4.1
v0.4.1-rc0
v0.4.0
v0.4.0-rc8
v0.4.0-rc7
v0.4.0-rc6
v0.4.0-rc5
v0.4.0-rc4
v0.4.0-rc3
v0.4.0-rc2
v0.4.0-rc1
v0.4.0-rc0
v0.4.0-ci3
v0.3.14
v0.3.14-rc0
v0.3.13
v0.3.12
v0.3.12-rc5
v0.3.12-rc4
v0.3.12-rc3
v0.3.12-rc2
v0.3.12-rc1
v0.3.11
v0.3.11-rc4
v0.3.11-rc3
v0.3.11-rc2
v0.3.11-rc1
v0.3.10
v0.3.10-rc1
v0.3.9
v0.3.8
v0.3.7
v0.3.7-rc6
v0.3.7-rc5
v0.3.7-rc4
v0.3.7-rc3
v0.3.7-rc2
v0.3.7-rc1
v0.3.6
v0.3.5
v0.3.4
v0.3.3
v0.3.2
v0.3.1
v0.3.0
v0.2.8
v0.2.8-rc2
v0.2.8-rc1
v0.2.7
v0.2.6
v0.2.5
v0.2.4
v0.2.3
v0.2.2
v0.2.2-rc2
v0.2.2-rc1
v0.2.1
v0.2.0
v0.1.49-rc14
v0.1.49-rc13
v0.1.49-rc12
v0.1.49-rc11
v0.1.49-rc10
v0.1.49-rc9
v0.1.49-rc8
v0.1.49-rc7
v0.1.49-rc6
v0.1.49-rc4
v0.1.49-rc5
v0.1.49-rc3
v0.1.49-rc2
v0.1.49-rc1
v0.1.48
v0.1.47
v0.1.46
v0.1.45-rc5
v0.1.45
v0.1.45-rc4
v0.1.45-rc3
v0.1.45-rc2
v0.1.45-rc1
v0.1.44
v0.1.43
v0.1.42
v0.1.41
v0.1.40
v0.1.40-rc1
v0.1.39
v0.1.39-rc2
v0.1.39-rc1
v0.1.38
v0.1.37
v0.1.36
v0.1.35
v0.1.35-rc1
v0.1.34
v0.1.34-rc1
v0.1.33
v0.1.33-rc7
v0.1.33-rc6
v0.1.33-rc5
v0.1.33-rc4
v0.1.33-rc3
v0.1.33-rc2
v0.1.33-rc1
v0.1.32
v0.1.32-rc2
v0.1.32-rc1
v0.1.31
v0.1.30
v0.1.29
v0.1.28
v0.1.27
v0.1.26
v0.1.25
v0.1.24
v0.1.23
v0.1.22
v0.1.21
v0.1.20
v0.1.19
v0.1.18
v0.1.17
v0.1.16
v0.1.15
v0.1.14
v0.1.13
v0.1.12
v0.1.11
v0.1.10
v0.1.9
v0.1.8
v0.1.7
v0.1.6
v0.1.5
v0.1.4
v0.1.3
v0.1.2
v0.1.1
v0.1.0
v0.0.21
v0.0.20
v0.0.19
v0.0.18
v0.0.17
v0.0.16
v0.0.15
v0.0.14
v0.0.13
v0.0.12
v0.0.11
v0.0.10
v0.0.9
v0.0.8
v0.0.7
v0.0.6
v0.0.5
v0.0.4
v0.0.3
v0.0.2
v0.0.1
Labels
Clear labels
amd
api
app
bug
build
cli
cloud
compatibility
context-length
create
docker
documentation
embeddings
feature request
feedback wanted
good first issue
gpt-oss
gpu
harmony
help wanted
image
install
intel
js
launch
linux
macos
memory
mlx
model
needs more info
networking
nvidia
ollama.com
performance
pull-request
python
question
registry
rendering
thinking
tools
top
vulkan
windows
wsl
Mirrored from GitHub Pull Request
No Label
bug
Milestone
No items
No Milestone
Projects
Clear projects
No project
No Assignees
Notifications
Due Date
No due date set.
Dependencies
No dependencies set.
Reference: github-starred/ollama#7172
Reference in New Issue
Block a user
Blocking a user prevents them from interacting with repositories, such as opening or commenting on pull requests or issues. Learn more about blocking a user.
Delete Branch "%!s()"
Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?
Originally created by @Dudu0831 on GitHub (May 30, 2025).
Original GitHub issue: https://github.com/ollama/ollama/issues/10907
What is the issue?
I'm currently using Ollama v0.8.0, and I'm getting an error when attempting to use tools with the model deepseek-r1:8b-0528-qwen3-q8_0. Could you please let me know if this model supports tool (function) calling? I'm trying to determine whether the issue is caused by the model not supporting tools, or if it's due to the Ollama version I'm using.
According to the official technical report, it supports tools.
Relevant log output
OS
No response
GPU
No response
CPU
No response
Ollama version
No response
@Dudu0831 commented on GitHub (May 30, 2025):
ollana version:0.9.0
I've encountered a new issue: there's no streaming output. Why is that?

It outputs everything at once after finishing, instead of streaming.

@rick-github commented on GitHub (May 30, 2025):
The template does not support tool use. Based on the chat template of the source model, tool support could be added.
Your screenshot shows at least two responses, which would indicate a streamed response.
@Dudu0831 commented on GitHub (May 30, 2025):
@rick-github Do I need to write a modelfile to recreate it from the original model file? It does seem like it's streaming output, and this needs to be shown via video to make it clear. At first, no data is received at all, and then when the model finishes generating, the entire "streamed" response suddenly appears all at once.
@rick-github commented on GitHub (May 30, 2025):
Yes. You can take inspiration from prior work done to add tool use to deepseek-r1.
It might be the client. When I run your prompt in a terminal session, it streams as expected:
@rick-github commented on GitHub (May 31, 2025):
Form your screenshot, I'm guessing you are using Postman. Postman doesn't support streaming JSON output: https://github.com/postmanlabs/postman-app-support/issues/12713
@Dudu0831 commented on GitHub (Jun 3, 2025):
@rick-github 好的,我知道了。谢谢你
@leizhu1989 commented on GitHub (Jun 3, 2025):
@rick-github hello,can olama close the content of the think section? Like qwen3, I tried the 0528 model and it doesn't seem to work:
curl localhost:11434/api/chat -d '{"model":"deepseek-r1:8b-0528-qwen3-q8_0","messages":[{"role":"user","content":"介绍下中国"}],"stream":false,"think":false}'
{"model":"deepseek-r1:8b-0528-qwen3-q8_0","created_at":"2025-06-03T07:04:32.250574963Z","message":{"role":"assistant","content":"\u003cthink\u003e\n嗯,用户让我介绍一下中国。这个问题看似简单但涵盖面非常广,需要先判断ta的具体需求。可能是个刚接触中国的外国人想快速了解概况,也可能是学生写作业需要参考资料,或者是商务人士准备去谈判前的背景调研。\n\n从简洁程度来看,如果只是要基本信息,应该用概括性语言突出核心要素;但如果用户是深度学习中国文化的人,就需要补充更丰富的细节。现在缺乏上下文线索,我决定采用分层递进的方式回应:先给基础框架再展开具体层面,这样既能满足初步了解者的需求,也能为深入研究留出空间。\n\n中国这个话题要避免几个雷区:一是不能变成枯燥的国情罗列,二是要注意历史表述的客观性,三是得体现当代发展。可以重点从文明传承、地理资源、政治体制和现代成就这些维度切入,既展现文化底蕴又突出国家实力。\n\n考虑到用户可能对某些领域特别感兴趣,最后要留个开放式结尾询问具体方向。这样如果ta有后续问题就能快速定位,比如问到西藏或新疆时我需要切换文化介绍模式;提到经济改革则要转为政策分析角度。\n\n在表述上要注意平衡:既要体现中国作为发展中国家的特色,又要避免过度吹捧显得不客观。历史部分尤其谨慎,用“四大发明”这样具象化的成就来佐证文明高度比较稳妥,同时自然过渡到现代科技的发展现状。\n\u003c/think\u003e\n中国是一个历史悠久、文化丰富的国家,位于亚洲东部,太平洋西岸。以下是关于中国的几个关键方面:\n\n### 1. 地理与人口\n- 面积:约960万平方公里(世界第三大)。\n- 人口:超过14亿(世界第一),以汉族为主体,还有55个少数民族。\n- 地形:地势西高东低,西部有高原、山地和盆地,东部为平原和丘陵。长江、黄河等大河自西向东流。\n\n### 2. 历史与文化\n- 历史悠久:中国是四大文明古国之一,拥有超过五千年的连续历史记载。\n- 古代成就:四大发明(造纸术、印刷术、指南针、火药)、长城、故宫、丝绸之路等都是世界文化遗产。\n- 传统文化:儒家思想对中国社会影响深远。传统艺术包括京剧、书法、绘画、陶瓷制作、剪纸等。\n\n### 3. 政治与经济\n- 政治体制:中国是一个社会主义国家,由中国共产党领导的多党合作和政治协商制度是其政治体制的核心。\n- 经济发展:改革开放政策(1978年)使中国经济迅速增长。目前是中国特色社会主义市场经济体制下,经济持续快速发展。\n\n### 4. 社会与教育\n- 社会保障体系:包括医疗、养老等方面的基本保障。\n- 教育:九年义务教育普及,高等教育发展迅速,许多大学在国际上享有声誉。\n\n### 5. 科技与中国\n- 科技创新:近年来中国在科技领域取得了显著进展,如高铁技术、航天探索(嫦娥探月工程)、量子通信等。\n- 互联网与移动支付:中国的电子商务和社交媒体非常发达,支付宝、微信支付等应用广泛使用。\n\n### 6. 语言与文字\n- 官方语言:汉语是主要的官方语言,属于汉藏语系。普通话作为标准汉语在全国推广。\n- 方言:中国有多种方言,如粤语、闽南语、吴语等。\n- 文字系统:汉字(包括简体和繁体)是世界上最古老的文字之一。\n\n### 7. 饮食文化\n- 多样性:中国的菜系众多,每个地区都有其独特的美食风格。著名的有川菜(麻辣)、粤菜(清淡)、鲁菜(咸鲜等)。\n- 主食与小吃:米饭、面条是最常见的主食;饺子、包子、馒头是常见面点。\n\n### 8. 节日与中国\n- 传统节日:春节是中国最重要的节日,通常在农历正月初一庆祝。其他重要节日包括元宵节、端午节、中秋节等。\n- 现代节日:国庆节(10月1日)和五四青年节等也是国家法定节假日。\n\n### 9. 中国的世界地位\n- 经济强国:是世界第二大经济体,国际贸易中的重要参与者。\n- 全球合作:通过“一带一路”倡议积极参与国际合作与发展。\n\n如果你想了解某一个具体方面,例如历史、文化、科技或政治,请告诉我,我可以提供更详细的信息!"},"done_reason":"stop","done":true,"total_duration":38851696752,"load_duration":29207624,"prompt_eval_count":5,"prompt_eval_duration":227949367,"eval_count":955,"eval_duration":38591142402}
@rick-github commented on GitHub (Jun 3, 2025):
@leizhu1989 Upgrade ollama.
@leizhu1989 commented on GitHub (Jun 4, 2025):
@rick-github thank you for your reply. I have pulled the latest Olama image, sometimes normal, sometimes abnormal:
curl localhost:11434/api/chat -d '{"model":"deepseek-r1:8b-0528-qwen3-q8_0","messages":[{"role":"user","content":"介绍下中国"}],"stream":false,"think":false}'
{"model":"deepseek-r1:8b-0528-qwen3-q8_0","created_at":"2025-06-04T07:06:39.915305494Z","message":{"role":"assistant","content":"China, officially the People's Republic of China (PRC), is a country located in East Asia. It is one of the world's most populous nations with over 1.4 billion people, and it has a rich history spanning thousands of years, making it one of the world's oldest continuous civilizations.\n\nThe current political system in China is a socialist republic under the leadership of the Communist Party of China (CPC). The country operates as a unitary multi-party system where multiple political parties cooperate under CPC guidance. \n\nChina's economy has experienced rapid growth over recent decades, transforming from an agrarian society to one dominated by manufacturing and technology industries; it is now considered among global leaders in economic output with the world’s second-largest GDP.\n\nIn terms of geography, China shares land borders with several countries including Russia, Mongolia, Kazakhstan, Kyrgyzstan Tajikistan Afghanistan Pakistan India Nepal Bhutan Vietnam Laos Myanmar. It has a diverse landscape ranging from mountains to plains deserts and coastal regions.\n\nCulturally, there's profound influence from Confucianism Taoism Buddhism alongside socialist ideology shaping modern China. The country boasts ancient traditions arts cuisine festivals and historical sites like the Great Wall Forbidden City Terracotta Army among others.\n\nChina is known for its significant role in international affairs promoting peace development global governance reform diplomacy etc. It has established itself as a major power with growing influence across regions including Asia Africa Latin America and Oceania through trade investments aid programs infrastructure projects (Belt Road Initiative) and military engagements.\n\u003c/think\u003e\n中国,全称中华人民共和国(The People's Republic of China),位于亚洲东部、太平洋西岸。它是一个拥有悠久历史和灿烂文化的国家,也是当今世界人口最多、经济第二大国之一。\n\n### 基本信息:\n- 面积:约960万平方公里。\n- 首都:北京(Beijing)。\n- 官方语言:普通话(中文)、英语等少数民族语言。\n- 货币:人民币(Renminbi, CNY)。\n- 政府形式:社会主义共和国,由中国共产党领导。\n\n### 历史沿革:\n中国历史悠久,是四大古文明发源地之一。从夏朝至今已有数千年历史,曾孕育了秦汉的强盛、唐宋的文化繁荣和明清的辉煌。近代以来经历了多次重大变革,包括辛亥革命(1911年)、抗日战争(1937-1945年)以及改革开放等。\n\n### 地理特征:\n中国地形多样,包括平原、高原、山地和丘陵。主要山脉有喜马拉雅山脉、昆仑山脉、天山山脉等。长江、黄河、珠江是三大重要河流。东部沿海地区气候湿润,适合农业发展;西部内陆则更加干燥,多为草原或沙漠。\n\n### 经济:\n中国是一个以公有制为主体的社会主义市场经济国家。自1978年以来���中国经济迅速增长,成为世界第二大经济体(仅次于美国)。制造业、科技和服务业是中国经济的重要支柱产业,拥有众多国际知名企业如华为、腾讯、阿里巴巴等。\n\n### 文化**:\n中国文化源远流长,深受儒家思想影响。汉字文化圈包括汉语及其方言、京剧、书法等多种元素。中国也是一个佛教国家,许多城市都有历史悠久的寺庙和文化遗产。\n\n### 政治体制:\n中国政府实行多党合作制,由中国共产党领导。其他民主党派在法律框架内参与政治协商和支持政府工作。中国的立法机构是全国人民代表大会(NPC),由各民族代表组成。\n\n### 军事力量**:\n中国人民解放军是中国的主要军事力量,负责国家安全和领土完整。此外还有武警部队、公安部门等维护国内安全的组织。\n\n### 对外关系:\n中国坚持独立自主和平外交政策,积极参与国际事务并推动多边合作机制的发展。它与多个国家建立了全面战略伙伴关系,并在全球治理体系改革中扮演重要角色。\n\n### 科技发展**:\n近年来,中国在科技领域取得了显著进展,在航天、人工智能、5G通信等方面处于世界领先地位。国家也鼓励科技创新和人才培养。\n\n### 社会生活**:\n中国的社会结构正在经历变革,城市化进程加速了城乡差距的缩小趋势。同时,政府也在努力解决环境污染、资源短缺等可持续发展问题,并推动社会公平正义的发展。\n\n总体而言,中国是一个充满活力和发展潜力的大国,在国际舞台上发挥着日益重要的作用。"},"done_reason":"stop","done":true,"total_duration":36574978388,"load_duration":28482108,"prompt_eval_count":9,"prompt_eval_duration":37028164,"eval_count":900,"eval_duration":36506502376}
curl localhost:11434/api/chat -d '{"model":"deepseek-r1:8b-0528-qwen3-q8_0","messages":[{"role":"user","content":"介绍下中国"}],"stream":false,"think":false}'
{"model":"deepseek-r1:8b-0528-qwen3-q8_0","created_at":"2025-06-04T07:11:21.419132617Z","message":{"role":"assistant","content":"中国,正式名称为中华人民共和国(The People's Republic of China),是一个位于亚洲东部的社会主义国家。以下是关于中国的详细介绍:\n\n### 1. 地理与人口\n - 地理位置:中国东临太平洋,西靠欧亚大陆,国土面积约960万平方公里,陆地边境长达2.2万公里。\n - 地形地貌:以平原、高原、山地为主,青藏高原位于西南部,黄土高原在中部偏西,长江中下游平原和华北平原是主要的农业区。东部沿海地区多为丘陵和平原。\n - 人口数量:约14亿(2023年),是世界上人口最多的国家之一。\n\n### 2. 历史与文化\n - 悠久历史:中国有五千多年的历史,拥有多个朝代和丰富的文化遗产。著名的古代文明包括夏、商、周、秦汉、唐宋等。\n - 四大发明:造纸术、印刷术、火药、指南针是中国对世界文明的重大贡献。\n\n### 3. 政治体制\n - 政府形式:中华人民共和国是单一制的社会主义国家,实行中国共产党领导下的多党合作和政治协商制度。\n - 国家结构:中央人民政府统一行使国家权力,省级行政区划包括23个省、5个自治区、4个直辖市。\n\n### 4. 经济\n - 经济增长:近年来中国经济持续快速发展,已成为世界第二大经济体。\n - 产业结构:第一产业(农业)、第二产业(工业)和第三产业(服务业)。中国是制造业大国,并大力发展高科技产业。\n - 主要城市:上海、北京、广州等是中国的经济中心。\n\n### 5. 社会\n - 教育体系:九年义务教育普及,高等教育发展迅速。许多大学在国际上有较���声誉。\n - 医疗保障:实行基本医疗保险制度和新型农村合作医疗(NCM)系统。\n - 社会保障:包括养老保险、失业保险等。\n\n### 6. 科技\n - 科研投入:中国政府高度重视科技创新,近年来在航天、通信、人工智能等领域取得显著成就。\n - 重要成果:\n - 发现青蒿素(用于治疗疟疾)\n - 神舟系列飞船和空间站建设\n - 天宫空间实验室\n\n### 7. 军事\n - 国防政策:实行积极防御的国家安全战略,致力于维护国家主权。\n - 军队规模:中国人民解放军是世界最大的现役部队之一。\n\n### 8. 外交与国际关系\n - 外交政策:坚持和平发展道路,“一带一路”倡议推动国际合作与发展。\n - 国际组织参与:中国积极参与联合国、G20等多边机构,近年来在国际事务中发挥越来越重要的作用。\n\n### 9. 旅游资源\n - 著名景点:\n - 故宫(北京)\n - 长城\n - 莫高窟(敦煌)\n - 黄山\n\n### 10. 挑战与展望\n - 人口老龄化:随着生育率下降,老龄化问题日益突出。\n - 环境污染治理:近年来政府加大环保力度,推进可持续发展战略。\n\n这些是关于中国的详细介绍。"},"done_reason":"stop","done":true,"total_duration":27991764611,"load_duration":30464203,"prompt_eval_count":9,"prompt_eval_duration":12302679,"eval_count":696,"eval_duration":27945964103}
If the system prompt word is written, it is very easy to reproduce the situation where only one "think" is included
curl localhost:11434/api/chat -d '{"model":"deepseek-r1:8b-0528-qwen3-q8_0","messages":[{"role":"system","content":"你是个地理专家,了解各个国家"},{"role":"user","content":"介绍下中国"}],"stream":false,"think":false}'
{"model":"deepseek-r1:8b-0528-qwen3-q8_0","created_at":"2025-06-04T07:21:28.219249786Z","message":{"role":"assistant","content":"嗯,用户让我介绍中国。首先需要明确用户的需求是什么。可能是一个学生写作业查资料的,或者是对旅行感兴趣的外国人想了解一下基本国情。\n\n接下来要判断用户的使用场景和身份。如果是学生,他们可能希望得到系统、全面的信息,包括地理位置、历史、经济等方面;如果是一般游客,则更关注旅游景点和文化体验。\n\n考虑到用户没有提供更多背景信息,应该准备一个结构清晰的回答,涵盖地理范围、行政区划、人口语言、历史文化等关键点。同时要确保内容准确且易于理解,避免过于学术化而让用户感到枯燥。\n\n还需要注意可能存在的深层需求。例如,政治敏感话题如中国共产党领导需要谨慎处理,只客观陈述事实而不涉及主观评价。领土完整问题也必须明确提及所有省份,包括台湾、香港等特别行政区,以符合中国的官方立场。\n\n另外,用户可能对经济或科技成就感兴趣,所以准备在介绍中加入这些方面的内容,但要注意平衡,避免过于偏向某一领域而忽略其他重要信息。\n\n最后检查是否有遗漏的重要部分。比如地理环境中的地形地貌差异和生态环境问题也需要提及,展示中国多样的自然景观和面临的挑战。\n\u003c/think\u003e\n好的,我们来谈谈拥有悠久历史、灿烂文化和辽阔疆域的中国!\n\n## 基本情况\n\n* 国家名称: 中华人民共和国 (The People's Republic of China, PRC)。简称“中国”(China)。\n* 首都: 北京市,不仅是政治中心,也是文化、经济和科技中心。\n\n## 地理位置与疆域\n\n1. 大洲: 主要位于亚洲东部,太平洋西岸。\n2. 邻国/地区:\n * 陆上边界: 北邻蒙古、俄罗斯;西北接哈萨克斯坦、吉尔吉斯���坦、塔吉克斯坦等中亚国家;西边与阿富汗、巴基斯坦、印度、缅甸、老挝、越南接壤;南连东南亚其他国家,如泰国、马来西亚,并有南海诸岛;东北部与中国隔海相望的俄罗斯和朝鲜。\n3. 领土范围: 领土跨越约50个纬度(从北纬4°到北纬53°),覆盖热带、亚热带、暖温带、中温带等多个温度带,总面积约为960万平方公里(位居世界第三)。中国拥有漫长的海岸线。\n4. 行政区划: 全国分为23个省、5个自治区、4个直辖市和2个特别行政区。这三大直辖市是北京、天津、上海和重庆;两个特别行政区分别是香港和澳门。\n\n## 地理环境\n\n* 地形地貌:\n * 中国是一个多山国家,地势西高东低,呈三级阶梯状分布。\n * 主要地形包括平原、高原、山地、丘陵和盆地。中国的四大平原是东北平原、华北平原、长江中下游平原和珠江三角洲;主要高原有青藏高原(世界最高)、黄土高原;主要山脉横亘东西,如喜马拉雅山脉、天山山脉等。\n * 喜马拉雅山脉的主峰珠穆朗玛峰位于中国与尼泊尔边境,是世界最高峰。中国的青藏高原平均海拔在4000米以上,被称为“世界屋脊”。\n* 气候:\n * 由于广阔纬度和复杂地形的原因,中国气候类型多样,主要有温带季风气候、亚热带季风气候、热带季风气候、高原山地气候等。这种多样性使得农业能够多样化发展,并带来丰富的旅游资源(如四季景色)。\n* 主要河流:\n * 黄河和长江是中国最重要的两条河流,“母亲河”,孕育了古老的中华文明,也塑造了广袤的平原地区。\n\n## 人口与语言\n\n1. 人口数量: 约为14亿人(2023年数据),是世界上人口最多的国家之一。\n2. 民族构成: 是一个多民族国家,共有56个民族。汉族占绝大多数,约92%,其余55个少数民族包括壮族、回族、满族、维吾尔族等。\n3. 语言: 普通话是法定的全国通用语言,官方语言文字为汉字。\n\n## 文化与历史\n\n1. 历史悠久: 是四大文明古国之一,有五千多年的连续文明史。拥有世界上最古老的的文字系统(甲骨文)和丰富的文化遗产。\n2. 文化多样性: 南方和北方、西部和东部的文化习俗差异显著。例如,京剧是中国的国粹,融合了唱、念、做、打等多种艺术形式。\n\n## 经济与发展\n\n1. 经济总量: 是世界第二大经济体(按名义GDP),第一大外汇储备国家。\n2. 经济发展模式: 过去几十年经历了深刻的改革开放,从计划经济转向市场经济。如今正致力于高质量发展和现代化建设。\n3. 主要产业: 农业、工业和服务业三大产业均衡发展。制造业是其重要优势之一。\n\n## 科技与创新\n\n中国在科技领域取得了巨大进步,在航天探索(如嫦娥探月工程)、高速铁路网络建设、移动通信技术(5G)、人工智能、量子计算等方面都处于世界领先地位。\n\n## 现代面貌\n\n* 全球影响力: 作为联合国安理会常任理事国,是中国参与国际事务的重要平台。\n* 旅游资源丰富: 拥有长城、故宫、兵马俑等著名的世界文化遗产地,以及九寨沟、黄山、桂林山水等地质地貌奇观。\n\n## 面临的挑战\n\n中国也面临着一些发展中的问题和挑战,如人口老龄化、环境污染与生态平衡保护的压力、区域发展不平衡(东部沿海地区经济发达,西部相对落后)、土地资源紧张以及维护国家主权和发展利益等。\n\n总而言之,中国是一个幅员辽阔、地势多样的大国,拥有悠久的历史文化传统,是世界上重要的政治、经济和科技力量。"},"done_reason":"stop","done":true,"total_duration":53513228640,"load_duration":27924219,"prompt_eval_count":17,"prompt_eval_duration":42174912,"eval_count":1304,"eval_duration":53437287425}