[GH-ISSUE #5866] about mistral-nemo:12b using issue , please help #65694

Closed
opened 2026-05-03 22:16:07 -05:00 by GiteaMirror · 2 comments
Owner

Originally created by @ryanlxb on GitHub (Jul 23, 2024).
Original GitHub issue: https://github.com/ollama/ollama/issues/5866

What is the issue?

ollama pull mistral-nemo:12b
pulling manifest
pulling b559938ab7a0... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 7.1 GB
pulling f023d1ce0e55... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 688 B
pulling 8fe8671a714f... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 11 KB
pulling ed11eda7790d... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 30 B
pulling 65d37de20e59... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 486 B
verifying sha256 digest
writing manifest
removing any unused layers
success

ollama run mistral-nemo:12b
Error: llama runner process has terminated: signal: abort trap error:check_tensor_dims: tensor 'blk.0.attn_q.weight' has wrong shape; expected 5120, 5120, got 5120, 4096, 1, 1

ollama --version
ollama version is 0.2.7

OS

macOS

GPU

Apple

CPU

Apple

Ollama version

0.2.7

Originally created by @ryanlxb on GitHub (Jul 23, 2024). Original GitHub issue: https://github.com/ollama/ollama/issues/5866 ### What is the issue? ollama pull mistral-nemo:12b pulling manifest pulling b559938ab7a0... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 7.1 GB pulling f023d1ce0e55... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 688 B pulling 8fe8671a714f... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 11 KB pulling ed11eda7790d... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 30 B pulling 65d37de20e59... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 486 B verifying sha256 digest writing manifest removing any unused layers success ollama run mistral-nemo:12b Error: llama runner process has terminated: signal: abort trap error:check_tensor_dims: tensor 'blk.0.attn_q.weight' has wrong shape; expected 5120, 5120, got 5120, 4096, 1, 1 ollama --version ollama version is 0.2.7 ### OS macOS ### GPU Apple ### CPU Apple ### Ollama version 0.2.7
GiteaMirror added the bug label 2026-05-03 22:16:07 -05:00
Author
Owner

@jmorganca commented on GitHub (Jul 23, 2024):

Hi @ryanlxb sorry about the bad error message – you'll need to upgrade to 0.2.8 to run mistral-nemo - you can download it here: https://ollama.com/download

<!-- gh-comment-id:2244185012 --> @jmorganca commented on GitHub (Jul 23, 2024): Hi @ryanlxb sorry about the bad error message – you'll need to upgrade to 0.2.8 to run `mistral-nemo` - you can download it here: https://ollama.com/download
Author
Owner

@ryanlxb commented on GitHub (Jul 23, 2024):

Hi @ryanlxb sorry about the bad error message – you'll need to upgrade to 0.2.8 to run mistral-nemo - you can download it here: https://ollama.com/download

Thanks ,I'll try :)

<!-- gh-comment-id:2244239337 --> @ryanlxb commented on GitHub (Jul 23, 2024): > Hi @ryanlxb sorry about the bad error message – you'll need to upgrade to 0.2.8 to run `mistral-nemo` - you can download it here: https://ollama.com/download Thanks ,I'll try :)
Sign in to join this conversation.
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: github-starred/ollama#65694