[GH-ISSUE #18002] issue: Qwen2.5VL:latest loop response #18461

Closed
opened 2026-04-20 00:41:53 -05:00 by GiteaMirror · 4 comments
Owner

Originally created by @kedar-1 on GitHub (Oct 2, 2025).
Original GitHub issue: https://github.com/open-webui/open-webui/issues/18002

Check Existing Issues

  • I have searched for any existing and/or related issues.
  • I have searched for any existing and/or related discussions.
  • I am using the latest version of Open WebUI.

Installation Method

Docker

Open WebUI Version

v0.6.32 (latest)

Ollama Version (if applicable)

ollama version is 0.12.3

Operating System

Ubuntu 24.02, RTX 4060 TI CUDA stack

Browser (if applicable)

No response

Confirmation

  • I have read and followed all instructions in README.md.
  • I am using the latest version of both Open WebUI and Ollama.
  • I have included the browser console logs.
  • I have included the Docker container logs.
  • I have provided every relevant configuration, setting, and environment variable used in my setup.
  • I have clearly listed every relevant configuration, custom setting, environment variable, and command-line option that influences my setup (such as Docker Compose overrides, .env values, browser settings, authentication configurations, etc).
  • I have documented step-by-step reproduction instructions that are precise, sequential, and leave nothing to interpretation. My steps:
  • Start with the initial platform/version/OS and dependencies used,
  • Specify exact install/launch/configure commands,
  • List URLs visited, user input (incl. example values/emails/passwords if needed),
  • Describe all options and toggles enabled or changed,
  • Include any files or environmental changes,
  • Identify the expected and actual result at each stage,
  • Ensure any reasonably skilled user can follow and hit the same issue.

Expected Behavior

I have uploaded a JPG document wich contains output from the scanner, see the attachment. (its a Czech language document as I'm evaluating VL models to properly work with my language)
Set the temperature to 0,2

Actual Behavior

Extraction starts but after a while I see a loop with the extracted text, only the ways is to stop generating an response, see the Logs section.

Image

Steps to Reproduce

Ollama is running in OS:
ollama pull qwen2.5vl

Run open-webui using docker:

docker pull ghcr.io/open-webui/open-webui:cuda
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda

Configure Ollama to connect to host port.

Upload the document

Use the user prompt: Extract the text from the the file

Logs & Screenshots

_Č. V

Zajišťování správy domu a dalších činností na základě smlouvy

(1) V souladu s usnesením shromáždění vlastníků jednotek o určení osoby, která má zajišťovat některé činnosti správy domu a pozemku (dále také „správce“) může některé činnosti dle Čl. III vykonávat na základě uzavřené smlouvy správce. Správcem může být fyzická nebo právnická osoba.

(2) Smlouva se správcem zpravidla obsahuje:

a) vymezení činností, které bude správce vykonávat;

b) určení způsobu hospodaření s příspěvky na správu domu a pozemku a s finančními prostředky poskytovanými na úhradu služeb včetně jejich evidence;

c) povinnost správce předkládat jím uzavřené smlouvy nebo jejich změny předem ke schválení orgánu správního společenství příslušnému podle těchto stanov, pokud byl správce společenstvím zmocněn k jejich uzavírání;

d) povinnost správce předložit jednou ročně shromáždění účetní závěrku, vypořádání výsledku hospodaření, zprávy o hospodaření společenství vlastníků a o správě domu, zprávu o celkové výši na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyú_

Additional Information

No response

Originally created by @kedar-1 on GitHub (Oct 2, 2025). Original GitHub issue: https://github.com/open-webui/open-webui/issues/18002 ### Check Existing Issues - [x] I have searched for any existing and/or related issues. - [x] I have searched for any existing and/or related discussions. - [x] I am using the latest version of Open WebUI. ### Installation Method Docker ### Open WebUI Version v0.6.32 (latest) ### Ollama Version (if applicable) ollama version is 0.12.3 ### Operating System Ubuntu 24.02, RTX 4060 TI CUDA stack ### Browser (if applicable) _No response_ ### Confirmation - [x] I have read and followed all instructions in `README.md`. - [x] I am using the latest version of **both** Open WebUI and Ollama. - [x] I have included the browser console logs. - [x] I have included the Docker container logs. - [x] I have **provided every relevant configuration, setting, and environment variable used in my setup.** - [x] I have clearly **listed every relevant configuration, custom setting, environment variable, and command-line option that influences my setup** (such as Docker Compose overrides, .env values, browser settings, authentication configurations, etc). - [x] I have documented **step-by-step reproduction instructions that are precise, sequential, and leave nothing to interpretation**. My steps: - Start with the initial platform/version/OS and dependencies used, - Specify exact install/launch/configure commands, - List URLs visited, user input (incl. example values/emails/passwords if needed), - Describe all options and toggles enabled or changed, - Include any files or environmental changes, - Identify the expected and actual result at each stage, - Ensure any reasonably skilled user can follow and hit the same issue. ### Expected Behavior I have uploaded a JPG document wich contains output from the scanner, see the attachment. (its a Czech language document as I'm evaluating VL models to properly work with my language) Set the temperature to 0,2 ### Actual Behavior Extraction starts but after a while I see a loop with the extracted text, only the ways is to stop generating an response, see the Logs section. ![Image](https://github.com/user-attachments/assets/893c216e-e86d-4108-a1f2-ca68e1f5624e) ### Steps to Reproduce Ollama is running in OS: ollama pull qwen2.5vl Run open-webui using docker: ``` docker pull ghcr.io/open-webui/open-webui:cuda docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda ``` Configure Ollama to connect to host port. Upload the document Use the user prompt: **Extract the text from the the file** ### Logs & Screenshots _Č. V Zajišťování správy domu a dalších činností na základě smlouvy (1) V souladu s usnesením shromáždění vlastníků jednotek o určení osoby, která má zajišťovat některé činnosti správy domu a pozemku (dále také „správce“) může některé činnosti dle Čl. III vykonávat na základě uzavřené smlouvy správce. Správcem může být fyzická nebo právnická osoba. (2) Smlouva se správcem zpravidla obsahuje: a) vymezení činností, které bude správce vykonávat; b) určení způsobu hospodaření s příspěvky na správu domu a pozemku a s finančními prostředky poskytovanými na úhradu služeb včetně jejich evidence; c) povinnost správce předkládat jím uzavřené smlouvy nebo jejich změny předem ke schválení orgánu správního společenství příslušnému podle těchto stanov, pokud byl správce společenstvím zmocněn k jejich uzavírání; d) povinnost správce předložit jednou ročně shromáždění účetní závěrku, vypořádání výsledku hospodaření, zprávy o hospodaření společenství vlastníků a o správě domu, zprávu o celkové výši na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyúčtování nebo vypořádání příspěvků na správu domu pro příští období, návrh rozhodnutí o vyú_ ### Additional Information _No response_
GiteaMirror added the bug label 2026-04-20 00:41:53 -05:00
Author
Owner

@Classic298 commented on GitHub (Oct 2, 2025):

Pretty sure this is not an open webui issue.

Use a different LLM, increase your context limit size of the model; this is a model related issue most likely

<!-- gh-comment-id:3360708737 --> @Classic298 commented on GitHub (Oct 2, 2025): Pretty sure this is not an open webui issue. Use a different LLM, increase your context limit size of the model; this is a model related issue most likely
Author
Owner

@kedar-1 commented on GitHub (Oct 2, 2025):

Ok, I will increase context size, thanks for hint.

<!-- gh-comment-id:3360733633 --> @kedar-1 commented on GitHub (Oct 2, 2025): Ok, I will increase context size, thanks for hint.
Author
Owner

@silentoplayz commented on GitHub (Oct 2, 2025):

I'm going to have to go with what @Classic298 has already said here. Increase the context size of the model. Play around with advanced parameters for models in the Chat Controls sidebar, such as frequency_penalty, presence_penalty, repeat_last_n, and repeat_penalty.

<!-- gh-comment-id:3361651864 --> @silentoplayz commented on GitHub (Oct 2, 2025): I'm going to have to go with what @Classic298 has already said here. Increase the context size of the model. Play around with advanced parameters for models in the `Chat Controls` sidebar, such as `frequency_penalty`, `presence_penalty`, `repeat_last_n`, and `repeat_penalty`.
Author
Owner

@kedar-1 commented on GitHub (Oct 2, 2025):

Ok, verified with OlmOCR and Qwen2.5VL running on remote LM studio/Lemonade server the text was extracted from image.
Quality of Czech language extraction is not so good from these models btw :-(

<!-- gh-comment-id:3363128173 --> @kedar-1 commented on GitHub (Oct 2, 2025): Ok, verified with OlmOCR and Qwen2.5VL running on remote LM studio/Lemonade server the text was extracted from image. Quality of Czech language extraction is not so good from these models btw :-(
Sign in to join this conversation.
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: github-starred/open-webui#18461