[GH-ISSUE #17402] issue: Hybrid Search returns empty results causing "not enough values to unpack (expected 3, got 0)" error in v0.6.28 #72876

Closed
opened 2026-05-13 05:04:18 -05:00 by GiteaMirror · 2 comments
Owner

Originally created by @zubberbo on GitHub (Sep 12, 2025).
Original GitHub issue: https://github.com/open-webui/open-webui/issues/17402

Check Existing Issues

  • I have searched for any existing and/or related issues.
  • I have searched for any existing and/or related discussions.
  • I am using the latest version of Open WebUI.

Installation Method

Docker

Open WebUI Version

v0.6.28

Ollama Version (if applicable)

No response

Operating System

Windows 11

Browser (if applicable)

No response

Confirmation

  • I have read and followed all instructions in README.md.
  • I am using the latest version of both Open WebUI and Ollama.
  • I have included the browser console logs.
  • I have included the Docker container logs.
  • I have provided every relevant configuration, setting, and environment variable used in my setup.
  • I have clearly listed every relevant configuration, custom setting, environment variable, and command-line option that influences my setup (such as Docker Compose overrides, .env values, browser settings, authentication configurations, etc).
  • I have documented step-by-step reproduction instructions that are precise, sequential, and leave nothing to interpretation. My steps:
  • Start with the initial platform/version/OS and dependencies used,
  • Specify exact install/launch/configure commands,
  • List URLs visited, user input (incl. example values/emails/passwords if needed),
  • Describe all options and toggles enabled or changed,
  • Include any files or environmental changes,
  • Identify the expected and actual result at each stage,
  • Ensure any reasonably skilled user can follow and hit the same issue.

Expected Behavior

Document content should be retrieved and used by LLM
Actual: Empty retrieval results, LLM hallucinates responses

Actual Behavior

The LLMs answered about a particular case of implementation of an AI strategic adoption inside a undefined Company, with detailed action plans and KPIs. I never talked about that topic nor uploaded any document with such topics.

Gemma-3-4b-it-GGUF Today at 12:50 AM No sources found Ok, perfetto. Iniziamo. Executive Summary Il documento analizza l'attuale stato di avanzamento dell'implementazione dell'Intelligenza Artificiale (AI) all'interno della vostra azienda, evidenziando sia i successi ottenuti che le aree critiche che necessitano di attenzione. L'analisi rivela un'adozione iniziale focalizzata su casi d'uso semplici e a basso rischio, ma con un potenziale significativo inesplorato. Il documento raccomanda un passaggio a una strategia più olistica, centrata sull'integrazione dell'AI in processi critici e sull'investimento in competenze avanzate, per massimizzare il ritorno sull'investimento e garantire un vantaggio competitivo sostenibile. La chiave del successo risiede nella definizione di obiettivi chiari e misurabili, un approccio iterativo e una cultura aziendale aperta all'innovazione. Analisi Dettagliata
Stato Attuale dell'AI: L'implementazione dell’AI è attualmente limitata a progetti pilota in aree quali l'automazione del servizio clienti (chatbot) e l’analisi di base dei dati di vendita.
Successi: I chatbot hanno dimostrato di ridurre i tempi di risposta e di liberare risorse del team di supporto. L'analisi dei dati di vendita ha fornito informazioni utili per ottimizzare le campagne marketing.
Sfide:
Carenza di Competenze: Mancanza di esperti in machine learning, data science e ingegneria AI.
Qualità dei Dati: I dati utilizzati per l'addestramento dei modelli sono spesso incompleti, disorganizzati o di scarsa qualità.
Resistenza al Cambiamento: Alcuni reparti sono riluttanti ad adottare nuove tecnologie e processi.
Integrazione con i Sistemi Esistenti: Difficoltà nell'integrazione delle soluzioni AI con i sistemi legacy.
Mancanza di una Visione Strategica: L'utilizzo dell'AI è frammentato, senza una roadmap chiara per il futuro. Raccomandazioni Strategiche
Definire una Visione AI a Lungo Termine: Stabilire obiettivi strategici chiari e allineati con la mission aziendale, identificando aree di applicazione prioritarie.
Investire in Competenze: Implementare programmi di formazione e sviluppo per i dipendenti, o acquisire talenti esterni.
Migliorare la Qualità dei Dati: Implementare processi di data governance e data quality per garantire l'accuratezza e l'affidabilità dei dati.
Adottare un Approccio Agile: Utilizzare metodologie agili per lo sviluppo e l'implementazione di soluzioni AI, consentendo un feedback continuo e iterativo.
Creare un Centro di Eccellenza AI: Un team dedicato per guidare l'innovazione, sviluppare nuove soluzioni e promuovere l'adozione dell'AI in tutta l'azienda. Next Steps
Per approfondire la comprensione delle sfide specifiche che state affrontando con la gestione dei dati, quali sono i principali problemi di qualità dei dati che state riscontrando?
Considerando la carenza di competenze, qual è la vostra priorità: formazione interna o acquisizione di talenti esterni?
Per definire una roadmap strategica, quali sono i 3 settori aziendali che ritenete più adatti per l'implementazione iniziale di soluzioni AI, giustificando la vostra scelta?
Qwen3-30B-A3B-Instruct-2507-GGUF Today at 12:33 AM No sources found Executive Summary Il documento analizza l’adozione strategica dell’intelligenza artificiale nelle organizzazioni, evidenziando il potenziale di trasformazione dei processi operativi, della customer experience e della decisione aziendale. L’AI non è più un’opzione tecnologica, ma un fattore critico di competitività. Il focus è sull’implementazione di modelli AI orientati al business, con particolare attenzione a governance, etica, sicurezza e integrazione con i sistemi esistenti. Analisi dettagliata
Opportunità: Automazione di task ripetitivi, analisi predittiva, personalizzazione in tempo reale, ottimizzazione delle supply chain.
Sfide principali: Mancanza di dati strutturati, carenza di competenze interne, rischi etici e di bias nei modelli, difficoltà di scalabilità.
Best practice: Approccio incrementale (piloti mirati), coinvolgimento del business fin dalla fase di progettazione, creazione di un centro di eccellenza AI.
Trend emergenti: L’uso di LLM per automazione documentale, integrazione con piattaforme cloud (AWS, Azure, GCP), focus su AI responsabile e trasparenza. Raccomandazioni strategiche
Avviare un pilot di AI su un processo critico (es. servizio clienti o logistica) entro 6 mesi.
Investire in formazione interna e reclutare risorse con competenze ibride (data + business).
Definire un quadro di governance AI con policy di audit, tracciabilità e compliance. Next Steps
Quali sono i principali processi aziendali che potrebbero beneficiare di un intervento AI in primo piano?
Qual è il livello di maturità digitale e dei dati attuali nell’organizzazione?
Chi dovrebbe far parte del comitato di governance AI? Propongo di approfondire il piano pilota su uno dei processi identificati – quale vorresti valutare per primo?

Steps to Reproduce

  1. Enable hybrid search with any reranking model
  2. Upload PDF document to knowledge base
  3. Query about document content

Image

Observe empty results and generic LLM responses

Logs & Screenshots

ValueError: not enough values to unpack (expected 3, got 0)
File "...query_doc_with_hybrid_search...", line 182
distances, documents, metadatas = map(list, zip(*sorted_items))

Additional Information

No response

Originally created by @zubberbo on GitHub (Sep 12, 2025). Original GitHub issue: https://github.com/open-webui/open-webui/issues/17402 ### Check Existing Issues - [x] I have searched for any existing and/or related issues. - [x] I have searched for any existing and/or related discussions. - [x] I am using the latest version of Open WebUI. ### Installation Method Docker ### Open WebUI Version v0.6.28 ### Ollama Version (if applicable) _No response_ ### Operating System Windows 11 ### Browser (if applicable) _No response_ ### Confirmation - [x] I have read and followed all instructions in `README.md`. - [x] I am using the latest version of **both** Open WebUI and Ollama. - [x] I have included the browser console logs. - [x] I have included the Docker container logs. - [x] I have **provided every relevant configuration, setting, and environment variable used in my setup.** - [x] I have clearly **listed every relevant configuration, custom setting, environment variable, and command-line option that influences my setup** (such as Docker Compose overrides, .env values, browser settings, authentication configurations, etc). - [x] I have documented **step-by-step reproduction instructions that are precise, sequential, and leave nothing to interpretation**. My steps: - Start with the initial platform/version/OS and dependencies used, - Specify exact install/launch/configure commands, - List URLs visited, user input (incl. example values/emails/passwords if needed), - Describe all options and toggles enabled or changed, - Include any files or environmental changes, - Identify the expected and actual result at each stage, - Ensure any reasonably skilled user can follow and hit the same issue. ### Expected Behavior Document content should be retrieved and used by LLM Actual: Empty retrieval results, LLM hallucinates responses ### Actual Behavior The LLMs answered about a particular case of implementation of an AI strategic adoption inside a undefined Company, with detailed action plans and KPIs. I never talked about that topic nor uploaded any document with such topics. Gemma-3-4b-it-GGUF Today at 12:50 AM No sources found Ok, perfetto. Iniziamo. Executive Summary Il documento analizza l'attuale stato di avanzamento dell'implementazione dell'Intelligenza Artificiale (AI) all'interno della vostra azienda, evidenziando sia i successi ottenuti che le aree critiche che necessitano di attenzione. L'analisi rivela un'adozione iniziale focalizzata su casi d'uso semplici e a basso rischio, ma con un potenziale significativo inesplorato. Il documento raccomanda un passaggio a una strategia più olistica, centrata sull'integrazione dell'AI in processi critici e sull'investimento in competenze avanzate, per massimizzare il ritorno sull'investimento e garantire un vantaggio competitivo sostenibile. La chiave del successo risiede nella definizione di obiettivi chiari e misurabili, un approccio iterativo e una cultura aziendale aperta all'innovazione. Analisi Dettagliata Stato Attuale dell'AI: L'implementazione dell’AI è attualmente limitata a progetti pilota in aree quali l'automazione del servizio clienti (chatbot) e l’analisi di base dei dati di vendita. Successi: I chatbot hanno dimostrato di ridurre i tempi di risposta e di liberare risorse del team di supporto. L'analisi dei dati di vendita ha fornito informazioni utili per ottimizzare le campagne marketing. Sfide: Carenza di Competenze: Mancanza di esperti in machine learning, data science e ingegneria AI. Qualità dei Dati: I dati utilizzati per l'addestramento dei modelli sono spesso incompleti, disorganizzati o di scarsa qualità. Resistenza al Cambiamento: Alcuni reparti sono riluttanti ad adottare nuove tecnologie e processi. Integrazione con i Sistemi Esistenti: Difficoltà nell'integrazione delle soluzioni AI con i sistemi legacy. Mancanza di una Visione Strategica: L'utilizzo dell'AI è frammentato, senza una roadmap chiara per il futuro. Raccomandazioni Strategiche Definire una Visione AI a Lungo Termine: Stabilire obiettivi strategici chiari e allineati con la mission aziendale, identificando aree di applicazione prioritarie. Investire in Competenze: Implementare programmi di formazione e sviluppo per i dipendenti, o acquisire talenti esterni. Migliorare la Qualità dei Dati: Implementare processi di data governance e data quality per garantire l'accuratezza e l'affidabilità dei dati. Adottare un Approccio Agile: Utilizzare metodologie agili per lo sviluppo e l'implementazione di soluzioni AI, consentendo un feedback continuo e iterativo. Creare un Centro di Eccellenza AI: Un team dedicato per guidare l'innovazione, sviluppare nuove soluzioni e promuovere l'adozione dell'AI in tutta l'azienda. Next Steps Per approfondire la comprensione delle sfide specifiche che state affrontando con la gestione dei dati, quali sono i principali problemi di qualità dei dati che state riscontrando? Considerando la carenza di competenze, qual è la vostra priorità: formazione interna o acquisizione di talenti esterni? Per definire una roadmap strategica, quali sono i 3 settori aziendali che ritenete più adatti per l'implementazione iniziale di soluzioni AI, giustificando la vostra scelta? Qwen3-30B-A3B-Instruct-2507-GGUF Today at 12:33 AM No sources found Executive Summary Il documento analizza l’adozione strategica dell’intelligenza artificiale nelle organizzazioni, evidenziando il potenziale di trasformazione dei processi operativi, della customer experience e della decisione aziendale. L’AI non è più un’opzione tecnologica, ma un fattore critico di competitività. Il focus è sull’implementazione di modelli AI orientati al business, con particolare attenzione a governance, etica, sicurezza e integrazione con i sistemi esistenti. Analisi dettagliata Opportunità: Automazione di task ripetitivi, analisi predittiva, personalizzazione in tempo reale, ottimizzazione delle supply chain. Sfide principali: Mancanza di dati strutturati, carenza di competenze interne, rischi etici e di bias nei modelli, difficoltà di scalabilità. Best practice: Approccio incrementale (piloti mirati), coinvolgimento del business fin dalla fase di progettazione, creazione di un centro di eccellenza AI. Trend emergenti: L’uso di LLM per automazione documentale, integrazione con piattaforme cloud (AWS, Azure, GCP), focus su AI responsabile e trasparenza. Raccomandazioni strategiche Avviare un pilot di AI su un processo critico (es. servizio clienti o logistica) entro 6 mesi. Investire in formazione interna e reclutare risorse con competenze ibride (data + business). Definire un quadro di governance AI con policy di audit, tracciabilità e compliance. Next Steps Quali sono i principali processi aziendali che potrebbero beneficiare di un intervento AI in primo piano? Qual è il livello di maturità digitale e dei dati attuali nell’organizzazione? Chi dovrebbe far parte del comitato di governance AI? Propongo di approfondire il piano pilota su uno dei processi identificati – quale vorresti valutare per primo? ### Steps to Reproduce 1. Enable hybrid search with any reranking model 2. Upload PDF document to knowledge base 3. Query about document content 4. ![Image](https://github.com/user-attachments/assets/2399a1ba-e2c0-49d0-aeb5-eeccc79065a2) Observe empty results and generic LLM responses ### Logs & Screenshots ValueError: not enough values to unpack (expected 3, got 0) File "...query_doc_with_hybrid_search...", line 182 distances, documents, metadatas = map(list, zip(*sorted_items)) ### Additional Information _No response_
GiteaMirror added the bug label 2026-05-13 05:04:18 -05:00
Author
Owner

@tjbck commented on GitHub (Sep 15, 2025):

@rgaricano perhaps it's related to the refac PR?

<!-- gh-comment-id:3293095072 --> @tjbck commented on GitHub (Sep 15, 2025): @rgaricano perhaps it's related to the refac PR?
Author
Owner

@rgaricano commented on GitHub (Sep 15, 2025):

I don't think so, most related with the threshold used.

<!-- gh-comment-id:3293214770 --> @rgaricano commented on GitHub (Sep 15, 2025): I don't think so, most related with the threshold used.
Sign in to join this conversation.
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: github-starred/open-webui#72876