[GH-ISSUE #10899] 与自定义业务逻辑交互 #16072

Closed
opened 2026-04-19 22:06:59 -05:00 by GiteaMirror · 1 comment
Owner

Originally created by @Lrcx on GitHub (Feb 27, 2025).
Original GitHub issue: https://github.com/open-webui/open-webui/issues/10899


open-webui内置了Ollama,但国内一般都是通过vllm部署一个大模型服务,然后通过open-webui配一下接口进行访问。

但是假如我们有自己的业务逻辑,不是纯和大模型进行对话。举个简单例子:如果用户聊天中提到了股票名称,那么调用某个接口查询这支股票当前的涨跌幅,否则则认为是闲聊内容,调用大模型的接口进行回复。

如果你想用open-webui干这样一件事,而又不知道该怎么写服务代码,这里你算是来对了,我会通过fastapi起一个服务,实现open-webui上问问题,我们的服务给出响应并展示在open-webui界面上,并录制一段教学视频,当然完整的代码也会给到你,实现一个简单的demo。如果你只是想使用open-webui和大模型进行交互,不需要贴合业务逻辑,那么网上有大把免费的教程供你去配置。

这个教程做了以下几件事情:

  1. 起一个open-webui服务,默认这里你没有障碍,很简单按照github教程即可
  2. 使用fastapi起一个业务逻辑服务,接收open-webui传过来的用户聊天消息,调用股票接口判断文字中是否有股票,如果是调用涨跌幅的接口查询涨跌幅,如果不包含股票,则调用大模型接口(如gpt3.5),这里是整个教程的核心。
  3. open-webui上展示用户问的问题的答案。
  4. 展示整个流程

文章来源: 解锁Open WebUI的潜力:自定义业务逻辑与服务交互全攻略 | 肥肥旭手记

Originally created by @Lrcx on GitHub (Feb 27, 2025). Original GitHub issue: https://github.com/open-webui/open-webui/issues/10899 ​ open-webui内置了Ollama,但国内一般都是通过vllm部署一个大模型服务,然后通过open-webui配一下接口进行访问。 但是假如我们有自己的业务逻辑,不是纯和大模型进行对话。举个简单例子:如果用户聊天中提到了股票名称,那么调用某个接口查询这支股票当前的涨跌幅,否则则认为是闲聊内容,调用大模型的接口进行回复。 如果你想用open-webui干这样一件事,而又不知道该怎么写服务代码,这里你算是来对了,我会通过fastapi起一个服务,实现open-webui上问问题,我们的服务给出响应并展示在open-webui界面上,并录制一段教学视频,当然完整的代码也会给到你,实现一个简单的demo。如果你只是想使用open-webui和大模型进行交互,不需要贴合业务逻辑,那么网上有大把免费的教程供你去配置。 这个教程做了以下几件事情: 1. 起一个open-webui服务,默认这里你没有障碍,很简单按照github教程即可 2. 使用fastapi起一个业务逻辑服务,接收open-webui传过来的用户聊天消息,调用股票接口判断文字中是否有股票,如果是调用涨跌幅的接口查询涨跌幅,如果不包含股票,则调用大模型接口(如gpt3.5),这里是整个教程的核心。 3. open-webui上展示用户问的问题的答案。 4. 展示整个流程 文章来源: [解锁Open WebUI的潜力:自定义业务逻辑与服务交互全攻略 | 肥肥旭手记](https://www.feifeixu.top/article/1a748c4b-6561-80dc-bfae-cd76c9315d21) ​
Author
Owner

@wqshmzh commented on GitHub (Feb 27, 2025):

好的,谢谢分享

<!-- gh-comment-id:2688392947 --> @wqshmzh commented on GitHub (Feb 27, 2025): 好的,谢谢分享
Sign in to join this conversation.
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: github-starred/open-webui#16072