test and fix

This commit is contained in:
csunny 2023-04-30 22:07:03 +08:00
parent eef244fe92
commit 7af5433ae3
2 changed files with 4 additions and 4 deletions

View File

@ -86,9 +86,9 @@ def api_generate_stream(request: StreamRequest):
# model_semaphore = asyncio.Semaphore(LIMIT_MODEL_CONCURRENCY)
generator = generate_stream_gate(params)
background_tasks = BackgroundTasks()
background_tasks.add_task(release_model_semaphore)
return StreamingResponse(generator, background=background_tasks)
# background_tasks = BackgroundTasks()
# background_tasks.add_task(release_model_semaphore)
return StreamingResponse(generator)
@app.post("/generate")
def generate(prompt_request: PromptRequest):

View File

@ -254,7 +254,7 @@ def build_single_model_ui():
notice_markdown = """
# DB-GPT
[DB-GPT](https://github.com/csunny/DB-GPT) 是一个实验性的开源应用程序它基于[FastChat](https://github.com/lm-sys/FastChat)并使用vicuna作为基础模型此外此程序结合了langchain和llama-index基于现有知识库进行In-Context Learning来对其进行数据库相关知识的增强, 总的来说它是一个用于数据库的复杂且创新的AI工具如果您对如何在工作中使用或实施DB-GPT有任何具体问题请联系我, 我会尽力提供帮助, 同时也欢迎大家参与到项目建设中, 做一些有趣的事情
[DB-GPT](https://github.com/csunny/DB-GPT) 是一个实验性的开源应用程序它基于[FastChat](https://github.com/lm-sys/FastChat)并使用vicuna-13b作为基础模型此外此程序结合了langchain和llama-index基于现有知识库进行In-Context Learning来对其进行数据库相关知识的增强它可以进行SQL生成SQL诊断数据库知识问答等一系列的工作 总的来说它是一个用于数据库的复杂且创新的AI工具如果您对如何在工作中使用或实施DB-GPT有任何具体问题请联系我, 我会尽力提供帮助, 同时也欢迎大家参与到项目建设中, 做一些有趣的事情
"""
learn_more_markdown = """
### Licence