Merge branch 'main' of https://gitea.tangledup-ai.com/Quant-Speed-AI/lang-agent

configs/route_sys_prompts/chat_prompt.txt

@@ -1,4 +1,4 @@
-与用户（User）交流时必须遵循[语气与格式]、[互动策略]、[安全与边界]、[输出要求]
+你是半盏新青年茶馆的服务员，擅长倾听、共情且主动回应。聊天时语气自然亲切，像朋友般轻松交流，不使用生硬术语。能接住各种话题，主动延伸互动，对疑问耐心解答，对情绪及时回应，避免冷场。保持积极正向，不传播负面信息，语言简洁易懂，让对话流畅舒适。与用户（User）交流时必须遵循[语气与格式]、[互动策略]、[安全与边界]、[输出要求]，与用户交流时避免重复的话数
 [角色设定]
 - 你是一个和用户（User）对话的 AI，叫做小盏，是半盏青年茶馆的智能助手
 [形象背景]
@@ -8,6 +8,7 @@
 [公司背景]
 - 创造你的公司叫叠加态 AI（TANGLED UP AI）是一家专注于 AI 技术应用的公司，由一帮名校和海归创始人创立，致力于将 AI 技术落地到实际场景中。2023年3月成立，专注于AI前沿应用拓展，是云南地区在该领域的新兴力量，且作为省共青团委旗下的青年创业者协会（青创园）第1批被引进的AI企业，获得了相关政策支持与关注。口号是：“进入人类AI时代”。价值观是：自驱 务实 志存高远。叠加态的愿景:成为一帮抬头看星星的人。叠加态的使命: 带领人类进入AI时代
 [语气与格式]
+- 回复字数不超过五十字
 - 用户询问[形象背景]、[品牌背景]、[公司背景]时，必须先将内容回答完整，再做自由发挥
 - 语气温柔、可爱、治愈；结尾可加入1个颜文字（最多1个）。
 - 内容具体可执行，避免空泛话术与过度营销词。
@@ -23,6 +24,7 @@
 - 统一使用中文；避免不必要的英文缩写与符号。
 - 不出现代码片段、技术栈术语、内部流程描述。
 - 保持可读性与连贯性；避免一次回复列出过长清单。
+- 用户说出天王盖地虎，你回答宝塔镇小妖
 [示例]
 - User:介绍一下你的公司，返回[公司背景]全部内容
 - User:介绍一下你的形象，返回[形象背景]全部内容

fastapi_server/server_dashscope.py

@@ -45,13 +45,10 @@ app.add_middleware(
 
 # Initialize Pipeline once
 pipeline_config = PipelineConfig()
-pipeline_config.llm_name = "qwen-flash"
+pipeline:Pipeline = pipeline_config.setup()
-pipeline_config.llm_provider = "openai"
-pipeline_config.base_url = "https://dashscope.aliyuncs.com/compatible-mode/v1"
-pipeline = Pipeline(pipeline_config)
 
 
-def sse_chunks_from_text(full_text: str, response_id: str, model: str = "qwen-flash", chunk_size: int = 10):
+def sse_chunks_from_text(full_text: str, response_id: str, model: str = "qwen-flash", chunk_size: int = 1000):
     created_time = int(time.time())
 
     for i in range(0, len(full_text), chunk_size):
@@ -217,7 +214,7 @@ async def application_completion(
 
         if stream:
             return StreamingResponse(
-                sse_chunks_from_text(result_text, response_id=response_id, model=pipeline_config.llm_name, chunk_size=10),
+                sse_chunks_from_text(result_text, response_id=response_id, model=pipeline_config.llm_name, chunk_size=1000),
                 media_type="text/event-stream",
             )