通义千问API接入：从零搭建智能客服
通义千问是阿里云的大语言模型，通过API可以快速搭建智能客服系统。本文完整介绍从申请API Key到搭建一个具备多轮对话、知识库问答、意图识别能力的智能客服系统。
大模型应用走到今天，「能不能跑通」早已不是问题，「能不能稳定地产生业务价值」才是。「通义千问API接入实战：从零搭建智能客服系统」讨论的通义千问与多模型选型，正处在这个从演示走向生产的关键阶段，工程化能力比模型参数更决定最终效果。
一、申请API Key
登录阿里云百炼平台（bailian.console.aliyun.com），开通模型服务。在API Key管理中创建密钥。通义千问提供多种模型：qwen-max（最强，适合复杂任务）、qwen-plus（均衡，推荐日常使用）、qwen-turbo（最快最便宜，适合简单场景）。新用户有免费额度，可以先用qwen-plus测试。
二、基础接入
使用DashScope SDK接入（Python示例）：from dashscope import Generation; response = Generation.call(model='qwen-plus', messages=[{'role':'user','content':'你好'}])。返回结果包含生成的文本和token使用量。
HTTP API方式：POST请求到 https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation，Header中带上 Authorization: Bearer YOUR_API_KEY。支持流式输出（SSE），适合实时对话场景。
三、多轮对话
智能客服需要支持上下文记忆。通义千问的messages参数支持传入历史对话：messages=[{role:'system',content:'你是XX公司的客服...'},{role:'user',content:'...'},{role:'assistant',content:'...'},{role:'user',content:'...'}]。建议保留最近10轮对话，超过的截断。
四、System Prompt设计
System Prompt决定了AI的角色和行为。好的System Prompt应该包含：角色定义（你是XX公司的客服）、能力边界（你只能回答和产品相关的问题）、回答风格（友好、简洁、专业）、限制条件（不讨论政治、不提供医疗建议）。
五、结合知识库
单纯的LLM无法回答企业内部知识。结合RAG（检索增强生成）：将企业文档向量化存入向量数据库，用户提问时先检索相关文档片段，将检索结果作为上下文传入LLM。百炼平台提供了知识库功能，上传文档后自动构建RAG系统。
六、上线注意事项
设置内容审核（通义千问内置了安全审核）。配置fallback策略——AI无法回答时转人工。记录所有对话日志用于后续优化。设置token用量监控，防止异常调用导致费用暴增。
一条稳妥的推进路径
- 小场景切入：选择容错度高、价值清晰的场景先跑通闭环。
- 建立评估集：用真实业务样本构造评测集，让每次改动可对比。
- 控制上下文成本：按需裁剪上下文、缓存重复请求，兼顾效果与开销。
- 人机协同兜底：关键输出保留人工复核通道，逐步放大自动化比例。
这条路径不追求一步到位，但能显著降低通义千问与多模型选型的落地风险。
通义千问与多模型选型落地的常见断层
演示环境里效果惊艳、上线之后表现平平，是通义千问与多模型选型最常见的落差。原因通常不在模型本身，而在于上下文质量、检索召回、提示词稳定性与评估体系的缺失。把这些工程环节补齐，效果往往比更换模型更明显。
因此建议把评估前置：先定义什么叫「好」，再谈优化手段，避免在缺乏度量的情况下反复试错。