Decagon如何用开源模型驱动90%的AI代理

中文导读

Decagon是一家专注客户支持自动化的AI公司，其90%的AI代理运行在开源模型之上。本期访谈中，团队分享了为何选择开源路线、如何通过模型路由与微调系统达到高可靠性，以及开源模型在成本、数据隐私和迭代速度上带来的实际收益，为AI应用落地提供了宝贵参考。

关键观点

• 开源模型在大规模部署中具备显著的成本与控制力优势，适合高并发场景。
• 采用动态模型路由，按任务复杂度在开源与专有模型间灵活切换。
• 通过微调和RAG增强，开源模型可逼近专有模型的性能水平。
• 开源生态的快速迭代降低了对单一API供应商的依赖，提升了系统韧性。