FastGPT使用 #400

New Issue

nimm · 2024-11-26T16:22:50+08:00

nimm commented

2024-11-26 16:22:50 +08:00

如果想做一个企业级对外部用户提供使用的公司客服机器人，前期用fastgpt后期接入本地微调大模型可行嘛，会涉及到什么商务问题以及其他问题嘛

12019701659cs commented

2024-11-27 23:47:33 +08:00

都需要考虑下隐私问题、数据保密问题。

前期（使用 FastGPT 等外部 API）
可能需要考虑如何保障业务连续性，比如说网络延迟及服务稳定性问题。
可能存在数据隐私和安全性问题。
可能需要评估使用外部 API 是否会导致过高的运营成本。
可能需要与API提供商明确合同条款。

后期（切换到本地微调大模型）：
需要对本地硬件资源、计算能力、模型训练以及更新机制进行重新规划。
在切换到本地微调模型时，可能需要考虑到如何平滑过渡，比如用户体验、数据、服务的一致性。

都需要考虑下隐私问题、数据保密问题。前期（使用 FastGPT 等外部 API）可能需要考虑如何保障业务连续性，比如说网络延迟及服务稳定性问题。可能存在数据隐私和安全性问题。可能需要评估使用外部 API 是否会导致过高的运营成本。可能需要与API提供商明确合同条款。后期（切换到本地微调大模型）：需要对本地硬件资源、计算能力、模型训练以及更新机制进行重新规划。在切换到本地微调模型时，可能需要考虑到如何平滑过渡，比如用户体验、数据、服务的一致性。

Sign in to join this conversation.