Agent 在传统企业的尝试与阻碍

因为领导层反复强调和要求推进 AI 相关的工作，近期也试了不少方案。 目前是做了两个实验性的 Agent：

1 、各种技术资料的检索 Agent ，效果一般般，但勉强能用。

2 、对某个特定平台，报错后，对各类历史问题的处理方案自动检索 Agent ，方便用户自行解决。

都是用 Elastic + Dify 简单做的。

目前就是感觉 Agent 的效果还是没达到能大规模实际投入生产的程度。主要几个问题：

1 、数据保密问题，也是最主要的问题，由于厂内对信息保密的要求比较高，不允许使用外部大模型 API 。虽然采购了一些卡部署了 deepseek 开源模型，但速度方面感觉很难满足大规模使用，我算了下只能满足 20 个并发左右。

2 、传统企业数字化程度不足的问题，文档格式非常混乱，虽然数字化已经推进了好几年，但资料还是不太行（还有部门之间的问题，数据上下游配合一直都挺困难的）。

感觉一种现在各种企业都想强推 AI ，但基础又很难执行。

有相关经验的大佬也可以分享下你们的经历。

via V2EX - 技术 (author: magicfield)