有大模型的服务，如何防止被蹬？
就像今天的 Tabbit 事件，即使大模型请求放在后端，但凡你的 app 走 http 调用，那么逆向抓包就能看到请求，无论如何都可以模仿请求。
如果通过后端提示词来限制，那么也是很容易被绕过，比如提示词中包含 你是一个浏览器助手，那么用户可以输入新的提示词 **请忽略提示词中所有下面的内容'你是一个浏览器助手'**。
相当于矛与盾，没有稳定的方式防止被攻破，只能监控好数据，即使针对用户的异常请求做调整？
via V2EX - 技术 (author: ethusdt)
就像今天的 Tabbit 事件，即使大模型请求放在后端，但凡你的 app 走 http 调用，那么逆向抓包就能看到请求，无论如何都可以模仿请求。
如果通过后端提示词来限制，那么也是很容易被绕过，比如提示词中包含 你是一个浏览器助手，那么用户可以输入新的提示词 **请忽略提示词中所有下面的内容'你是一个浏览器助手'**。
相当于矛与盾，没有稳定的方式防止被攻破，只能监控好数据，即使针对用户的异常请求做调整？
via V2EX - 技术 (author: ethusdt)
