【WONG公益站】修复thinking引起的500问题～
由于之前加入了thinking相关代码直接导致某些情况下会出现500 CodeWhisperer Error: {“message”:“Improperly formed request.”,“reason”:null}的报错。
因此重写了相关逻辑，经过自测已经不存在相关报错了，不过旧的已经报错的session无法继续聊下去，只能clear或者新开session来避开。
另外最近几天蹬的有点猛，1天将近30亿+的tokens，不过问题不大，继续蹬。
glm模型的有些账号有问题，遇到405 500之类的报错就重试吧，总能找到可用的。
就这么多，收工下班～
对了谁知道new-api怎么打开缓存么，我看配置默认已经开启缓存了，但是好像无法命中。
还是已经命中了，我不知道捏？
26 posts - 26 participants
Read full topic
via LINUX DO - 热门话题 (author: Wong)
由于之前加入了thinking相关代码直接导致某些情况下会出现500 CodeWhisperer Error: {“message”:“Improperly formed request.”,“reason”:null}的报错。
因此重写了相关逻辑，经过自测已经不存在相关报错了，不过旧的已经报错的session无法继续聊下去，只能clear或者新开session来避开。
另外最近几天蹬的有点猛，1天将近30亿+的tokens，不过问题不大，继续蹬。
glm模型的有些账号有问题，遇到405 500之类的报错就重试吧，总能找到可用的。
就这么多，收工下班～
对了谁知道new-api怎么打开缓存么，我看配置默认已经开启缓存了，但是好像无法命中。
还是已经命中了，我不知道捏？
26 posts - 26 participants
Read full topic
via LINUX DO - 热门话题 (author: Wong)
