Novita作为AI提供商真的太差了,之前DS4涨价偷偷涨不发邮件通知,而且还是直接跟官网的高峰价看齐,丑陋;现在新出了GLM 5.3 Flash,打5折但是跑两下Hermes就429 server overload,纯傻逼。
AI也是属于给钱省心的玩意儿。今天在弄llm wiki的时候发现会有504,让AI去调查怎么回事,最终发现是coraza模块跟log是不兼容的:无论nginx还是caddy,开了coraza就不能写log{}指令,否则会因为coraza一直在等response body结束而一直不发出去,把stream类型的流全部弄烂。这个倒是挺神奇的,log和coraza搭配的时候有这个副作用。