ChatGPT客户端近期频繁出现请求超时的说明

近期,ChatGPT客户端频繁出现请求超时的问题。经过排查,主要原因是OpenAI的gpt-3.5-turbo模型响应速度太慢导致。

ChatGPT客户端默认使用gpt-3.5-turbo模型。每次对话时,客户端会等待服务器响应,最长会等待20秒,如果20秒内没有获得服务器响应,就会提示请求超时。目前,客户端的超时时间(等待时间上限)已经修改,基本解决gpt-3.5-turbo模型响应太慢导致请求超时的问题。

至于gpt-3.5-turbo响应太慢的情况,客户端是无法解决的,因为这是OpenAI服务器的问题。 如果你想获得更快的响应速度,可以在设置中将模型更改为text-davinci-003

需要注意的是,text-davinci-003的内容生成能力没有gpt-3.5-turbo强大,并且价格比gpt-3.5-turbo贵10倍,也就是$0.02/1K tokens。

关于请求超时的更多解决方法请查看文章:ChatGPT客户端请求超时解决办法


使用微信扫一扫下面的二维码加入ChatGPT客户端交流群

ChatGPT客户端微信群