Telegram Channel
Laisky's Notes
关于和 Azure 沟通的一些后续,先记下来,日后也许可以写篇博客(根本没时间😭)。 1. cost management 确实不准,在 billing period 结束后的 5 天内都可能大幅调整 2. invoice 页面可以下载详单,里面会记录所有的计费细节 我是不太理解啊,如果 budget 可能比账单晚 5 天,那这个 budget 的意义是什么? 最后是一个我忍不住一定要吐槽的,Azure 理解的 Model Version 跟我的直觉完全不一样。同一个 Model 的不同 Version…
关于 azure openai 费用争议的最终结论:

1. cost management 会滞后 billing period 5 天,budget 同理。所以你没看到花钱,不代表不扣你钱。(和之前的结论一致)

上次我的结论中有一些需要修订的地方:

1. 目前 Azure OpenAI 的服务价格列表参见 https://azure.microsoft.com/en-us/pricing/details/cognitive-services/openai-service/
2. gpt-3.5-turbo 升级最新版本 1106 后,默认 context 就是 16K,而且价格比此前的 gpt-3.5-turbo 和 gpt-3.5-turbo-16k 都更便宜。

经过我“吹毛求疵”的争论后,Azure 反馈承认他们不但搞错了计价,还搞错了 invoice 中的模型名称,所以此前产生了很多误解。

记了一篇博文:https://blog.laisky.com/p/azure-billing/

就目前最常用的 gpt-3.5 和 gpt-4 而言,实际上只需要使用三个模型就足够了:

1. gpt-4-1106-preview: 支持 128K context,而且是最便宜的 gpt-4
2. gpt-4-vison-preview: 价格同 gpt-4-1106-preview
3. gpt-3.5-turbo-1106: 支持 16K context,而且是最便宜的 gpt-3.5

Ps. 我套皮站上也做了更新,openai 目前只支持这三个模型了。我的 oneapi 网关上还另外支持 text-embedding-ada-002、dall-e-3、gemini-pro 和 gemini-pro-vision。顺带一提,如果你使用 gpt-3.5-turbo-16k-0613 或 gpt-3.5-turbo-0301 实际上会被自动转发给 gemini-pro,这是为了可以免费使用如 gptcommit 这种仅支持 gpt 的工具。
 
 
Telegram Channel