如何大幅突破OpenAI的TPM限制
用GPT处理过数据的朋友们应该知道，OpenAI一直对TPM限制的很死，有时候给你一个非常大的RPM，但是TPM给的少，你调用次数再多也没有用。这就导致我们处理起数据来，非常的慢，有时候批量处理数据，需要等上一整天。那么有没有办法可以突破这个TPM限制呢？当然是有的，笔者的团队在这里领域实践了很久，总结了很多技巧。
-
提升OpenAI账号等级 OpenAI目前对账号进行了等级划分，高等级账号的TPM要远大于低等级账号，目前分为5个等级，大部分用户也就是2-3级。但是这个方法有很多缺陷，比如为了达到4-5级，你需要每月消费上千刀，并且要持续至少花1个月时间。好不容易养了这么一个号，可能又过段时间被OpenAI封号了。好不容易躲过了封号，又发现每月限额就1000刀，用完就没法用了。
-
多模型轮训 OpenAI每个版本的模型是独立计算TPM的，这就意味着我们可以多个类似的模型轮训调用，比如你需要用GPT4处理数据，那么完全可以gpt4,gpt4-0314-gpt4-0613,gpt4-1106几个模型轮训调用，这样就能将TPM提升好几倍。不过缺点是不同版本的模型返回会有差异，可能导致处理出来的数据不一致，这点要注意。
-
多账号轮训 为了解决单个账号上限的问题，一般我们会自己维护一个号池，比如一次搞10个号，每个号养到1000刀或5000刀的额度，再并发调用。这个虽然能短时间内大幅突破TPM上限，但是时间成本和金钱成本太高了，加上OpenAI经常封号，这个方案成本一般难以接受。
我们团队方案二实践过一段时间，但是有很多问题，比如我们不是每天都有数据要处理，一般都是短时间内的高并发需求，养号周期太长，成本又高，养完了不用浪费，甚至还没来得及用就被封号了。而我们每个月可能也就又那么几天要跑数据，划不来。再一个就是金钱上，我们也不是每次都需要跑很多钱，有时候就是要临时跑100刀左右的成本的数据，不可能为了这个需求去养号。所以后来我们还是改为了使用专门的中转平台
- 专业的中转平台 这类平台和我们方案二做的事情差不多，基本就是自己养一堆号，维护一个号池。只不过中转平台是专门做这个的，成本分摊到所有用户身上，养号成本就低了很多。中转平台这个领域良莠不齐，甚至有很多搞一票就跑路的小作坊，随便买几个账号，然后网上找个开源代码1天的功夫就能搞一个平台，OpenAI一封号他们就跑路了。我们每月要处理大量的数据，花费在十几万，不可能把钱放在这种小平台上。我们在这个领域踩过很多坑，和大家介绍一下怎么避免，也免得大家踩坑：
第一个是有些会拿3.5充数gpt4，这种一般套路比较低级，测试的时候问一个鲁迅为什么不参加周树人的葬礼就能区分。
第二个是有些会拿一些网页版的破解的gpt4充数API版的gpt4，这种一般无法正确执行函数等功能，不是所有的参数都支持。这种商家一般卖的都很便宜，比如说什么OpenAI原价的3-5折什么的，或者一人民币=几刀，大部分都是这种，我们团队早期就上过一次当，买了以后测试的时候发现并发一高就开始报一些莫名其妙的网关错误，最后发现他们底层用的是poe的网页破解接口，不是真正的API。
第三就是有些小平台，本身没几个账号，或者账号等级都不高。虽然确实是gpt4 api版本，但是你用着用着就开始各种报限流错误，一般是他们平台账号池里的号等级太低导致的，这种一般也就是个人客户能用，向我们这种大规模使用的，基本用不了。
第四就是不是所有的平台都能提供正规票据，大部分都是个人小作坊，这种如果你是公司使用的话，是无法财务入账给你报销的。
我们在这个这个圈子尝试过很多家中转平台，最后发现还是CloseAI（https://www.closeai-asia.com）这家最靠谱，大部分核心功能都是团队自研的，而且是行业内最早做中转的，有长时间的维护经验和客户积累，稳定性都经过半年以上的考验，基本没出过大问题。
刚出来的时候GPT4比较稀缺，他们家价格比较贵，所以我们一开始用的不多，后来GPT4没那么稀缺后，他们价格降到和OpenAI差不多一样了，这对我们就很有吸引力了，兜兜转转一圈踩无数坑以后，发现只有他们这里能做到又便宜又稳定又能满足高TPM需求，而且还可以提供正规Invoice供财务入账，这点很多小平台比不了。
如果你们团队也有类似的需求，而且不打算自己养号做号池，可以尝试下，毕竟专业的事交给专业的人做是最合适的。