邮箱:4867443@qq.com
手机:18085674061
电话:0856-5202348
地址:铜仁市大数据产业园13楼
发布时间:2024-09-08
OpenAI最新模型——GPT-4o mini,已在微软Azure OpenAI同步上新!更快更便宜! OpenAI推出的GPT-4o mini,以其高效成本和快速交付能力,助力用户打造卓越的应用程序。该产品在"大规模多任务语言理解"(MMLU)测试中,以82%的得分率显著超越了GPT-3.5 Turbo的70%,同时在成本上实现了超过60%的降低。GPT-4o mini不仅扩展了128K的上下文窗口,还融入了GPT-4o的多语言优势,为全球用户提供了更高质量的语言支持。 微软在Azure AI(国际版)上同步发布了GPT-4o mini,以卓越的速度支持文本处理功能,图像、音频和视频处理功能也将在近期推出。用户可以在Azure OpenAI Studio(国际版)Playground中免费体验这一服务。 ------------------------------------------------------------------------------------------------ 很多会员反馈想搭建自己的中转平台,如果你用户多可以考虑,如果大部分就自己在玩还是不建议折腾!原因一申请N次都不一定通过(折腾了几个月放弃时才通过),要使用还是得在官方申请靠谱,原因二微软件针对区域国家进行了配额限制,得选择美国、瑞典等区域建立多个渠道分发,总体来说还是折腾麻烦,当然自己也可一试验证该说法。看了下微软官方的文档实际上目前GPT-4o mini API还未开放,查看了所有区域也未发现该模型。 当然我们的全模型平台对接官方的gpt-4o-mini 模型已正常上线使用 https://api.cxhao.com 企业在国内如何合规、稳定使用ChatGPT? 出于合规角度,建议国内企业可以选择微软的Azure OpenAI服务来使用接口。 针对申请通过的企业用户出一篇部署教程,教程适用于部署所有模型供参考 ---------------------------------------------------------------------------------------------- 微软Azure版OpenAI GPT-4o部署指南 第一步:点击创建资源,如本站mj.cxhao.com采用3个API资源分发,分别选择美国东部、美国东部2、瑞典西部 第二步:如果上述图标没有可输入:OpenAI进行搜索 第三步:点击创建:Azure OpenAI 第四步:创建Open AI填入必要的信息:如区域为美国东部 下一步 下一步,可为空 到最后一步自动审阅通过点击创建 第五步:订阅 资源组(可以点击下面的按钮新建一个资源组,类似标记的tag) 区域:这个选择比较重要‼️,不同的区域有不同的模型。 比如: Australia East 有GPT-4、GPT-3.5-Turbo模型,但是没有GPT-4o。East US 有GPT-4o、GPT-3.5-Turbo模型,但是没有GPT-4模型 第六步:完成资源组创建之后,进行模型部署创建。 在一个资源里面可以创建多个模型部署,每一个模型部署可以设置最大的并发请求数目。(这样就不用担心API访问频次受限啦,用多少可以进行配置) 进入后模型部署或者右下方选择进入都可以 第七步:选择部署模型的配置信息: 进入后点击增加部署基本模型 选择模型,界面是7月底刚升级过,如果是老界面稍有不同 出现对话模型后可选择模型版本或者默认即可,确定部署 显示GPT-4o具体部署的情况 再返回部署列表表示部署成功! 下面要怎么查看API接口呢? 微软提供API网址和密钥,只需要加在各gpt后台即可,返回组即可出现管理密钥选项 打开后查看调用的API网址及密钥 API接口具体使用方法 AI名称可在后台对应修改为GPT-4o,输出效果感觉比以前使用openAI还快 后台模型设置里新增,填入代理网址及密钥即可 ChatGPT镜像版使用方法同上,其他系统或者二开自行补脑处理 以下部分提供适用于 Azure OpenAI 默认配额和限制的快速指南: 模型的默认配额因模型和区域而异。 默认配额限制可能会更改。 若要最大程度地减少与速率上限相关的问题,可以遵循以下方法: 可以通过 Azure AI Studio 的“配额”页面提交配额增加请求。 请注意,由于需求量巨大,配额提高请求正在接受中,将按接收顺序处理。 将优先考虑产生会消耗现有配额分配的流量的客户。如果不满足此条件,你的请求可能会被拒绝。1、ChatGPT付费创作系统 https://www.ttbobo.com/6703.html 站点后台AI通道打开,增加KEY时输入网址和上面取到的密钥
TBWEB使用方法 https://www.ttbobo.com/6928.html,后台全局模型调用
CWMP团队版使用方法 体验网址 https://cwmp.cxhao.com/ 下载网址https://www.ttbobo.com/6749.html
配额和限制参考
限制名称
限制值
每个 Azure 订阅中每个区域的 OpenAI 资源
30
默认 DALL-E 2 配额限制
2 个并发请求
默认 DALL-E 3 配额限制
2 个容量单位(每分钟 6 个请求)
每个请求的最大提示令牌数
每个模型不同。 有关更多信息,请参阅 Azure OpenAI 服务模型
最大微调模型部署
5
每个资源的训练作业总数
100
每个资源同时运行的最大训练作业数
1
排队的最大训练作业数
20
每个资源的最大文件数
30
每个资源的所有文件的总大小
1 GB
最大训练作业时间(如果超过,作业将失败)
720 小时
最大训练作业大小(训练文件中的标记数)×(时期数)
20 亿
每次上传的所有文件的最大大小(数据上的 Azure OpenAI)
16 MB
区域配额限值
型号
区域
每分钟令牌数
gpt-35-turbo
美国东部、美国中南部、欧洲西部、法国中部、英国南部
240 K
gpt-35-turbo
美国中北部、澳大利亚东部、美国东部 2、加拿大东部、日本东部、瑞典中部、瑞士北部
300 K
gpt-35-turbo-16k
美国东部、美国中南部、欧洲西部、法国中部、英国南部
240 K
gpt-35-turbo-16k
美国中北部、澳大利亚东部、美国东部 2、加拿大东部、日本东部、瑞典中部、瑞士北部
300 K
gpt-35-turbo-instruct
美国东部、瑞典中部
240 K
gpt-35-turbo (1106)
澳大利亚东部、加拿大东部、法国中部、印度南部、瑞典中部、英国南部、美国西部
120 K
gpt-4
美国东部、美国中南部、法国中部
20 K
gpt-4
美国中北部、澳大利亚东部、美国东部 2、加拿大东部、日本东部、英国南部、瑞典中部、瑞士北部
40 K
gpt-4-32k
美国东部、美国中南部、法国中部
60 K
gpt-4-32k
美国中北部、澳大利亚东部、美国东部 2、加拿大东部、日本东部、英国南部、瑞典中部、瑞士北部
80 K
gpt-4 (1106-preview)
GPT-4 Turbo澳大利亚东部、加拿大东部、美国东部 2、法国中部、英国南部、美国西部
80 K
gpt-4 (1106-preview)
GPT-4 Turbo印度南部、挪威东部、瑞典中部
150 K
gpt-4 (vision-preview)
GPT-4 Turbo with Vision瑞典中部、瑞士北部、澳大利亚东部、美国西部
10 K
text-embedding-ada-002
美国东部、美国中南部、欧洲西部、法国中部
240 K
text-embedding-ada-002
美国中北部、澳大利亚东部、美国东部 2、加拿大东部、日本东部、英国南部、瑞士北部
350 K
优化模型(babbage-002、davinci-002、gpt-35-turbo-0613)
美国中北部、瑞典中部
50 K
所有其他模型
美国东部、美国中南部、欧洲西部、法国中部
120 K
保持在速率限制范围内的一般最佳做法
如何请求增加默认配额和限制
免费注册:https://www.50yun.net/col-reg/
相关推荐
截屏,微信识别二维码
微信号:trxianglei
(点击微信号复制,添加好友)