模型概述
GPT-3.5 Turbo 是一个用于更经济的聊天和非聊天任务的传统GPT模型。
主要特点
- 智能水平低(1/4点评级)
- 速度慢(2/5闪电评级)
- 16,385上下文窗口
- 4,096最大输出标记
- 2021年9月1日知识截止
- 支持文本输入
- 支持文本输出
技术规格
- 定价: $0.50/百万标记(输入),$1.50/百万标记(输出)
- 支持: 输入:文本;输出:仅文本
- 功能: 微调
快照版本
- gpt-3.5-turbo(gpt-3.5-turbo-0125的别名)
- gpt-3.5-turbo-0125
- gpt-3.5-turbo-1106
- gpt-3.5-turbo-instruct
定位与使用场景
GPT-3.5 Turbo模型能够理解和生成自然语言或代码,并已针对使用聊天完成API的聊天进行了优化,但对非聊天任务也表现良好。截至2024年7月,建议使用gpt-4o-mini代替GPT-3.5 Turbo,因为它更便宜、功能更强大、支持多模态,且速度相同。GPT-3.5 Turbo仍可在API中使用。
速率限制
- 免费层级:不支持
- 第1层:3,500 RPM,10,000 RPD,200,000 TPM,2,000,000批处理队列限制
- 第2层:3,500 RPM,2,000,000 TPM,5,000,000批处理队列限制
- 第3层:3,500 RPM,800,000 TPM,50,000,000批处理队列限制
- 第4层:10,000 RPM,10,000,000 TPM,1,000,000,000批处理队列限制
- 第5层:10,000 RPM,50,000,000 TPM,10,000,000,000批处理队列限制
文档
官方文档