Azure OpenAI
配置 MyDeskBot 使用 Azure OpenAI 服务。
概述
Azure OpenAI 服务提供对强大 OpenAI 模型的访问,具有企业级的安全性和合规性。
支持的模型
Azure OpenAI 支持与 OpenAI 相同的模型,托管在 Azure 基础设施上:
- GPT-4o - 最强大的模型,多模态
- GPT-4 Turbo - 高性能,性价比高
- GPT-4 - 高级推理
- GPT-3.5 Turbo - 快速,性价比高
快速开始
1. 创建 Azure OpenAI 资源
- 登录 Azure 门户
- 搜索"Azure OpenAI"
- 点击"创建"
- 填写必填字段:
- 资源组
- 区域(选择有可用容量的区域)
- 名称
- 定价层
- 点击"创建"并等待部署完成
2. 获取 API 密钥和端点
- 导航到您的 Azure OpenAI 资源
- 进入"密钥和端点"
- 复制 API 密钥(有两个,任一个都可以)
- 复制端点 URL
3. 部署模型
- 在资源中进入"部署"
- 点击"创建部署"
- 选择模型(例如 gpt-4o)
- 选择部署名称
- 点击"创建"
配置选项
模型选择
您可以使用的模型取决于您的 Azure 部署:
| 部署 | 适用场景 | 成本 | 速度 |
|---|---|---|---|
| gpt-4o | 复杂任务、多模态 | 高 | 中 |
| gpt-4-turbo | 大多数任务 | 中 | 快 |
| gpt-4 | 高级推理 | 高 | 慢 |
| gpt-35-turbo | 简单任务、高并发 | 低 | 快 |
参数
与 OpenAI 模型相同:
- Temperature (0-2) - 控制随机性
- Max Tokens - 最大响应长度
- Top P - Temperature 的替代方案
- Frequency Penalty - 减少重复
- Presence Penalty - 鼓励新话题
定价
Azure OpenAI 定价与 OpenAI 不同:
- 按量付费 - 按 token 计费
- PTU(预配置吞吐量单位) - 预留容量
- 免费层 - 新账户的有限额度
查看 Azure OpenAI 定价 了解当前费率。
速率限制
Azure OpenAI 使用每分钟 token 数(TPM)和每分钟请求数(RPM)限制:
- 标准层 - 共享配额
- PTU - 预留容量,更高的限制
在 Azure 门户中监控使用情况。
为什么选择 Azure OpenAI?
企业功能
- 数据隐私 - 企业数据隐私承诺
- 合规性 - SOC、HIPAA、GDPR 合规
- 安全性 - Azure 安全功能
- 负责任 AI - Azure AI 安全标准
集成
- Azure 服务 - 与 Azure Functions、Logic Apps 集成
- 专用端点 - 专用网络访问
- 虚拟网络 - 网络隔离
- 托管标识 - 安全身份验证
部署模型
- 标准 - 共享容量
- 预配置 - 预留容量,可预测的性能
- 全局 - 部署到多个区域
故障排除
无效的 API 密钥
- 验证 API 密钥是否正确
- 检查密钥是否过期
- 确保使用正确的 Azure 资源
部署未找到
- 验证部署名称
- 检查模型是否已部署
- 确保部署在同一区域
区域问题
- 某些模型仅在特定区域可用
- 检查您的区域中 Azure OpenAI 的可用性
- 考虑部署到其他区域
超过配额
- 在 Azure 门户中检查配额限制
- 如有需要请求增加配额
- 考虑使用 PTU 获得一致的性能