快速入门

您所在的位置:网站首页 microsoft邮箱更改 快速入门

快速入门

#快速入门| 来源: 网络整理| 查看: 265

你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。

快速入门:开始通过 Azure OpenAI 服务使用 ChatGPT 项目 03/12/2023

使用本文来帮助你开始使用 Azure OpenAI。

先决条件

Azure 订阅 - 免费创建订阅。

已在所需的 Azure 订阅中授予对 Azure OpenAI 的访问权限。

目前,仅应用程序授予对此服务的访问权限。 可以通过在 https://aka.ms/oai/access 上填写表单来申请对 Azure OpenAI 的访问权限。 如果有任何问题,请在此存储库上提出问题以联系我们。

已部署 gpt-35-turbo 模型的 Azure OpenAI 服务资源。 此模型目前在美国东部和美国中南部可用。 有关模型部署的详细信息,请参阅资源部署指南。

登录到 Azure OpenAI Studio

导航到 Azure OpenAI Studio (https://oai.azure.com/),然后使用有权访问 OpenAI 资源的凭据登录。 在登录过程中或登录之后,选择适当的目录、Azure 订阅和 Azure OpenAI 资源。

在 Azure OpenAI Studio 登陆页中,选择“ChatGPT 操场(预览版)”

操场

通过 Azure OpenAI Studio ChatGPT 操场开始探索使用无代码方法的 OpenAI 功能。 在此页中,可以快速循环访问和试验这些功能。

助手设置

可以使用“助手设置”下拉列表选择一些预加载的系统消息示例以开始使用。

系统消息为模型提供有关它应该如何行为以及生成回复时应引用什么上下文的说明。 你可以描述助手的个性,告诉它应该回答什么和不应该回答什么,并告诉它如何设置回复的格式。

添加少样本示例允许你提供模型用于上下文学习的对话示例。

使用 ChatGPT 操场时,可以随时选择“查看代码”以查看基于当前聊天会话和设置所预先填充的 Python、curl 和 json 代码示例。 然后,可以采用此代码并编写应用程序,以完成当前使用操场执行的相同任务。

聊天会话

选择“发送”按钮后会将输入的文本发送到补全 API,结果会返回到文本框中。

选择“清除聊天”按钮可删除当前对话历史记录。

设置 名称 说明 部署 与特定模型关联的部署名称。 对于 ChatGPT,需要使用 gpt-35-turbo 模型。 温度 控制随机性。 降低温度意味着模型会产生更多重复性和确定性的回复。 提高温度会导致更多意外或创造性的回复。 请尝试调整温度或 Top P 值,但不要同时调整两者。 最大长度(标记) 对每个模型回复的标记数设置限制。 该 API 支持最多 4096 个标记,包括提示(包括系统消息、示例、消息历史记录以及用户查询)和模型的回复。 对于典型的英文文本,一个标记大约是四个字符。 概率最高值 与温度类似,它控制着随机性,但使用不同的方法。 降低 Top P 值会将模型的标记选择范围缩小到可能性更高的标记。 增加 Top P 值会使模型既选择可能高的标记又选择可能性低的标记。 请尝试调整温度或 Top P 值,但不要同时调整两者。 多回合对话 选择要包含在每个新 API 请求中的过去消息数。 这有助于为新用户查询提供模型上下文。 将此数字设置为 10 即表示 5 个用户查询和 5 个系统回复。 停止序列 停止序列使模型在所需时间点结束响应。 模型响应会在指定序列之前结束,因此它不包含停止序列文本。 对于 ChatGPT,使用 可确保模型响应不会生成后续用户查询。 可以包含多达四个停止序列。 显示面板

默认情况下有三个面板:助手设置、聊天会话、设置。 显示面板允许你添加、删除和重新排列面板。 如果你曾经关闭了某个面板并需要恢复它,请使用“显示面板”还原丢失的面板。

启动聊天会话

在助手设置下拉列表中,选择 Xbox 客户支持代理

系统提示将询问你是否要更新系统消息,请选择“继续”。

在聊天会话窗格中,输入以下问题:“我有兴趣购买新的 Xbox”,然后选择“发送”。

你将收到类似于此示例的回复:

输入后续问题,例如:“有哪些型号可买?”

现在,你有了一个基本对话,请选择“助理设置”下的“查看代码”,你将重播到目前为止整个对话背后的代码:

#Note: The openai-python library support for Azure OpenAI is in preview. import os import openai openai.api_type = "azure" openai.api_base = "https://docs-test-001.openai.azure.com/" openai.api_version = "2022-12-01" openai.api_key = os.getenv("OPENAI_API_KEY") response = openai.Completion.create( engine="gpt-35-turbo", prompt="system\nYou are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox.\n\nuser\nI am interested in buying an Xbox?\n\nassistant\nGreat! Xbox is a popular gaming console that offers a wide variety of games and features. You can purchase an Xbox from various retailers such as Amazon, Best Buy, and the Microsoft Store. Additionally, you can also purchase an Xbox bundle that includes games and accessories. If you have any specific questions about the Xbox or the purchasing process, please let me know and I'll be happy to assist you.\n\n\nuser\nWhat models are available?\n\nassistant\nCurrently, there are three Xbox models available for purchase: Xbox Series X, Xbox Series S, and Xbox One X. \n\nThe Xbox Series X is the most powerful Xbox console to date, with a custom-designed processor, 12 teraflops of processing power, and 16GB of memory. It also supports 4K gaming and has a built-in 4K Ultra HD Blu-ray player.\n\nThe Xbox Series S is a more affordable option, with a custom-\n\n", temperature=0, max_tokens=100, top_p=0.95, frequency_penalty=0, presence_penalty=0, best_of=1, stop=[""]) 了解提示结构

如果你研究了查看代码中的示例,你会注意到一些不属于典型 GPT 补全调用的唯一标记。 ChatGPT 被训练使用特殊标记来区分提示的不同部分。 内容在 和 标记之间提供给模型。 提示以系统消息开头,该消息通过加入上下文或模型说明来启动模型。 之后,提示包含用户和助手之间的一系列消息。

然后,助理对提示的回复将返回到 assistant 标记下方,最后以 结尾,表示助手已完成其回复。 还可以使用“显示原始语法”切换按钮在聊天会话面板中显示这些标记。

ChatGPT 操作指南深入介绍了新的提示结构以及如何有效地使用 gpt-35-turbo 模型。

清理资源

完成 ChatGPT 操场测试后,如果要清理和删除 OpenAI 资源,可以删除该资源或资源组。 删除资源组同时也会删除与之相关联的任何其他资源。

门户 Azure CLI 后续步骤 通过 ChatGPT 操作指南详细了解如何使用 ChatGPT 和新的 gpt-35-turbo 模型。 有关更多示例,请查看 Azure OpenAI 示例 GitHub 存储库

库源代码 | 包 (PyPi) |

先决条件 Azure 订阅 - 免费创建订阅 已在所需的 Azure 订阅中授予对 Azure OpenAI 服务的访问权限。 目前,仅应用程序授予对此服务的访问权限。 可以填写 https://aka.ms/oai/access 处的表单来申请对 Azure OpenAI 服务的访问权限。 Python 3.7.1 或更高版本。 以下 Python 库:os。 已部署 gpt-35-turbo 模型的 Azure OpenAI 服务资源。 此模型目前在美国东部和美国中南部可用。 有关模型部署的详细信息,请参阅资源部署指南。 设置

使用以下项安装 OpenAI Python 客户端库:

pip install openai

注意

此库由 OpenAI 维护,目前为预览版。 参考发行历史记录 或 version.py 提交历史记录跟踪库的最新更新。

检索密钥和终结点

若要成功对 Azure OpenAI 发出调用,需要一个终结点和一个密钥。

变量名称 值 ENDPOINT 从 Azure 门户检查资源时,可在“密钥和终结点”部分中找到此值。 或者,可以在“Azure OpenAI Studio”>“操场”>“代码视图”中找到该值。 示例终结点为:https://docs-test-001.openai.azure.com/。 API-KEY 从 Azure 门户检查资源时,可在“密钥和终结点”部分中找到此值。 可以使用 KEY1 或 KEY2。

在 Azure 门户中转到你的资源。 可以在“资源管理”部分找到“终结点和密钥”。 复制终结点和访问密钥,因为在对 API 调用进行身份验证时需要这两项。 可以使用 KEY1 或 KEY2。 始终准备好两个密钥可以安全地轮换和重新生成密钥,而不会导致服务中断。

为密钥和终结点创建和分配持久环境变量。

环境变量 命令行 PowerShell Bash setx OPENAI_API_KEY "REPLACE_WITH_YOUR_KEY_VALUE_HERE" setx OPENAI_API_BASE "REPLACE_WITH_YOUR_ENDPOINT_HERE" [System.Environment]::SetEnvironmentVariable('OPENAI_API_KEY', 'REPLACE_WITH_YOUR_KEY_VALUE_HERE', 'User') [System.Environment]::SetEnvironmentVariable('OPENAI_API_BASE', 'REPLACE_WITH_YOUR_ENDPOINT_HERE', 'User') echo export OPENAI_API_KEY="REPLACE_WITH_YOUR_KEY_VALUE_HERE" >> /etc/environment && source /etc/environment echo export OPENAI_API_BASE="REPLACE_WITH_YOUR_ENDPOINT_HERE" >> /etc/environment && source /etc/environment 创建新的 Python 应用程序

创建名为 quickstart.py 的新 Python 文件。 然后在你偏好的编辑器或 IDE 中打开该文件。

将 quickstart.py 的内容替换为以下代码:

#Note: The openai-python library support for Azure OpenAI is in preview. import os import openai openai.api_type = "azure" openai.api_base = os.getenv("OPENAI_API_BASE") openai.api_version = "2022-12-01" openai.api_key = os.getenv("OPENAI_API_KEY") response = openai.Completion.create( engine="gpt-35-turbo", prompt="system\nThe system is an AI assistant that helps people find information.\n\nuser\nDoes Azure OpenAI support customer managed keys?\n\nassistant", temperature=1, max_tokens=800, top_p=0.95, frequency_penalty=0, presence_penalty=0, stop=[""]) print(response['choices'][0]['text'])

使用快速入门文件中的 python 命令运行应用程序:

python quickstart.py 输出 Yes, Azure OpenAI supports customer managed keys, which allow customers to control access to their data and models. Additionally, Azure OpenAI supports Azure Key Vault integration which allows customers to manage and control access to keys and other secrets in Azure.' 了解提示结构

ChatGPT 被训练使用特殊标记来区分提示的不同部分。 内容在 和 标记之间提供给模型。 提示以系统消息开头,该消息通过加入上下文或模型说明来启动模型。 之后,提示包含用户和助手之间的一系列消息。

然后,助理对提示的回复将返回到 assistant 标记下方,最后以 结尾,表示助手已完成其回复。

ChatGPT 操作指南深入介绍了新的提示结构以及如何有效地使用新模型。

清理资源

如果你想要清理和删除 OpenAI 资源,可以删除资源。 在删除资源之前,必须先删除所有已部署的模型。

门户 Azure CLI 后续步骤 通过 ChatGPT 操作指南详细了解如何使用 ChatGPT 和新的 gpt-35-turbo 模型。 有关更多示例,请查看 Azure OpenAI 示例 GitHub 存储库

REST API 规范 |

先决条件 Azure 订阅 - 免费创建订阅。 已在所需的 Azure 订阅中授予对 Azure OpenAI 服务的访问权限。 目前,仅应用程序授予对此服务的访问权限。 可以填写 https://aka.ms/oai/access 处的表单来申请对 Azure OpenAI 服务的访问权限。 已部署 gpt-35-turbo 模型的 Azure OpenAI 服务资源。 此模型目前在美国东部和美国中南部可用。 有关模型部署的详细信息,请参阅资源部署指南。 设置 检索密钥和终结点

若要成功对 Azure OpenAI 发出调用,需要一个终结点和一个密钥。

变量名称 值 ENDPOINT 从 Azure 门户检查资源时,可在“密钥和终结点”部分中找到此值。 或者,可以在“Azure OpenAI Studio”>“操场”>“代码视图”中找到该值。 示例终结点为:https://docs-test-001.openai.azure.com/。 API-KEY 从 Azure 门户检查资源时,可在“密钥和终结点”部分中找到此值。 可以使用 KEY1 或 KEY2。

在 Azure 门户中转到你的资源。 可以在“资源管理”部分找到“终结点和密钥”。 复制终结点和访问密钥,因为在对 API 调用进行身份验证时需要这两项。 可以使用 KEY1 或 KEY2。 始终准备好两个密钥可以安全地轮换和重新生成密钥,而不会导致服务中断。

为密钥和终结点创建和分配持久环境变量。

环境变量 命令行 PowerShell Bash setx OPENAI_API_KEY "REPLACE_WITH_YOUR_KEY_VALUE_HERE" setx OPENAI_API_BASE "REPLACE_WITH_YOUR_ENDPOINT_HERE" [System.Environment]::SetEnvironmentVariable('OPENAI_API_KEY', 'REPLACE_WITH_YOUR_KEY_VALUE_HERE', 'User') [System.Environment]::SetEnvironmentVariable('OPENAI_API_BASE', 'REPLACE_WITH_YOUR_ENDPOINT_HERE', 'User') echo export OPENAI_API_KEY="REPLACE_WITH_YOUR_KEY_VALUE_HERE" >> /etc/environment && source /etc/environment echo export OPENAI_API_BASE="REPLACE_WITH_YOUR_ENDPOINT_HERE" >> /etc/environment && source /etc/environment REST API

在 bash shell 中运行以下命令:

curl https://$OPENAI_API_BASE/openai/deployments/gpt-35-turbo/completions?api-version=2022-12-01 \ -H "Content-Type: application/json" \ -H "api-key: $OPENAI_API_KEY" \ -d '{ "prompt": "system\nThe system is an AI assistant that helps people find information.\n\nuser\nDoes Azure OpenAI support customer managed keys?\n\nassistant", "max_tokens": 800, "temperature": 1, "frequency_penalty": 0, "presence_penalty": 0, "top_p": 0.95, "stop": [""] }' 输出 {"id":"cmpl-6mZPEDkBPasCTxueCy9iVRMY4ZGD4", "object":"text_completion", "created":1677033864, "model":"gpt-35-turbo", "choices": [{"text":"\nYes, Azure OpenAI supports customer managed keys. These keys allow customers to manage their own encryption keys for the OpenAI services, rather than relying on Azure's managed keys. This provides an additional layer of security for customers' data and models.","index":0,"logprobs":null,"finish_reason":"stop"}], "usage":{"prompt_tokens":66,"completion_tokens":52,"total_tokens":118}}

已为可读性调整输出格式,实际输出是一个没有换行符的单个文本块。

了解提示结构

ChatGPT 被训练使用特殊标记来区分提示的不同部分。 内容在 和 标记之间提供给模型。 提示以系统消息开头,该消息通过加入上下文或模型说明来启动模型。 之后,提示包含用户和助手之间的一系列消息。

然后,助理对提示的回复将返回到 assistant 标记下方,最后以 结尾,表示助手已完成其回复。

ChatGPT 操作指南深入介绍了新的提示结构以及如何有效地使用新模型。

清理资源

如果你想要清理和删除 OpenAI 资源,可以删除资源。 在删除资源之前,必须先删除所有已部署的模型。

门户 Azure CLI 后续步骤 在 ChatGPT 操作指南中详细了解如何使用 ChatGPT 和新的 gpt-35-turbo 模型。 有关更多示例,请查看 Azure OpenAI 示例 GitHub 存储库


【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3