ChatGPT Plugins：大语言模型时代的Apps Store |
您所在的位置：网站首页 › xmind图不见了 › ChatGPT Plugins：大语言模型时代的Apps Store |
ChatGPT Plugins：大语言模型时代的Apps Store
|
如果说ChatGPT是AI的“iPhone”时刻，那么ChatGPT Plugins就是对应的“Apps Store"一、概述 ChatGPT宣布推出了插件功能，有效弥补了ChatGPT对实时数据获取、自定义数据知识接入、精确数学计算等能力的不足。 What's More：OpenAI允许开发者自定义开发、上传插件到插件平台（市场），相信这将掀起新一轮的Plugin开发热潮，程序员们请做好准备。 在OpenAI自己的官方博客[Blog, OpenAI, ChatGPT Plugins]中提到，Plugins的推出有助于提高模型的Provenance和Updatability[知乎, CH7au, ChatGPT之后NLP还能研究什么]： Plugins offer the potential to tackle various challenges associated with large language models, including “hallucinations,” keeping up with recent events, and accessing (with permission) proprietary information sources. By integrating explicit access to external data—such as up-to-date information online, code-based calculations, or custom plugin-retrieved information—language models can strengthen their responses with evidence-based references.Updatability：通过Plugins接入互联网高时效性的数据知识；Provenance：ChatGPT的回答也变得有迹可循，提高模型结果的可信度；目前，第一批接入ChatGPT的Plugins包括（见图1）：  图1 第一批接入ChatGPT的Plugins但同时，他们也指出：越来越多的Plugin接入在提高ChatGPT能力和可能性的同时，ChatGPT的结果会容易被Plugins误导，变得不可控。如何规范Plugin的发布和Plugins之间的相互影响，保证产品的输出，这将是后续需要持续跟进和解决的问题。 因此，OpenAI推出了自己开源的Evals代码库[Github, OpenAI, Evals]，期待更多人参与进来去维护Plugin的规范。Evaluation代码库除了规范Plugins之外也包含LLMs的基准测试相关内容。（PS：这个研究方向在之前的文章[知乎, CH7au, ChatGPT之后NLP还能研究什么]也有提到：Better Benchmarks。） 国内的企业如何快速跟上脚步，构建自己的LLM Plugins呢？ 二、基于LangChain框架，快速实现LLM Plugins DemoLangChain是近期高度活跃的LLM集成框架，具体介绍可以参考我之前的文章[知乎, CH7au, LangChain落地实战]。 下面给出基于LangChain的Agent模块，实现LLM调用Python编译器完成复杂数学计算的Demo： #!/usr/bin/env python3 # -*- encoding: utf-8 -*- """ @File : simple_math_agent.py @Time : 2023/03/24 13:07:15 @Author : CH7au """ import os from langchain.agents import Tool from langchain import OpenAI, LLMMathChain from langchain.agents import ZeroShotAgent, AgentExecutor # global environment os.environ["OPENAI_API_KEY"] = "sk-***************************************" llm = OpenAI(temperature=0) llm_math_chain = LLMMathChain(llm=llm, verbose=True) # tool definition math_tool = Tool( name="数学计算工具", description="这是一个数学计算工具，辅助LLM完成复杂的数学计算，输入数学计算问题描述，输出计算结果。", func=llm_math_chain.run, return_direct=True ) # agent definition tools_list = [ math_tool ] agent_obj = ZeroShotAgent.from_llm_and_tools(llm=llm, tools=tools_list, verbose=True ) agent = AgentExecutor.from_agent_and_tools(agent=agent_obj, tools=tools_list, verbose=True ) while True: _input_text = input("(human): ") _output = agent.run(_input_text) print(f"(ai): {_output}")运行结果展示： (human): 帮我计算一下23的开方等于多少? > Entering new AgentExecutor chain... 我需要找到一个可以帮助我计算的工具 Action: 数学计算工具 Action Input: 23的开方 > Entering new LLMMathChain chain... 23的开方 Answer: 4.795831523312719 > Finished chain. Observation: Answer: 4.795831523312719 > Finished chain. (ai): Answer: 4.795831523312719结论在ChatGPT技术落地这条路上，OpenAI、Microsoft已经给我们指明了方向和道路。现阶段，我认为国内的相关企业只要紧跟在后面就能获得不俗的社会认可。树根深种，再考虑开花结果。 Reference[Blog, OpenAI, ChatGPT Plugins]: https://openai.com/blog/chatgpt-plugins[Doc, OpenAI, ChatGPT Plugins]: https://platform.openai.com/docs/plugins/introduction[知乎, CH7au, ChatGPT之后NLP还能研究什么]: NLPer-CH7au：ChatGPT之后NLP还能研究什么[Github, OpenAI, Evals]: https://github.com/openai/evals[知乎, CH7au, LangChain落地实战]: NLPer-CH7au：LangChain：ChatGPT落地实战（一）/概述&准备 |
【本文地址】
今日新闻 |
推荐新闻 |