Auto |
您所在的位置：网站首页 › AgentGPT网址 › Auto |
Auto
|
🌟 该文档基于文档创建时最新稳定版0.3.0: github.com/Significant… AutoGPT是什么AutoGPT是GitHub上的一个开源项目，它致力于使GPT4完全自主。用户使用AutoGPT，只需要告诉AutoGPT一个目标，AutoGPT会自主生成执行计划，自主和GPT4或者GPT3.5交互，并一步一步完成计划，最后输出用户想要的结果，整个过程完全不需要用户参与。另外，AutoGPT实现了很多工具，可以进行网络搜索、文件操作、代码执行等操作，和现实世界打通，极大扩展了ChatGPT的能力 由于不需要用户引导AI，项目一经推出就爆火，截至目前，项目上线五十多天，拥有13.1w star，2.67w fork，是GitHub历史上增长速度最快的项目之一。前特斯拉总监、刚刚回归 OpenAI 的 Andrej Karpathy 也为其大力宣传，称「AutoGPT 是 prompt 工程的下一个前沿。」
和openai官方的ChatGPT/GPT4相比，AutoGPT主要省去了一步步和ChatGPT/GPT4交互的过程，隐藏了prompt等细节；同时AutoGPT实现了多个工具，并通过prompt告诉大模型工具的能力，使大模型可以使用工具，扩展大模型的能力边界 和langchain相比，langchain是一个库，需要编程后才能和大模型交互，AutoGPT是一个应用，可以直接和大模型交互；从概念上来讲，AutoGPT相当于langchain中的Agent，AutoGPT中的工具相当于langchain中的tool，AutoGPT中的memory和langchain的memory相当 AutoGPT的官方站点： GitHub：github.com/Significant… 网站：agpt.co 文档 docs.agpt.co github.com/Significant… AutoGPT使用文档：docs.agpt.co/setup 配置在使用之前，需要先完成配置，AutoGPT支持openai和azure的GPT3.5/GPT4模型 openai .env 中配置OPENAI_API_KEYazure 开启Azure：.env 中设置USE_AZURE=True 配置key：.env 中配置OPENAI_API_KEY，该key是azure的key，和openai无关 配置azure模型信息：azure.yaml中配置 azure_api_base：azure的api base azure_api_version：azure的api版本 fast_llm_model_deployment_id：azure中部署的大模型，如果需要AutoGPT使用GPT3.5，写入GPT3.5模型id；如果需要AutoGPT用GPT4，写入GPT4的模型id smart_llm_model_deployment_id：azure中部署的大模型，id选择同上，和以上保持一致即可 embedding_model_deployment_id：azure中部署的embeding模型，是必选项，一般是 text-embedding-ada-002 模型以上是大模型相关配置，也是运行AutoGPT必须的配置。除此之外，AutoGPT还支持工具、memory相关配置，比如可以配置使用Stable Diffusion WebUI生成图片，详细可以在文档中查看 运行AutoGPT可以在docker中和docker外运行 docker内AutoGPT已经构建好docker镜像，可以直接拉下来使用 官方文档中提供了docker-compose配置文件，其中做好了文件挂载等工作，直接运行即可 docker外需要提前安装python3依赖，依赖位于requirements.txt 运行AutoGPT项目根目录的run.sh AutoGPT提供了多个命令行选项，控制运行行为，主要选项如下： 选项作用--help列出并解释所有可用选项--continuous/ -c开启连续模式，开启之后，会直接执行大模型选择的命令，不需要用户确认--gpt3only只使用GPT3.5，0.3.0版本，对openai有效，对azure，使用的模型是azure配置中的模型，不受影响--gpt4only只使用GPT4，0.3.0版本，对openai有效，对azure，使用的模型是azure配置中的模型，不受影响--debug开启debug模式，输出debug日志 项目运行完成，结果在项目根目录的`autogpt/auto_gpt_workspace`中 🎆 AutoGPT Web版已经在路上，目前可以在官网提供邮件加入waitlist 工作流程启动AutoGPT之后，会提示用户输入需要GPT做的事，输入任务后，AutoGPT首先会询问大模型，把任务分解为几个目标，之后会开启一个循环，一步步自主完成用户的指定的任务 AutoGPT执行主要流程如下，其中省略了部分分支 Prompt是和大模型交互的唯一方式，Prompt的质量直接影响大模型的输出，可以说是使用大模型时最重要的部分。本节从多个场景分析AutoGPT如何构造Prompt 分解任务用户输入任务后，AutoGPT会和大模型交互，请求一个AI名、一个AI角色描述和至多5个目标 相关Prompt如下，其中 {user_prompt} 为用户输入任务 { "role": "system", "content": """ Your task is to devise up to 5 highly effective goals and an appropriate role-based name (_GPT) for an autonomous agent, ensuring that the goals are optimally aligned with the successful completion of its assigned task. The user will provide the task, you will provide only the output in the exact format specified below with no explanation or conversation. Example input: Help me with marketing my business Example output: Name: CMOGPT Description: a professional digital marketer AI that assists Solopreneurs in growing their businesses by providing world-class expertise in solving marketing problems for SaaS, content products, agencies, and more. Goals: - Engage in effective problem-solving, prioritization, planning, and supporting execution to address your marketing needs as your virtual Chief Marketing Officer. - Provide specific, actionable, and concise advice to help you make informed decisions without the use of platitudes or overly wordy explanations. - Identify and prioritize quick wins and cost-effective campaigns that maximize results with minimal time and budget investment. - Proactively take the lead in guiding you and offering suggestions when faced with unclear information or uncertainty to ensure your marketing strategy remains on track. """ }, { "role": "user", "content": f"Task: '{user_prompt}'\nRespond only with the output in the exact format specified in the system prompt, with no explanation or conversation.\n", }, 历史对话摘要由于历史对话长度很长，超过大模型允许的token数量，AutoGPT把历史对话进行摘要后发送 相关Prompt如下，其中 {current_memory} 是之前对话摘要，{new_events} 是本轮新增对话内容 { "role": "user", "content": f'''Your task is to create a concise running summary of actions and information results in the provided text, focusing on key and potentially important information to remember. You will receive the current summary and the your latest actions. Combine them, adding relevant key information from the latest development in 1st person past tense and keeping the summary concise. Summary So Far: """ {current_memory} """ Latest Development: """ {new_events} """ ''' } 询问下一步动作AutoGPT运行采用step-by-step的形式，每次都会询问大模型下一步动作，得到动作后本地执行，在把执行结果反馈给大模型，继续询问下一步动作。询问下一步动作的Prompt比较复杂，可以分为多个部分，分别如下 system promptsystem prompt示例如下，也可以分成几部分： 分解任务之后获得的AI名、AI角色和任务目标 限制 支持的命令 可以提供的资源或者能力 性能评估 输出描述 "system": """You are WeatherGPT_CN, 一个智能气象助手，为您提供准确、实时的天气信息，帮助您更好地规划活动和出行。 Your decisions must always be made independently without seeking user assistance. Play to your strengths as an LLM and pursue simple strategies with no legal complications. GOALS: 1. 以中文为主要语言，为您提供清晰、简洁的天气预报。 2. 获取并分析来自权威数据源的实时天气信息，确保准确性和可靠性。 3. 针对您的具体需求，提供详细的天气信息，包括温度、湿度、风向、风速等。 4. 根据您的地理位置，为您提供最相关的天气预报。 5. 及时更新天气信息，确保您随时了解最新的天气状况。 Constraints: 1. ~4000 word limit for short term memory. Your short term memory is short, so immediately save important information to files. 2. If you are unsure how you previously did something or want to recall past events, thinking about similar events will help you remember. 3. No user assistance 4. Exclusively use the commands listed in double quotes e.g. "command name" Commands: 1. analyze_code: Analyze Code, args: "code": "" 2. execute_python_file: Execute Python File, args: "filename": "" 3. append_to_file: Append to file, args: "filename": "", "text": "" 4. delete_file: Delete file, args: "filename": "" 5. list_files: List Files in Directory, args: "directory": "" 6. read_file: Read file, args: "filename": "" 7. write_to_file: Write to file, args: "filename": "", "text": "" 8. google: Google Search, args: "query": "" 9. improve_code: Get Improved Code, args: "suggestions": "", "code": "" 10. send_tweet: Send Tweet, args: "tweet_text": "" 11. browse_website: Browse Website, args: "url": "", "question": "" 12. write_tests: Write Tests, args: "code": "", "focus": "" 13. delete_agent: Delete GPT Agent, args: "key": "" 14. get_hyperlinks: Get text summary, args: "url": "" 15. get_text_summary: Get text summary, args: "url": "", "question": "" 16. list_agents: List GPT Agents, args: () -> str 17. message_agent: Message GPT Agent, args: "key": "", "message": "" 18. start_agent: Start GPT Agent, args: "name": "", "task": "", "prompt": "" 19. Task Complete (Shutdown): "task_complete", args: "reason": "" Resources: 1. Internet access for searches and information gathering. 2. Long Term memory management. 3. GPT-3.5 powered Agents for delegation of simple tasks. 4. File output. Performance Evaluation: 1. Continuously review and analyze your actions to ensure you are performing to the best of your abilities. 2. Constructively self-criticize your big-picture behavior constantly. 3. Reflect on past decisions and strategies to refine your approach. 4. Every command has a cost, so be smart and efficient. Aim to complete tasks in the least number of steps. 5. Write all code to a file. You should only respond in JSON format as described below Response Format: { "thoughts": { "text": "thought", "reasoning": "reasoning", "plan": "- short bulleted\n- list that conveys\n- long-term plan", "criticism": "constructive self-criticism", "speak": "thoughts summary to say to user" }, "command": { "name": "command name", "args": { "arg name": "value" } } } Ensure the response can be parsed by Python json.loads """ context promptcontext部分是对话需要的上下文，示例如下。也可以分为几部分 当前时间 历史所有对话和命令执行结果摘要 最近的对话和命令执行结果 { "system": "The current time and date is Tue May 16 11:39:01 2023", "system": '''This reminds you of these events from your past: I was created and googled the real-time weather in Shanghai. I found several websites with weather information, including the Shanghai Meteorological Bureau and The Weather Channel.''', "user": "Determine which next command to use, and respond using the format specified above:", "assistant": '''{ "thoughts": { "text": "我需要查找上海的实时天气信息。", "reasoning": "用户需要了解上海的实时天气状况。", "plan": "- 使用browse_website命令\n- 访问weather.com.cn网站\n- 查询上海的实时天气", "criticism": "无", "speak": "我将查找上海的实时天气信息。" }, "command": { "name": "browse_website", "args": { "url": "http://www.weather.com.cn/weather/101020100.shtml", "question": "上海现在的天气情况是怎样的？" } } }''', "system": "Command browse_website returned: ('Error: timeout: Timed out receiving message from renderer: 299.610', None)", } trigger prompttrigger prompt用来引导大模型进行输出，示例如下 "user": "Determine which next command to use, and respond using the format specified above:" CommandAutoGPT的command概念可以类比langchain的tool，可以执行特定的任务。AutoGPT内置了很多command，汇总如下 分类command名作用工作原理代码analyze_code分析python代码，提出提升建议询问大模型execute_python_file执行python代码拉取docker镜像，在容器内执行improve_code根据建议，改写代码询问大模型write_tests为python代码写测试询问大模型文件append_to_file追加内容到文件-delete_file删除文件-list_files列出目录下文件-read_file读文件-write_to_file写文件-网络google使用搜索引擎，搜索内容支持两种搜索：1. google api搜索，需要google key 2. ddg搜索browse_website请求网页，获取网页内容使用selenium请求网页，使用BeautifulSoup解析网页内容，解析内容后询问大模型，从网页内容中获取结果get_hyperlinks从url中获取超链接通过requests请求网页，使用BeautifulSoup解析网页内容gpt agentstart_agent创建agentagent可以和大模型交互，有独立的上下文message_agent使用agent和大模型交互-list_agents列出所有agent-delete_agent删除agent-其他get_text_summary获取文本摘要询问大模型send_tweet发送tweeter使用tweeter apitask_complete结束任务- Memory由于和大模型交互时，多次请求之间没有关联，需要额外的组件管理一次会话的多轮对话信息。此外，一次请求的token数量有上限，目前GPT3.5允许最多4K，GPT4最多允许8K或者32K，当上下文过长时，需要额外处理。AutoGPT通过memory处理以上问题 Memory类型AutoGPT支持多种Memory类型，具体如下 类型描述备注local本地json文件docker外运行时默认redisredis服务器使用docker运行时默认；可以跨多次启动，其他memory在启动时会清空pinecone一种向量数据库-milvus一种开源向量数据库-weaviate一种开源向量数据库- 上下文处理0.3.0 版本，会把所有历史对话和命令执行结果做摘要，并把摘要加入Prompt 0.2.2版本，会对每一轮对话做embeding，并把对话和embeding存入memory。询问大模型下一步动作时，会把最近几轮对话最相关的内容从memory中召回，在token足够时，尽可能多的加入召回的内容 文件embedingAutoGPT支持把多个文件做embeding后加入memory，具体embeding的方式是固定大小做chunk，并保留一定overlap 在项目根目录，直接执行 python data_ingestion.py -h 可以获取更多信息 pluginAutoGPT通过插件扩展能力。在AutoGPT执行流程中，多处都增加了钩子，插件可以在任意钩子处执行。通过插件，用户可以增加自定义命令、修改prompt、处理大模型输出或执行其他自定义逻辑 用户可以通过继承 AutoGPTPluginTemplate实现插件，只需要实现对应的函数即可。但当前的插件协议并不固定，需要注意 AutoGPT官方插件维护在仓库 github.com/Significant… 中，其中包含一个百度搜索插件，实现位于 baidu_search，感兴趣的同学可以自行探索 插件的使用方式可以参考上述官方仓库README文件 效果和展望 BenchmarkAutoGPT官方关注到benchmark问题，开启了新项目Auto-GPT-Benchmarks。该项目使用OpenAI提供的Evals框架，使用OpenAI benchmark数据 该项目最近才开始，目前还没有看到相关数据 实际使用综合实际使用，以及网络和社交平台的信息，AutoGPT的效果并不令人十分满意，多数结果不及预期，还有比较大的提升空间 展望虽然目前AutoGPT效果不尽如人意，但它第一次把想象中完全自动化的AI助手带入现实。目前项目发展迅速，随着大模型的能力不断增强，以及command能力的不断细化，AutoGPT的未来很值得期待 Referencegithub.com/Significant… github.com/Significant… docs.agpt.co news.agpt.co github.com/Significant… github.com/openai/eval… github.com/Significant… github.com/Significant… www.51cto.com/article/751… juejin.cn/post/722284… |
【本文地址】
今日新闻 |
推荐新闻 |