ChatGPT，全称聊天生成型预训练变换模型，是OpenAI开发的人工智能聊天机器人，于2022年11月推出。该程序使用基于GPT-3.5架构的LLM进行训练。

ChatGPT能干什么呢？

ChatGPT于2022年11月发布后，OpenAI估值已涨至290亿美元、上线两个月狂揽有上亿用户、微软为OpenAI注资100亿美金，每一条信息都刺激着我们的神经今天就聊一下：

机器能否思考、拥有智慧

这一简化使得图灵能够令人信服地说明“思考的机器”是可能的。论文中还回答了对这一假说的各种常见质疑，图灵测试是人工智能哲学方面首个严肃的提案。

ELIZA-1965

ELIZA是一款早期的自然语言处理计算机程序，由约瑟夫·魏岑鲍姆（Joseph Weizenbaum）于1964年至1966年在麻省理工学院创建。

其中最著名的脚本-DOCTOR，模拟了罗杰斯学派的心理治疗师，并使用在脚本中规定的规则，对用户输入进行非定向问题的回答。

因此，ELIZA是最早的聊天机器人之一，并是首批尝试图灵测试的程序之一。

Eliza通过使用一种模式匹配和替换的方法模拟对话，使用户产生了一种程序理解其言论的错觉，但它没有真正理解任何一方所说的内容。

简单的理解是里面有大量的if else规则来进行逻辑判断

Eliza采取的是关键模式匹配的方式、进行诱导的提问或者回复，尽管ELIZA能够进行对话，但它无法真正理解对话内容。

Alice-1995

在1995年11月，人工语言互联网计算机实体(ALICE)诞生了，她是最早展示了自然语言处理和早期人工智能形式的聊天机器人之一。

ALICE通过应用启发式模式匹配规则来工作。她与人工智能标记语言(AIML)的创建密切相关。(Mitsuku也使用了该语言)

此外，ALICE总共三次赢得了Leobner奖。

人工神经网络

自2010年以来，人工神经网络已经得到了广泛的关注和应用，人工神经网络是一种由许多简单神经元相互连接而成的计算模型，旨在模拟大脑的神经网络，从而实现机器学习和人工智能等任务。

在2010年后，随着深度学习的出现，人工神经网络得到了大幅度的改进和提升。深度学习是一种机器学习技术，它使用多层次的人工神经网络来学习和识别复杂的模式和关系。这种技术已被广泛应用于图像识别、语音识别、自然语言处理、机器翻译等领域。

总之，自2010年以来，人工神经网络的发展已经在人工智能领域中取得了巨大的进展，为我们的生活和工作带来了许多新的机遇和挑战。

Tay-2016

2016 年，微软在 Twitter 上发布了 AI 聊天机器人「Tay」，称其为一次「对话理解」实验，希望 Tay 和用户之间进行随意且有趣的对话，「与 Tay 聊天的次数越多，它就越聪明」。

然而，人们不久就开始发布厌女、种族主义等各种煽动性言论。Tay 被这些言论影响着，从「人类超级酷」变成「我只是讨厌所有人」。

想法是她将从与她互动的人中学习，她也做到了。

不幸的是，这些人教给她具有煽动性的短语、冒犯性内容和不恰当的语言。

在大多数情况下，Tay 只是用 「repeat after me」（跟我读）机制，重复着人们说过的话。但作为一个货真价实的 AI，它也会从交互中学习，对希特勒、911、特朗普都有反主流的态度。

比如在回答「Ricky Gervais 是无神论者吗」时，Tay 说道：「Ricky Gervais 从无神论的发明者希特勒那里学到了极权主义。」

微软清理了许多攻击性言论，但该项目最终没有活过 24 小时。

当天的午夜，Tay 宣布它将要退休了：「很快人类需要睡觉了，今天有这么多的谈话，谢谢。」

AI 研究员 Roman Yampolskiy 表示，他可以理解 Tay 的不当言论，但微软没有让 Tay 了解哪些言论是不适当的，这很不正常：

比 Tay 更早、由微软（亚洲）互联网工程院推出的聊天机器人小冰也曾口吐芬芳。

Transformer

Transformer 架构在自然语言处理任务中表现出色的原因有以下几点：

1. 自注意力机制：Transformer 使用了一种称为自注意力机制（self-attention）的技术，它使得模型可以根据输入序列的不同部分赋予不同的注意力权重，从而更好地理解输入。这种机制比传统的逐步处理方法更加高效，使得模型在处理长文本时具有更好的表现。

2. 并行计算：Transformer 的自注意力机制可以进行并行计算，因为每个单词之间的注意力权重是独立计算的。这使得 Transformer 能够在处理大规模文本数据时具有较高的计算效率。

3. 多头注意力机制：为了更好地捕捉输入序列中的不同信息，Transformer 使用了多头注意力机制（multi-head attention），它允许模型以多种方式对输入进行注意力计算，从而提高了模型的表现能力。

4. 残差连接和层归一化：Transformer 使用了残差连接（residual connection）和层归一化（layer normalization）技术，从而避免了在训练深度神经网络时可能出现的梯度消失问题。这些技术能够使得模型更加稳定和可靠。

综上所述，Transformer 架构的自注意力机制、多头注意力机制、并行计算以及残差连接和层归一化等技术使得它在自然语言处理任务中表现优异，成为了目前最流行的神经网络架构之一。

王者创始团队

OpenAI的创始团队可谓人才济济、闻名遐迩。以下是其中几位创始人的介绍：

Elon Musk：作为科技行业的巨头之一，Elon Musk曾担任OpenAI的联合创始人，但后来退出了该组织。他是SpaceX和特斯拉汽车公司的创始人之一，并在太空探索、可持续能源和高速交通等领域做出了重大贡献。

Sam Altman：作为知名的企业家和投资家，Sam Altman在OpenAI的创始团队中扮演着重要的角色。他曾经担任Y Combinator的总裁，帮助许多创业公司取得成功。他还是OpenAI的董事会成员，为该组织的发展提供了重要的支持和指导。

Greg Brockman：作为OpenAI的首席执行官，Greg Brockman在该组织的发展过程中起到了至关重要的作用。他是一位年轻的企业家和程序员，曾经在Stripe担任CTO一职。他致力于推动OpenAI在人工智能领域的创新和发展。

Ilya Sutskever：作为OpenAI的研究总监之一，Ilya Sutskever是人工智能领域的领军人物之一。他是深度学习框架Theano的创建者之一，也是Google Brain团队的创始成员之一。他致力于推动深度学习技术的发展和应用，为OpenAI的研究工作做出了巨大贡献。

这些人物都是各自领域的杰出人才，他们的加入为OpenAI带来了宝贵的经验和知识，推动了人工智能领域的发展和创新。

OpenAI的GPT是一种大型语言模型，它使用深度学习算法来训练，并可以生成自然语言文本。GPT代表"Generative Pre-trained Transformer"，这是一种基于Transformer架构的模型，使用了预训练和微调的方法。

马斯克被踢出局？

马斯克离开OpenAI的原因是出于避免潜在的利益冲突。他同时是SpaceX、特斯拉等众多公司的创始人和CEO，这些公司也涉及到人工智能技术的应用和研究。因此，他认为自己在OpenAI中的参与可能会给他其他公司带来不利影响，也可能引起公众对OpenAI的质疑。

此外，马斯克一直对人工智能的发展和应用持有一种较为悲观的态度，他曾多次警告人工智能可能对人类造成威胁。在他离开OpenAI之后，他也继续发表了一系列关于人工智能的言论，表示他对未来的发展仍然持有警惕和担忧的态度

微软见缝插针

微软于2019年7月份宣布向OpenAI投资10亿美元。微软之所以选择投资OpenAI，是因为OpenAI在人工智能领域的研究和开发上具有强大的技术实力和潜力，尤其是在深度学习、自然语言处理等方面取得了很多重要的成果

这并非是微软与 OpenAI 团队的第一次接触。早在 2016 年，微软旗下的 Azure 云服务就曾为 OpenAI 提供深度学习和神经网络渲染等大规模实验所需要的算力条件，当时微软还获得了 OpenAI 的人工智能技术与专家支持。

微软的投资更像是在为未来买单；当然它也可以借助 OpenAI 已有的强化学习平台和神经网络项目，改进自家 Azure 平台和云计算领域，更好地展开商业化。

巨头大乱战

接下来就是如火的AI大乱战，颇有点春秋战国的味道。

就先写到这里，后面接着聊