ChatGPT是怎样一步步从“人工智障”成为“人工智能”的?(附报告下载)

时间:2023-02-28 07:05:06     来源:晓庄同学产品笔记

chatGPT最近是火的一塌糊涂,但你知道它是怎样一步步成为“人工智能”的么?

今天就通过一个PPT为大家揭秘一下它的训练模型~


(相关资料图)

估计还有很多人对ChatGPT不是很熟悉,我们还是先来一波简单的介绍吧:

Generative Pre-trained Transformer生成型预训练变换模型

GPT是”Generative Pre-trained Transformer“生成型预训练变换模型的缩写,目的是为了使用深度学习生成人类可以理解的自然语言。目前我们讨论的GPT一般指的是GPT-3,显而易见,在之前还有GPT-2和GPT。

GPT-3是由人工智能公司OpenAI训练与开发,该模型设计基于谷歌开发的变换语言模型。GPT-3的神经网络包含1750亿个参数,为有史以来参数最多的神经网络模型。OpenAI于2020年5月发表GPT-3的论文,微软在2020年9月22日宣布取得了GPT-3的独家授权。

ChatGPT: 为对话而优化的语言模型

按照OpenAI官方的说法“我们已经训练了一个名为 ChatGPT 的模型,它以对话的方式进行交互。对话模式使 ChatGPT 能够回答连续的问题、承认错误、质疑不正确的前提并拒绝不恰当的请求。ChatGPT 是InstructGPT的兄弟模型,InstructGPT模型被训练为遵循对话中的指令并提供详细的响应。”

聊天机器人ChatGPT

ChatGPT是基于GPT3.5优化的一个模型,可以理解为是一个通用聊天机器人。根据 OpenAI 的说法,GPT-3.5通过吸收大量来自网络的内容,包括成千上万的维基百科条目、社交媒体帖子和新闻文章,来学习句子、单词和部分单词之间的关系。

好了,接下来进入正题,我们来看一下ChatGPT是怎样训练的~

最后,我们来问问它,看它怎么说~

报告下载

另外呢,我还收集到了这么两份,非常详细的关于ChatGPT的报告。

有兴趣的小伙伴,直接在下方公众号内回复关键字“ChatGPT报告”,就可以下载下来研究啦~

往期推荐

标签: 人工智能 语言模型 一塌糊涂

最新文章推荐