【限时特惠】小白玩转AI大模型应用开发_哔哩哔哩_bilibili

GPT预测出现概率最大的词

00:00:45

00:00:53

00:01:07

编码器与解码器

token化

00:01:42

向量嵌入

00:02:17

00:03:18

位置编码

00:04:08

编码器

00:04:28

• 捕抓关键特征，注意力就是一切
• 多头注意力机制

00:06:16

00:05:06

00:05:24

00:05:49

00:10:01

00:10:15

自回归

00:10:37

序列模型

00:10:49

GPT是如何练成的

3个步骤

无监督与监督学习

让模型使用带有标签的学习资料【监督】

• 获得基座模型，但无法对话

00:02:55

00:01:23

监督微调Supervised Fine Tuning

00:03:33

• 改变特定参数，让模型使用专业化的任务
• 得到SFT模型后，让它更善于回答

00:03:50

00:04:18

强化学习

观察动作与奖惩之间的联系

• 基于3H原型进行打分，让模型得到正向反馈
• 训练一套建立模型，通过评分标准，由人工进行标注排序，反馈给奖励模型进行迭代

00:04:47

00:05:17

00:06:26

---

Jupyter Notebook开发AI模型工具

• 按单元格进行代码展示
• 交互式运行
• MD格式的丰富嘻嘻你展示

jupyter Notebook界面

00:02:48

00:00:18

00:03:54

用代码和AI交互

• 调整准确性
• 定制化处理

00:01:16

基于HTTP协议,进行请求与相应的服务响应

00:01:59

使用官方提供的Python库

00:03:05

获取API密钥GPT版

00:00:43

• 密钥删除后便直接失效
• 将密钥与电脑的环境变量进行绑定

00:02:51

00:02:38

OpenAI的python库

00:00:22

00:00:31

00:01:32

大模型的计费

token计费

00:00:35

100个tokens约等于75个单词

00:02:37

00:02:58