AI圈报
教程 / 实战普通

预训练之后为什么还要后训练:三种技术如何把基座模型变成助手

信息来源:X:马东锡 NLP (@dongxi_nlp)·
原始标题:预训练之后,为什么还要后训练?

内容摘要

作者以 InstructGPT 与 GPT-3 对同一请求的不同回答为切入,解释预训练只教模型猜下一个词,基座模型因此存在不听指令、可能造成伤害、不擅长长链条推理三个短板。
内容分类AI 教程与实战
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:马东锡 NLP (@dongxi_nlp)
站内情报编号intel-d832fbbe3d9e235556e1427d