ARTICLE
文章
全部AI写作人工智能关于本站建站与写作技术未分类算法与数据结构系统运维软件开发#AI写作#AI编程#Codex#Git#Hugging Face#LLM#LeetCode#Linux#LoRA#RLHF#Transformer#Transformers#个人记录#全栈开发#写作#博客#启动流程#回溯算法#大语言模型#密码恢复#强化学习#提示词#模型对齐#模型微调#模型训练#注意力机制#版本控制#现实问题#站点生成器#站点记录#系统维护#自然语言处理#静态网站
什么是Transformer？
本文从自然语言处理的基本思路讲起，说明 RNN、LSTM 因串行处理而存在并行能力不足、长距离信息易被稀释的问题，并介绍 2017 年《Attention Is All You Need》提出的 Transformer。文章解释了注意力机制中的 Query、Key、Value 与多头注意力，以及为弥补顺序信息而加入的位置编码；随后介绍编码器—解码器结构、残差连接与层归一化，以及 BERT、GPT 等不同路线，并总结 Transformer 在并行、全局视野和可扩展性方面的优势。
LLM的Ai味何来？
从用 LLM 写论文的糟糕体验切入，剖析防御性叙事的成因——奖励的非对称性、长度偏见与自回归轨道效应，以及实用的提示词应对方法
RLHF: 基于人类偏好的强化学习
RLHF
transformer
你需要的就是你需要的，让我们看看什么是transformer吧
hugging face 抱抱脸
关于hugging face的工具和使用
LoRA微调
LoRA微调是什么？如何进行？