大型语言模型知识索引

方向概述

大型语言模型（LLM）是当前人工智能最活跃的研究与应用方向。本方向涵盖GPT/LLaMA等模型架构原理、Prompt工程、SFT/RLHF等微调技术，以及从零使用LLM的实战代码。

关键词汇总

| GPT | LLaMA | Transformer | Scaling Law | Flash Attention | RoPE | GQA | Prompt工程 | SFT | RLHF | LoRA | DPO |

---

文档列表

核心指南

• LLM大模型基础指南 — GPT系列演进、LLaMA开源模型、Scaling Law、Flash Attention、RoPE、GQA与transformers实战
• Prompt工程与上下文学习 — Zero-shot、Few-shot、Chain-of-Thought、ReAct、LangChain与Agent设计
• SFT监督微调与RLHF人类反馈强化学习 — LoRA、QLoRA、RLHF三步骤、PPO、DPO与PEFT实战

相关方向

• 深度学习 — 神经网络基础，特别是Transformer架构
• 机器学习 — 机器学习理论基础

---