2025
50
- Agentic search/RAG pipeline
- GRPO trainer 训练推理模型 GRPO 实现讲解
- GRPO & DAPO 论文解读 GRPO-trainer-HF 长度奖励的文本压缩任务
- DPO trainer - by trl
- cuda 显存占用优化
- Qwen 2.5 VL 微调处理
- LLM 推理 & speculative sampling
- Direct Preference Optimization (DPO)
- 多轮对话数据微调 qwen
- Qwen 2.5 VL 推理
- 对比学习在CV与NLP领域的应用：SimCLR、SimCSE 与 SimVLM
- function calling agent Agent 概念 LoRA - Low-Rank Adaptation
- Alpaca 源码分析 ViT - vision transformer
- CLIP - Contrastive Language-Image Pre-training
- AMP - Automatic Mixed Precision FSDP - Fully Sharded Data Parallel
- 三种知识蒸馏的简单CIFAR-10示例
- NCCL 通信模式 简单示例
- 单轮对话->多轮对话->简单agent示例 wandb 的使用方法和示例 利用 json_repair 修复大模型的 json 生成错误 Langchain 入门教程 - 10.重排 Langchain 入门教程 - 11.检索增强生成 RAG Langchain 入门教程 - 12.智能体 agent Langchain 入门教程 - 7.embedding模型 Langchain 入门教程 - 8.向量数据库 Langchain 入门教程 - 9.向量数据库检索器 Langchain 入门教程 - 4.模型 Langchain 入门教程 - 5.文档加载 Langchain 入门教程 - 6.文档切分 Langchain 入门教程 - 2.提示词模板 Langchain 入门教程 - 3.输出解析器 Langchain 入门教程 - 1.基础应用 RAG 上下文压缩 - 优化map-reduce(reranker过滤+社区聚类) RAG 上下文压缩 - 基础概念 RAG 上下文压缩 - 带早停机制的 map-refine RAGas 上下文相关性 Context Relevance RAGas 有效文档准确率 Useful Context Precision RAGas 回答相关性 Answer Relevance RAGas 忠实度 Faithfulness 白盒模型评估 SFT 数据质量 黑盒模型评估 SFT 数据质量 MNIST 手写数字分类 Distributed Data Parallel (DDP) MNIST 手写数字分类 Data Parallel (DP) MNIST 手写数字分类 单卡实现