本文使用
本文使用
SUPERCORRECT：SUPERVISING AND CORRECTING LANGUAGE MODELS WITH ERROR-DRIVEN INSIGHTS
单位： Peking University, National University of Singapore, UC Berkeley, Stanford University
代码：https://github.com/YangLing0818/SuperCorrect-llm
基座模型： Qwen2.5-Math-7B, Meta-Llama3.1-8B, DeepSeek-Math-7B
原文地址：https://arxiv.org/pdf/2410.09008
显卡：8 * NVIDIA A100-PCIE-40GB GPU
ReasonFlux阅读
单位： Princeton University， Peking University
Code: https://github.com/Gen-Verse/ReasonFlux
基座模型： Qwen2.5-32B-Instruct
原文地址：https://arxiv.org/pdf/2502.06772
显卡：8 * NVIDIA A100 GPU
手撕transformer
Transformer是当代自然语言处理领域不可或缺的模型。本文作者最近学习大语言模型，而Transformer就是大语言模型的基础，所以书写本文通过PyTorch实现Transformer.