想入行大模型训练，该学哪些东西？

招聘要求里反复出现的是PyTorch或Megatron这类框架的实操经验，以及Transformer结构、数据并行/张量并行/流水线并行的理解，还要能处理loss异常、显存溢出、通信瓶颈这些训练中的实际问题。选课时可以对着这几项看，优先挑有真实集群跑模型、能动手调参排错的，只讲理论或只带做微调demo的，对求职帮助有限。