学大模型是不是非得买很贵的显卡？培训机构的算力够用吗？

不用自己买，但机构算力得问清楚。训练70亿参数模型至少需要24GB显存，东莞能稳定提供GPU的机构不多。试听时直接问：学员用什么显卡、每人多少卡时、支不支持远程。有的宣传A100，实际20人共用一台，排队两小时跑一次训练，效率很低。要求看实训机房或现场演示算力调度平台，别只听销售说。