南京新港高新技术产业园创业公司——大模型推理优化工程师

南京新港高新技术产业园内一家专注AI基础设施的创业公司,近期通过猎聘平台发布了大模型推理优化工程师的招聘岗位。该岗位要求硕士学历,给出的薪资区间为30-50K每月,工作地点在南京。从薪酬水平看,这已经接近一线互联网公司同岗位的待遇,在南京本地属于中上偏高的水准。
岗位的核心工作围绕大模型推理环节展开。具体内容涉及模型压缩、量化、算子融合、推理引擎选型与调优(如vLLM、TensorRT-LLM),以及针对不同硬件(如英伟达A100/H100或国产芯片)的适配优化。要求候选人具备扎实的计算机系统基础,熟悉PyTorch或TensorFlow框架,对CUDA编程和Transformer结构有深入理解。创业公司的特点在于节奏快、技术栈新,入职后大概率会直接参与核心产品的性能攻坚,而非边缘性支持工作。福利方面,除固定薪资外,通常还包含期权激励和项目奖金,具体额度需在面试中与企业确认。
推理优化这个方向对基础要求不低,岗位描述里明确要懂CUDA编程、Transformer结构,还要熟悉PyTorch或TensorFlow。0基础直接上手难度较大,建议先补足计算机系统和深度学习基础。市面上有匹配企业需求的培训课程,但学完离真正胜任岗位还有距离,最好结合项目实战积累经验再投递。
查看完整问答 →从发展前景看,大模型推理优化是当前AI产业链中人才缺口较大的细分方向。国内主流云厂商和AI独角兽都在持续投入推理成本优化,具备实战经验的工程师在跳槽时议价能力较强。南京本地高校资源丰富,南大、东南大学等每年输出大量计算机相关毕业生,但高端AI人才流向上海、杭州的现象依然存在,愿意留在南京的候选人反而更容易获得核心岗位和快速晋升机会。
南京同类企业相似岗位补充
除上述创业公司外,南京近期还有几个值得关注的同类岗位:
中科曙光南京研究院——大模型部署优化工程师,月薪25-40K,要求熟悉国产算力平台适配,硕士优先,侧重高性能计算与分布式推理方向。
华为南京研究所——AI推理框架开发工程师,月薪35-55K,负责MindSpore框架的推理性能优化,要求掌握C++和并行计算,对模型量化有实际项目经验。
这两个岗位与前述创业公司职位在技能要求上有较高重合度,可以作为同时投递的备选。需要注意的是,大厂面试流程较长,创业公司决策更快,求职者可以根据自己的职业偏好做优先级排序。
南京AI岗位市场趋势
从猎聘、BOSS直聘等平台的数据看,南京的AI岗位供给量在2026年上半年保持稳定增长,尤其是大模型相关岗位,较去年同期增加了约四成。薪资结构上,30K以上岗位主要集中在模型训练、推理优化、AI平台架构三个方向,且普遍要求硕士学历加一到三年实战经验。南京的AI企业以研究所背景、国企分支机构和中小创业团队为主,纯互联网大厂的数量不如杭州深圳,但胜在岗位稳定性高、加班强度相对可控。
从招聘平台数据看,南京大模型相关岗位确实有相当比例开在30K以上,主要集中在模型训练、推理优化、AI平台架构三个方向。这些岗位普遍要求硕士学历加一到三年实战经验,不是纯入门岗。相比一线城市,南京竞争没那么激烈,但企业很看重实际动手能力,面试时最好能拿出具体的优化案例和数据。
查看完整问答 →对于求职者而言,南京市场的竞争激烈程度低于一线城市,但企业对候选人的实际动手能力要求并不低。建议在投递前准备好能展示优化效果的项目案例,比如推理延迟降低的百分比、显存占用减少的具体数字,这些比单纯罗列技能清单更有说服力。