南京新港高新技术产业园创业公司——大模型推理优化工程师

南京新港高新技术产业园内一家专注AI基础设施的创业公司,近期通过猎聘平台发布了大模型推理优化工程师的招聘岗位。该岗位要求硕士学历,给出的薪资区间为30-50K每月,工作地点在南京。从薪酬水平看,这已经接近一线互联网公司同岗位的待遇,在南京本地属于中上偏高的水准。

岗位的核心工作围绕大模型推理环节展开。具体内容涉及模型压缩、量化、算子融合、推理引擎选型与调优(如vLLM、TensorRT-LLM),以及针对不同硬件(如英伟达A100/H100或国产芯片)的适配优化。要求候选人具备扎实的计算机系统基础,熟悉PyTorch或TensorFlow框架,对CUDA编程和Transformer结构有深入理解。创业公司的特点在于节奏快、技术栈新,入职后大概率会直接参与核心产品的性能攻坚,而非边缘性支持工作。福利方面,除固定薪资外,通常还包含期权激励和项目奖金,具体额度需在面试中与企业确认。

从发展前景看,大模型推理优化是当前AI产业链中人才缺口较大的细分方向。国内主流云厂商和AI独角兽都在持续投入推理成本优化,具备实战经验的工程师在跳槽时议价能力较强。南京本地高校资源丰富,南大、东南大学等每年输出大量计算机相关毕业生,但高端AI人才流向上海、杭州的现象依然存在,愿意留在南京的候选人反而更容易获得核心岗位和快速晋升机会。

南京同类企业相似岗位补充

除上述创业公司外,南京近期还有几个值得关注的同类岗位:

中科曙光南京研究院——大模型部署优化工程师,月薪25-40K,要求熟悉国产算力平台适配,硕士优先,侧重高性能计算与分布式推理方向。

华为南京研究所——AI推理框架开发工程师,月薪35-55K,负责MindSpore框架的推理性能优化,要求掌握C++和并行计算,对模型量化有实际项目经验。

这两个岗位与前述创业公司职位在技能要求上有较高重合度,可以作为同时投递的备选。需要注意的是,大厂面试流程较长,创业公司决策更快,求职者可以根据自己的职业偏好做优先级排序。

南京AI岗位市场趋势

从猎聘、BOSS直聘等平台的数据看,南京的AI岗位供给量在2026年上半年保持稳定增长,尤其是大模型相关岗位,较去年同期增加了约四成。薪资结构上,30K以上岗位主要集中在模型训练、推理优化、AI平台架构三个方向,且普遍要求硕士学历加一到三年实战经验。南京的AI企业以研究所背景、国企分支机构和中小创业团队为主,纯互联网大厂的数量不如杭州深圳,但胜在岗位稳定性高、加班强度相对可控。

对于求职者而言,南京市场的竞争激烈程度低于一线城市,但企业对候选人的实际动手能力要求并不低。建议在投递前准备好能展示优化效果的项目案例,比如推理延迟降低的百分比、显存占用减少的具体数字,这些比单纯罗列技能清单更有说服力。