|
|
| |
| |
职位描述 用小程序查看更多 |
|
岗位职责
1. 参与端侧 / 本地大模型（LLM & 多模态）的训练、微调及推理链路的工程实现与优化；
参与模型在真实设备（PC / 移动端 / 边缘设备）上的部署落地，包括量化、KV Cache、长上下文等推理优化；
2. 协助打通模型从训练、导出到端侧运行的完整闭环，提升推理延迟、吞吐、内存与功耗表现；
3. 参与端侧 Runtime / 推理框架 / 工具链的开发与适配，使用 profiling 工具定位瓶颈并推进优化闭环；
4. 与算法、系统团队协作，跟踪 Unsloth、KTransformers、Nexa SDK 等本地训练推理工具链的进展并做集成验证。
任职要求
1. 计算机、人工智能、软件工程等相关专业在读，硕士及以上，能连续实习 6 个月以上者优先；
2. 熟练使用 Python 和 PyTorch，有实际模型训练或微调经验（非只会调用 API），具备良好的工程能力与代码习惯；
3. 理解 Transformer 架构与大模型训练 / 推理核心技术，了解 LoRA / QLoRA、量化、KV Cache 等基本概念；
4. 熟悉 Linux 开发环境，具备独立定位问题 |
|
| |
|
|
| |
|
