【赛事简介】

"异构集群上的大型语言模型推理"用于在异构GPU集群上提供高吞吐量和低延迟的大语言模型（LLM）服务。通过将LLMs的推理计算以最大流问题形式表示为有向加权图，使用混合整数线性规划（MILP）算法来发现高度优化的策略，从而联合优化模型放置和请求调度。现继续长期开放该赛题至2025年1月30日，并设奖金¥100000，如果你喜欢挑战、想要获得丰厚的奖金，更想在竞赛技术圈中结交志同道合的朋友，那么，快来一起参与吧！

【参赛对象】

在校学生、开发者、企业员工等科技人员均可参赛。

【报名须知】

1. 报名方式：登录大赛官网，点击页面上方“立即报名”按钮进行报名。

2. 大赛以单人形式参赛，不需多人组队。

3. 赛题详情附件中有编译运行环境常见问题说明，请各位参赛选手仔细阅读。

【赛程说明】

报名：即日起-2025年1月30日18：00

作品提交：即日起-2025年1月30日18：00

【赛事交流答疑】

官方交流答疑论坛：https://bbs.huaweicloud.com/forum/forum-0122141620620367005-1.html

如有赛题疑问，请前往官方论坛发帖提问，我们将尽快解答~

选手交流群：