在人工智能技术向应用场景深度渗透的进程中，如何让大语言在多层云边网络中部署，以及应对计算机视觉中估计可靠几何模型参数任务，成为技术理论发展的重要痛点。近日，特斯联两项研究成果分别被通信领域国际顶会INFOCOM和人工智能权威期刊IEEE T-PAMI收录，持续攻克两大技术难关，进一步加速大模型技术的商业落地。
用于优化人工智能和大语言模型部署的综合多层网络框架
针对大语言模型需要部署在多层云边网络中，但传统调度方法往往受限于网络容量，导致响应延迟高、资源利用率低等问题。特斯联首席科学家杨旸博士及其课题组发布《Multi-Tier Multi-Node Scheduling of LLM for Collaborative AI Computing》，提出了一种两阶段的多层多节点LLM调度算法，实验结果表明，该解决方案的吞吐量较传统调度方法提高9.1%-26.3%，目前已被通信领域权威国际会议INFOCOM （CCF-A） 收录。
该技术的核心思路源自对传统方法的拆解与重构。第一阶段，层间LLM自动解耦和分割阶段采用整数线性规划来有效地分配模型大小和计算需求。第二阶段，层内LLM任务调度算法利用图神经网络（GNN）评估资源利用率和网络条件，从而确定每个层内的最佳调度节点。该研究提出的多层级多节点调度框架为高效利用分布式资源提供了理论基础和技术支持。
潜在语义空间直线拟合示例
同一时期，特斯联首席科学家邵岭博士及其合作团队也发布了最新研究成果《Latent Semantic Consensus For Deterministic Geometric Model Fitting》，提出了一种名为“潜在语义共识”的方法，保留存在于数据点和模型假设中的潜在语义共识，以应对计算机视觉中常见的从含有严重异常值的数据中估计可靠几何模型参数的任务。
“潜在语义共识”的方法在处理复杂数据集、提高模型拟合精度和速度方面具有显著优势，在计算机视觉、自动驾驶、机器人导航、增强现实与虚拟现实、运动分析等场景中具备广泛的应用潜力，能为多个领域提供技术支持和解决方案。目前论文已被人工智能领域权威学术期刊IEEE T-PAMI 2024年46卷第九期收录。
两项成果的背后，体现了特斯联对科研技术的高度重视。据了解，特斯联研发团队由三位电气和电子工程师协会会士（IEEE Fellow）——首席技术官华先胜博士、首席科学家邵岭博士、首席科学家杨旸博士领导。截至2024年06月30日，特斯联研发人员占员工总数的52.2%。