报告题目：

Toward Scalable Generative AI via Mixture of Experts in Mobile Edge Networks

报告人：Dusit Niyato教授

时间：2024年9月23日（星期一）下午14:00-17:00

地点：线上，腾讯会议号：392-461-785

主持人：张泓亮 助理教授

摘要：

生成式人工智能（GAI）的进化推动了如ChatGPT等革命性应用的发展。这些应用的广泛普及离不开混合专家（MoE）架构的支持，该架构包含多个专家，并为每个任务选择性地调用它们，从而在保持性能的同时降低运营成本。尽管MoE具有高效性，但当GAI部署在本地用户设备上时，仍面临资源利用方面的挑战。因此，我们首先提出了基于移动边缘网络支持的MoE-GAI。具体而言，我们从传统AI和GAI的角度对MoE进行了回顾，仔细研究了其结构、原理和应用。接下来，我们为元宇宙中的GAI服务提出了一种使用MoE的新框架。此外，我们还提出了一种框架，该框架将子任务转移到移动边缘网络中的设备上，以辅助GAI模型在用户设备上的运行。我们还介绍了一种利用MoE并辅以大型语言模型（LLMs）的新方法，该方法基于深度强化学习（DRL）有效分析用户目标和优化问题的约束条件。该方法选择专门的DRL专家，并对参与专家的每个决策进行加权。在此过程中，LLM充当门控网络，监督专家模型，促进专家群体共同解决各种新任务。此外，它还可以利用LLM的高级推理能力来管理专家的输出，以便做出联合决策。最后，我们深入探究了MoE和移动边缘网络的未来可能研究方向。

报告人简介：

Dusit Niyato，现任新加坡南洋理工大学计算机科学与工程学院校长讲席教授，IEEE Fellow和IET Fellow。他的研究方向包括生成式人工智能、物联网、边缘智能元宇宙、移动和分布式计算以及无线网络等，获得多项学术奖项与基金荣誉，包括IEEE通信学会亚太地区最佳青年研究员奖、2011年IEEE通信学会Fred W. Ellersick论文奖、2022年IEEE ComSoc绿色通信与计算技术委员会杰出技术成就奖等奖项。目前，他担任IEEE通信领域影响因子最高期刊IEEE Communications Surveys and Tutorials主编，IEEE Transactions on Vehicular Technology领域编委，IEEE Transactions on Wireless Communications, IEEE Internet of Things Journal, IEEE Transactions on Mobile Computing, IEEE Wireless Communications, IEEE Network和ACM Computing Surveys等期刊编委。连续多年被评为计算机科学领域的科睿唯安全球高被引学者。