报告与AMD合作的研究进度,及运用AMD捐赠设备的教学状况
亚大校长蔡进发(左)向AMD资深副总裁王启尚(David Wang)(右2)等人介绍亚大AI团队成员及研究量能。
亚洲大学校长蔡进发6月3日带领亚大AI团队参访台北国际电脑展(COMPUTEX 2024)美商超微半导体AMD的展示中心。AMD 董事长暨执行长苏姿丰,宣布携手台湾在地合作夥伴,突破 AI 与高效能运算领域的极限。AMD于2023年捐赠亚大「AMD逻辑及运算实验室」,协助培育人工智能人才和研究计画,未来双方在教学及研究上,展开多方面的合作及推广。
亚大团队包含蔡进发校长、黄光彩荣誉讲座教授、资电学院张文钟副院长、产学长王昭能、资工系老师柯贤儒、蔡志仁、商品系主任龙希文、生医系老师詹雯玲等人参观,参观 AMD本次COMPUTEX设立的展示中心。同时,亚大团队将近期的相关研究进行简报。AMD的与会人员包含资深副总裁王启尚(David Wang)、软件部门协理兼大学计画负责人Hugo Andrade及台湾办公室的资深业务副总林建诚、资深业务协理黄伟乔及资深技术顾问张欧佑豪。
AMD的专员向亚大介绍三大主打项目。第一个是最新的MI Instinct 300系列的AI 加速卡,主要的用途是放在资料中心做数据处理及AI 模型训练。第二个是AI PC notebook系列,AMD跟HP、Lenovo、ASUS等多家公司合作,推出包含有NPU的笔电,配合跟微软合作的Window作业系统,搭载Copilot AI 软件,使笔电可以运行有限度的AI 推理及图片处理。第三个是具备图型处理能力及AI 推理能力,高达50 TOPS的笔记型电脑,这款电脑使用AMD最新型的Ryzen AI CPU。AMD 说明它们的AI 运算的处理方式是从云端服务器到地端桌上型电脑以及方便行动的AI笔电等一系列的产品,全盘考量CPU、GPU、NPU的有效结合。
亚大与AMD双方就研究中心及大学计画进行讨论。
在研究方面,亚大蔡校长介绍中国医大、亚大兄弟系统学校「中亚联大」在研究中心及医学相关领域的量能,随着「中亚联大」附属医院的成长,持续投注研发能量在生命科学领域。亚大团队也分享近期研究,蔡志仁教授的研究中使用超声波成像,利用本地多模态大型语言模型(MLLM)的微调来改善良性和恶性肾肿瘤的检测。学校团队与亚洲大学医院合作,使用了880张图像的数据集在装有AMD MI210 GPU的Supermicro服务器上训练模型。初步结果显示出高灵敏度和特异性率,未来研究计划升级到AMD GPU MI300系列,以获得更好的分辨率和更快的训练速度。
柯贤儒副教授在AMD简报会议中提出一种基于最新提出的人工智能大语言模型的架构MAMBA的改良算法,该架构被AI研究社群认为是一种具有取代目前大语言模型Transformer潜力的全新架构。亚大蔡进发校长与负责本项研究的柯老师曾对该架构的核心,状态空间模型(state space model, SSM),于2020年在讯号处理领域的顶级期刊IEEE Transactions on Signal Processing发表过一种同时具备高度运算效率及高强健性 (robustness)的SSM模型,使得MAMBA可以在低精度的情形下,也能达到高性能的输出结果,并同时可大量降低内存的使用量,目前团队成员将与AMD持续合作,进一步将研发成果应用于大健康产业的项目中。
詹雯玲副教授为了揭示支撑中医学处方在临床上有效性的分子、细胞和有机机制,提出「整合中医学与多体学以增强疾病的诊断与治疗」,并以肝癌为例,透过转录体学及基因体学结合临床预后,找出致病机转,再采取「老药新用(Drug Repurposing)」策略,探索可能的中草药。未来,将利用 AMD GPU 高速运算能力应用到其他疾病。
AMD的专员在展示中心向亚大校长蔡进发(左)介绍AMD本次COMPUTEX三大主打项目。
产学长王昭能运用AMD Instinct系列加速精准医疗知识图谱推理,研究运用几何深度学习与大语言模型于精准医疗知识图谱,应用AMD Instinct™ MI200 进行知识图谱推理速度以及大语言模型的预训练数。提升几何深度学习与知识图谱推理的速度,未来将整合AlphaFold 3 进行推理所得到的蛋白质进行结构预测,可望加速药物设计与基因相关研究。
黄光彩教授分享三个应用整合计划:(1) 全球生命科学与工程平台:与哈佛大学教授合作,提供精准医疗的研发合作。(2) 利用AI技术加速开发整合先进材料石墨烯、钻石薄膜及双相均热板技术的冷却解决方案,协助AI Sever 的芯片及资安中心的散热问题。(3) 与义美/池安合作,利用AMD FPGA U280 技术,执行美国NIST 五月刚公布的Post Quantum Cryptography (PQC)标准,并优化后量子密码安全与保护技术,透过量子安全迁移服务,转换成提升资料应用与传输安全强度,协助各医疗资讯资料中心强化AI资料安全/隐私/窜改的保护;期待于AMD FPGA的平台上,开发更多资料中心,为量子时代来临将造成的资安威胁预作准备。
龙希文主任运用深度学习判断MRI影像的神经组织区域,研究阿兹海默症的海马回的体积萎缩的程度,并以医疗商品设计提供适当的辅具,可精准有效协助病人增进生活品质。
在教学方面,AMD已于2023年在亚大成立「AMD逻辑及运算实验室」,并同时捐赠多项教学及研究设备。目前亚大也已将这批设备投入到相关的教学及研究项目中,例如逻辑设计、数码系统设计、嵌入式系统、生成式AI、以及学生的毕业专题制作等学习与训练项目中。未来亚大将与AMD持续合作,除了继续强化原有的科目外,未来亦会充分利用这些设备训练学生在人工智能领域相关学科的理论与实作。
亚大蔡校长提到,双方研拟在智慧医疗领域合作,运用AI开发对人类有帮助的医疗研发,强化学术与产业的结合。
亚大校长蔡进发(中)与AMD软件部门协理兼大学计画负责人Hugo Andrade(右5)、资深业务协理黄伟乔(左5)及双方人员合照。