以AMD GPU架设生成式AI应用环境,让同学深入学习生成式AI应用
图为亚大资电学院程式设计菁英团队执行长陈政焕指出,亚大程式设计菁英团队在校内外AI竞赛表现优异、获奖众多。
亚洲大学拥有全台首座、由美商超微半导体AMD公司捐赠数百万元软硬件设备,成立的「AMD逻辑及运算实验室」,用来发展生成式AI、机器人等相关研究应用。亚大资电学院日前在程式菁英基地,举办「AMD工作坊」,向学生深入介绍由AMD公司捐赠的48G高速内存W7900 专业显示卡,如何用来架设生成式AI应用环境,发展建立LLM大语言模型的专属私有知识库。
亚大校长蔡进发于去年1月,带领AI团队到美国AMD公司参访,颁授亚大名誉博士学位给苏姿丰董事长,双方并洽谈合作研究计画。接着,AMD捐赠多项研究及教学设备给亚大,设立「AMD逻辑及运算实验室」,协助培育人工智能人才和研究计画。蔡校长也在6月参访台北国际电脑展(COMPUTEX 2024)美商超微半导体AMD展示中心时,由亚大团队简报双方合作研究进度,及运用实验室教学现况。
亚大程式设计菁英团队执行长陈政焕表示,以往亚大程式设计菁英团队在多位教授的指导下,在校内外AI竞赛表现优异、获奖众多。面对生成式AI年代,如同蔡校长一再提醒同学,要培养「驾驭AI」的能力,希望同学可以多加利用「AMD逻辑及运算实验室」,使用AMD先进的设备,深入学习生成式AI的应用。
图为生医系李育全同学,介绍在AMD GPU上架设Ollama服务器。
资工系主任朱学亭指出,亚大重视培养同学的AI实力,无论是no code、low code的AI解决方案,都有助于快速学习,将生成式AI应用在各自的专业领域。也期望有更多同学加入「AMD工作坊」,投入生成式AI的学习。
工作坊中,另由生医系李育全同学介绍如何在AMD GPU上架设Ollama服务器,介绍生医系用来发展「基因、疾病、药物三元组知识图谱」的分析研究。资工系陈圣玮同学介绍在ROCm环境,利用AMD W7900 GPU上撰写程式来运行LLM模型。资工系陈圣玮同学介绍了如何用Transformer套件来操作LLM模型。
图为资工系陈圣玮同学,介绍在ROCm环境,利用AMD W7900 GPU上撰写程式来运行LLM模型。
图为亚大资电学院举办「AMD工作坊」,参与师生合影。