亚大杰出讲座,邀请群联电子技术长林纬演讲

  • 2024-11-29
  • 公共事务中心
  • 2024年

谈「AI教育落地普及,群联aiDAPTIV+方案可助攻」,降低AI模型建置成本,能加速AI在各行各业普及化

图为亚大校长蔡进发表示,他邀请群联技术长林纬来亚大授课,协助亚大推动相关生成式AI教学更完善。
图为亚大校长蔡进发表示,他邀请群联技术长林纬来亚大授课,协助亚大推动相关生成式AI教学更完善。

亚洲大学25日上午举办杰出讲座,邀请群联电子公司技术长林纬,谈「AI教育落地普及,群联aiDAPTIV+方案可助攻」,实体场和线上吸引大批亚大师生参与。林纬技术长说,「安全、自主、可控」是AI发展的关键,该公司所研发系统,能大幅降低AI模型建置成本,对于AI在各行各业普及进程大大加分。

亚大校长蔡进发表示,群联是世界IC大厂,在快闪内存有2000多个专利,想打造「平民版的AI」的决心,非常了不起;林纬技术长所设计的快闪内存有30多亿个的芯片,负责各大学的产学合作案、先进内存的技术,他邀请林纬技术长来亚大授课,协助亚大推动相关生成式AI教学更完善。

林纬技术长指出,生成式AI是20年一次的技术大突破,随着逐渐普及化,渐渐融入一般民众的日常活动中。但生成式AI架构从单一模型框架,演变为复杂的多专家系统,高部署成本成为其广泛采用的重大障碍。大型语言模型从LLM生成文本,到VLM能读图片、看图说故事,未来运用会更为广泛,如:协助医师判读病历资料等,准确度高,但必须克服的就是训练大型语言模型的高成本。

图为群联技术长林纬指出,亚大导入AI教育,,以VLM为主体,与医学的结合,是很好的切入点。
图为群联技术长林纬指出,亚大导入AI教育,,以VLM为主体,与医学的结合,是很好的切入点。

林纬技术长说,群联开发「aiDAPTIV+」技术方案,简单的说,就是利用NAND Flash来扩展高带宽内存(HBM),进而大幅降低成本。以训练90B模型为例,原本需要超过3000万元的建置费用,但采用「aiDAPTIV+」成本不到300万元,大幅降低AI模型建置成本,对于AI在各行各业普及进程大大加分。

林纬技术长表示,在生成式AI年代,「安全、自主、可控」是企业在导入AI模式型非常重要的三大要素,「aiDAPTIV+」整合硬、软件的AI模型微调训练地端解决方案,可让企业进行AI模型微调运算的过程中,依旧保有资料不外流的安全性,让机器学习更安全、有保障。将训练的AI模型塑造成能够理解特定领域的专业工具,例如:符合律师、会计师、医师、工程师等特殊领域的AI助理等,提供符合各种专业领域所需的精确服务。

林纬技术长说,「aiDAPTIV+」已导入公家机关、警察局、金融机构、中小企业等客户,让AI技术实际落地。要在亚大导入AI教育,与医学的结合是很好的切入点,以VLM为主体,与AI医学连结,建立AI教育的资源,可吸引招募外国学生来台,可以提升国际号召力,打造台湾在芯片岛、棒球岛之外,能成为AI岛,有全世界最好的AI资源能够应用,更能吸引外国学生。

图为亚大杰出讲座,亚大校长蔡进发(前排左)、主讲人群联技术长林纬(前排右),和实体场参与师长合影。
图为亚大杰出讲座,亚大校长蔡进发(前排左)、主讲人群联技术长林纬(前排右),和实体场参与师长合影。
 

编辑