谈「新世代边缘AI运算架构—内存内运算」、未来AI人才与数码转型的挑战和机遇

亚洲大学23日上午举行杰出讲座，邀请台达电子技术长郭大维，谈「新世代边缘AI运算架构—内存内运算」。郭技术长分享边缘运算、内存内运算与大型模型，在能源永续、AI应用上的差异，分析台湾在AI推动下，如何找到自己定位、能发挥的强项，内容涵盖：多模态运算、AI市场投资趋势、及未来人才与数码转型的挑战和机遇，并与亚大师长展开热烈交流，分析AI与内部创新对工作价值、生产力的影响。

亚大校长蔡进发表示，很荣幸请到郭大维技术长来亚大，他十分杰出，是台大资工系特聘教授，还曾担任过台大代理校长，现在是台达电首席技术长；他的研究领域包括：嵌入式系统（Embedded Systems）、非挥发性内存程式设计（Non-volatile Memory Software Designs）、类神经网络计算（Neuromorphic Computing）和即时系统（Real-time Systems）。AI发展每天日新月异，边缘AI计算是十分重要的区块，很高兴听到郭技术长分享最新的AI关键应用，亚大也希望能与他有深入交流，探究在AI时代如何培育未来人才。

郭技术长指出，Edge AI应用(边缘计算)，是AI浪潮下非常重要的一块，也是台湾能够扮演重要角色，从辉达NVIDIA执行长黄仁勳每年数次返台，就可以一窥端倪，不只在AI领域，台湾在整个PC产业中一直扮演着重要、关键的角色。台湾是全球半导体、电子产品制造重镇，Edge AI带来的物仅是技术升级，更是横跨芯片、崁入式系统、通讯模组、A lot设备、智慧制造等领域的庞大商机。

郭技术长说，因为低功耗NPU、AI加速芯片的进步，现在逐步朝低成本、轻量化AI模型的发展，有别于云端运算（cloud computing），不用将资料传到云端，而是在网络「边缘」上，就能即时处理，让AI从云端扩展至终端装置， 包括：AI PC、智慧制造、智慧车载、智慧医疗、智慧城市等应用，都已经开始导入边缘AI技术，并进入大规模商业化落地阶段，台湾都可以在其中占一席之地。

郭技术长以近日Meta宣布将在美国兴建一座耗电量 5GW (gigawatts) 的 AI 资料中心，作为支援其 AI 服务的基础架构为例，他说，台湾刚除役的核能电厂能产出电量1GW，可供台湾几百万个家庭用电，等于是Meta这座AI资料中心需要5座核能厂供给电力，耗电量十分惊人！能源使用和永续的平衡，是AI快速发展的同时，必须考量的重要议题。

郭技术长表示，在2023年以前，很多工程师以为写程式不会被取代，但有许多标志型的AI接连出现，这2年内不断推陈出新、十分热闹，但从大模型进入多模态、或更多分散作业，不需要去驱动整个大模型，从云端进入地端，开始出现边缘计算，从企业角度来看，朝向要求更高品质、更好准确度、更好的训练方法。使用者也开始省思，「AI确实能做很多事，但到底做了什么事？如何去管理AI？」

有哪些是属于Edge AI范畴？郭技术长说，其实Edge AI范围相当广，以台达电执行的合作案为例，透过前处理让运算更有效率、将资料平行化后再比对等，就能避免资料过于庞大；手机、车用系统、监控设备、机器人等，不需要复杂算法就能执行，预估2031年全球Edge AI的市场规模会超过1400亿美元。

郭技术长提醒，AI世代不只是大模型对产业有很大影响，还有更多是在Edge端，让台湾能有所发挥，不单是在工业上的应用，还有在家庭里，所以必须回过头来思考，我们需要什么样的人才来做这些事？过去是计算机时代，现在则进入资料密集的科学时代，在这样的时代驱动和发展模式下，如何掌握最大的力量来做事，是必须思考的问题。

「数码化AI时代，已经启动！」郭技术长说，要培育什么样的人才，是在这样的AI时代能够存活、发展？软实力、沟通、合作能力，是这种跨领域时代必须具备的，创造力十分重要，必须有很好的思考模式，在有众多工具可以使用的环境下，能够知道哪些东西可能会被取代。世界变化太快，未来的时代没有人知道它会变成什么模样，必须培养高适应力，未来世界可预见是人和机器共存，但要如何共存、一起工作、一起生活，就是接下来最重要的问题。