以AMD GPU架設生成式AI應用環境,讓同學深入學習生成式AI應用
圖為亞大資電學院程式設計菁英團隊執行長陳政煥指出,亞大程式設計菁英團隊在校內外AI競賽表現優異、獲獎眾多。
亞洲大學擁有全台首座、由美商超微半導體AMD公司捐贈數百萬元軟硬體設備,成立的「AMD邏輯及運算實驗室」,用來發展生成式AI、機器人等相關研究應用。亞大資電學院日前在程式菁英基地,舉辦「AMD工作坊」,向學生深入介紹由AMD公司捐贈的48G高速記憶體W7900 專業顯示卡,如何用來架設生成式AI應用環境,發展建立LLM大語言模型的專屬私有知識庫。
亞大校長蔡進發於去年1月,帶領AI團隊到美國AMD公司參訪,頒授亞大名譽博士學位給蘇姿丰董事長,雙方並洽談合作研究計畫。接著,AMD捐贈多項研究及教學設備給亞大,設立「AMD邏輯及運算實驗室」,協助培育人工智慧人才和研究計畫。蔡校長也在6月參訪台北國際電腦展(COMPUTEX 2024)美商超微半導體AMD展示中心時,由亞大團隊簡報雙方合作研究進度,及運用實驗室教學現況。
亞大程式設計菁英團隊執行長陳政煥表示,以往亞大程式設計菁英團隊在多位教授的指導下,在校內外AI競賽表現優異、獲獎眾多。面對生成式AI年代,如同蔡校長一再提醒同學,要培養「駕馭AI」的能力,希望同學可以多加利用「AMD邏輯及運算實驗室」,使用AMD先進的設備,深入學習生成式AI的應用。
圖為生醫系李育全同學,介紹在AMD GPU上架設Ollama伺服器。
資工系主任朱學亭指出,亞大重視培養同學的AI實力,無論是no code、low code的AI解決方案,都有助於快速學習,將生成式AI應用在各自的專業領域。也期望有更多同學加入「AMD工作坊」,投入生成式AI的學習。
工作坊中,另由生醫系李育全同學介紹如何在AMD GPU上架設Ollama伺服器,介紹生醫系用來發展「基因、疾病、藥物三元組知識圖譜」的分析研究。資工系陳聖瑋同學介紹在ROCm環境,利用AMD W7900 GPU上撰寫程式來運行LLM模型。資工系陳聖瑋同學介紹了如何用Transformer套件來操作LLM模型。
圖為資工系陳聖瑋同學,介紹在ROCm環境,利用AMD W7900 GPU上撰寫程式來運行LLM模型。
圖為亞大資電學院舉辦「AMD工作坊」,參與師生合影。