東海攜手HPE、NVDIA、AMD 打造全台首創LLM校園平台 打破AI教育斷層 重塑智慧學習模式

生成式AI為教育模式迎來改革浪潮，東海大學攜手HPE、NVIDIA及AMD打造全台首創「從晶片到應用」的全棧式(full-stack)LLM校園學習平台，讓學生能實際建置AIAgent、微調大型語言模型（LLM），創造具商業價值的AI應用，以克服AI教學的三大斷層。 東海大學借助HPE等科技巨頭之頂尖技術，不僅於校園內提供產業級算力資源，更建構跨領域教學與實作場景。圖為東海校長張國恩(右)、HPE台灣暨香港董事長王嘉昇(左)。(東海大學提供) 隨著人工智慧技術掀起全球教育革命，東海大學借助HPE等科技巨頭之頂尖技術團隊，結合敦新科技的系統整合專業，導入高效能AI伺服器及AI深度學習解決方案，不僅於校園內提供產業級算力資源，更建構跨領域教學與實作場景，今(6)日於東海圖書館集思區正式舉行平台啟用儀式，現場貴賓雲集，包含台中市副市長鄭照新、東海大學校長張國恩、HPE台灣暨香港董事長王嘉昇、AMD台灣分公司資深業務協理黃偉喬、RedHat台灣總經理孫媛音，以及東海大學副校長詹家昌、副校長張嘉修、副校長劉正、一級主管等人都到場參與。 校長張國恩表示，東海大學多年前在大渡山學會鄭清和理事長的支持下成立AI中心，積極推動AI產官學合作、AI課程，奠定東海在AI教育研究上的基礎。而今再度創新突破，平台試運半年來，已誕生2組具商業價值的作品，包含應用於本地端AI護理師助理系統(PrivNurseAI)與整合「檢索增強生成」(Retrieval-AugmentedGeneration,RAG)架構的課程學習助教，這些成果充分展現東海團隊與學生的實力以及LLM學習平台的潛力。張國恩說，教育的本質在於讓知識轉化為實踐力，創造出真正能解決產業與社會需求的應用，這次和HPE一同打造LLM學習平台，不只是技術的革新，更是學習模式的變革，未來也會進一步優化系統，將基於LLM的聊天機器人開放校外使用，讓社會大眾共同體驗先進的AI科技，善盡大學的社會責任和影響力。 副市長鄭照新表示，台中市政府希望與東海持續合作，將人文與AI科技結合，共同幫助台中市打造為全台最佳的人文數位城市。(東海大學提供) 副市長鄭照新表示，東海大學致力推動成為AI大學，已建置AINB教室，以及和資策會及產業進行密切合作，並與台中市政府共同爭取NVIDIA到台中設立研發中心等，都說明東海大學作為台中市推動智慧城市的重要夥伴，鄭照新也強調，台中做為科技供應鏈的重要城市，正積極推動台中成為台灣數位發展的重要核心，今天看到東海大學攜手HPE、NVIDIA及AMD等三大巨頭，共同打造全台第一個「從晶片到應用」的全棧式(full-stack)LLM校園學習平台，台中市非常肯定東海大學作為AI教育的領導者，此外，他也強調，東海不僅在AI推動上遙遙領先，更是一所充滿人文的大學，台中市政府希望與東海持續合作，將人文與AI科技結合，共同幫助台中市打造為全台最佳的人文數位城市。 LLM校園學習平台打破AI教學的三大斷層，讓學生能實際建置AIAgent、微調大型語言模型，創造具商業價值的AI應用。(東海大學提供) HPE台灣暨香港董事長王嘉昇表示，很榮幸能與東海大學攜手合作，推動生成式AI教育的發展，幫助學生深化跨領域理論與應用學習，並為教師提供創新教學工具，提升教學效率。王嘉昇說，目前HPE也正積極將AI技術融入教育與研究流程，擴展在智慧校園、教學資源管理等領域的應用，期望加速教育科技的數位轉型，培養更多具備AI能力的人才。 圖資長楊朝棟也提及成立平台的契機，在推動AI技術引入教育體系的過程中，發現一般生成式AI教學存在著應用層次、算力資源及實作場景等三大斷層，為解決此困境，東海建置全棧式LLM校園學習平台，採用混合雲架構並搭配於2024年領先全國導入CPU+NPU且內含先進GPU運算設備的「玉釵AINB教室」進行教學，幫助東海學生在較短的時間內完成複雜的運算任務，也將教學環境從「工具使用」升級到「模型創造」，並從產業面導入邊緣運算方案，將產業問題整合為領域知識微調模型，建立跨領域資料庫及部署架構，此外，也進一步為資訊與非資訊專業科系學生增設相對應的課程，未來學生可以自行建立更多LLM應用，幫助自身學習甚至助力產業發展。