國立中山大學資訊管理學系日前邀請群聯電子蔡慧貞協理蒞臨演講，以「平價化AI應用的實踐與想像：aiDaptiv+ 的技術策略」為題，深入剖析在生成式AI浪潮下，企業如何透過技術創新突破算力成本限制。蔡協理不僅分享了群聯從快閃記憶體控制晶片跨足航太與AI領域的歷程，更勉勵資管系學生應掌握模型微調與AI代理人開發的關鍵能力，從單純的AI使用者轉型為技術開發者。

突破算力成本瓶頸：以存代算的技術創新

　　蔡慧貞協理指出，目前企業導入AI的最大門檻在於高昂的GPU伺服器與HBM（高頻寬記憶體）成本。為此，群聯電子推出了獨家的「aiDaptiv+」技術方案，透過中間軟體將SSD作為記憶體的延伸，實現「以存代算」 。這項技術讓原本需要數百萬等級伺服器才能運行的70B（700億參數）大型語言模型，得以在成本僅約二十分之一的工作站上流暢運作 。透過專利的快取管理技術，不僅大幅降低了AI模型訓練與推論的門檻，更解決了資料隱私與算力不足的痛點。

打造企業專屬「彩色大腦」：主權AI與落地應用

　　演講中，蔡協理生動地將開源模型比喻為「黑白大腦」，強調企業必須透過在地端的資料進行「後訓練」，才能將其轉化為具備領域專業知識的「彩色大腦」。她強調「主權AI」的重要性，企業應建立私有化的運算環境以確保機密資料不外流。蔡協理也展示了群聯內部的實際應用，例如輔助工程師檢查程式碼的AI工具、自動化處理發票請款的各種AI代理人，以及應用於教育場域的「AI小助教」，充分展現了AI在提升營運效率上的實際價值。

給學子的職涯建議：從AI使用者轉型為開發者

　　針對即將步入職場的資管系學生，蔡協理與在場業界專家共同勉勵，未來的職場競爭力不在於「會不會使用ChatGPT」，而在於是否具備「訓練模型」的能力。她鼓勵學生不要只停留在工具使用層面，應善用開源資源與平價化運算設備，學習開發能解決實際痛點的垂直領域應用。她指出，未來市場將需要大量能夠建構AI Agent與微調模型的開發者，這將是資管人才在AI時代中脫穎而出的關鍵機會。