ＡI 算力Server (封閉 vs 開放)

 封閉 vs 開放

昨天台大電機系館，有一個午餐便當會議，台大電機&資工系教授、和學生參加。

去年，群聯技術長向 董事長報告，希望投資「6000萬元買AI硬體」，導入生成式AI到公司內，被拒絕。

後來，他想到「用群聯SSD卡，及其上的middleware 」的方法，訓練AI所需硬體的成本，可以降到「低個位數百萬以下」。

大學校園面臨到一個問題，不可能有幾千萬的經費，去投資「訓練A I的硬體」，群聯的解決方案，有吸引力。

而，如果上Microsoft 等巨人的雲端，你的資料全給了Microsoft，而且你訓練出來的Model也在Microsoft手中。

昨天主持會議的 陳良基前部長，把這個比喻成傳統的IDM模式，這種是傳統T I和Intel在半導體產業做的事。

而，半導體產業的「垂直分工」，讓不論是台積電、或nVidia、或封測廠商、或IP廠商等崛起。

陳良基前部長希望在A I時代，也有「類似半導體產業」的「開放架構」產生。

以 台積電和 nVidia為首的半導體產業的「垂直分工」十分成功，其重點在「開放」及「合作」。

「開放」及「合作」，不論對個人或是組織，都非常的重要。