Search Results: AI數據中心 (2)

    AI 是科技界增長最快的領域,但在背後支撐其運作的數據中心,卻與傳統數據中心有很大分別。AI 數據中心不單耗電量驚人,而且亦有完全不同的新架構及數據傳輸規格。現實情況是在市場需求急升的情況下,不少建造商都要全力趕工興建。最近就有安全機構發表研究報告,指建造商未必真正明白 AI 數據中心與傳統版本有何分別,結果興建出來的新設施便直接曝露在網絡攻擊的風險之中。 AI 數據中心似共享辦公室 到底傳統數據中心與 AI 數據中心有什麼不同?傳統數據中心的架構就像傳統貨倉,內裏有一排排獨立儲物櫃,各自存放不同客戶的貨物,由於客戶已知,因此可在可控的基礎設施下運作。相反 AI 數據中心卻像共享辦公室,租戶來自五湖四海,但卻共用同一組硬件,一旦其中一個環節出事,全條生產線都會受影響。 負責《十大數據中心與 AI 基建安全風險》研究報告的安全機構 Lava Labs 就指出,當原本數據中心的架構是為「熟客」設計,如今卻要應付「陌生人」的工作,風險自然大增。研究員舉例說,AI 數據中心的 GPU…

    香港科技大學一直致力開拓創新教學新模式,早於數年前便將 AI 融入傳統主修課程,更於去年成為香港首家在教研上有系統地採用生成式 AI 的學府。為支援校內使用 AI 等需要,在香港電訊(HKT)的協助下,最近決定採用 思科的解決方案,不但降低管理難度,更為整個資料中心網絡增加可見性。思科指相比現有 InfiniBand(IB)技術下每個連接埠的成本,新解決方案足足降低了 40 至 50%。 今次科大在本身已有的 AI 數據中心之上,需要擴大其網絡設施,建構一個達 HPCIC 級的資料中心,要具備高性能計算和創新技術,以支援相關 AI 課堂、大型語言模型(LLM)訓練等需要。 未來擴充時可應用同一套系統…