企業開源解決方案供應商紅帽,宣布推出人工智能推理伺服器(Red Hat AI Inference Server),不僅源自強大的 vLLM 社群專案,更透過紅帽整合 Neural Magic 技術加以強化,提供更快速度、更高加速器效率,以及更佳成本效益,能在任何雲端環境和 AI 加速器上,執行各種生成式 AI 模型。紅帽同時宣布推出「生成式人工智能虛擬助手」OpenShift Lightspeed,將提升用戶在混合雲環境中管理應用程式部署的方式,即使非技術專家亦能精準操作。 想知最新科技產品方案?立即免費訂閱! 紅帽指出,不論是獨立解決方案,或是作為紅帽企業 Linux AI(RHEL AI)和紅帽…