Red Hat 發表 llm-d 開源社群,結合 vLLM 與 Kubernetes 架構,致力於實現大規模分散式生成式 AI 推論,提升企業部署效率與彈性。 Red Hat近期宣布推出全新開源專案llm-d,旨在回應未來生成式AI (Gen AI)最關鍵的大規模推論需求。 此專案由創始貢獻者CoreWeave、Google Cloud、IBM Research與NVIDIA共同發起,並且獲得AMD、Cisco、Hugging Face、Intel、Lambda和Mistral AI 等業者,以及加州大學柏克萊分校和芝加哥大學等學術機構參與,目標讓生產環境中的生成式AI應用像Linux一樣無所
最可靠的散熱合作夥伴!聚焦 AI 基礎設施硬體建設, Johnson Electric 德昌電機「探討 AI 時代的資料中心液冷散熱解決方案」論壇免費報名中
香港上市公司德昌電機(Johnson Electric)集團,即將於5月22日,在南方港會議中心舉辦「探討 AI 時代的資料中心液冷散熱解決方案」論壇,內容聚焦AI基礎設施硬體建設與液冷散熱解決方案發展趨勢。活動免費報名,名額有限,錯過不再。 隨著人工智慧(AI)的快速發展, AI 轉型已迫在眉睫,不分產業類型與規模,大大小小的企業都在針對導入 AI 進行廣泛的試驗;而即將舉辦的全球科技界盛事「COMPUTEX 2025」也以「AI Next」為主軸,聚焦智慧運算與機器人、次世代科技、未來移動三大主題,凸顯出 AI 技術與應用之於未來產業的必要性。 不過,在各項技術應用的背後,最關鍵的仍是 A