OpenAI圖片生成AI新方法sCM,速度是傳統擴散模型的50倍
OpenAI研發了一種稱為 sCM(Continuous-Time Consistency Model) 的生成方法,能夠大幅提升取樣速度,相比傳統的擴散模型,sCM只需要兩步驟取樣即可生成高品質樣本。研究顯示,sCM在生成效率提升約50倍,且樣本品質與最佳擴散模型相當,適合用於即
可搭16台E3.S SSD與4張GPU卡,Dell推2U2路Xeon 6伺服器
英特爾 今年6月發表Xeon 6伺服器處理器平台 ,先提供配備E-core的款式(代號Sierra Forest),多家廠商也響應推出伺服器產品,我們先前曾介紹的 雲達QuantaGrid D55X-1U ,就是一例。
對於另一家伺服器廠商Dell而言,他們在5月舉行的自
.jpg)
Container快報第160期:CNCF成員來台揭露K8s三大發展,多家台灣金融和服務業分享第一手K8s實戰經驗,DHH打造的容器化Web應用部署工具大改版
2024/9/21~10/25 精選容器新聞:
#K8s Summit #第一手K8s實戰 #雲原生永續
多家金融、高科技和服務業分享第一手K8s實戰和踩雷經驗,雲原生永續議題也在台發酵
iThome主辦的K8s Summit,十月底一連兩天在台
【AI應用不可或缺的儲存傳輸加速架構】持續擴展中的GDS儲存應用
在Nvidia的一系列GPUDirect傳輸技術中,GPUDirect Storage(GDS)是作為儲存裝置與GPU之間的傳輸加速用途,在AI應用的資料流框架中,原本是最後端、外圍的角色,只在最初的資料饋入,與最終的寫入保存運算結果時派上用場,但隨著AI應用的資料量
-600.jpg)
GPUDirect Storage(GDS)的基本概念
下圖是從SSD向GPU傳送資料的傳統I/O路徑,資料會經由PCIe交換器、經過主機CPU、複製,寫入主機記憶體的回彈緩衝區(bounce buffer),再經由CPU、PCIe交換器,複製寫入GPU的記憶體,供GPU存取。這整個過程需要經過6個環節,以及2次
-600--1.png)
GPUDirect Storage的部署與啟用條件需求
藉由GPUDirect Storage(GDS),可以讓GPU伺服器本機的NVMe SSD,或是外部第3方的檔案儲存系統,透過DMA或RDMA方式,繞過GPU主機CPU與系統記憶體,直接將資料傳送到GPU的記憶體,從而大幅提高儲存裝置與GPU之間的資料傳輸效率。但要啟用這套架
-600.png)
【AI直連儲存加速時代來臨】GPUDirect Storage產品生態總覽
憑藉AI應用持續興盛,以及輝達在GPU與加速運算的龐大影響力,用於改善GPU應用環境I/O傳輸效率的GPUDirect Storage(GDS),短短幾年內,就成為GPU領域標準的傳輸架構之一,也是有意在AI應用扮演重要角色的儲存廠商,必須支援的I/
-600--2.png)
企業儲存市場新動能:GPU直連儲存系統
構成AI運算能力來源的GPU,已成為IT基礎架構升級新動能,而在儲存系統領域當中,Nvidia打造的GPUDirect Storage(GDS)直連傳輸架構,也成為影響AI應用效能的關鍵,獲得眾多儲存廠商的積極支援,從而形成一個基於GDS架構的AI儲存生態圈
一家廠商主導的AI硬體生態系統
這幾年來,Nvidia堪稱最活躍、最受各界矚目的企業級加速運算平台廠商,隨著伺服器虛擬化、大數據分析、生成式AI技術浪潮一波波襲來,Nvidia都在其中扮演重要角色,他們不斷打破既有市場規則,開創許多新的典範。
以及今年發表

CNCF技術委員會成員來台揭露K8s未來三大進展,包括WebAssembly、eBPF和IT永續新工具
兩位蘋果工程師Katie Gamanji和太田航平(Kohei Ota),在今年Kubernetes Summit研討會第二天的主題演講中,回顧了K8s十年發展,並揭露了接下來三大發展方向。Katie Gamanji是CNCF技術監督委員會成員,她主導設立了雲原生證照KCNA認證制度和相關課程,而太