Posted by 
Intel, Vision 2024 etkinliğinde yeni yapay zeka hızlandırıcısı Gaudi 3 işlemcilerini duyurdu. Nvidia’nın H100 hızlandırıcılarına rakip olan Gaudi 3, rakibinden 1.7 kat daha yüksek eğitim performansı, %50 daha iyi çıkarım ve %40 daha yüksek verimlilik sunuyor. 
Nvidia’nın tartışmasız pazar lideri olduğu yapay zeka alanında rakibini yakalamak için uğraşan Intel, Gaudi 3 ile Nvidia’nın önceki nesil H100 hızlandırıcısından çok daha iyi performans sunduğunu iddia ediyor. Şirket aynı zamanda Gaudi 3 sistemleri için ekosistem oluşturmak adına Nvidia’nın CUDA’sına alternatif olarak hizmet veecek kurumsal yazılım ağı oluşturmaya da çalışıyor. Intel’in Gaudi 3’ü, şirketin 2019’da Habana Labs’ı 2 milyar dolara satın almasının meyvesi olan Gaudi hızlandırıcının üçüncü neslini temsil ediyor. Gaudi hızlandırıcıları, 2024’ün 3. çeyreğinde yüksek hacimli üretime girecek ve OEM’lere sunulmaya başlanacak.
Intel Gaudi 3 özellikleri
Gaudi iki form faktörüyle gelecek. İlki, OAM (OCP Hızlandırıcı Modülü) HL-325L, yüksek performanslı GPU tabanlı sistemlerde bulunan Mezzanine form faktörü. Bu hızlandırıcı, 3,7 TB/s bant genişliği sağlayan 128 GB HBM2e belleğe ve 900W TDP’ye sahip olacak. Hızlandırıcı, FP8’de 1.835 TFLOPS performans sunabilecek. OAM’ler, sunucu düğümü başına 8’li gruplar halinde dağıtılacak ve 1.024 düğüme kadar ölçeklenebilecek. Diğer form faktörü ise, PCIe kart şeklinde pasif soğutmaya ve 600W TDP’ye Gaudi 3 HL-338 olacak.
Intel, Gaudi 3’ün önceki nesle göre 2 kat daha yüksek FP8 ve 4 kat daha yüksek BF16 performansının yanı sıra, 2 kat fazla ağ bant genişliği ve 1,5 kat yüksek bellek bant genişliği sağladığını belirtiyor.