อินเทลส่ง ‘Gaudi 3’ ปฏิวัติ GenAI องค์กร

อินเทลส่ง ‘gaudi 3’ ปฏิวัติ genai องค์กร

อินเทลส่ง ‘Gaudi 3’ ปฏิวัติ GenAI องค์กร

อินเทลนำเสนอตัวเร่งความเร็ว AI Intel® Gaudi® 3 ตัวใหม่ ภายในงาน Intel Vision  ที่มาพร้อมความสามารถในด้านการคำนวณ AI มากถึง  4 เท่า สำหรับข้อมูลประเภท BF16 มีแบนด์วิธหน่วยความจำเพิ่มขึ้น 1.5 เท่า และมีความกว้างของเครือข่ายเพิ่มขึ้น 2 เท่า เมื่อเทียบกับรุ่นก่อนหน้า

นับเป็นก้าวสำคัญในการฝึกอบรมโมเดลปัญญาประดิษฐ์ การอนุมานโมเดลภาษาขนาดใหญ่ (LLM) และโมเดลหลากหลายรูปแบบ

จากผลการทดสอบประสิทธิภาพของตัวเร่งความเร็ว AI Intel® Gaudi® 2 พบว่า มีเพียงตัวทดสอบ MPerf เพียงอย่างเดียวสำหรับ LLMs ในตลาด โดยอินเทลได้มอบทางเลือกให้กับลูกค้าด้วยซอฟต์แวร์แบบเปิดและเครือข่ายอีเธอร์เน็ตมาตรฐานอุตสาหกรรมเพื่อขยายระบบของพวกเขาได้อย่างยืดหยุ่นมากขึ้น

จัสติน โฮทาร์ด  รองประธานและผู้จัดการทั่วไปฝ่าย Data Center และ AI กล่าวว่า ในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของตลาด AI ยังคงมีช่องว่างที่สำคัญในการนำเสนอสินค้า

สำหรับ Intel Gaudi 3 โดดเด่นในฐานะทางเลือกสำหรับ GenAI ที่นำเสนอการผสมผสานที่น่าสนใจระหว่างประสิทธิภาพด้านราคา ความสามารถในการขยายระบบ และความได้เปรียบด้านเวลาต่อมูลค่า

จากผลตอบรับจากลูกค้าและตลาดโดยรวมสามารถช่วยตอกย้ำถึงความต้องการของทางเลือกที่เพิ่มขึ้น องค์กรต่าง ๆ อาจชั่งน้ำหนักการพิจารณาอื่นๆ เช่น ความพร้อมใช้งาน ความสามารถในการขยาย ประสิทธิภาพ ต้นทุน และประสิทธิภาพการใช้พลังงาน

สถาปัตยกรรมที่ปรับเปลี่ยนได้ ส่งผลต่อประสิทธิภาพของ GenAI อย่างไร:

ตัวเร่งความเร็ว Intel Gaudi 3 ได้รับการออกแบบทางสถาปัตยกรรมเพื่อการประมวลผล AI ขนาดใหญ่ที่มีประสิทธิภาพ ผลิตขึ้นบนกระบวนการ 5 นาโนเมตร (nm) และมีความก้าวหน้าที่สำคัญมากกว่ารุ่นก่อน ตัวเร่งความเร็วรุ่นใหม่นี้ถูกออกแบบมาให้สามารถเปิดใช้งานเครื่องมือทั้งหมดพร้อมกัน ทั้ง Matrix Multiplication Engine (MME), Tensor Processor Cores (TPC) และ Networking Interface Cards (NIC) ทั้งหมดนี้ช่วยในการเร่งความเร็วที่จำเป็นสำหรับการคำนวณและการเรียนรู้เชิงลึกที่รวดเร็วและมีประสิทธิภาพ

คุณสมบัติที่สำคัญ มาพร้อม เครื่องประมวลผลเฉพาะด้าน AI, Memory Boost สำหรับความต้องการความจุ LLM, การปรับขนาดระบบที่มีประสิทธิภาพสำหรับ GenAI ระดับองค์กร, ซอฟต์แวร์อุตสาหกรรมแบบเปิดเพื่อประสิทธิภาพการทำงานของนักพัฒนา, Gaudi 3 PCIe, ใช้เวลาฝึกเร็วขึ้น 50% ฯลฯ

การนำไปใช้ในตลาดและความพร้อมใช้งาน:

ตัวเร่งความเร็ว Intel Gaudi 3 จะพร้อมให้บริการในไตรมาสที่สองของปี  2567 นี้ ผ่านผู้ผลิตอุปกรณ์ (OEMs) อาทิ Dell Technologies, HPE, Lenovo, และ Supermicro ในมาตรฐานอุตสาหกรรมของ Universal Baseboard และ open accelerator module (OAM)

ทั้งนี้ ความพร้อมใช้งานทั่วไปของตัวเร่งความเร็ว Intel Gaudi 3 คาดว่าจะวางจำหน่ายในไตรมาสที่สามของปี 2567 และการ์ดเสริม Intel Gaudi 3 PCIe คาดว่าจะวางจำหน่ายในไตรมาสสุดท้ายของปี 2567

นอกจากนี้ ตัวเร่งความเร็ว Intel Gaudi 3 ยังขับเคลื่อนโครงสร้างพื้นฐาน LLM ในคลาวด์ ที่คุ้มต้นทุนสำหรับการฝึกอบรมและการอนุมาน โดยได้มีการเสนอข้อได้เปรียบด้านประสิทธิภาพด้านราคาและทางเลือกให้กับองค์กรที่ขณะนี้รวม NAVER ไว้ด้วย

จะเป็นอย่างไรต่อไป:  

ตัวเร่งความเร็ว Intel Gaudi 3 จะเป็นรากฐานสำหรับ Falcon Shores ซึ่งเป็นหน่วยประมวลผลกราฟิก (GPU) ยุคถัดไปของอินเทล ในเรื่องของ AI และการประมวลผลประสิทธิภาพสูง (HPC) โดย Falcon Shores จะรวมทรัพย์สินทางปัญญา (IP) ของ Intel Gaudi และ Intel® Xe เข้ากับอินเทอร์เฟซการเขียนโปรแกรม GPU เดียวที่สร้างขึ้นบนข้อกำหนด Intel® oneAPI

OTHER NEWS

13 minutes ago

Satellite Images Show Russia's 'Nebo-M' Radar System Targeted in Strike

13 minutes ago

Jurgen Klopp aims digs at Chelsea over Mauricio Pochettino and Man Utd's Sancho situation

15 minutes ago

Searches have been carried out at the European Parliament over possible Russian interference, Belgium prosecutors say

15 minutes ago

Police search the European Parliament over possible Russian interference, prosecutors say

15 minutes ago

Iran says Saudi Arabia has expelled 6 state media journalists ahead of the hajj after detaining them

18 minutes ago

Lucky Aussie bloke thought he'd won $13 on the Lotto. Then he checked his ticket again…

18 minutes ago

Glamorous WAG Chelsea Becirevic clarifies her real feelings on 'boring' Aussie city as she relocates to Dubai without her AFL star boyfriend after seven months

20 minutes ago

Brit gran's terrifying 4-word message to family while being held 'hostage' in Turkey hospital

20 minutes ago

TODAY reveals the Read with Jenna Jr. summer reading list!

21 minutes ago

The government has ‘underestimated’ inflation

21 minutes ago

J.K. Rowling Says Colleagues Who Have Publicly Trashed Her Transgender Views Have Privately Emailed To Check They Remain Friends

21 minutes ago

The new all-electric London bus has active suspension, a 532kWh battery and over 400bhp

23 minutes ago

Clarkson investigated for verbal outburst

23 minutes ago

Boursa Kuwait enriches Kuwaiti capital market participants’ awareness and knowledge of the best practices in Investor Relations and crafting impactful Annual Reports

23 minutes ago

DJ Shimza endorses the ANC ahead of elections, Mzansi grills him

23 minutes ago

UBS's MacLeod On Transformation & Impact of GenAI

23 minutes ago

How Comcast improved its internet service’s energy efficiency by 40%

23 minutes ago

Business owner wins tight Texas primary, aims to make history by flipping deep-blue House seat

23 minutes ago

Eminem to ‘make career disappear’ with new song

23 minutes ago

Private rides bookable this summer from Paris to Champagne with tastings, more Olympics-timed deals

26 minutes ago

Cam McCarthy's dad relives the awful moment he learned of his son's death as AFL players gather for footy star's moving funeral after his death aged just 29

26 minutes ago

Man Utd owner Ratcliffe urged to sack Ten Hag as FA Cup win v Man City hints at ‘longevity’ problem

26 minutes ago

Robert Downey Jr. is 'flawless' in 'incredible' new Sky series The Sympathizer

26 minutes ago

New AI products much hyped but not much used, study says

26 minutes ago

‘We’re just looking for fairness’ - Dublin GAA club struggles without home ground

26 minutes ago

MLB roundup: Giants slide past Phillies 1-0 in 10

26 minutes ago

Jacques Nienaber reveals Sam Prendergast in discussions with Connacht over loan move

26 minutes ago

Renovated Dublin 2 townhouse on market for €595k by auction

28 minutes ago

Real Madrid’s Champions League aura masks fear behind Super League pursuit

31 minutes ago

Orania stays out of the way as Verwoerd’s grandson expects SA to drift further apart

31 minutes ago

Seaton, Adelaide: Girl, 5, dies at home - with police called in to investigate

31 minutes ago

Video: Dramatic moment police break into a house at 5am and arrest a county lines drug dealer in his underpants

31 minutes ago

Video: Baby joy! Married At First Sight's Jack Dunkley reveal surprise family news with Tori Adams after moving in together on the Gold Coast

33 minutes ago

Premier League undergoes post-season managerial upheaval with Maresca set for Chelsea

33 minutes ago

Emma Little-Pengelly pulls out of conference organised by leading loyalist Winston ‘Winkie’ Irvine

33 minutes ago

South Africa's ruling ANC facing key challenge as voters head to polls

34 minutes ago

‘My motivation was my daughter’ – Angela Scanlon opens up about 15 year eating disorder battle

34 minutes ago

Biden will be named the Democratic nominee virtually

34 minutes ago

Queensland businesses prepare for new rule for sale of knives

34 minutes ago

Meghan McCain mocked for tone-deaf ‘nepo baby’ tweet