บริษัท ชิปที่นำโดยจิมเคลเลอร์ได้เปิดตัวโปรเซสเซอร์หนอนรุ่นต่อไปสำหรับเวิร์กโหลด AI ซึ่งคาดว่าจะให้ประสิทธิภาพที่ดีในราคาที่เหมาะสมปัจจุบัน บริษัท มีการ์ด PCIE เพิ่มเติมสองใบที่สามารถรองรับโปรเซสเซอร์หนอนหนึ่งหรือสองตัวรวมถึงเวิร์กสเตชัน TT-Loudbox และ TT-Quietbox สำหรับนักพัฒนาซอฟต์แวร์ การประกาศทั้งหมดของวันนี้มีวัตถุประสงค์เพื่อนักพัฒนาไม่ใช่ผู้ที่ใช้บอร์ดหนอนสำหรับปริมาณงานเชิงพาณิชย์
“ มันเป็นเรื่องน่ายินดีที่ได้รับผลิตภัณฑ์ของเรามากขึ้นในมือของนักพัฒนาระบบการพัฒนาระบบการพัฒนาโดยใช้การ์ด Wormhole ™ของเราสามารถช่วยนักพัฒนาซอฟต์แวร์และพัฒนาซอฟต์แวร์ Multi-Chip AI” Jim Keller ซีอีโอของ Tenstorrent กล่าวนอกเหนือจากการเปิดตัวครั้งนี้เรารู้สึกตื่นเต้นที่ได้เห็นความคืบหน้าที่เราทำด้วยเทปออกและเพิ่มพลังของผลิตภัณฑ์รุ่นที่สองของเราคือแบล็กฮอล”
โปรเซสเซอร์หนอนแต่ละตัวมี 72 เทนเซ็กคอร์ (ห้าอันรองรับแกน RISC-V ในรูปแบบข้อมูลต่าง ๆ ) และ 108 MB ของ SRAM ส่งมอบ 262 FP8 TFLOPS ที่ 1 GHz ด้วยพลังการออกแบบความร้อน 160W การ์ด Wormhole N150 ชิปเดียวติดตั้งหน่วยความจำวิดีโอ 12 GB GDDR6 และมีแบนด์วิดท์ 288 GB/s
โปรเซสเซอร์หนอนให้ความยืดหยุ่นที่ยืดหยุ่นเพื่อตอบสนองความต้องการที่หลากหลายของปริมาณงาน ในการตั้งค่าเวิร์กสเตชันมาตรฐานด้วยการ์ด Wormhole N300 สี่ใบโปรเซสเซอร์สามารถรวมกันเป็นหน่วยเดียวที่ปรากฏในซอฟต์แวร์เป็นเครือข่าย Core Tensix ที่เป็นเอกภาพ การกำหนดค่านี้ช่วยให้ตัวเร่งความเร็วสามารถจัดการเวิร์กโหลดเดียวกันแยกระหว่างนักพัฒนาสี่คนหรือทำงานได้ถึงแปดรุ่น AI ที่แตกต่างกันพร้อมกัน คุณสมบัติที่สำคัญของความสามารถในการปรับขนาดนี้คือสามารถทำงานได้โดยไม่จำเป็นต้องใช้เสมือนจริง ในสภาพแวดล้อมของศูนย์ข้อมูลโปรเซสเซอร์หนอนจะใช้ PCIe สำหรับการขยายตัวภายในเครื่องหรืออีเธอร์เน็ตสำหรับการขยายตัวจากภายนอก
ในแง่ของประสิทธิภาพการ์ด N150 ชิปเดี่ยวของ Tenstorrent (72 cores, ความถี่ 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB/S Bandwidth) ได้รับ 262 FP8 TFLOPS ที่ 160W รวม 24 GB GDDR6, 576 GB/s แบนด์วิดท์) ส่งมอบสูงสุด 466 FP8 TFLOPS ที่ 300W
ในการใส่ 300W จาก 466 FP8 TFLOPS ลงในบริบทเราจะเปรียบเทียบกับสิ่งที่ผู้นำตลาด AI NVIDIA เสนอด้วยพลังการออกแบบความร้อนนี้ A100 ของ Nvidia ไม่รองรับ FP8 แต่รองรับ INT8 โดยมีประสิทธิภาพสูงสุด 624 TOPS (1,248 TOPS เมื่อกระจัดกระจาย) ในการเปรียบเทียบ H100 ของ Nvidia รองรับ FP8 และถึงประสิทธิภาพสูงสุด 1,670 TFLOPS ที่ 300W (3,341 TFLOPS ที่กระจัดกระจาย) ซึ่งแตกต่างจากหนอน N300 ของ Tenstorrent
อย่างไรก็ตามมีปัญหาสำคัญอย่างหนึ่ง Wormhole N150 ของ Tenstorrent ขายปลีกราคา $ 999 ในขณะที่ N300 ขายในราคา $ 1,399 จากการเปรียบเทียบกราฟิกการ์ด NVIDIA H100 รายเดียวขายปลีกราคา $ 30,000 ขึ้นอยู่กับปริมาณ แน่นอนว่าเราไม่ทราบว่าโปรเซสเซอร์หนอนสี่หรือแปดตัวสามารถส่งมอบประสิทธิภาพของ H300 ได้จริงหรือไม่ แต่ TDPS ของพวกเขาคือ 600W และ 1200W ตามลำดับ
นอกจากการ์ดแล้ว Tenstorrent ยังเสนอเวิร์กสเตชันที่สร้างไว้ล่วงหน้าสำหรับนักพัฒนารวมถึงการ์ด 4 N300 ในกล่อง TT-Loudbox ที่ใช้ Xeon ที่มีราคาไม่แพงมากขึ้นพร้อมกับการระบายความร้อนที่ใช้งานอยู่
เวลาโพสต์: ก.ค. -29-2024