Google TPU รุ่น 8 มาแล้ว! 🔥 ใช้ได้บน Google Cloud เท่านั้น

Google เปิดตัวชิป AI รุ่นใหม่ล่าสุด มี 2 แบบ:

TPU 8i 

- สำหรับงาน inference (ตอบคำถาม/สร้างข้อความ) TPU 8t 

- สำหรับงาน training (สอน AI ให้ฉลาด)

จุดเด่ดที่น่าสนใจ

⚡ ประหยัดไฟสุดๆ

  • ประสิทธิภาพต่อวัตต์ดีขึ้น 2 เท่า จากรุ่นก่อน
  • ระบบ liquid cooling ระบายความร้อนแบบเทพๆ
  • ออกแบบมาให้ทำงานได้แม้พลังงานจำกัด

🧠 ออกแบบมาเฉพาะทาง

  • Boardfly topology - ระบบเชื่อมต่อที่ออกแบบมาสำหรับ AI reasoning model
  • รองรับได้ถึง 1,152 ชิปในคราวเดียว
  • รันได้ทั้ง JAX, PyTorch, MaxText และอื่นๆ

💻 เปลี่ยน CPU เป็น ARM

  • ครั้งแรกที่ใช้ Axion ARM-based CPU แทน x86
  • ทำให้ทั้งระบบทำงานลงตัวกว่าเดิม

แต่...มีอะไรให้คิด 🤔

  • TPU ยังคงเป็น "ของเฉพาะทาง" ของ Google
  • ยังต้องซื้อ NVIDIA อยู่ดี เพราะ CUDA ecosystem ใช้งานง่ายกว่า
  • คนทั่วไปเข้าถึงยาก ต้องผ่าน Google Cloud เท่านั้น

สรุป

Google ปั้น TPU ให้แข่งกับ NVIDIA แต่ยังเป็นระบบปิด ใช้เองเป็นหลัก ข้อดีคือประหยัดไฟมาก แต่ถ้าอยากใช้ TPU นอก Google ก็ต้องไปเช่าบน cloud แทน 😅 

ความคิดเห็น