เรื่องเล่ารอบโลก storysphere888

Google เปิดตัวชิป AI รุ่นใหม่ล่าสุด มี 2 แบบ: TPU 8i   - สำหรับงาน inference (ตอบคำถาม/สร้างข้อความ)  TPU 8t   - สำหรับงาน training (สอน AI ให้ฉลาด) จุดเด่ดที่น่าสนใจ ⚡ ประหยัดไฟสุดๆ ประสิทธิภาพต่อวัตต์ดีขึ้น  2 เท่า  จากรุ่นก่อน ระบบ liquid cooling ระบายความร้อนแบบเทพๆ ออกแบบมาให้ทำงานได้แม้พลังงานจำกัด 🧠 ออกแบบมาเฉพาะทาง Boardfly topology  - ระบบเชื่อมต่อที่ออกแบบมาสำหรับ AI reasoning model รองรับได้ถึง 1,152 ชิปในคราวเดียว รันได้ทั้ง JAX, PyTorch, MaxText และอื่นๆ 💻 เปลี่ยน CPU เป็น ARM ครั้งแรกที่ใช้  Axion ARM-based CPU  แทน x86 ทำให้ทั้งระบบทำงานลงตัวกว่าเดิม แต่...มีอะไรให้คิด 🤔 TPU ยังคงเป็น  "ของเฉพาะทาง"  ของ Google ยังต้องซื้อ NVIDIA อยู่ดี เพราะ CUDA ecosystem ใช้งานง่ายกว่า คนทั่วไปเข้าถึงยาก ต้องผ่าน Google Cloud เท่านั้น สรุป Google ปั้น TPU ให้แข่งกับ NVIDIA แต่ยังเป็นระบบปิด ใช้เองเป็นหลัก ข้อดีคือประหยัดไฟมาก แต่ถ้าอยากใช้ TPU นอก Google ก็ต้องไปเช่าบน cloud แทน 😅