บทความ

กำลังแสดงโพสต์ที่มีป้ายกำกับ แสง

AI กำลังจะพังเพราะ "ความจำ" ไม่พอ?! วิธีแก้ แยก GPU กับ HBM (ชิปหน่วยความจำ) แล้วใช้สัญญาณแสง เชื่อมแทน

  🔥 ปัญหา "Memory Wall" คือไร? AI มันแรงขึ้นเรื่อยๆ แต่ปัญหาคือ  RAM (หน่วยความจำ) ตามไม่ทัน!  ยิ่ง AI ทำงานหนัก ยิ่งต้องการข้อมูลเยอะ แต่ RAM ส่งข้อมูลให้ GPU ไม่ทัน กลายเป็นคอขวดบายนาก 💡 วิธีแก้ใหม่ที่กำลังจะเกิดขึ้น แยก GPU กับ HBM (ชิปหน่วยความจำ) ออกจากกัน! เดิมทีมันต้องอยู่ติดกันมาก เพราะกลัวส่งข้อมูลช้า แต่ตอนนี้จะใช้  "สัญญาณแสง"  เชื่อมต่อแทน ซึ่งเร็วมาก ไม่มี delay ทำให้ HBM สามารถวางไกลออกไปได้ → ติดตั้งได้เยอะขึ้นหลายเท่า! 📊 ทำไมต้องทำแบบนี้? วิธีเดิม | ปัญหา เพิ่มชั้น HBM (12→16→20 ชั้น) | ยากมาก! ทำไม่ได้แล้ว  เพิ่ม HBM รอบๆ GPU | พื้นที่เต็ม ไม่มีที่ว่างแล้ว  ⏰ อนาคตจะเป็นยังไง? เร็วๆ นี้:  เครื่อง Server ต่อ Server จะใช้สัญญาณแสงเชื่อมกัน อีกไม่นาน:  Chip ต่อ Chip ก็จะใช้แสงเชื่อมกันด้วย 🎯 สรุป AI อยากทำงานเก่งขึ้น = ต้องการหน่วยความจำมากขึ้น แต่พื้นที่บน Chip มีจำกัด → เลยต้องแยกออกมา แล้วใช้ "แสง" ส่งข้อมูลแทน เทคโนโลยีนี้กำลังมาแน่นอน! แค่ต้องรออีกนิด  🕐