AI กำลังจะพังเพราะ "ความจำ" ไม่พอ?! วิธีแก้ แยก GPU กับ HBM (ชิปหน่วยความจำ) แล้วใช้สัญญาณแสง เชื่อมแทน

 

🔥 ปัญหา "Memory Wall" คือไร?

AI มันแรงขึ้นเรื่อยๆ แต่ปัญหาคือ RAM (หน่วยความจำ) ตามไม่ทัน! ยิ่ง AI ทำงานหนัก ยิ่งต้องการข้อมูลเยอะ แต่ RAM ส่งข้อมูลให้ GPU ไม่ทัน กลายเป็นคอขวดบายนาก

💡 วิธีแก้ใหม่ที่กำลังจะเกิดขึ้น

แยก GPU กับ HBM (ชิปหน่วยความจำ) ออกจากกัน!

  • เดิมทีมันต้องอยู่ติดกันมาก เพราะกลัวส่งข้อมูลช้า
  • แต่ตอนนี้จะใช้ "สัญญาณแสง" เชื่อมต่อแทน ซึ่งเร็วมาก ไม่มี delay
  • ทำให้ HBM สามารถวางไกลออกไปได้ → ติดตั้งได้เยอะขึ้นหลายเท่า!

📊 ทำไมต้องทำแบบนี้?

วิธีเดิม | ปัญหา

เพิ่มชั้น HBM (12→16→20 ชั้น) | ยากมาก! ทำไม่ได้แล้ว 

เพิ่ม HBM รอบๆ GPU | พื้นที่เต็ม ไม่มีที่ว่างแล้ว 

⏰ อนาคตจะเป็นยังไง?

  • เร็วๆ นี้: เครื่อง Server ต่อ Server จะใช้สัญญาณแสงเชื่อมกัน
  • อีกไม่นาน: Chip ต่อ Chip ก็จะใช้แสงเชื่อมกันด้วย

🎯 สรุป

AI อยากทำงานเก่งขึ้น = ต้องการหน่วยความจำมากขึ้น แต่พื้นที่บน Chip มีจำกัด → เลยต้องแยกออกมา แล้วใช้ "แสง" ส่งข้อมูลแทน

เทคโนโลยีนี้กำลังมาแน่นอน! แค่ต้องรออีกนิด 🕐

ความคิดเห็น

โพสต์ยอดนิยมจากบล็อกนี้

🤖 หุ้น AI ของ Baidu กำลังจะดังมาก! Kunlun AI (ชิป AI ของ Baidu) เตรียมเข้า HKG!

หยุดรดน้ำแบบเดิมๆ! เผย 6 เคล็ดลับกู้คืนสวนสวยจากผู้เชี่ยวชาญด้านการจัดสวนระดับโลก เมื่อการรดน้ำเพียงอย่างเดียวไม่ใช่ทางออกในหน้าร้อน

[ tenet ] ทอม ฮอลแลนด์ มาไอนี้แล้ว! พักโรงแรมหรูที่ Tata Suite ราคาคืนละ 7-12 แสนบาท พร้อมเที่ยวกินข้าวร้านดัง Mumbai สุดซิ่ง