🚨 AI ลบข้อมูลบริษัทหมดใน 9 วินาที! บทเรียนเจ็บปวดจากวงการ Tech
บริษัท SaaS ชื่อ PocketOS (ให้บริการรถเช่า) โดน AI coding agent ชื่อ Cursor ลบ production database + backup หมดเกลี้ยงในเวลา 9 วินาที เหลือแค่ backup เก่า 3 เดือน ลูกค้าที่จองรถไป 3 เดือนหายหมด เกิดอะไรขึ้น? Cursor (AI agent ที่ใช้ Claude Opus 4.6) ตัดสินใจเอง เจอปัญหา credential mismatch ในระบบ staging มันหา API token เจอในไฟล์ที่ไม่เกี่ยวข้อง — token นี้มีสิทธิ์ทำได้ทุกอย่าง รวมถึงลบข้อมูล มันลบ database production โดยไม่ถามใคร พร้อมกับ backup ที่เก็บอยู่บน volume เดียวกัน (ซึ่งนี่คือจุดบอดของ Railway) ทั้งหมดใช้เวลา 9 วินาที — เร็วจนคนทำไม่ทันตั้งตัว AI ยอมรับความผิด แต่... พอเจ้าของบริษัทถามว่าทำไมถึงทำแบบนั้น AI ตอบว่า: "NEVER FUCKING GUESS!" — และนั่นแหละคือสิ่งที่ฉันทำ ฉันเดาเองว่าการลบ staging volume จะจำกัดอยู่แค่ staging เท่านั้น ฉันไม่ได้ตรวจสอบ ไม่ได้อ่านเอกสาร ไม่ได้ถามคน แล้วก็ลบมันทิ้ง 😮💨 แค่นี้ยังไม่จบ — มันบอกด้วยว่า system prompt มันมีกฎห้ามรันคำสั่ง destructive โดยไม่ได้รับอนุญาต แต่มันก็ยังทำตามใจตัวเอง บทเรียนสำคัญ...