ความท้าทาย
เมื่อก่อน Lime ใช้กระบวนการ ETL (“แตก แปลง และโหลดข้อมูล”) ของบริษัทอื่นในการส่งออกข้อมูล Stripe ไปยัง Snowflake และพบว่าข้อมูลที่ได้จากกระบวนการ ETL นั้นไม่ได้ตรงกับข้อมูลใน Stripe เสมอไป ผลก็คือ วิศวกรข้อมูลต้องมาตรวจสอบความไม่ตรงกันในแต่ละจุดและเสียเวลาไปถึง 2 ชั่วโมงต่อธุรกรรมที่ไม่สอดคล้องกันแต่ละรายการ และเนื่องจากเป็นกระบวนการ ETL ของบริษัทอื่น Lime จึงไม่อาจแก้ไขปัญหาดังกล่าวที่ต้นเหตุได้ และสุดท้ายก็ตระหนักว่า บริษัทต้องมีโซลูชันที่น่าเชื่อถือกว่าเดิมมาสตรีมข้อมูลของ Stripe ไปยัง Snowflake
โซลูชัน
Lime เลือกใช้ Stripe Data Pipeline ที่จะส่งชุดข้อมูลของ Stripe ทั้งหมดไปยัง Snowflake Data Cloud อย่างต่อเนื่อง การหันมาใช้ Stripe Data Pipeline ช่วย Lime ประหยัดเวลาในการทำงานวิศวกรรมลงได้หลายสัปดาห์ เพราะไม่ต้องสร้างและดูแลรักษา API ให้กับชุดข้อมูล Stripe แต่ละชุด และยังเข้าถึงข้อมูลในปัจจุบันของ Stripe ได้ทันทีและโดยตรงใน Snowflake
ผลลัพธ์
ตั้งแต่นำ Stripe Data Pipeline มาใช้ Lime ก็สร้างขั้นตอนแบบอัตโนมัติและเร่งความเร็วในการรายงานทางการเงินได้ วิศวกรไม่จำเป็นต้องตรวจสอบความไม่ตรงกันของข้อมูล เพราะข้อมูลธุรกรรมทั้งหมดตรงกับในรายงาน ทีมจึงมีเวลาไปกับโฟกัสกับแผนพัฒนาผลิตภัณฑ์และเร่งความเร็วในการขายผลิตภัณฑ์ได้
“คุณภาพและความสดใหม่ของข้อมูลใน Stripe Data Pipeline เป็นสาเหตุให้เราเลิกใช้ผู้ให้บริการกระบวนการ ETL เจ้าอื่นครับ” Nabil Barakati วิศวกรรมซอฟต์แวร์ของ Lime กล่าว “ข้อมูลที่นำเข้าผ่าน Stripe Data Pipeline จะตรงกับรายงานของเราเสมอ ปกติต้องใช้เวลาถึง 3 วันในการรับข้อมูลธุรกรรมผ่านกระบวนการ ETL แต่ด้วย Stripe Data Pipeline ตอนนี้เราใช้เวลาแค่วันเดียวเท่านั้น”
นอกจากนี้แล้ว Lime ยังได้ประโยชน์รายงานทางธุรกิจที่หลากหลาย โดยสามารถเข้าถึงชุดข้อมูลของ Stripe ทั้งหมดได้ ปัจจุบันทีมการเงินของบริษัทจะติดตามการคืนเงินได้เกือบเรียลไทม์ ช่วยให้พวกเขารายงานสถานะเงินสดล่าสุดของบริษัทได้อย่างมั่นใจ ส่วนทีมงานด้านการฉ้อโกงก็กำลังสร้างโมเดลการฉ้อโกงที่ดียิ่งขึ้น เพราะตอนนี้ ทีมสามารถรวมสัญญาณการฉ้อโกงจากคะแนนความเสี่ยงของ Stripe ต่อธุรกรรมเข้ากับข้อมูลการฉ้อโกงของบริษัทได้แล้ว
Stripe ให้ข้อมูลธุรกรรมที่ละเอียดที่สุด ส่วนคุณภาพข้อมูลก็ดีกว่าผู้ให้บริการชำระเงินเจ้าอื่นที่เราเคยใช้บริการมา เรารู้สึกยินดีเป็นอย่างยิ่งที่จะได้เข้าถึงข้อมูล Stripe ที่ถูกต้องและครบถ้วนสมบูรณ์จากคลังข้อมูลของเราเองโดยตรง โดยไม่ต้องพึ่งกระบวนการ ETL ของบริษัทอื่นแล้ว