ใช้ประโยชน์จาก MLOps เพื่อปรับขนาด AI/ML ให้กับองค์กร

ใช้ประโยชน์จาก MLOps เพื่อปรับขนาด AI/ML ให้กับองค์กร

เว็บไซต์

ส่วนหนึ่งของซีรี่ส์พอดคาสต์ For Cloud Professionals
AI/ML สามารถช่วยเปลี่ยนแปลงวิธีที่บริษัทรวบรวมข้อมูลเชิงลึกในธุรกิจของตนได้ แต่มักจะเป็นเรื่องยากที่จะนำแบบจำลอง AI/ML ไปใช้กับการผลิตในวงกว้าง ป้อน MLOps ซึ่งใช้แนวทางที่มีระเบียบวินัยในการปรับขนาด AI/ML ให้กับองค์กร

การออกแบบเว็บไซต์

ปรับขนาดกระบวนการ AI/ML ให้กับองค์กรด้วย MLOps
ปัญญาประดิษฐ์และการเรียนรู้ของเครื่อง (AI/ML) มีศักยภาพที่น่าทึ่งในการให้ข้อมูลเชิงลึกเกี่ยวกับการเปลี่ยนแปลง อย่างไรก็ตาม การปรับขนาดโมเดล AI/ML ให้กับองค์กรมักเป็นเรื่องยาก ในตอนนี้ Mike Kavis และแขกรับเชิญ Sudi Bhattacharya แห่ง Deloitte อภิปรายเกี่ยวกับระเบียบวินัยที่เกิดขึ้นใหม่ของ MLOps และการช่วยให้องค์กรพัฒนาโมเดลเสียงและปรับขนาดให้เข้ากับการผลิตระดับองค์กร ดังนั้นจึงปิดช่องว่าง “การฝึกสู่การผลิต” สำหรับ AI/ML จากข้อมูลของ Sudi MLOps ใช้แนวทางสามขั้นตอน: ฝึกอบรมโมเดลอย่างต่อเนื่อง พัฒนาเฟรมเวิร์กการปรับใช้ที่มีประสิทธิภาพ (รวมถึงทีมที่เหมาะสม) และการรวมโมเดล AI/ML เข้ากับกระบวนการทางธุรกิจ ข้อแม้ประการหนึ่ง: แนวทางของ AI/ML ควรเป็นปัญหาก่อน เทคโนโลยีในภายหลัง
คุณต้องคิดเกี่ยวกับการสร้าง [แบบจำลอง] เพื่อความถูกต้องเมื่อเวลาผ่านไปเช่นกัน ดังนั้น ฉันคิดว่าแนวทางที่ถูกต้องคือปัญหาก่อน เทคโนโลยี แม้ว่าจะเป็น AI/ML ในภายหลังก็ตาม
Sudi Bhattacharya เป็นกรรมการผู้จัดการของ Deloitte Consulting LLP ในแนวปฏิบัติด้าน Cloud Engineering ของ Deloitte เขาเป็นผู้นำโครงการการเปลี่ยนแปลงกระบวนการทางธุรกิจที่ขับเคลื่อนด้วย AI/ML ในสภาพแวดล้อมคลาวด์สาธารณะสำหรับธุรกิจที่ติดอันดับ Fortune 500 ในด้านการเงิน การค้าปลีก CPG และบริการด้านอาหาร
เวลา เทคโนโลยี พรสวรรค์: สัญญาสามง่ามของ ML . คลาวด์
การเรียนรู้ของเครื่องบนระบบคลาวด์นำเสนอโอกาสสำหรับองค์กรในการพัฒนากลยุทธ์ AI โดยใช้ ML คลาวด์เพื่อเร่งสร้างนวัตกรรม ขับเคลื่อนประสิทธิภาพ และตอบสนองความต้องการของลูกค้าด้วยการจ่ายเงินและขนาดที่ไม่เคยมีมาก่อน ด้วยสัญญาสามง่ามของประสิทธิภาพในเวลา เทคโนโลยี และความสามารถ องค์กรต่าง ๆ ได้รับผลประโยชน์แล้ว
@สเกลแมชชีนเลิร์นนิง–แนวคิดการฝึกอบรมแบบกระจาย
จะเกิดอะไรขึ้นหากปัญหาทางธุรกิจที่เราพยายามแก้ไขต้องใช้โมเดลการเรียนรู้ของเครื่องขนาดใหญ่หรือข้อมูลการฝึกอบรมจำนวนมากซึ่งไม่พอดีกับหน่วยความจำของเซิร์ฟเวอร์เครื่องเดียว จะเกิดอะไรขึ้นหากความต้องการในการคำนวณเป็นไปไม่ได้สำหรับโปรเซสเซอร์ตัวเดียวที่จะรองรับ
การสร้างไปป์ไลน์ข้อมูลประสิทธิภาพสูงเพื่อฝึกโมเดลแมชชีนเลิร์นนิง
กำลังพิจารณาสร้างการนำเข้าข้อมูลและไปป์ไลน์การประมวลผลล่วงหน้าเพื่อฝึกโมเดลการเรียนรู้ของเครื่องหรือไม่
วาง Cloud เข้ากับอนาคตของธุรกิจและเทคโนโลยี
เนื่องจากคลาวด์ไม่ได้เกี่ยวกับคลาวด์เพียงอย่างเดียว พอดคาสต์เกี่ยวกับคลาวด์ก็ไม่ใช่เช่นกัน เจ้าของที่พักทั้งสองของเรานำเสนอมุมมองที่แตกต่างกันสองประการเพื่อช่วยให้คุณเข้าใกล้การบรรลุสิ่งที่สำคัญที่สุด—ที่เป็นไปได้มากขึ้น
สำหรับ Cloud Professionals ซึ่งโฮสต์โดย David Linthicumให้มุมมองเชิงกลยุทธ์ระดับองค์กรในประเด็นสำคัญที่ส่งผลกระทบต่อธุรกิจของลูกค้า David ซึ่งได้รับการจัดอันดับให้เป็นผู้มีอิทธิพลด้านคลาวด์อันดับ 1 ในรายงาน Apollo Research ฉบับล่าสุด ได้ตีพิมพ์หนังสือเกี่ยวกับคอมพิวเตอร์จำนวน 13 เล่ม เขียนบทความที่ตีพิมพ์มากกว่า 5,000 บทความ และดำเนินการนำเสนอในการประชุมมากกว่า 500 รายการ ทำให้เขาไม่สามารถปฏิเสธความเชี่ยวชาญพิเศษด้านพลังของระบบคลาวด์ได้
ในฐานะผู้บุกเบิกคลาวด์คอมพิวติ้ง Mike Kavis เป็น ผู้นำด้าน Architecting the Cloud ซึ่งนำเสนอข้อมูลเชิงลึกจาก POV ของผู้ที่มีประสบการณ์ตรงเกี่ยวกับเทคโนโลยีคลาวด์ เส้นทางคลาวด์ส่วนตัวของ Mike รวมถึงการนำทีมที่สร้างเครือข่ายธุรกรรมความเร็วสูงแห่งแรกของโลกในระบบคลาวด์สาธารณะของ Amazon ซึ่งเป็นโครงการที่ชนะการแข่งขัน AWS Global Startup ในปี 2010 ในท้ายที่สุด
ด้วยผู้นำสองคนในหูของคุณ คุณจะมีเนื้อหาที่จำเป็นในการขับเคลื่อนการสนทนาครั้งต่อไปเกี่ยวกับคลาวด์ ตรวจสอบแทร็กพูดคุยทั้งสองในพอดคาสต์ของ Deloitte On Cloud เพื่อรับเรื่องราวที่น่าสนใจตามกำหนดการของคุณ เพื่อช่วยให้คุณเข้าใจหัวข้อที่กำลังพลิกโฉมตลาดในปัจจุบัน

เว็บแอพพลิเคชั่น

เริ่มต้นด้วยกรณีธุรกิจ ประเมินข้อมูลและข้อกำหนดของโมเดล ลงทุนในผู้มีความสามารถที่เหมาะสม และเต็มใจที่จะล้มเหลวอย่างรวดเร็วเพื่อเก็บเกี่ยวผลประโยชน์สูงสุดจากการเรียนรู้ของเครื่องบนระบบคลาวด์
ในขณะที่องค์กรต่างๆ มองหาการใช้แมชชีนเลิร์นนิง (ML) เพื่อปรับปรุงกลยุทธ์ทางธุรกิจและการปฏิบัติการของพวกเขา ผู้ค้าปลีก Wayfair มองไปที่คลาวด์ Wayfair เชื่อในสิ่งที่องค์กรอื่นๆ มากมายดูเหมือน—ว่าระบบคลาวด์และชุดบริการที่ครบวงจรที่นำเสนออาจทำให้องค์กรมีแนวทางที่ดีที่สุดในการสร้างโซลูชัน ML พร้อมเวลาออกสู่ตลาด ทรัพยากรที่มีอยู่ และเทคโนโลยีที่พร้อมใช้งาน ในส่วนของ Wayfair ได้ติดตามระบบคลาวด์สำหรับความสามารถในการปรับขนาด—กุญแจสำหรับผู้ค้าปลีกที่มีระดับความต้องการที่แตกต่างกัน—รวมถึงชุดเครื่องมือวิเคราะห์แบบบูรณาการและข้อเสนอบริการเครื่องมือเพิ่มประสิทธิภาพการทำงานเต็มรูปแบบเพื่อขับเคลื่อนข้อมูลเชิงลึกที่นำไปปฏิบัติได้ ผลลัพธ์? ข้อมูลเชิงลึกที่เร็วขึ้นในสภาวะตลาดที่เปลี่ยนแปลงเพื่อประหยัดเวลา เข้าถึงเทคโนโลยี ML ล่าสุดได้ทันที. และเครื่องมือการผลิตที่สามารถขับรถที่มีประสิทธิภาพความสามารถ
อันที่จริง ML กำลังเปลี่ยนแปลงเกือบทุกอุตสาหกรรม โดยช่วยให้บริษัทต่างๆ ขับเคลื่อนประสิทธิภาพ เปิดใช้งานนวัตกรรมอย่างรวดเร็ว และตอบสนองความต้องการของลูกค้าด้วยความเร็วและขนาดที่ไม่เคยมีมาก่อน เนื่องจากบริษัทต่างๆ เติบโตขึ้นในการใช้ ML มากขึ้น การพึ่งพาชุดข้อมูลขนาดใหญ่และความต้องการพลังในการประมวลผลที่รวดเร็วและเชื่อถือได้นั้นคาดว่าจะขับเคลื่อนอนาคตของ ML สู่ระบบคลาวด์
ประโยชน์ที่เป็นที่รู้จักของคลาวด์—รวมถึงโครงสร้างพื้นฐานแบบแยกส่วน ยืดหยุ่น ปรับใช้ได้อย่างรวดเร็ว และปรับขนาดได้ โดยไม่ต้องลงทุนล่วงหน้าจำนวนมาก—นำไปใช้เมื่อนำ ML มาสู่ระบบคลาวด์ Cloud ML ยังแนะนำเทคโนโลยี บริการ และแพลตฟอร์มที่ล้ำสมัย รวมถึงโมเดลและตัวเร่งความเร็วที่ฝึกไว้ล่วงหน้า ซึ่งให้ตัวเลือกเพิ่มเติมสำหรับวิธีที่ทีมวิทยาศาสตร์ข้อมูลและวิศวกรรมสามารถทำงานร่วมกันเพื่อนำแบบจำลองจากห้องปฏิบัติการมาสู่องค์กร แท้จริงเพราะทุกข้อดีเหล่านี้เวลา , เทคโนโลยีและความสามารถ -which อื่นอาจจะทำหน้าที่เป็นความท้าทายในการปรับองค์กรเทคโนโลยีประกอบด้วยสัญญาสามง่ามเมฆ ML (ดูแถบด้านข้าง“ค่าที่วัดได้ของเมฆ ML”)
การรับรู้ถึงศักยภาพนี้ได้กระตุ้นการเติบโตอย่างรวดเร็ว: ตลาด ML คลาวด์ในปัจจุบันคาดว่าจะมีมูลค่าระหว่าง 2 พันล้านดอลลาร์ถึง 5 พันล้านดอลลาร์สหรัฐ โดยมีโอกาสสูงถึง 13 พันล้านดอลลาร์สหรัฐภายในปี 2568 การเติบโตดังกล่าวกล่าวคือผู้ใช้ตระหนักมากขึ้น ประโยชน์ของ cloud ML และนั่นคืออนาคตของปัญญาประดิษฐ์ (AI) และมีเพียง 5% ของตลาด ML ของระบบคลาวด์ที่เป็นไปได้ที่ถูกเจาะเข้าไปตามการประมาณการหนึ่งครั้ง ชุมชนของผู้ใช้งานควรเจาะลึกลงไปในทุกภาคส่วนและแอปพลิเคชันเท่านั้น
เพื่อสำรวจศักยภาพของ ML ของระบบคลาวด์สำหรับองค์กรที่ต้องการสร้างนวัตกรรม เราได้ทำการสัมภาษณ์ผู้นำเก้าคนในระบบคลาวด์และ AI ซึ่งมีมุมมองส่วนใหญ่เกี่ยวกับเนื้อหาที่ตามมา ในเอกสารนี้ เราให้ภาพรวมของรูปแบบการทำงานที่แตกต่างกันสามแบบสำหรับ ML คลาวด์ และนำเสนอข้อมูลเชิงลึกสำหรับผู้บริหารในขณะที่พวกเขาพยายามปลดล็อกศักยภาพของเทคโนโลยีอย่างเต็มที่

Web​ application

ค่าที่วัดได้ของคลาวด์ ML
ในการสำรวจ Deloitte State of AI ในปี 2020 ในการ สำรวจEnterprise 83% ของผู้ตอบแบบสอบถามกล่าวว่า AI จะมีความสำคัญอย่างยิ่งต่อความสำเร็จขององค์กรภายในสองปีข้างหน้า ประมาณสองในสามของผู้ตอบแบบสอบถามกล่าวว่าขณะนี้ตนใช้ ML เป็นส่วนหนึ่งของโครงการริเริ่มด้าน AI และการสำรวจของเราชี้ให้เห็นว่าโปรแกรม AI/ML เหล่านี้ส่วนใหญ่ใช้หรือวางแผนที่จะใช้โครงสร้างพื้นฐานระบบคลาวด์ในบางรูปแบบในปัจจุบัน การวิเคราะห์เพิ่มเติมของข้อมูลการสำรวจสำหรับการวิจัยนี้แสดงให้เห็นว่า cloud ML ขับเคลื่อนผลประโยชน์ที่สามารถวัดได้สำหรับโปรแกรม AI (รูปที่ 1) และโดยทั่วไปจะปรับปรุงผลลัพธ์เมื่อเปรียบเทียบกับการปรับใช้ AI ที่ไม่เฉพาะเจาะจง:
ผู้ใช้ ML คลาวด์ ML สี่สิบเก้าเปอร์เซ็นต์กล่าวว่าพวกเขาเห็นประสิทธิภาพกระบวนการที่ดีขึ้น “มาก” (เทียบกับผลการสำรวจโดยรวม 42%)
สี่สิบห้าเปอร์เซ็นต์เห็นว่าการตัดสินใจดีขึ้น “มาก” (เทียบกับโดยรวม 39%)
ร้อยละสามสิบเก้ามีความได้เปรียบในการแข่งขัน “สำคัญ” (เทียบกับโดยรวม 26%)
ที่สำคัญ จุดข้อมูลเหล่านี้แสดงให้เห็นว่าเครื่องมือ Cloud ML ดูเหมือนจะสร้างผลกระทบอย่างโดดเด่นในด้านกลยุทธ์ในระยะยาวเช่น ความได้เปรียบในการแข่งขันและการตัดสินใจที่ดีขึ้น เมื่อเทียบกับการนำ AI ทั่วไปมาใช้ นี่คือความแตกต่างและการเปลี่ยนแปลงที่สำคัญในแนวทางที่องค์กรใช้ในการเรียกใช้โปรแกรม AI (ห่างจากแพลตฟอร์ม AI ภายในองค์กร) และแนวโน้มที่คาดว่าจะดำเนินต่อไปเนื่องจาก cloud ML ให้ความสำคัญกับองค์กรระดับโลกมากขึ้น
การเพิ่มเครื่องมือ AI แบบ low-code/no-code ซึ่งเป็นส่วนหนึ่งของบริการ cloud ML บางอย่าง สามารถขยายข้อดีเหล่านี้ด้วยการตอบสนองที่แสดงถึงผลที่เพิ่มขึ้นในการตัดสินใจ ประสิทธิภาพกระบวนการ และความได้เปรียบในการแข่งขัน และอื่นๆ ตัวอย่างเช่น:
ผู้ใช้ ML ML แบบ low-code/no-code ร้อยละ 56 กล่าวว่าพวกเขาเห็นประสิทธิภาพของกระบวนการที่ปรับปรุง “สูง” (เทียบกับผู้ใช้ ML คลาวด์ 49% เทียบกับโดยรวม 42%)
ห้าสิบสี่เปอร์เซ็นต์เห็นว่าการตัดสินใจดีขึ้น “มาก” (เทียบกับผู้ใช้ ML คลาวด์ 45% เทียบกับ 39% โดยรวม)
สี่สิบเก้าเปอร์เซ็นต์มีความได้เปรียบในการแข่งขัน “สำคัญ” (เทียบกับ 39% สำหรับผู้ใช้ ML คลาวด์ เทียบกับ 26 เปอร์เซ็นต์โดยรวม)
ผู้ใช้ ML ระบบคลาวด์แบบใช้โค้ดน้อย/ไม่มีโค้ดเห็นการเพิ่มขึ้นในด้านที่ผู้ใช้ ML ทั่วไปบนคลาวด์ไม่เห็นด้วยผลลัพธ์ เช่น ข้อมูลเชิงลึกใหม่ๆ และปรับปรุงประสิทธิภาพการทำงานของพนักงาน และอื่นๆ
[NPC5]การเกิดขึ้นของเครื่องมือ low-code/no-code เป็นส่วนหนึ่งของแนวโน้มในวงกว้างไปสู่การเข้าถึงโซลูชัน AI/ML บนคลาวด์ที่มากขึ้น และชุมชนผู้ใช้ที่มีความหลากหลายมากขึ้น ผลการสำรวจเชิงบวกเหล่านี้ชี้ให้เห็นว่าแนวโน้มนี้อาจแข็งแกร่งขึ้นในระยะใกล้ถึงระยะกลางเท่านั้น