การนำ AI มาสู่อุปกรณ์: ชิป Edge AI มาเป็นของตัวเอง

การนำ AI มาสู่อุปกรณ์: ชิป Edge AI มาเป็นของตัวเอง

เว็บไซต์

หากคุณรักกล้องที่ปรับปรุง AI ในสมาร์ทโฟนของคุณ โปรดรอจนกว่าคุณจะพบว่าชิป Edge AI ทำอะไรได้บ้างสำหรับองค์กร
หลายคนอาจคุ้นเคยกับความหงุดหงิดในการเรียกใช้ฟังก์ชันเสียงพูดเป็นข้อความของสมาร์ทโฟนเพื่อกำหนดอีเมล แต่กลับพบว่าใช้งานไม่ได้เพราะโทรศัพท์ไม่ได้เชื่อมต่อกับอินเทอร์เน็ต ในตอนนี้ ชิป Edge Artificial Intelligence (AI) รุ่นใหม่ถูกตั้งค่าให้ลดความผิดหวังเหล่านั้นด้วยการนำ AI มาสู่อุปกรณ์

การออกแบบเว็บไซต์

เราคาดการณ์ว่าในปี 2020 จะมีการจำหน่ายชิป Edge AI มากกว่า 750 ล้านชิป หรือชิ้นส่วนของชิปที่ทำงานหรือเร่งความเร็วของงานการเรียนรู้ของเครื่องในอุปกรณ์ แทนที่จะขายในศูนย์ข้อมูลระยะไกล ตัวเลขนี้ซึ่งคิดเป็นรายได้ 2.6 พันล้านดอลลาร์สหรัฐ มากกว่าสองเท่าของชิป AI ขอบ 300 ล้านชิ้นที่ Deloitte คาดการณ์ว่าจะขายในปี 2560 — อัตราการเติบโตต่อปี (CAGR) สามปีที่ 36 เปอร์เซ็นต์ นอกจากนี้ เราคาดการณ์ว่าตลาดชิป edge AI จะยังคงเติบโตได้เร็วกว่าตลาดชิปโดยรวม ภายในปี 2024 เราคาดว่ายอดขายชิป edge AI จะเกิน 1.5 พันล้าน ซึ่งอาจเป็นไปได้อย่างมาก สิ่งนี้แสดงถึงการเติบโตของยอดขายต่อหน่วยต่อปีอย่างน้อย 20 เปอร์เซ็นต์ ซึ่งมากกว่าการคาดการณ์ระยะยาวที่ 9 เปอร์เซ็นต์ CAGR สำหรับอุตสาหกรรมเซมิคอนดักเตอร์โดยรวมถึงสองเท่า
ชิป Edge AI เหล่านี้มีแนวโน้มที่จะเข้าสู่อุปกรณ์ผู้บริโภคจำนวนมากขึ้น เช่น สมาร์ทโฟนระดับไฮเอนด์ แท็บเล็ต ลำโพงอัจฉริยะ และอุปกรณ์สวมใส่ นอกจากนี้ยังจะใช้ในตลาดองค์กรหลายแห่ง เช่น หุ่นยนต์ กล้อง เซ็นเซอร์ และอุปกรณ์ IoT (อินเทอร์เน็ตของสิ่งต่างๆ) โดยทั่วไป ตลาดทั้งสองมีความสำคัญ ตลาดชิป AI ของผู้บริโภคมีขนาดใหญ่กว่าตลาดองค์กรมาก แต่มีแนวโน้มว่าจะเติบโตช้ากว่า โดยคาดว่า CAGR ที่ 18 เปอร์เซ็นต์ระหว่างปี 2020 ถึง 2024 ตลาดชิป AI ระดับองค์กร ในขณะที่ใหม่กว่ามาก—เป็นตลาดแรกที่มีวางจำหน่ายในเชิงพาณิชย์ องค์กรขอบชิป AI เปิดตัวในปี 2017 เพียง5 -is การเจริญเติบโตได้เร็วขึ้นมากด้วยการ CAGR ที่คาดการณ์ไว้ที่ร้อยละ 50 ในช่วงเวลาเดียวกัน
ที่นี่ ที่นั่น และทุกที่: ที่ตั้งของ AI Computing มากมาย
จนกระทั่งเมื่อไม่นานมานี้ การคำนวณ AI เกือบทั้งหมดดำเนินการจากระยะไกลในศูนย์ข้อมูล บนเครื่องใช้หลักขององค์กร หรือบนตัวประมวลผลขอบโทรคมนาคม—ไม่ใช่ในอุปกรณ์ ทั้งนี้เนื่องจากการคำนวณของ AI นั้นใช้โปรเซสเซอร์มากเป็นพิเศษ ซึ่งต้องใช้ชิป (ดั้งเดิม) หลายร้อยประเภทในการดำเนินการ ขนาด ราคา และพลังงานของฮาร์ดแวร์ทำให้เป็นไปไม่ได้ที่จะติดตั้งอาร์เรย์การประมวลผล AI ในสิ่งที่มีขนาดเล็กกว่า footlocker
ตอนนี้ชิป edge AI กำลังเปลี่ยนแปลงทุกสิ่ง พวกมันมีขนาดเล็กกว่า ราคาไม่แพง ใช้พลังงานน้อยกว่ามาก และสร้างความร้อนน้อยกว่ามาก ทำให้สามารถรวมเข้ากับอุปกรณ์พกพา เช่น สมาร์ทโฟน และอุปกรณ์ที่ไม่ใช่ของผู้บริโภค เช่น หุ่นยนต์ ชิป Edge AI ช่วยลดหรือขจัดความจำเป็นในการส่งข้อมูลจำนวนมากไปยังพื้นที่ห่างไกล ด้วยการทำให้อุปกรณ์เหล่านี้ดำเนินการคำนวณ AI ที่เน้นโปรเซสเซอร์ในพื้นที่ ซึ่งให้ประโยชน์ในด้านการใช้งาน ความเร็ว และความปลอดภัยของข้อมูลและความเป็นส่วนตัว
แน่นอนว่าการคำนวณ AI ทั้งหมดไม่จำเป็นต้องเกิดขึ้นในพื้นที่ สำหรับบางแอปพลิเคชัน การส่งข้อมูลเพื่อประมวลผลโดยอาร์เรย์ AI ระยะไกลอาจเพียงพอหรือแม้แต่ต้องการ ตัวอย่างเช่น เมื่อมีข้อมูลมากเกินไปสำหรับชิป Edge AI ของอุปกรณ์ที่จะจัดการ ในความเป็นจริง ส่วนใหญ่แล้ว AI จะทำในรูปแบบไฮบริด: บางส่วนในอุปกรณ์และบางส่วนในระบบคลาวด์ การผสมผสานที่ต้องการในสถานการณ์ใดก็ตามจะแตกต่างกันไปขึ้นอยู่กับว่าต้องดำเนินการประมวลผล AI ประเภทใด

เว็บแอพพลิเคชั่น

คำว่า “ขอบโทรคมนาคม” สมควรได้รับคำอธิบายที่นี่ Telecom edge compute (เรียกอีกอย่างว่า telco edge compute)—“เครือข่ายขอบไกล” ที่แสดงในรูปที่ 2 6—หมายถึงการคำนวณที่ดำเนินการโดยศูนย์ข้อมูลขนาดเล็กที่ตั้งอยู่ใกล้ลูกค้ามากที่สุดเท่าที่จะเป็นไปได้ แต่เป็นเจ้าของและดำเนินการโดยบริษัทโทรคมนาคมแห่งหนึ่ง และในทรัพย์สินที่เป็นเจ้าของโทรคมนาคม ปัจจุบันพวกเขาใช้ชิป AI แบบศูนย์ข้อมูล (ขนาดใหญ่ ราคาแพง และใช้พลังงานมาก) แต่เมื่อเวลาผ่านไปอาจเริ่มรวมชิป Edge AI บางประเภท (ผู้บริโภคหรือองค์กร) ที่เราพูดถึงในบทนี้ อย่างไรก็ตาม ชิปที่ใช้ในการประมวลผลเอดจ์ของเทเลคอมนั้นต่างจาก Edge Device Compute ตรงที่อยู่ที่ขอบของเครือข่ายของ telco ไม่ใช่บนอุปกรณ์ปลายทางจริง นอกจากนี้ การประมวลผลขอบโทรคมนาคมทั้งหมดไม่ใช่การประมวลผลด้วย AI นักวิเคราะห์อุตสาหกรรมระบุว่ารายรับจากตลาดเทเลคอมเอดจ์คอมพิวติ้ง (คอมพิวเตอร์ทุกประเภท ไม่ใช่แค่ AI) จะสูงถึง 21 พันล้านดอลลาร์สหรัฐในปี 2563 ซึ่งเพิ่มขึ้นมากกว่า 100 เปอร์เซ็นต์จากปี 25627การแยกย่อยที่แม่นยำของตลาดนี้ตามหมวดหมู่นั้นไม่เปิดเผยต่อสาธารณะ แต่นักวิเคราะห์เชื่อว่าส่วนของ AI มีแนวโน้มที่จะยังค่อนข้างใหม่ในปี 2020 โดยมีรายได้ไม่เกิน 1 พันล้านดอลลาร์สหรัฐ หรือ 5% ของการใช้จ่ายด้านโทรคมนาคมทั้งหมด
Edge AI สำหรับผู้บริโภค: ไม่จำเป็นต้องแพง
ในปี 2020 ตลาดอุปกรณ์สำหรับผู้บริโภคมีแนวโน้มที่จะเป็นตัวแทนมากกว่า 90% ของตลาดชิป Edge AI ทั้งในแง่ของตัวเลขที่ขายและมูลค่าดอลลาร์ ชิป Edge AI ส่วนใหญ่จะใช้กับสมาร์ทโฟนระดับไฮเอนด์ ซึ่งคิดเป็นกว่า 70% ของชิป Edge AI ของผู้บริโภคทั้งหมดที่ใช้อยู่ในปัจจุบัน 9ซึ่งหมายความว่าในปี 2020 และในอีกไม่กี่ปีข้างหน้า การเติบโตของชิป AI จะถูกขับเคลื่อนโดยสมาร์ทโฟนเป็นหลัก ทั้งจำนวนสมาร์ทโฟนที่ขายและเปอร์เซ็นต์ของชิป AI ที่มี Edge AI ในแง่ของตัวเลขข่าวดูเหมือนจะดี หลังจากปี 2019 ที่อ่อนแอ ซึ่งส่งผลให้ยอดขายสมาร์ทโฟนลดลง 2.5 เปอร์เซ็นต์ เมื่อเทียบเป็นรายปี คาดว่าสมาร์ทโฟนจะขายได้ 1.56 พันล้านเครื่องในปี 2020 ซึ่งเท่ากับตัวเลขในปี 2018 ซึ่งเพิ่มขึ้น 2.8 เปอร์เซ็นต์ 10 เราเชื่อว่ามากกว่าหนึ่งในสามของตลาดนี้อาจมีชิป Edge AI ในปี 2020

Web​ application

สมาร์ทโฟนไม่ใช่อุปกรณ์เดียวที่ใช้ชิป Edge AI หมวดหมู่อุปกรณ์อื่นๆ—แท็บเล็ต, อุปกรณ์สวมใส่, ลำโพงอัจฉริยะ—รวมอยู่ด้วย (รูปที่ 3) ในระยะสั้น อุปกรณ์ที่ไม่ใช่สมาร์ทโฟนเหล่านี้มีแนวโน้มที่จะส่งผลกระทบต่อยอดขายชิป edge AI น้อยกว่าสมาร์ทโฟนมาก เนื่องจากตลาดไม่เติบโต (สำหรับแท็บเล็ต11 ) หรือเนื่องจากมีขนาดเล็กเกินไปที่จะสร้างความแตกต่างอย่างมีนัยสำคัญ (สำหรับ เช่น ลำโพงอัจฉริยะและอุปกรณ์สวมใส่รวมกันคาดว่าจะขายได้เพียง 125 ล้านเครื่องในปี 2020 12 ) อย่างไรก็ตาม อุปกรณ์สวมใส่และลำโพงอัจฉริยะจำนวนมากขึ้นอยู่กับชิป Edge AI ดังนั้นการเจาะระบบจึงสูงอยู่แล้ว
เศรษฐศาสตร์ของชิป edge AI สำหรับสมาร์ทโฟน
ในปัจจุบัน เฉพาะสมาร์ทโฟนที่แพงที่สุดเท่านั้น ซึ่งอยู่ในสามอันดับแรกของการกระจายราคา มีแนวโน้มที่จะใช้ชิป edge AI ที่กล่าวว่าโทรศัพท์บางรุ่นที่มีราคาต่ำกว่า 1,000 เหรียญสหรัฐมี AI ด้วยเช่นกัน โทรศัพท์ที่ติดตั้ง AI หลายรุ่นจากผู้ผลิตในจีน เช่น Mi 9, 13ของ Xiaomi ขายในราคาต่ำกว่า 500 เหรียญสหรัฐในประเทศตะวันตก นอกจากนี้ ดังที่เราเห็นด้านล่าง การวางชิป AI ในสมาร์ทโฟนไม่จำเป็นต้องเป็นอุปสรรคต่อราคาสำหรับผู้บริโภค

Robot Auto process

การคำนวณค่าใช้จ่ายของชิป Edge AI ของสมาร์ทโฟนเป็นกระบวนการที่อ้อมค้อม แต่ก็เป็นไปได้ที่จะได้ค่าประมาณที่ดีพอสมควร เหตุผลที่เราต้องประมาณการแทนที่จะมองหาต้นทุนโดยทันทีก็คือ “ชิป AI” ของสมาร์ทโฟนไม่ใช่ชิปที่แยกจากกันอย่างแท้จริง ภายในสมาร์ทโฟนรุ่นใหม่ที่มีความหนาเพียง 7-8 มม. ไม่มีที่ว่างสำหรับชิปแยกหลายชิ้น แทน, ฟังก์ชันที่จำเป็นหลายอย่าง (การประมวลผล, กราฟิก, หน่วยความจำ, การเชื่อมต่อ และตอนนี้ AI) ทั้งหมดมีอยู่ในซิลิคอนไดย์เดียวกัน ซึ่งเรียกว่าระบบบนชิป (SoC) แอพพลิเคชั่นโปรเซสเซอร์ (AP) คำว่า “ชิป AI” หากมีโทรศัพท์ หมายถึงส่วนของแม่พิมพ์ซิลิกอนโดยรวมที่ทุ่มเทให้กับการคำนวณหรือเร่งความเร็วของแมชชีนเลิร์นนิง มันทำจากวัสดุเดียวกันกับชิปที่เหลือ โดยใช้กระบวนการและเครื่องมือเดียวกัน ประกอบด้วยทรานซิสเตอร์มาตรฐานหลายร้อยล้านตัว แต่จัดเรียงในลักษณะที่แตกต่างกัน (นั่นคือ มีสถาปัตยกรรมที่ต่างกัน) มากกว่าในส่วนการประมวลผลทั่วไปของชิปหรือส่วนกราฟิก ส่วน AI นั้นโดยทั่วไปแม้ว่าจะไม่รู้จักกันในนาม NPU หรือหน่วยประมวลผลประสาทก็ตาม