Wu Dao 2.0 – AI ที่ใหญ่กว่า แข็งแกร่งกว่า เร็วกว่าจากจีน

Wu Dao 2.0 – AI ที่ใหญ่กว่า แข็งแกร่งกว่า เร็วกว่าจากจีน

เว็บไซต์

ไม่เป็นความลับที่จีนสามารถควบคุม COVID-19 ได้ เมื่อคุณเดินทางไปที่นั่น คุณต้องผ่านการกักกันโรงแรม 2 สัปดาห์ แต่เมื่อคุณอยู่ในประเทศ คุณจะปลอดภัย อาจปลอดภัยกว่าเมื่อก่อนมีโควิด-19 เนื่องจากการสวมหน้ากากเป็นส่วนหนึ่งของมารยาท และโรคทางเดินหายใจจากไวรัสอื่นๆ อีกมากมายมีแนวโน้มลดลง ดังนั้น เมื่อฉันได้รับเชิญให้พูดในการประชุมประจำปีของBeijing Academy of Artificial Intelligence (BAAI) ในส่วน AI สำหรับการดูแลสุขภาพ ฉันจึงยอมรับอย่างง่ายดาย

การออกแบบเว็บไซต์

BAAI เป็นแพลตฟอร์มที่ยอดเยี่ยมสำหรับการนำเสนอเทคโนโลยีและความสามารถในหมวดหมู่กว้างๆ สถาบันที่ไม่แสวงหาผลกำไรสนับสนุนให้นักวิทยาศาสตร์จัดการกับปัญหาและส่งเสริมความก้าวหน้าในทฤษฎี เครื่องมือ ระบบ และแอปพลิเคชัน AI นอกจากนี้ BAAI ยังให้ความสำคัญกับการวิจัยระยะยาวเกี่ยวกับเทคโนโลยี AI
AI นั้นใหญ่มากในจีน ใหญ่มากจนมีคนลงทะเบียนเข้าร่วมงานกว่า 70,000 คน และอีกมากติดตามชมการนำเสนอของ BAAI หลังจบงาน และอาจนำเสนอแนวทางที่แปลกใหม่ อัลกอริธึม ระบบ และแอพพลิเคชั่น อย่างไรก็ตาม การโจมตีที่แท้จริงของ BAAI คือ Wu Dao 2.0 ซึ่งเป็นระบบที่แซงหน้า GPT-3 ของ OpenAI ในหลาย ๆ ด้าน
สารานุกรมบริแทนนิกากำหนดภาษาว่าเป็น ‘ระบบของสัญลักษณ์การพูด คู่มือ หรือลายลักษณ์อักษรตามแบบฉบับ โดยวิธีที่มนุษย์ เป็นสมาชิกของกลุ่มสังคมและผู้เข้าร่วมในวัฒนธรรม แสดงตัวตน’ เราสามารถสรุปได้จากคำจำกัดความนี้ว่าภาษาเป็นส่วนสำคัญของการเชื่อมต่อของมนุษย์ ไม่เพียงแต่ช่วยให้เราสามารถแบ่งปันความคิด ความคิด และความรู้สึกซึ่งกันและกัน ภาษายังช่วยให้เราสร้างและสร้างสังคมและอาณาจักร พูดง่ายๆ ภาษาทำให้เราเป็นมนุษย์
ตามที่ศาสตราจารย์แกเร็ ธ Gaskellของภาควิชาจิตวิทยาที่มหาวิทยาลัยนิวยอร์ก, ค่าเฉลี่ย 20 ปีรู้ระหว่าง 27,000 และ 52,000 คำที่แตกต่าง เมื่ออายุ 60 ปี จำนวนนั้นจะมีค่าเฉลี่ยระหว่าง 35,000 ถึง 56,000 ดังนั้น เมื่อเราใช้คำในการสนทนา สมองจะต้องตัดสินใจอย่างรวดเร็วว่าควรใช้คำใดและลำดับใด ในบริบทนี้ สมองทำงานเป็นตัวประมวลผลที่สามารถทำหลายอย่างพร้อมกันได้
นักวิทยาศาสตร์ด้านภาษาแนะนำว่าแต่ละคำที่เรารู้จักนั้นแสดงโดยหน่วยประมวลผลแยกซึ่งมีงานเดียว: เพื่อประเมินความเป็นไปได้ที่คำพูดที่เข้ามาจะตรงกับคำนั้น ๆ ในบริบทของสมอง หน่วยประมวลผลที่เป็นตัวแทนของคำนั้นคล้ายกับรูปแบบของกิจกรรมในกลุ่มเซลล์ประสาทในสมอง ดังนั้น เมื่อเราได้ยินจุดเริ่มต้นของคำ หน่วยดังกล่าวหลายพันหน่วยเริ่มทำงานเนื่องจากมีการจับคู่ที่เป็นไปได้มากมาย
คนส่วนใหญ่สามารถเข้าใจได้ถึงแปดพยางค์ต่อวินาที อย่างไรก็ตาม เป้าหมายไม่ใช่เพื่อจดจำคำนั้น แต่เพื่อเข้าถึงความหมายที่เก็บไว้ สมองเข้าถึงความหมายที่เป็นไปได้มากมายของคำก่อนที่จะระบุได้อย่างสมบูรณ์ การศึกษาแสดงให้เห็นว่าเมื่อได้ยินชิ้นส่วนของคำเช่น ‘หมวก’ ผู้ฟังจะเริ่มบันทึกความหมายที่เป็นไปได้หลายอย่างเช่น ‘กัปตัน’ หรือ ‘ทุน’ ก่อนที่คำเต็มจะปรากฎ
เช่นเดียวกับสิ่งที่มากที่สุดโดยได้แรงหนุนปัญญาประดิษฐ์ใน 21 เซนต์ศตวรรษภาษานอกจากนี้ยังมีการพัฒนาที่จะใช้รูปร่างที่แตกต่างและความหมาย เมื่อเร็ว ๆ นี้ แนวคิดของ ‘ แบบจำลองภาษา ‘ ได้เข้ามาเป็นศูนย์กลางใน AI โดยพื้นฐานแล้ว โมเดลภาษากำหนดความน่าจะเป็นของคำโดยการวิเคราะห์ข้อมูลข้อความ ซึ่งหมายความว่าแบบจำลองภาษาจะตีความข้อมูลโดยใช้เทคนิคทางสถิติและความน่าจะเป็นเพื่อหาความน่าจะเป็นของลำดับคำที่กำหนด โมเดลภาษามักใช้ในแอปพลิเคชันการประมวลผลภาษาธรรมชาติ เช่น โมเดลที่สร้างข้อความเป็นเอาต์พุต ซึ่งรวมถึงการแปลด้วยคอมพิวเตอร์และการตอบคำถาม
เมื่อMicrosoftเปิดเผยโมเดลภาษาTuring-NLGในเดือนกุมภาพันธ์ 2020 ได้รับการขนานนามว่าเป็นโมเดลที่ใหญ่ที่สุดเท่าที่เคยเผยแพร่และรุ่นหนึ่งมีประสิทธิภาพเหนือกว่ารุ่นอื่นๆ ในเกณฑ์มาตรฐานการสร้างแบบจำลองภาษาต่างๆ เมื่อเปิดตัว Turing-NLG ได้เผยแพร่พารามิเตอร์ 17 พันล้านรายการและสามารถสร้างคำเพื่อทำงานที่เป็นข้อความแบบปลายเปิดได้ ตัวแบบยังสามารถให้คำตอบสำหรับคำถามและบทสรุปของเอกสารนำเข้าได้โดยตรง
ในเดือนมีนาคมของปีเดียวกันOpenAI ได้เปิดตัวโมเดลภาษาแบบถดถอยอัตโนมัติที่เรียกว่า Generative Pre-trained Transformer 3 (GPT-3) ซึ่งใช้การเรียนรู้เชิงลึกเพื่อสร้างข้อความที่เหมือนมนุษย์ โมเดลภาษารุ่นที่สามในซีรีส์ GPT-n มีความจุ 175 พันล้านพารามิเตอร์การเรียนรู้ของเครื่อง นักวิจัย OpenAI เผยแพร่บทความที่พวกเขาแสดงให้เห็นว่า GPT-3 สามารถสร้างบทความข่าวที่ผู้ประเมินที่เป็นมนุษย์มีปัญหาในการแยกแยะจากบทความที่เขียนโดยมนุษย์ นักวิจัยเหล่านี้ยังอ้างว่าโมเดลภาษาสามารถฝึกให้สร้างเนื้อหา 100 หน้าซึ่งมีค่าใช้จ่ายด้านพลังงานเพียงไม่กี่เซ็นต์
GPT-3 ถือว่าแข็งแกร่งและทรงพลังมากจน Microsoft อนุญาตให้ใช้แบบจำลองภาษาและรหัสพื้นฐานแต่เพียงผู้เดียว
อย่างไรก็ตาม เพียงหนึ่งปีต่อมา โมเดลภาษาอื่นก็เข้ามาแทนที่ทั้ง GPT-3 และ Turing-NLG ในแง่ของนวัตกรรมและความเฉลียวฉลาด

เว็บแอพพลิเคชั่น

โมเดลนี้เรียกว่า Wu Dao 2.0 จัดแสดงที่ BAAI การทำงานอยู่เบื้องหลัง Wu Dao 2.0 ซึ่งเป็นที่ขนานนามว่าเป็นพื้นบ้านซุปเปอร์ขนาดแบบจำลองระบบอัจฉริยะครั้งแรกของจีนที่นำโดย BAAI วิจัยรองประธานวิชาการและมหาวิทยาลัย Tsinghua ศาสตราจารย์ Tang Jie เขาได้รับการสนับสนุนจากทีมนักวิทยาศาสตร์ AI กว่า 100 คนจากมหาวิทยาลัยปักกิ่ง, มหาวิทยาลัยชิงหวา, มหาวิทยาลัยเหรินหมินแห่งประเทศจีน, สถาบันวิทยาศาสตร์จีน และสถาบันอื่นๆ
Wu Dao 2.0 เป็นตัวตายตัวแทนของ Wu Dao 1.0 ซึ่งเปิดตัวโดย BAAI เมื่อต้นปีนี้ Wu Dao 2.0 เป็นคำตอบที่ใหญ่กว่าและดีกว่าของจีนสำหรับ GPT-3 อย่างแท้จริง
ประการแรก ไม่เหมือนกับ GPT-3 ตรงที่ Wu Dao 2.0 พัฒนาทั้งภาษาจีนและอังกฤษด้วยทักษะที่ได้จากการวิเคราะห์รูปภาพและข้อความขนาด 4.9 เทราไบต์ Wu Dao 2.0 ยังมีข้อตกลงความร่วมมือกับ 22 แบรนด์รวมถึงผู้ผลิตสมาร์ทโฟน Xiaomi และแอปวิดีโอ Kuaishou โมเดลจีนได้รับการฝึกอบรมเกี่ยวกับพารามิเตอร์ 1.75 ล้านล้าน ซึ่งมากกว่าพารามิเตอร์ GPT-3 ที่ได้รับการฝึกมาเกือบ 10 เท่า

Web​ application

Wu Dao 2.0 ยังสามารถเขียนบทกวีในรูปแบบจีนดั้งเดิม ตอบคำถาม เขียนเรียงความ และเขียนข้อความสำหรับรูปภาพ นอกจากนี้ โมเดลภาษานี้ถึงหรือเหนือกว่าระดับของศิลปะ (SOTA) ในเกณฑ์มาตรฐานเก้าแบบ ตามที่รายงานโดย BAAI ซึ่งรวมถึง:
1- ImageNet (zero-shot): SOTA เหนือกว่า OpenAI CLIP
2- LAMA (ความรู้ข้อเท็จจริงและสามัญสำนึก): เหนือกว่า AutoPrompt
3- LAMBADA (งานปิด): เหนือกว่า Microsoft Turing NLG
4- SuperGLUE (ไม่กี่ช็อต): SOTA เหนือกว่า OpenAI GPT-3
5- UC Merced Land Use (zero-shot): SOTA เหนือกว่า OpenAI CLIP
6- MS COCO (ข้อความรุ่นแผนภาพ): ทะลุ OpenAI DALL · E
7- MS COCO (อังกฤษดึงกราฟิก): ทะลุ OpenAI CLIP และ Google ALIGN
8- MS COCO (การดึงข้อมูลกราฟิกหลายภาษา): เหนือกว่า UC (รูปแบบการฝึกอบรมล่วงหน้าสำหรับหลายภาษาและหลายรูปแบบที่ดีที่สุด)
9- หลาย 30K (การดึงกราฟิกหลายภาษา): เหนือกว่า UC
สุดท้าย Wu Dao 2.0 ได้เปิดตัว Hua Zhibing นักเรียนเสมือนจริงชาวจีนคนแรกของโลก ฮั่วสามารถเรียนรู้ วาดภาพ และแต่งบทกวีได้ ในอนาคตเธอจะสามารถเรียนรู้การเขียนโปรแกรมได้ ความสามารถในการเรียนรู้ของ Wu Dao 2.0 นี้ตรงกันข้ามกับ GPT-3 อย่างสิ้นเชิง
รายละเอียดอื่น ๆ เกี่ยวกับวิธีการและสิ่งที่ Wu Dao 2.0 ได้รับการฝึกฝนนั้นยังไม่มีให้บริการ ทำให้ยากต่อการเปรียบเทียบกับ GPT-3 โดยตรง อย่างไรก็ตาม รูปแบบภาษาใหม่นี้เป็นเครื่องพิสูจน์ถึงความทะเยอทะยานด้าน AI ของจีนและโครงการวิจัยที่ยอดเยี่ยม ไม่ต้องสงสัยเลยว่านวัตกรรม AI จะเพิ่มขึ้นในปีต่อๆ ไป และการพัฒนาเชิงนวัตกรรมมากมายเหล่านี้จะช่วยพัฒนาอุตสาหกรรมอื่นๆ อีกมากมาย
หนึ่งในผู้ทรงคุณวุฒิและนักลงทุนด้าน AI ซึ่งช่วยสร้างยูนิคอร์นที่ขับเคลื่อนด้วย AI อย่างน้อย 7 ตัวที่ขับเคลื่อนโดย AI ดร. Kai-Fu Lee ได้บรรยายที่ Hong Kong Science and Technology Parkซึ่งเขาอธิบายพลังของหม้อแปลงไฟฟ้า และ ปรับแต่งโมเดลที่ได้รับการฝึกฝนมาเป็นอย่างดี เช่น Wu Dao 2.0 โมเดลเหล่านี้สามารถปรับแต่งได้อย่างละเอียดสำหรับอุตสาหกรรมต่างๆ และการใช้งานจำนวนมาก เช่น การศึกษา การเงิน กฎหมาย ความบันเทิง และที่สำคัญที่สุดคือการวิจัยด้านสุขภาพและชีวการแพทย์

Robot Auto process

การประยุกต์ใช้หม้อแปลงไฟฟ้าในการวิจัยทางชีวการแพทย์มีแนวโน้มที่จะทำให้เกิดการค้นพบใหม่ซึ่งจะเป็นประโยชน์ต่อมนุษย์โดยไม่คำนึงถึงที่ที่พวกเขาอาศัยอยู่ และเราหวังเป็นอย่างยิ่งว่าแม้จะเกิดสงครามการค้า รัฐบาลต่างๆ จะพิจารณาร่วมมือในการวิจัยด้านชีวการแพทย์