The Dangers Of AI Need To Be Discussed

The Dangers Of AI Need To Be Discussed

เว็บไซต์

ไม่ว่าคุณจะเชื่อในการมีอยู่ของอารยธรรมนอกโลกหรือไม่ ลองจินตนาการว่าอีกไม่นานโลกของเราจะมีมนุษย์ต่างดาวอาศัยอยู่
ลองนึกภาพว่าพวกมันกำลังเดินทางมายังโลกและจะเข้ามาหาเราในศตวรรษนี้ แม้กระทั่งในทศวรรษหน้า ในสถานการณ์สมมตินี้ มีโอกาสมากที่คุณจะได้พบกับเอเลี่ยนในช่วงอายุขัยของคุณ และคุณมีโอกาสศึกษาพวกมันแล้ว นอกจากนี้ ยิ่งพวกมันเข้าใกล้โลกมากเท่าไร คุณก็ยิ่งมีโอกาสโต้ตอบกับพวกมันมากขึ้นโดยใช้แอปพลิเคชันพิเศษที่ผู้ชื่นชอบการพัฒนาบางคนพัฒนาขึ้น

การออกแบบเว็บไซต์

แม้ว่าโดยทั่วไปแล้วเอเลี่ยนเหล่านี้จะดูเป็นมิตร แต่ก็ไม่มีใครทราบเจตนาที่แท้จริงของพวกเขา และเจ้าหน้าที่กล่าวว่าพวกมันอาจเป็นอันตรายได้ในระดับหนึ่ง อย่างไรก็ตาม สิ่งที่สามารถพูดได้อย่างแน่นอนคือไม่มีใครรู้ว่าจะเกิดอะไรขึ้นเมื่อมนุษย์ต่างดาวมาถึงโลกของเราจริงๆ คำถามหลักคือ คุณจะศึกษามนุษย์ต่างดาวเหล่านี้และพยายามสื่อสารกับพวกเขาหรือไม่ แม้ว่าผลที่ตามมาจากการมาถึงของพวกเขายังไม่ชัดเจน? ฉันพนันได้เลยว่าคุณจะต้องทำอย่างแน่นอน (อย่างที่มันเกิดขึ้นในนวนิยายวิทยาศาสตร์ยอดนิยมเรื่องThe Three-Body Problemโดย Liu Cixin)
แน่นอน พวกคุณหลายคนพบว่ามันยากมากที่จะเชื่อว่าสิ่งนี้จะเกิดขึ้นในชีวิตจริง และคุณอาจไม่เข้าใจเหตุผลที่อยู่เบื้องหลังการสะท้อนเหล่านี้ แต่ถ้าฉันบอกคุณว่าเราอยู่ในสถานการณ์ที่คล้ายกับที่ฉันเขียนไว้ข้างต้นแล้วละ? ข้อยกเว้นคือเรากำลังพูดถึง AI ไม่ใช่มนุษย์ต่างดาว
AI แฮ็คเรา
เทคโนโลยี AI ได้ช่วยเราในงานประจำวันอยู่แล้ว ตัวอย่างเช่น โดยการเลือกคำแนะนำสำหรับการซื้อในร้านค้าออนไลน์หรือแทร็กสำหรับเพลย์ลิสต์ ในอนาคตอันใกล้นี้ เราอาจจะสามารถขับเคลื่อนรถยนต์ที่ขับเคลื่อนด้วย AI และรักษาโรคที่ซับซ้อนได้ด้วยเทคโนโลยีนี้
ในขณะเดียวกัน เราก็ได้ยินมากขึ้นเรื่อยๆ ว่า นอกเหนือจากประโยชน์ทั้งหมดที่เทคโนโลยีอัจฉริยะเข้ามาในชีวิตของเราแล้ว AI ก็อาจเป็นอันตรายได้เช่นกัน
Bruce Schneier นักวิทยาศาสตร์ที่ลึกซึ้งและผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ ได้เผยแพร่บทความที่ยอดเยี่ยมในหัวข้อนั้น เริ่มต้นด้วยแนวคิดที่ว่าการแฮ็กไม่ได้เป็นเพียงการโจมตีระบบคอมพิวเตอร์เท่านั้น การแฮ็กเป็นวิธีที่ชาญฉลาดในการทำลายระบบใดๆ ไม่ว่าจะเป็นระบบคอมพิวเตอร์ ระบบภาษี หรือแม้แต่ระบบการเงิน Schneier กล่าวถึง “Double Irish with a Dutch Sandwich” ซึ่งเป็นแฮ็กระบบภาษีที่ได้รับความนิยม หรือแม้แต่ตัวอย่างของแบ็คดอร์แอนะล็อกในกฎหมายภาษีที่สร้างขึ้นโดยผู้ทำการแนะนำชักชวนสมาชิกรัฐสภา
ฉันมีวิสัยทัศน์เดียวกัน ฉันได้สัมผัสกับแนวคิดที่คล้ายกันในบทความก่อนหน้านี้แล้ว แต่มีตัวอย่างจากระบบการเงิน: กรณี GameStop
ทั้งหมดนี้อยู่กับเรามานานแล้ว แต่ระบบทั้งหมดกำลังกลายเป็นระบบคอมพิวเตอร์ และดังที่ชไนเออร์ตั้งข้อสังเกต แนวโน้มดังกล่าวจะเร่งการแฮ็กในสามมิติ: ความเร็ว ขนาด และขอบเขต
เรามีภัยคุกคามของการไม่ได้เป็นเพียง AI ขับเคลื่อนcyberattacks คราวนี้ สิ่งต่างๆ เริ่มซับซ้อนขึ้นมาก ขณะนี้เราอยู่ในจุดที่ AI สามารถช่วยให้ผู้กระทำความผิดค้นหาช่องโหว่ในระบบอื่น ๆ ไม่ว่าจะเป็นด้านการเงิน การเมือง หรือแม้แต่ทางจิตวิทยา
เราแฮ็ค AI
อย่างไรก็ตาม แง่มุมที่สำคัญอย่างยิ่งของสถานการณ์นี้ ซึ่งไม่ได้อธิบายไว้มากในเรียงความดังกล่าว นั่นคือความจริงที่ว่า AI อาจถูกหลอกได้ง่ายเช่นกัน มีหลายวิธีในการทำเช่นนั้น เช่น การเลี่ยงผ่านกลไกตรวจจับมัลแวร์ที่ขับเคลื่อนด้วย AI โดยมีการเปลี่ยนแปลงเล็กน้อยในมัลแวร์ หรือการหลอกระบบจดจำใบหน้าด้วยแพทช์พิเศษบนแว่นกันแดด ระบบที่ใช้ AI (ระบบคอมพิวเตอร์วิทัศน์, NLP, แอปพลิเคชันอิสระ) สามารถถูกหลอกได้ และจำนวนวิธีในการหลอกลวง AI ก็เพิ่มขึ้นเท่านั้น
ตั้งแต่ปี 2010 ถึง 2020 มีการเผยแพร่เอกสารการวิจัยทางวิทยาศาสตร์ประมาณ 2,000 ฉบับซึ่งอธิบายวิธีการต่างๆ ในการหลอก AI ด้วยความช่วยเหลือจากช่องโหว่ ซึ่งเรียกว่าตัวอย่างที่เป็นปฏิปักษ์ ในทศวรรษปัจจุบัน (ซึ่งเพิ่งเริ่มต้น) มีการเผยแพร่เอกสารวิจัยใหม่เกี่ยวกับความปลอดภัยมากกว่า 1,500 ฉบับและการเติบโตแบบทวีคูณนี้น่ากลัว
แม้ว่าจำนวนเอกสารโจมตีและเอกสารป้องกันจะใกล้เคียงกัน แต่ความจริงที่น่ากลัวที่สุดคือเรายังไม่มีวิธีแก้ปัญหาที่ดีในการปกป้อง AI จากการโจมตี ในขณะเดียวกัน ทุกสิ่งทุกอย่างที่เกิดขึ้นในตอนนี้เป็นเพียงจุดเริ่มต้นของประวัติความปลอดภัยของ AI ตามที่ Adversa ล่าสุดรายงาน (ดาวน์โหลดจำเป็น) 80% ของเอกสารทั้งหมดจะทุ่มเทในปัจจุบันประเภทการโจมตีเพียงครั้งเดียว อย่างไรก็ตาม มีการโจมตีประเภทอื่นๆ มากกว่า 10 ประเภทที่เพิ่งปรากฏขึ้นเมื่อเร็วๆ นี้ เช่น การผกผันของแบบจำลอง การอนุมานแอตทริบิวต์ และการตั้งโปรแกรมใหม่ที่เป็นปฏิปักษ์ และยังไม่ได้รับการอธิบายและศึกษาเพียงพอ ในความเป็นจริง เมื่อพิจารณาว่ามีเพียงหนึ่งในสิบของการโจมตีที่มีอยู่จริงที่อธิบายไว้ในเอกสารจนถึงตอนนี้ คุณสามารถทวีคูณปัญหาด้านความปลอดภัยของ AI ในปัจจุบันทั้งหมดได้อย่างน้อย 10 ครั้ง
ผลลัพธ์
ย้อนกลับไปที่สิ่งที่เราพูดถึงในตอนเริ่มต้น การมาถึงของ AI “เอเลี่ยน” เรายังไม่สามารถระบุได้แน่ชัดว่าการนำ AI เข้ามาในชีวิตของเราอย่างแพร่หลายจะนำไปสู่ความดีหรือไม่ดี แต่สิ่งหนึ่งที่ฉันแน่ใจคือการเรียนรู้เกี่ยวกับ AI และโดยเฉพาะอย่างยิ่งความปลอดภัยของ AI เป็นสิ่งสำคัญ ความจริงที่ว่าผู้กระทำผิดจะยังคงใช้ AI เพื่อจุดประสงค์ของตนเองต่อไปเป็นสิ่งที่หลีกเลี่ยงไม่ได้ และการรู้จุดอ่อนของ AI เท่านั้นที่เราจะสามารถควบคุมเทคโนโลยีอันทรงพลังนี้ได้ในกรณีที่อาชญากรไซเบอร์ใช้มันหรือควบคุมไม่ได้โดยสมบูรณ์

เว็บแอพพลิเคชั่น

ในฐานะชุมชน ฉันเชื่อว่าเราควรดำเนินการเพิ่มเติมในด้านการปฏิบัติจริงในการรักษาความปลอดภัย AI ผู้ที่เกี่ยวข้องอย่างลึกซึ้งในการพัฒนา AI อาจเริ่มต้นด้วยการสร้างทีมสีแดง AI ภายในสำหรับการทดสอบโซลูชันอัจฉริยะประดิษฐ์ที่เป็นปฏิปักษ์ในทางปฏิบัติ และแบ่งปันการค้นพบของพวกเขาในการประชุมที่เกี่ยวข้องกับ AI และความปลอดภัย สำหรับผู้ใช้เทคโนโลยีอัจฉริยะ เราต้องการข้อมูลเพิ่มเติมเกี่ยวกับเหตุการณ์ AI ทั้งหมดในที่เดียว ขณะนี้ มีโครงการต่างๆ ที่ทำงานเกี่ยวกับเรื่องนี้ และเราสนับสนุนให้ชุมชนมีส่วนร่วมในเหตุการณ์ AI ล่าสุดทั้งหมดในฐานข้อมูลดังกล่าว
“[AI] กำลังจะเปลี่ยนแปลงโลกมากกว่าสิ่งใดในประวัติศาสตร์ของมนุษยชาติ มากกว่าไฟฟ้า”— AI oracle และผู้ร่วมทุน Dr. Kai-Fu Lee, 2018
ในอาคารที่ไม่ธรรมดาใกล้กับตัวเมืองชิคาโก มาร์ก เกียงโยซี และทีมงานIFM / Onetrack.AI ที่มีขนาดเล็กแต่เติบโตขึ้นเรื่อยๆมีกฎข้อเดียวที่ควบคุมพวกเขาทั้งหมด นั่นคือ คิดอย่างเรียบง่าย คำเหล่านี้เขียนด้วยฟอนต์ธรรมดาๆ บนกระดาษธรรมดาๆ ที่ติดอยู่ที่ผนังชั้นบนด้านหลังของพื้นที่ทำงาน 2 ชั้นในโรงงานอุตสาหกรรม อย่างไรก็ตาม สิ่งที่พวกเขาทำกับปัญญาประดิษฐ์นี้ ไม่ใช่เรื่องง่ายเลย
นั่งที่โต๊ะรกของเขา ซึ่งอยู่ใกล้โต๊ะปิงปองที่ไม่ค่อยได้ใช้ และโดรนต้นแบบตั้งแต่สมัยเรียนมหาวิทยาลัยถูกแขวนไว้เหนือศีรษะ Gyongyosi ต่อยกุญแจบนแล็ปท็อปเพื่อดึงภาพวิดีโอที่เป็นเม็ดๆ ของคนขับรถยกที่ใช้รถของเขาในโกดัง . มันถูกบันทึกจากความอนุเคราะห์จาก Onetrack.AI “ระบบวิชันซิสเต็ม”
ปัญญาประดิษฐ์จะเปลี่ยนอนาคตได้อย่างไร
ปัญญาประดิษฐ์ส่งผลกระทบต่ออนาคตของแทบทุกอุตสาหกรรมและมนุษย์ทุกคน ปัญญาประดิษฐ์ทำหน้าที่เป็นตัวขับเคลื่อนหลักของเทคโนโลยีเกิดใหม่ เช่น บิ๊กดาต้า หุ่นยนต์ และ IoT และจะยังคงทำหน้าที่เป็นผู้ริเริ่มทางเทคโนโลยีต่อไปในอนาคตอันใกล้
การใช้แมชชีนเลิร์นนิงและคอมพิวเตอร์วิทัศน์ในการตรวจจับและจำแนก “เหตุการณ์ด้านความปลอดภัย” ต่างๆ อุปกรณ์ขนาดเท่ากล่องใส่รองเท้าอาจมองไม่เห็นทั้งหมด แต่มองเห็นได้มากมาย เช่นเดียวกับวิธีที่คนขับมองในขณะที่เขาควบคุมรถ เขาขับเร็วแค่ไหน เขาขับที่ไหน ตำแหน่งของผู้คนรอบตัวเขา และวิธีที่ผู้ควบคุมรถยกคนอื่นๆ เคลื่อนยานพาหนะของพวกเขา ซอฟต์แวร์ของ IFM จะตรวจจับการละเมิดความปลอดภัยโดยอัตโนมัติ (เช่น การใช้โทรศัพท์มือถือ) และแจ้งให้ผู้จัดการคลังสินค้าทราบเพื่อให้สามารถดำเนินการได้ทันที เป้าหมายหลักคือการป้องกันอุบัติเหตุและเพิ่มประสิทธิภาพ ความรู้เพียงอย่างเดียวที่อุปกรณ์ของ IFM กำลังดูอยู่ Gyongyosi อ้างว่ามี “ผลกระทบอย่างมาก”
“ถ้าคุณนึกถึงกล้อง กล้องเป็นเซ็นเซอร์ที่ร่ำรวยที่สุดที่เรามีอยู่ในปัจจุบันในราคาที่น่าสนใจมาก” เขากล่าว “เนื่องจากสมาร์ทโฟน กล้องและเซ็นเซอร์ภาพมีราคาถูกอย่างไม่น่าเชื่อ แต่เราก็ยังเก็บข้อมูลจำนวนมาก จากรูปภาพ เราอาจสรุปสัญญาณได้ 25 สัญญาณในวันนี้ แต่หกเดือนต่อจากนี้ เราจะสามารถสรุปสัญญาณ 100 หรือ 150 จากรูปภาพเดียวกันนั้นได้ ข้อแตกต่างเพียงอย่างเดียวคือซอฟต์แวร์ที่ใช้ดูภาพ และนั่นเป็นสาเหตุที่น่าสนใจมาก เนื่องจากเราสามารถนำเสนอชุดคุณลักษณะหลักที่สำคัญมากในปัจจุบัน แต่เมื่อเวลาผ่านไป ระบบทั้งหมดของเรากำลังเรียนรู้จากกันและกัน ลูกค้าทุกรายสามารถได้รับประโยชน์จากลูกค้ารายอื่นๆ ที่เรานำมาด้วย เนื่องจากระบบของเราเริ่มมองเห็นและเรียนรู้กระบวนการเพิ่มเติม และตรวจจับสิ่งที่สำคัญและเกี่ยวข้องมากขึ้น”

Web​ application

วิวัฒนาการของ AI
IFM เป็นเพียงหนึ่งในนักประดิษฐ์ AI นับไม่ถ้วนในสาขาที่ร้อนแรงกว่าที่เคยและได้รับมากขึ้นตลอดเวลา นี่เป็นตัวบ่งชี้ที่ดี: จาก 9,100 สิทธิบัตรที่ได้รับโดยนักประดิษฐ์ของ IBM ในปี 2018 มี 1,600 (หรือเกือบ 18 เปอร์เซ็นต์) ที่เกี่ยวข้องกับ AI นี่ก็อีกเรื่องหนึ่ง: ผู้ก่อตั้งเทสลาและยักษ์ใหญ่ด้านเทคโนโลยี Elon Musk เพิ่งบริจาคเงิน 10 ล้านดอลลาร์เพื่อเป็นทุนในการวิจัยอย่างต่อเนื่องที่บริษัทวิจัยOpenAIที่ไม่แสวงหากำไร— เป็นเพียงการลดลงในถังสุภาษิตหากการจำนำร่วม 1 พันล้านดอลลาร์ของเขาในปี 2558 เป็นข้อบ่งชี้ใดๆ และในปี 2560 ประธานาธิบดีรัสเซีย วลาดิมีร์ ปูติน บอกกับเด็กนักเรียนว่า “ใครก็ตามที่เป็นผู้นำในวงการนี้ [AI] จะกลายเป็นผู้ปกครองโลก” จากนั้นเขาก็โยนหัวกลับและหัวเราะอย่างบ้าคลั่ง
โอเค สิ่งสุดท้ายนั้นเป็นเท็จ อย่างไรก็ตาม สิ่งนี้ไม่เป็นเช่นนั้น: หลังจากผ่านไปมากกว่าเจ็ดทศวรรษโดย hoopla และการพักตัวประปรายในช่วงวิวัฒนาการของคลื่นหลายคลื่นที่เริ่มต้นด้วยสิ่งที่เรียกว่า “วิศวกรรมความรู้” ได้พัฒนาไปสู่การเรียนรู้ด้วยเครื่องตามแบบจำลองและอัลกอริธึมและมุ่งเน้นมากขึ้น ในการรับรู้ การให้เหตุผล และภาพรวม AI ได้กลับมาอยู่ในจุดศูนย์กลางอย่างที่ไม่เคยมีมาก่อน และจะไม่ยกให้สปอตไลท์ในเร็ว ๆ นี้
อนาคตคือปัจจุบัน: ผลกระทบของ AI อยู่ทุกหนทุกแห่ง
แทบไม่มี AI สมัยใหม่ในอุตสาหกรรมหลักเลย โดยเฉพาะอย่างยิ่ง “AI แบบแคบ” ซึ่งทำหน้าที่ตามวัตถุประสงค์โดยใช้แบบจำลองที่ได้รับการฝึกอบรมจากข้อมูล และมักจัดอยู่ในหมวดหมู่ของการเรียนรู้เชิงลึกหรือการเรียนรู้ของเครื่อง ซึ่งยังไม่ได้รับผลกระทบ โดยเฉพาะอย่างยิ่งในช่วงไม่กี่ปีที่ผ่านมา เนื่องจากการเก็บรวบรวมและวิเคราะห์ข้อมูลเพิ่มขึ้นอย่างมากจากการเชื่อมต่อ IoT ที่แข็งแกร่ง การเพิ่มจำนวนอุปกรณ์ที่เชื่อมต่อ และการประมวลผลคอมพิวเตอร์ที่รวดเร็วยิ่งขึ้น

Robot Auto process

บางภาคส่วนอยู่ในช่วงเริ่มต้นของการเดินทางด้วย AI ส่วนภาคส่วนอื่นๆ เป็นนักเดินทางที่มีประสบการณ์ ทั้งสองมีทางยาวไป โดยไม่คำนึงถึง ผลกระทบที่ปัญญาประดิษฐ์มีต่อชีวิตปัจจุบันของเรานั้นยากที่จะมองข้าม:
การคมนาคมขนส่ง:แม้ว่าจะใช้เวลากว่าทศวรรษหรือมากกว่านั้นในการทำให้สมบูรณ์ แต่สักวันหนึ่งรถยนต์ที่ขับเคลื่อนด้วยตัวเองจะพาเราไปจากที่หนึ่งไปยังอีกที่หนึ่ง
การผลิต: หุ่นยนต์ที่ขับเคลื่อนด้วย AI ทำงานร่วมกับมนุษย์เพื่อทำงานที่จำกัด เช่น การประกอบและการซ้อน และเซ็นเซอร์วิเคราะห์เชิงคาดการณ์ช่วยให้อุปกรณ์ทำงานได้อย่างราบรื่น
การดูแลสุขภาพ:ในสาขาการดูแลสุขภาพที่พึ่งเกิดขึ้นจาก AI โรคต่างๆ ได้รับการวินิจฉัยอย่างรวดเร็วและแม่นยำยิ่งขึ้น การค้นพบยาจะเร็วขึ้นและคล่องตัว ผู้ช่วยพยาบาลเสมือนจริงคอยตรวจสอบผู้ป่วยและการวิเคราะห์ข้อมูลขนาดใหญ่ช่วยสร้างประสบการณ์ผู้ป่วยที่เป็นส่วนตัวมากขึ้น
การศึกษา:หนังสือเรียนถูกแปลงเป็นดิจิทัลด้วยความช่วยเหลือของ AI ผู้สอนเสมือนจริงขั้นต้นจะช่วยเหลือผู้สอนที่เป็นมนุษย์ และการวิเคราะห์ใบหน้าจะวัดอารมณ์ของนักเรียนเพื่อช่วยตัดสินว่าใครกำลังดิ้นรนหรือเบื่อ และปรับประสบการณ์ให้ตรงตามความต้องการของแต่ละบุคคลได้ดียิ่งขึ้น
สื่อ:วารสารศาสตร์ใช้ AI ด้วยเช่นกัน และจะได้รับประโยชน์จากมันต่อไป Bloomberg ใช้เทคโนโลยี Cyborg เพื่อช่วยให้เข้าใจรายงานทางการเงินที่ซับซ้อนได้อย่างรวดเร็ว Associated Press ใช้ความสามารถทางภาษาธรรมชาติของ Automated Insights เพื่อสร้างรายงานรายได้ 3,700 เรื่องต่อปี ซึ่งมากกว่าในอดีตที่ผ่านมาเกือบสี่เท่า
ฝ่ายบริการลูกค้า:สุดท้ายแต่แทบจะไม่ท้ายสุด Google กำลังทำงานเกี่ยวกับผู้ช่วย AI ที่สามารถโทรออกเหมือนมนุษย์เพื่อนัดหมายที่ร้านทำผมในละแวกของคุณ นอกจากคำพูดแล้ว ระบบยังเข้าใจบริบทและความแตกต่างอีกด้วย