ใบอนุญาตคุณธรรมสำหรับ AI จริยธรรมเป็นการเจรจาระหว่างบริษัทและชุมชน

ใบอนุญาตคุณธรรมสำหรับ AI จริยธรรมเป็นการเจรจาระหว่างบริษัทและชุมชน

เว็บไซต์

แนวคิดของใบอนุญาตทางสังคมในการดำเนินงาน โดยที่บริษัททำงานอย่างเปิดเผยกับชุมชนที่จะได้รับผลกระทบจากการกระทำของตนเพื่อให้ได้รับความไว้วางใจและการยอมรับ นำเสนอแนวทางในการสร้างโซลูชัน AI ที่ยอมรับได้ของผู้มีส่วนได้ส่วนเสีย

การออกแบบเว็บไซต์

AI และจริยธรรม: คำถามเกี่ยวกับใบอนุญาตทางสังคม?
“บริษัทของฉันใช้จ่าย 7 ล้านเหรียญสหรัฐต่อปีในโครงการชุมชน เรายังคงเผชิญกับการหยุดชะงักของงานจากชุมชนที่เราช่วยเหลือ เห็นได้ชัดว่าเงินไม่ได้ซื้อความปรารถนาดีที่เราต้องการ แต่ฉันไม่รู้ว่าเราพลาดประเด็นนี้ไปที่ไหน”
—กรรมการผู้จัดการบริษัทน้ำมัน
เพื่อนสามคนกำลังดื่มชายามเช้าในฟาร์มแห่งหนึ่งในเขต Northern Rivers ในรัฐนิวเซาท์เวลส์ (NSW) ประเทศออสเตรเลีย เมื่อพวกเขาสังเกตเห็นแท่นขุดเจาะที่ตั้งขึ้นในที่ดินของเพื่อนบ้านที่อยู่ฝั่งตรงข้ามของหุบเขา พวกเขาไม่เคยได้ยินเกี่ยวกับอุตสาหกรรมก๊าซตะเข็บถ่านหิน (CSG) และไม่เคยพิจารณาการเคลื่อนไหวมาก่อน อย่างไรก็ตาม แท่นขุดเจาะนั้นก็เพียงพอที่จะผลักดันพวกเขาไปสู่การปฏิบัติ ในไม่ช้า กลุ่มนี้ก็กลายเป็นเครื่องมือสำคัญในการจัดตั้งขบวนการต่อต้าน CSG ซึ่งเป็นขบวนการซึ่งการเคลื่อนไหวดังกล่าวส่งผลให้รัฐบาล NSW ระงับใบอนุญาตสำรวจก๊าซในพื้นที่ในปี 2014 ภายในปี 2015 รัฐบาลได้ซื้อใบอนุญาตการสำรวจปิโตรเลียมคืนครอบคลุมพื้นที่ 500,000 เฮกตาร์ทั่ว ภูมิภาค.
การทำเหมืองแร่ บริษัท เช่น บริษัท ในหลายอุตสาหกรรมได้รับการดิ้นรนกับความแตกต่างระหว่างการมีที่ทางกฎหมายใบอนุญาตให้ประกอบและคุณธรรม4หนึ่ง เวอร์ชันที่ใช้พูดคือความแตกต่างระหว่างสิ่งที่เราสามารถทำได้กับสิ่งที่เราควรทำ—เพียงเพราะบางสิ่งเป็นไปได้ในทางเทคนิคและเป็นไปได้ในเชิงเศรษฐกิจ ไม่ได้หมายความว่าคนที่ได้รับผลกระทบจะพบว่าสิ่งนี้เป็นที่ยอมรับในทางศีลธรรม หากปราศจากการยอมรับจากชุมชน บริษัทต่างๆ พบว่าตนเองกำลังเผชิญกับ “ความต้องการที่ไม่มีวันสิ้นสุด” จาก “ผู้ก่อปัญหาในพื้นที่” โดยได้ยินว่า “บริษัทไม่ได้ทำอะไรเพื่อเราเลย” ทั้งหมดนี้ส่งผลให้เกิดต้นทุน การเงินและไม่ใช่การเงิน5ที่ถ่วงน้ำหนักโครงการลง บริษัทสามารถมีความตั้งใจดีที่สุด ลงทุนใน (สิ่งที่คิดว่าเป็น) สิ่งที่ถูกต้องทั้งหมด และยังคงเผชิญกับการต่อต้านจากภายในชุมชน อาจใช้การได้เพื่อทำความเข้าใจประเพณีท้องถิ่นและลงทุนในโครงสร้างพื้นฐานทางสังคมของชุมชน—ปรับปรุงการเข้าถึงการดูแลสุขภาพและการศึกษา ยกระดับถนนและบริการไฟฟ้า และส่งเสริมกิจกรรมทางเศรษฐกิจในภูมิภาคส่งผลให้ธุรกิจในท้องถิ่นคึกคักและตลาดการจ้างงานที่ดี—ไม่มีประโยชน์ .
หากปราศจากการยอมรับของชุมชน หากไม่มีใบอนุญาตทางศีลธรรม บริษัทเหมืองแร่ในรัฐนิวเซาท์เวลส์พบว่าตนเองกำลังดิ้นรน ใบอนุญาตทางศีลธรรมนี้เรียกกันทั่วไปว่าใบอนุญาตทางสังคม e ซึ่งเป็นวลีที่ประกาศเกียรติคุณในยุค 90 และแสดงถึงการยอมรับและการอนุมัติอย่างต่อเนื่องของการพัฒนาเหมืองแร่โดยชุมชนท้องถิ่น ตั้งแต่นั้นเป็นต้นมา อุตสาหกรรมเหมืองแร่ก็เป็นที่ยอมรับมากขึ้นเรื่อยๆ ว่าบริษัทต่างๆ ต้องทำงานร่วมกับชุมชนท้องถิ่นเพื่อขอรับใบอนุญาตทางสังคมในการดำเนินงาน (SLO) และรักษาไว้ 6แนวคิดของใบอนุญาตทางสังคมในการดำเนินงานได้พัฒนาขึ้นเมื่อเวลาผ่านไปและได้รับการยอมรับจากอุตสาหกรรมต่างๆ ที่ส่งผลต่อสภาพแวดล้อมทางกายภาพที่พวกเขาดำเนินการ เช่น การตัดไม้หรือโรงงานเยื่อกระดาษและกระดาษ
สิ่งนี้เกี่ยวข้องกับปัญญาประดิษฐ์ (AI) อย่างไร แม้ว่า AI อาจดูเหมือนเป็นหนทางอีกยาวไกลจากการขุด การตัดไม้ และการผลิตกระดาษ องค์กรที่ทำงานร่วมกับ AI (ซึ่งในทุกวันนี้ ดูเหมือนจะเป็นบริษัทส่วนใหญ่) ก็พบว่าการใช้เทคโนโลยีทำให้เกิดความท้าทายที่คล้ายกันในการยอมรับและส่งผลกระทบต่อ สังคม. ไม่ว่าโซลูชัน AI จะถูกออกแบบอย่างระมัดระวังเพียงใด หรือการทดสอบกลุ่มผู้ใช้นั้นกว้างขวางเพียงใด การเปิดเผยโซลูชันต่อสาธารณะนั้นส่งผลให้เกิดปฏิกิริยาที่หลากหลาย ผ้าอนามัยแบบสอดที่เปิดใช้งาน Bluetooth นั้นมีทั้งเสียงไชโยโห่ร้องและการประณาม โดยบางคนมองว่าวิธีแก้ปัญหาเป็นประโยชน์ที่จะช่วยให้พวกเขาหลีกเลี่ยงความลำบากใจและปัญหาสุขภาพ ในขณะที่คนอื่นๆ มองว่ากังวลเรื่องความเป็นส่วนตัวและความปลอดภัย หรือกังวลว่าอุปกรณ์จะถูกแฮ็ก ทำให้ข้อมูลส่วนตัวรั่วไหล 7โซลูชันที่มีเดิมพันสูงส่งผลให้เกิดปฏิกิริยาเร่าร้อนมากขึ้น เช่นเดียวกับกรณีของ COMPAS 8เครื่องมือสำหรับการประเมินความเสี่ยงของการกระทำผิดซ้ำของจำเลย (หรือการกระทำผิดซ้ำ) ในการพิจารณาคดีอาญา9และ MiDAS ซึ่งเป็นโซลูชันที่มีจุดประสงค์เพื่อตรวจจับการฉ้อโกง จากนั้นโดยอัตโนมัติ เรียกเก็บเงินจากผู้ที่บิดเบือนความจริงและเรียกร้องให้ชดใช้ 10วิธีแก้ปัญหาเหล่านี้ถือว่ามีอคติต่อกลุ่มที่มีสิทธิพิเศษน้อยกว่า ทำให้เกิดความไม่เท่าเทียมกันทางโครงสร้างในสังคมที่รุนแรงขึ้น และทำให้เกิดความเสียเปรียบนี้ในเชิงสถาบัน เช่นเดียวกับการสร้างแท่นขุดเจาะน้ำมัน ความจริงที่ว่าโซลูชัน AI เป็นไปได้ทางกฎหมายและเชิงเศรษฐกิจ ไม่ได้หมายความว่าชุมชนจะพบว่ามันเป็นที่ยอมรับในทางศีลธรรมหรือทางจริยธรรม แม้ว่าพวกเขาจะยืนหยัดเพื่อผลประโยชน์ส่วนตัวก็ตาม
AI ก็เหมือนกับเทคโนโลยีทั้งหมด ที่สามารถให้ประโยชน์และทำร้ายทั้งบุคคลและสังคมโดยรวม วิธีที่เราใช้เทคโนโลยี—วิธีที่เราเปลี่ยนจากแนวคิดเป็นโซลูชัน—กำหนดว่าผลประโยชน์ที่จะเกิดขึ้นมีมากกว่าอันตรายหรือไม่ “เทคโนโลยีไม่ดีหรือไม่ดี และไม่เป็นกลาง” 11วิธีที่เราใช้เทคโนโลยีนั้นสำคัญ ปลายทางคืออะไร และใช้วิธีใด เนื่องจากทั้งคู่ต้องการการไตร่ตรอง มีตัวเลือกที่ต้องทำและประนีประนอมเพื่อให้แน่ใจว่าผลประโยชน์ได้รับการตระหนักในขณะที่ลดหรือจัดการอย่างเหมาะสมปัญหา การละทิ้งเทคโนโลยีเนื่องจากปัญหาที่อาจเกิดขึ้นอาจไม่ใช่ตัวเลือกที่ต้องการมากที่สุด แม้ว่าวิธีการแก้ปัญหาที่ “ดีพอ” ในโลกที่ไม่สมบูรณ์ (อยู่แล้ว) อาจดีกว่าโลกที่ไม่สมบูรณ์ด้วยตัวมันเอง คำถามคือ “ดีพอ” คืออะไร? ความท้าทายคือการค้นหาสิ่งที่เราควรทำ เราจะระบุโอกาสเหล่านี้ได้อย่างไร กระบวนการใดที่อาจใช้ในการประนีประนอม? และเราจะมั่นใจได้อย่างไรว่าเสียงที่หลากหลายในชุมชนได้รับการรับฟังและคำนึงถึงข้อกังวลของพวกเขา
วางกรอบความท้าทาย
AI ช่วยให้สามารถแก้ปัญหาได้หลากหลาย เช่น การแปลภาษาด้วยเครื่อง รถยนต์ที่ขับด้วยตนเอง ระบบสั่งงานด้วยเสียง การรู้จำอักขระและลายมือ การกำหนดเป้าหมายโฆษณา คำแนะนำผลิตภัณฑ์ การจดจำเพลง และการจดจำใบหน้า มีการใช้ AI เพื่อสั่งสอน ให้คำแนะนำ รายงานการวัด ให้ข้อมูลและวิเคราะห์ รายงานการทำงาน รายงานสถานะของตนเอง เรียกใช้การจำลอง และแสดงสภาพแวดล้อมเสมือนจริง 12โซลูชั่นที่ดูเหมือนเป็นไปไม่ได้เมื่อสองสามปีก่อน ถูกฝังอยู่ในผลิตภัณฑ์และบริการที่เราใช้ทุกวัน

เว็บแอพพลิเคชั่น

ในช่วงเวลานี้ มุมมองของเราเกี่ยวกับ AI ก็เปลี่ยนไปเช่นกัน หวังว่าโซลูชันที่ขับเคลื่อนด้วย AI จะตอบโต้จุดอ่อนของมนุษย์บางส่วนของเรา ซึ่งทำให้เกิดความกลัวว่า AI อาจเป็นภัยคุกคามที่มีอยู่จริง ในตอนแรก คิดว่ากฎระเบียบสามารถควบคุมวิธีการใช้ AI ได้13ฉบับ — จดหมายเปิดผนึกถูกส่งไปยังรัฐบาลพร้อมรายชื่อผู้ลงนามยาว ๆ ที่แนบมาเพื่อขอให้มีการออกกฎระเบียบ 14สิ่งนี้ล้มเหลวที่จะเกิดผล ไม่นานมานี้ จุดเน้นอยู่ที่การพัฒนาหลักการทางจริยธรรมเพื่อเป็นแนวทางในการพัฒนาโซลูชันที่ใช้เทคโนโลยี AI หลักการเหล่านี้มีประโยชน์ในการกลั่นกรองสิ่งที่เราต้องการจาก AI (และสิ่งที่เราต้องการหลีกเลี่ยง) แต่ยังไม่เพียงพอ15 ข้อเหล่านี้ยังไม่เพียงพอในการอธิบายว่าโซลูชันเฉพาะควรปฏิบัติตามอย่างไร 16 ความหวังล่าสุดคือการออกแบบ (และวิธีการออกแบบ) จะช่วยให้เราสามารถประยุกต์ใช้หลักการเหล่านี้ได้ แต่ก็ไม่ชัดเจนว่าการออกแบบจะเพียงพอเช่นกัน
ความพยายามของเราในการต่อสู้กับความท้าทายในการตระหนักถึงคุณค่าของ AI ในขณะที่ลดปัญหานั้นซับซ้อนด้วยความท้าทายสามประการ:
คำจำกัดความความท้าทายของการทำความเข้าใจว่า AI คืออะไรและปัญหาคืออะไร
ความท้าทายในการปรับโซลูชันทางเทคนิค (AI) ให้สอดคล้องกับบรรทัดฐานทางสังคม
ความท้าทายในการเชื่อมโยงโลกโซเชียลต่างๆ — ส่วนทางวัฒนธรรมที่แตกต่างกันของสังคมที่กำหนดวิธีที่สมาชิกเข้าใจและคิดเกี่ยวกับโลก
เราจะจัดการกับสิ่งเหล่านี้ในทางกลับกัน
ความท้าทายเชิงนิยาม: AI คืออะไร และมีปัญหาอะไร?
ไม่มีคำจำกัดความที่ชัดเจนและตกลงกันอย่างกว้างขวางว่า AI คืออะไรและไม่ใช่อะไร ส่วนหนึ่งเป็นเพราะ AI เป็นคริสตจักรที่กว้างขวาง ซึ่งเป็นที่ตั้งของเทคโนโลยีที่ไม่เกี่ยวข้องกัน คำจำกัดความการทำงานที่มีประโยชน์คือ:

“ปัญญาประดิษฐ์คือกิจกรรมที่อุทิศให้กับการทำให้เครื่องจักรมีความชาญฉลาด และความฉลาดคือคุณภาพที่ช่วยให้เอนทิตีทำงานอย่างเหมาะสมและมองการณ์ไกลในสภาพแวดล้อมของมัน”
—Nils J. Nilsson
แม้ว่าจะไม่ชัดเจน แต่คำจำกัดความนี้ครอบคลุมขอบเขตและความทะเยอทะยานอันยิ่งใหญ่ของสิ่งที่เราอาจเรียกว่าโครงการ AI การขาดคำจำกัดความที่ชัดเจนอาจช่วยให้วงการนี้เติบโตขึ้น เนื่องจากทำให้ AI เป็นเหมือนนก Bowerbird วัย19 ปีโดยผู้ปฏิบัติงาน “ยืม” แนวคิดและเทคนิคจากสาขาอื่นเพื่อไล่ตามเป้าหมาย 20วิธีการเหยียดหยามมากขึ้นอาจจะมีการกำหนด AI เป็น“สิ่งที่ค่อนข้างไม่ทำงานเลย” เทคโนโลยีหลายหยุดถูกมองว่าเป็น AI เมื่อพวกเขาถูกนำมาใช้ในวงกว้าง ร็อดนีย์ บรูกส์ นักวิทยาการหุ่นยนต์เคยบ่นว่า “ทุกครั้งที่เราค้นพบชิ้นส่วนของมัน เราพูดว่า ‘โอ้ นั่นเป็นเพียงการคำนวณ’” มีความรู้สึกว่า AI เป็นป้ายกำกับสำหรับ (ปัจจุบัน) ที่เป็นไปไม่ได้
ในทางปฏิบัติมากขึ้นคือการพิจารณา AI เป็นพื้นที่ของการปฏิบัติซึ่งเป็นชุมชนที่ทำงานเพื่อทำซ้ำความสำเร็จทางปัญญาของมนุษย์ (มากกว่าแค่ทางกายภาพ) เทคโนโลยี AI เป็นเพียงเทคโนโลยีใดก็ตามที่ชุมชน AI ใช้เพื่อแก้ปัญหาที่พวกเขาสนใจ AI สามารถก้าวหน้าได้โดยการนำเทคนิคเก่ามาแก้ปัญหาใหม่ให้มากที่สุดเท่าที่จะมากได้ โดยการค้นพบเทคนิคใหม่ๆ ในการแก้ปัญหาเก่า แท้จริงแล้ว ปัจจัยขับเคลื่อนที่สำคัญสำหรับคลื่นการลงทุนในปัจจุบันที่เราเห็นใน AI คือการบรรจบกันของบริการคลาวด์ การเข้าถึงข้อมูลได้ง่าย และต้นทุนต่ำ การประมวลผลและเครือข่ายที่แพร่หลาย ทำให้โซลูชันใหม่ถูกสร้างขึ้นจากเทคโนโลยีเก่ามากกว่า การพัฒนาเทคโนโลยีก่อกวนใหม่ด้วยตนเอง หลังจากผ่านไปหลายทศวรรษของความก้าวหน้าอย่างต่อเนื่อง ดูเหมือนว่าการค้นพบเทคนิค AI ใหม่อาจหยุดชะงักลง
[NPC4]ไม่ว่าเราจะขีดเส้นแบ่งระหว่างเทคโนโลยี “อัจฉริยะ” กับเทคโนโลยีอื่นๆ ที่ใด ความกังวลที่เพิ่มขึ้นสำหรับ AI เชิงจริยธรรมไม่ได้เกิดจากเทคโนโลยีใหม่เช่น การพัฒนา CRISPR 26หรือสิ่งมีชีวิตดัดแปลงพันธุกรรม (GMOs) ที่ทำให้เราสามารถ เพื่อทำสิ่งใหม่และไม่เคยเกิดขึ้นมาก่อน ความกังวลนั้นเกิดจากการลดราคาลงอย่างมากซึ่งทำให้เทคโนโลยีที่มีอยู่สามารถนำไปใช้ในบริบทใหม่ๆ ได้อย่างกว้างขวาง ความท้าทายด้านจริยธรรมที่นำเสนอโดย AI ไม่ได้เกิดจากความสามารถพิเศษบางอย่างของเทคโนโลยี แต่เกิดจากความสามารถในการปรับใช้เทคโนโลยีตามขนาดได้อย่างง่ายดายและราคาถูก เป็นขนาดของการปรับใช้นี้ที่ก่อกวน ตามที่นักประวัติศาสตร์ด้านเทคโนโลยี Melvin Kranzberg กล่าวไว้ว่า:
ปัญหามากมายเกี่ยวกับเทคโนโลยีของเราเกิดขึ้นเนื่องจากผลที่คาดไม่ถึงเมื่อมีการใช้เทคโนโลยีที่ไม่เป็นพิษเป็นภัยในปริมาณมหาศาล ดังนั้น การใช้งานทางเทคนิคจำนวนมากที่ดูเหมือนจะเป็นประโยชน์ต่อมนุษยชาติเมื่อนำมาใช้ครั้งแรกจึงกลายเป็นภัยคุกคามเมื่อการใช้งานแพร่หลาย
ด้วยขนาดที่เพิ่มขึ้นของการปรับใช้ AI สังคมดูเหมือนจะเป็นจุดเปลี่ยน: การเปลี่ยนจากโลกที่มีการตัดสินใจอัตโนมัติบางอย่างไปสู่โลกที่ครอบงำด้วยการตัดสินใจอัตโนมัติ 28 Society กำลังกำหนดรูปแบบการตัดสินใจในอัลกอริธึม ประสานการตัดสินใจในซอฟต์แวร์เพื่อทำให้เป็นอัตโนมัติ จากนั้นจึงเชื่อมโยงการตัดสินใจเหล่านี้เข้าด้วยกันและโซลูชันการดำเนินงานที่อยู่รอบ ที่ซึ่งก่อนหน้านี้ ภูมิทัศน์ดิจิทัลประกอบด้วยเกาะต่างๆ ของแอปพลิเคชันระดับองค์กรและการประมวลผลส่วนบุคคล ภูมิประเทศในปัจจุบันเป็นหนึ่งในโซลูชันและสมาร์ทโฟนบนระบบคลาวด์ที่เชื่อมต่อถึงกันทางออนไลน์ พร้อมใช้งาน และเชื่อมต่อถึงกันอยู่เสมอ

เทคโนโลยีที่ใช้ในการตัดสินใจโดยอัตโนมัติมีความสำคัญน้อยกว่าปริมาณของการตัดสินใจที่เป็นอัตโนมัติและผลกระทบของการเชื่อมต่อการตัดสินใจแบบอัตโนมัติเหล่านี้เพื่อให้มีผลซึ่งกันและกัน เรากำลังรวมการตัดสินใจอัตโนมัติเหล่านี้เข้ากับฮาร์ดแวร์ที่อาจส่งผลต่อโลกแห่งความเป็นจริง และเรากำลังดำเนินการนี้ในวงกว้างโดยสร้างภูมิทัศน์ที่ครอบงำโดยเครือข่ายการตัดสินใจที่ทับซ้อนกัน 30ไม่ใช่ว่าการตัดสินใจของปัจเจกที่เป็นไปโดยอัตโนมัตินั้นจำเป็นต้องสร้างปัญหาด้วยตนเอง (แม้ว่าปัญหานั้นอาจจะเกิดขึ้น และเราต้องการรั้วกั้นเพื่อช่วยให้แน่ใจว่าจะไม่เป็นเช่นนั้น) ในทางกลับกัน พฤติกรรมที่เป็นปัญหามักจะเกิดขึ้นเมื่อการตัดสินใจอัตโนมัติถูกรวมเข้าด้วยกันและส่งผลโดยตรงต่อกัน ซึ่งเราอาจพิจารณากระจายความโง่เขลา31—สถานการณ์ที่ผลที่ตามมาโดยไม่ได้ตั้งใจและการปะทะกันระหว่างการตัดสินใจอัตโนมัติส่งผลให้ระบบ “ฉลาด” ไม่ดี
ตัวอย่างเช่น บริษัทให้เช่ารถยนต์อาจรวมกระบวนการเช่าแบบ end-to-end ตั้งแต่การชำระเงินไปจนถึงการจัดเตรียม และเข้าถึงรถเช่าแต่ละคันโดยใช้เซ็นเซอร์และเอฟเฟกต์Internet of Things 32 (IoT) 33สิ่งนี้สามารถช่วยให้บริษัทสามารถติดตามตำแหน่งของรถและจัดเตรียมแผนการเช่าที่เหมาะสมยิ่งขึ้นและสนับสนุนผู้เช่าบนท้องถนน ในขณะที่ยังลดการโจรกรรมด้วยการทำให้เคลื่อนที่ไม่ได้ (อยู่กับที่) 34รถยนต์ควรถูกขโมย อย่างไรก็ตาม ระบบเหล่านี้อาจทำให้บริษัทหยุดให้บริการรถเช่าระยะยาวโดยไม่ได้ตั้งใจ ในขณะที่ผู้เช่ากำลังตั้งแคมป์อยู่ในสถานที่ห่างไกลที่มีสัญญาณโทรศัพท์เคลื่อนที่เป็นช่วงๆ (อย่างดีที่สุด) เชื่อว่ารถจะถูกขโมยเนื่องจากความผิดพลาดในการชำระเงินชั่วคราว เกตเวย์ที่เพิ่มขึ้นเรื่อย ๆ โดยชุดของการตัดสินใจอัตโนมัติเมื่อบริษัทไม่สามารถติดต่อผู้เช่าผ่านทาง SMS หรือศูนย์บริการขาออก ผู้เช่าในกรณีนี้จะถูกทิ้งไว้โดยไม่มีรถทำงานอยู่ในสถานที่ห่างไกลและมีทรัพยากรจำกัด ไม่สามารถเดินออกไปหรือติดต่อความช่วยเหลือได้
ประเด็นก็คือ การตัดสินใจที่ผิดพลาด (อัตโนมัติ) ในตอนนี้สามารถทำให้เกิดผลกระทบต่อเนื่องกันได้ ทำให้เกิดการตัดสินใจที่ไม่ดีขึ้นอีกจนทำให้ปัญหาบานปลาย 35ผลลัพธ์ที่คาดไม่ถึงที่ Kransberg เตือนว่า ในกรณีดังกล่าว อาจเป็นผลจากการมีปฏิสัมพันธ์โดยไม่ได้ตั้งใจระหว่างการตัดสินใจด้วยตนเองก่อนหน้านี้ที่เป็นไปโดยอัตโนมัติและผนวกรวมเข้าด้วยกัน การโต้ตอบเหล่านี้อาจเกิดขึ้นได้อย่างมาก เช่นเดียวกับตัวอย่างรถเช่า พวกเขายังอาจเป็นเรื่องธรรมดาเช่นการเพิ่มชื่อในรายการความซ้ำซ้อนหลังจากการควบรวมกิจการโดยไม่ได้ตั้งใจ ซึ่งอาจบังคับให้บริษัทเลิกจ้างแล้วจ้างพนักงานใหม่ 36 การบูรณาการบัญชีเงินเดือนกับระบบปฏิบัติการและระบบควบคุมการเข้าออกทำให้กระบวนการภายในคล่องตัว แต่ยังสร้างเครือข่ายของการตัดสินใจอัตโนมัติซึ่งเมื่อเริ่มต้นแล้ว บริษัทจะไม่ควบคุมอีกต่อไป
[NPC5]นี่คือความแตกต่างในระดับไม่พิมพ์กับต่ำ (และลดลง) ค่าใช้จ่ายของเทคโนโลยีขยับคำถามจากที่เราสามารถที่จะเราควร เราต้องพิจารณา “อารี” ทั้งสี่: 37 เราทำสิ่งที่ถูกต้องหรือไม่? เรากำลังทำในสิ่งที่ถูกต้องหรือไม่? เราทำให้พวกเขาทำได้ดีหรือไม่? และเราได้รับผลประโยชน์หรือไม่? ข้อดีสองประการที่นี่คือเนื่องจากค่าใช้จ่ายในการปรับใช้และบูรณาการการตัดสินใจแบบอัตโนมัติเหล่านี้ต่ำและลดลง การกำกับดูแลและการกำกับดูแลก็ลดลงเช่นกัน ในขณะที่ประเด็นเกี่ยวกับความเป็นส่วนตัว การโน้มน้าวใจ และความยินยอมมาก่อน