ในขณะนี้ ณ ที่ใดที่หนึ่ง บริษัทที่ไม่เคยติดต่อด้วย หรืออาจไม่เคยได้ยินชื่อมาก่อนด้วยซ้ำ อาจกำลังตัดสินใจว่าจะอนุมัติเงินกู้ อพาร์ตเมนต์ หรือแม้กระทั่งต้องโทษจำคุกเป็นเวลานานเท่าใด

เป็นที่ทราบกันดีอยู่แล้วถึงอิทธิพลของอัลกอริทึมในการกำหนดสิ่งที่จะเห็นและผู้ที่จะสนทนาด้วยบนโซเชียลมีเดีย แต่นั่นเป็นเพียงแค่เปลือกนอกเท่านั้น อัลกอริทึมคือเครื่องมือที่ฝังไว้ในระดับลึกภายในอุตสาหกรรมอื่น ๆ อีกหลายสิบประเภท และมักทำการตัดสินใจที่ส่งผลกระทบถึงขั้นเปลี่ยนชีวิต อีกทั้งยังต้องพึ่งพาข้อมูลที่ได้รับจาก นายหน้าค้าข้อมูล อีกด้วย

แต่ระบบนี้ทำงานอย่างไร? บทบาทของโบรกเกอร์ข้อมูลในการป้อนข้อมูลให้อัลกอริทึมเหล่านี้คืออะไรกันแน่? ผลกระทบในโลกแห่งความเป็นจริงของธุรกิจที่หลบซ่อนอยู่ในเงามืดนี้คืออะไร? และที่สำคัญที่สุด: จะสามารถทำอะไรได้บ้างเพื่อให้มั่นใจในความยุติธรรมและความรับผิดชอบ โดยเฉพาะอย่างยิ่งเมื่อกำลังมุ่งหน้าสู่อนาคตที่การตัดสินใจโดยใช้ AI เติบโตขึ้นอย่างทวีคูณ?

บทบาทที่ซ่อนอยู่ของโบรกเกอร์ข้อมูล

โบรกเกอร์ข้อมูลคือองค์กรที่แสวงหาผลกำไรซึ่งรวบรวมและขายข้อมูลส่วนบุคคลจำนวนมหาศาล โดยรวบรวมทุกสิ่งทุกอย่าง(หน้าต่างใหม่) ตั้งแต่บันทึกทางการเงินและพฤติกรรมการซื้อของ ไปจนถึงการท่องเว็บและตำแหน่งแบบเรียลไทม์ นี่คืออุตสาหกรรมขนาดใหญ่และทำกำไรได้อย่างมหาศาล คาดว่ามีบริษัทโบรกเกอร์ข้อมูล 5,000 แห่ง(หน้าต่างใหม่) ดำเนินการอยู่ทั่วโลกในตลาดที่มีมูลค่าสูงถึง 2.7 แสนล้านดอลลาร์

แม้จะมีขนาดใหญ่ แต่อุตสาหกรรมนี้แทบจะไม่มีการกำกับดูแลที่ครอบคลุม(หน้าต่างใหม่) (อย่างน้อยก็ในสหรัฐอเมริกา) ซึ่งหมายความว่าโบรกเกอร์จะรวบรวมและขายข้อมูลใดๆ ก็ตามที่มีความต้องการ และยังหมายความอีกด้วยว่าผู้ค้าไม่มีแรงจูงใจในการตรวจสอบให้แน่ใจว่าข้อมูลที่ขายนั้นถูกต้อง(หน้าต่างใหม่)

เรียนรู้เพิ่มเติมเกี่ยวกับโบรกเกอร์ข้อมูล

องค์กรทุกประเภท ตั้งแต่ผู้ลงโฆษณาไปจนถึงหน่วยงานภาครัฐของสหรัฐฯ ต่างหันมาใช้บริการโบรกเกอร์ข้อมูลเพื่อรับข้อมูลเชิงลึกที่ละเอียดและเป็นส่วนตัว บริษัทต่างๆ หันมาใช้ข้อมูลนี้มากขึ้นเรื่อยๆ เพื่อป้อนเข้าสู่อัลกอริทึมและทำการตัดสินใจที่ส่งผลกระทบต่อชีวิตประจำวันของผู้คนทั่วสหรัฐฯ ข้อมูลที่รวบรวมและขายโดยโบรกเกอร์ข้อมูล ซึ่งเป็นข้อมูลที่มักเต็มไปด้วยข้อผิดพลาดนั้น ถูกนำมาใช้เพื่อกำหนดอัตราดอกเบี้ยที่ผู้คนต้องจ่าย พิจารณาว่าจะได้รับการอนุมัติสินเชื่อหรือไม่ หรือแม้กระทั่งจะสามารถเช่าอพาร์ตเมนต์หรือได้งานทำหรือไม่

นี่คือสามสถานการณ์ที่ข้อมูลซึ่งไม่เคยรู้มาก่อนว่าได้แชร์ไปแล้ว อาจลงเอยด้วยการเปลี่ยนเส้นทางชีวิตอย่างไม่ทันรู้ตัว

การพิจารณารับประกันด้วยอัลกอริทึม

ธนาคารและผู้ให้บริการฟินเทครายอื่นๆ เป็นอุตสาหกรรมกลุ่มแรกๆ ที่นำอัลกอริทึมมาใช้เพื่อพิจารณาอนุมัติสินเชื่อเพื่อที่อยู่อาศัย สินเชื่อธุรกิจ หรือบัตรเครดิต โดยอาศัยคะแนนเครดิตแบบดั้งเดิมร่วมกับข้อมูลทางเลือกอื่นๆ (เช่น การชำระค่าสาธารณูปโภค การศึกษา หรือแม้แต่วิธีการกรอกฟอร์ม) เพื่อคาดการณ์ว่าผู้กู้จะชำระคืนเงินกู้หรือไม่ ผลลัพธ์ที่ได้คือระบบกล่องดำ (black-box system) ที่อาจให้ผลลัพธ์ที่แตกต่างกันอย่างสิ้นเชิงสำหรับผู้สมัครที่ดูเหมือนจะคล้ายคลึงกัน

การสืบสวนโดย The Markup(หน้าต่างใหม่) เมื่อปี 2021 พบว่าเมื่อเปรียบเทียบผู้สมัครบางกลุ่มกับผู้สมัครที่เป็นคนผิวขาวที่มีคุณสมบัติใกล้เคียงกัน ผู้ให้กู้มีแนวโน้มที่จะ:

  • ปฏิเสธสินเชื่อเพื่อที่อยู่อาศัยแก่ผู้สมัครชาวลาตินมากขึ้น 40%
  • ปฏิเสธผู้สมัครชาวเอเชีย/หมู่เกาะแปซิฟิกมากขึ้น 50% 
  • ปฏิเสธชาวอเมริกันพื้นเมืองมากขึ้น 70%
  • ปฏิเสธผู้สมัครคนผิวดำมากขึ้น 80% 

ความเหลื่อมล้ำเหล่านี้ยังคงมีอยู่ แม้ว่าจะควบคุมปัจจัยต่างๆ ที่อุตสาหกรรมมักใช้เป็นข้ออ้างสำหรับอัตราการอนุมัติที่ต่ำลงเหล่านี้แล้วก็ตาม

ใครก็ตามที่เคยทำงานเกี่ยวกับสถิติต่างรู้ดีว่าโมเดลจะมีประสิทธิภาพได้เท่ากับข้อมูลที่ป้อนเข้าไปเท่านั้น ตัวอย่างเช่น หากข้อมูลนั้นสะท้อนถึงประวัติการแบ่งแยกพื้นที่เพื่อปฏิเสธการให้บริการ (redlining)(หน้าต่างใหม่) โมเดลก็จะเกิดความเอนเอียง และโมเดลเหล่านี้ยังมีข้อมูลทุกประเภท เช่น ฟีดโซเชียลมีเดีย(หน้าต่างใหม่) หรือแม้กระทั่งการพิมพ์ชื่อด้วยตัวอักษรพิมพ์ใหญ่ทั้งหมด(หน้าต่างใหม่) ดังที่ซีอีโอของฟินเทครายหนึ่งได้กล่าวไว้ว่า “ข้อมูลทุกอย่างคือข้อมูลเครดิต”

และด้วยอัลกอริทึมเหล่านี้ บ่อยครั้งจึงเป็นการยากที่จะระบุปัจจัยที่นำไปสู่การปฏิเสธ ส่งผลให้ผู้คนไม่สามารถอุทธรณ์หรือเสนอคำแก้ไขได้ ซึ่งควรเป็นสิ่งจำเป็นเมื่อพิจารณาว่าข้อมูลเหล่านี้ส่วนใหญ่ดูไม่เกี่ยวข้องโดยตรงเพียงใด และโบรกเกอร์ข้อมูลมักจะมีข้อมูลที่ไม่ถูกต้องและล้าสมัยบ่อยครั้งเพียงใด

การตรวจสอบประวัติผู้เช่าด้วยข้อมูล

หากตัดสินใจเช่าบ้าน ก็ไม่อาจหลีกเลี่ยงอัลกอริทึมพ้น เจ้าของบ้านและผู้จัดการอสังหาริมทรัพย์ต่างหันมาใช้บริการคัดกรองผู้เช่าแบบอัตโนมัติกันมากขึ้น เช่น LeasingDesk หรือ RentGrow ซึ่งพึ่งพาข้อมูลจากนายหน้าค้าข้อมูลในการตรวจสอบประวัติผู้สมัคร บริการเหล่านี้พยายามประเมินความเสี่ยงของผู้เช่าโดยการพิจารณาจากคะแนนเครดิต ประวัติการถูกขับไล่ ประวัติอาชญากรรม และข้อมูลส่วนบุคคลอื่น ๆ อีกมากมายของผู้สมัคร ผลลัพธ์ก็คือ มีผู้คนจำนวนมากที่ถูกปฏิเสธไม่ให้เช่าที่อยู่อาศัยเนื่องจากข้อมูลที่น่าสงสัยหรือไม่เป็นปัจจุบัน

ในปี 2021 คณะกรรมาธิการการค้าแห่งสหรัฐอเมริกา (FTC) ได้สั่งปรับ AppFolio ซึ่งเป็นบริการคัดกรองผู้เช่า เป็นเงิน 4.25 ล้านดอลลาร์ ข้อหา จำหน่ายรายงานประวัติที่ระบุตัวตนผู้สมัครอย่างผิดพลาด(หน้าต่างใหม่) และมีข้อมูลที่ไม่เป็นปัจจุบัน เช่น ประกาศแจ้งขับไล่ที่ถูกยกเลิกหรือได้รับการคลี่คลายแล้ว ความผิดพลาดเหล่านี้ส่งผลกระทบต่อชีวิตจริง โดยบีบบังคับให้ผู้คนต้องไปหาที่อยู่อาศัยอื่น

อัลกอริทึมที่ใช้คำนวณคะแนนเหล่านี้ยังเป็นเสมือนกล่องดำที่ยากจะเข้าใจเช่นกัน ในปี 2021 ProPublica ได้พูดคุยกับผู้เช่ารายหนึ่ง(หน้าต่างใหม่) ที่มีคะแนนเครดิตดีเยี่ยม (มากกว่า 750) ไม่มีประวัติอาชญากรรม และไม่เคยถูกขับไล่ แต่ถึงกระนั้น กลับได้รับคะแนนผู้เช่าเพียง 685 คะแนนจาก 1,000 คะแนน ซึ่งเทียบเท่ากับเกรด D โดยไม่มีคำอธิบายใด ๆ ส่งผลให้ถูกบังคับให้จ่ายค่าเช่าเพิ่มอีกหนึ่งเดือนเพื่อเป็นเงินประกัน และเช่นเดียวกับผู้เช่าส่วนใหญ่ที่ไม่ทราบเลยว่าเหตุใดคะแนนจึงต่ำถึงเพียงนั้น หรือจะแก้ไขได้อย่างไร

การกำหนดค่าประกันตัวโดยอัลกอริทึม

บางทีการใช้งานที่ส่งผลกระทบมากที่สุดของอัลกอริทึมที่ขับเคลื่อนโดยดาต้าโบรกเกอร์ซึ่งถูกซ่อนไว้นั้นอาจเป็นในระบบกระบวนการยุติธรรมทางอาญา ศาลและหน่วยงานบังคับใช้กฎหมายทั่วประเทศได้นำเครื่องมือประเมินความเสี่ยงด้วยอัลกอริทึมมาใช้เพื่อช่วยให้ผู้พิพากษาตัดสินใจว่าจะให้ประกันตัวหรือปล่อยตัวผู้ถูกกล่าวหาก่อนการพิจารณาคดีหรือไม่ ในบางกรณี เครื่องมือเหล่านี้ยังช่วยตัดสินใจเรื่องการกำหนดโทษและการพักการลงโทษอีกด้วย อัลกอริทึมจะนำข้อมูลป้อนเข้า (เช่น ประวัติอาชญากรรม อายุ สถานะการจ้างงาน และบางครั้งอาจรวมถึงตำแหน่งหรือภูมิหลังครอบครัวของบุคคลนั้น) มาคำนวณเป็นคะแนนที่คาดว่าจะสะท้อนถึงความเสี่ยงของบุคคลนั้นในการกระทำความผิดซ้ำหรือการไม่มาศาล

ผู้สนับสนุนระบบเหล่านี้อ้างว่าการทำให้การตัดสินใจเหล่านี้เป็นแบบอัตโนมัติจะช่วยรับประกันความเที่ยงธรรม อย่างไรก็ตาม ผู้พิพากษาที่เป็นมนุษย์มักถูกกล่าวหาว่าไม่มีความสม่ำเสมอและมีอคติอยู่ตลอดเวลา ทว่า การตัดสินใจเหล่านี้ก็ต้องพึ่งพาข้อมูล เช่นเดียวกับการพิจารณาอนุมัติเงินกู้และการคัดกรองผู้เช่าแบบอัตโนมัติ หากข้อมูลไม่น่าเชื่อถือ ไม่ถูกต้อง หรือมีอคติ ผลลัพธ์ที่ได้ก็จะเป็นเช่นนั้นด้วย

ในปี 2016 ProPublica ได้ทำการ ตรวจสอบ COMPAS(หน้าต่างใหม่) หรือ Correctional Offender Management Profiling for Alternative Sanctions ระบบที่ใช้กันอย่างแพร่หลายนี้ พัฒนาโดยบริษัทแสวงหากำไร Northpointe (ปัจจุบันคือ Equivant Supervision) และพบว่าระบุผลบวกปลอมจำนวนมากสำหรับจำเลยที่เป็นคนผิวดำ และผลลบปลอมสำหรับจำเลยที่เป็นคนผิวขาว หรือพูดอีกอย่างก็คือ จำเลยที่เป็นคนผิวดำที่ไม่ได้กระทำความผิดซ้ำ มีโอกาสถูกป้ายกำกับว่ามีความเสี่ยงสูงโดยอัลกอริทึมมากกว่าจำเลยที่เป็นคนผิวขาวเกือบสองเท่า ในขณะที่จำเลยที่เป็นคนผิวขาวที่กระทำความผิดซ้ำกลับมักถูกติดป้ายกำกับผิดว่ามีความเสี่ยงต่ำ (Northpointe ได้โต้แย้งความถูกต้องของรายงานของ ProPublica)

ในทำนองเดียวกัน ใน การทบทวนการใช้งาน AI ในระบบยุติธรรมของสหราชอาณาจักรประจำปี 2022(หน้าต่างใหม่) คณะกรรมการฝ่ายยุติธรรมและกิจการภายในประเทศของสภาขุนนางระบุว่า มี “ความกังวลเกี่ยวกับอันตรายของอคติของมนุษย์ที่มีอยู่ในข้อมูลต้นฉบับซึ่งสะท้อนออกมา และถูกฝังไว้มากยิ่งขึ้นในการตัดสินใจของอัลกอริทึม”

จำเลยแทบจะไม่สามารถโต้แย้งคะแนนเหล่านี้ได้เลย เนื่องจากอัลกอริทึมเป็นกรรมสิทธิ์เฉพาะ และคะแนนที่แสดงออกมานั้นแทบจะไม่เคยถูกเปิดเผยในศาลเลย ซึ่งหมายความว่าอิสรภาพของจำเลยอาจขึ้นอยู่กับคะแนนลับที่สร้างขึ้นโดยแบบจำลองที่ไม่เปิดเผยโดยใช้ข้อมูลที่ไม่รู้จักและมักไม่น่าเชื่อถือ

ปัญหาทั่วไปเกี่ยวกับอัลกอริทึมที่ขับเคลื่อนด้วยข้อมูล

เมื่อใดก็ตามที่การตัดสินใจเป็นไปโดยอัตโนมัติ — ไม่ว่าจะเป็นการพิจารณาอนุมัติเงินกู้ การคัดกรองผู้เช่า หรือการประเมินความเสี่ยงของจำเลย ปัญหาต่างๆ มักจะเกิดขึ้นซ้ำแล้วซ้ำเล่า:

ความน่าเชื่อถือของข้อมูล: หากข้อมูลที่ป้อนให้อัลกอริทึมไม่น่าเชื่อถือ ไม่ถูกต้อง หรือมีอคติ ผลลัพธ์ใดๆ ที่ได้ก็จะสะท้อนถึงข้อบกพร่องเหล่านั้น

การขาดความโปร่งใส: เมื่ออัลกอริทึมเป็นกรรมสิทธิ์เฉพาะ จึงเป็นไปไม่ได้ที่หัวเรื่องของข้อมูลจะตรวจสอบซ้ำหรือโต้แย้งการประเมินผล (และนั่นเป็นการสมมติว่ารับรู้ถึงคะแนนตั้งแต่แรกอยู่แล้ว)

การใช้ข้อมูลส่วนบุคคลที่ไม่เหมาะสม: หลายคนอาจแย้งว่าวิธีการกรอกแบบฟอร์มไม่ควรส่งผลต่อการได้รับอนุมัติเงินกู้ และผู้คนควรจะสามารถเก็บรักษาข้อมูลส่วนบุคคลที่ละเอียดอ่อนประเภทอื่นๆ ไว้เป็นส่วนตัวได้หากเลือกเช่นนั้น

ต้องแก้ไขปัญหาเหล่านี้ก่อนที่ AI จะนำไปใช้

เป็นสิ่งสำคัญที่จะต้องแก้ไขแนวทางดำเนินงานด้วยเหตุผลหลายประการ ประการแรก ชีวิตผู้คนจำนวนมากขึ้นเรื่อยๆ กำลังได้รับผลกระทบจากระบบอัลกอริทึมที่อธิบายไว้ข้างต้น ประการที่สอง ข้อมูลจำนวนมากขึ้นเรื่อยๆ กำลังถูกรวบรวมโดยดาต้าโบรกเกอร์ — โดยคาดว่าตลาดดาต้าโบรกเกอร์จะมีมูลค่ามากกว่า 470 พันล้านดอลลาร์ภายในปี 2030(หน้าต่างใหม่) ประการที่สาม อัลกอริทึมกำลังขยายไปยังภาคส่วนใหม่ๆ ตลอดเวลา เช่น การรักษาความปลอดภัยโดยใช้ระบบคาดการณ์อาชญากรรม(หน้าต่างใหม่) และ การคาดการณ์ความเสี่ยงต่อสุขภาพ(หน้าต่างใหม่) ซึ่งพบว่าอัลกอริทึมช่วยตอกย้ำอคติที่มีอยู่แล้วในข้อมูล

แต่เหตุผลที่สำคัญที่สุดในการแก้ไขเรื่องนี้ในตอนนี้คือเพื่อหลีกเลี่ยงสถานการณ์ดังกล่าวกับ AI ส่วนใหญ่ใช้คำว่าอัลกอริทึมในบทความนี้ เนื่องจากระบบเหล่านี้ยังเป็นระบบพื้นฐานมากเมื่อเทียบกับบริการ AI ในปัจจุบัน แต่ก็ทำหน้าที่เป็นผู้ช่วย AI พื้นฐานสำหรับงานเฉพาะเจาะจง และเมื่อแชตบอต AI ที่มีประสิทธิภาพสูงขึ้นมากถูกรวมเข้ากับระบบ เวิร์กโฟลว์ และองค์กรต่างๆ มากขึ้นเรื่อยๆ ก็มีโอกาสที่จะทำให้เกิดปัญหาประเภทนี้ซ้ำในวงกว้างขึ้นมาก

และสาธารณชนกำลังเริ่มตื่นตัวแล้ว โดยมากกว่าครึ่งหนึ่งของ สาธารณชนในสหรัฐฯ (และผู้เชี่ยวชาญด้าน AI)(หน้าต่างใหม่) ต้องการควบคุมวิธีนำ AI มาใช้ในชีวิตประจำวันมากขึ้น

วิธีทวงคืนการควบคุม

อัลกอริทึมที่ซ่อนอยู่และระบบนิเวศของดาต้าโบรกเกอร์ที่เปิดใช้งานอัลกอริทึมเหล่านั้นจำเป็นต้องได้รับการควบคุม จะทำอย่างไรให้มั่นใจว่าเทคโนโลยีทำงาน เพื่อ สังคม ไม่ใช่ต่อต้านสังคม? ผู้เชี่ยวชาญด้านความเป็นส่วนตัวและจริยธรรม AI ได้เสนอแนวทางแบบรอบด้าน:

การปฏิรูปกฎหมายและการกำกับดูแล: รัฐบาล — โดยเฉพาะอย่างยิ่งรัฐบาลสหรัฐฯ — ต้องอัปเดต กฎหมายเพื่อกำกับดูแลดาต้าโบรกเกอร์ และการตัดสินใจด้วยอัลกอริทึม เพื่อปิดช่องว่างที่ยอมให้มีการหาประโยชน์จากข้อมูลโดยไม่มีการตรวจสอบ สหรัฐฯ ต้องผ่านกฎหมายความเป็นส่วนตัวของรัฐบาลกลาง น่าเสียดายที่สิ่งต่างๆ กำลังดำเนินไปในทิศทางตรงกันข้าม ล่าสุด สำนักงานคุ้มครองทางการเงินของผู้บริโภค Consumer Finance Protection Bureau ได้ถอนข้อเสนอ(หน้าต่างใหม่) ที่จะกำหนดให้ดาต้าโบรกเกอร์ต้องเก็บรักษาบันทึกที่ถูกต้องมากขึ้น และจำกัดผู้ที่สามารถขายข้อมูลให้ได้

ความโปร่งใสของอัลกอริทึม: เพื่อให้มั่นใจในความรับผิดชอบ บริษัทต่างๆ ที่ใช้ AI ในการตัดสินใจที่ส่งผลกระทบต่อชีวิตผู้คน จะต้องเปิดเผยปัจจัยสำคัญเบื้องหลังอัลกอริทึมและอนุญาตให้มีการตรวจสอบที่เป็นอิสระ หากปราศจากความโปร่งใส ผู้บริโภคก็จะไม่สามารถเข้าใจ โต้แย้ง หรือแก้ไขการตัดสินใจแบบอัตโนมัติที่เป็นอันตรายได้ กฎหมาย AI Act ของสหภาพยุโรป(หน้าต่างใหม่) และ กฎหมายท้องถิ่นของนครนิวยอร์ก(หน้าต่างใหม่) ถือเป็นก้าวสำคัญไปสู่การกำกับดูแลที่มีความหมาย

การกำกับดูแลและการทบทวนการตัดสินใจโดยมนุษย์: ไม่ควรปล่อยให้การตัดสินใจใดๆ ที่ส่งผลกระทบต่อสิทธิ์หรือการดำรงชีวิตของบุคคลเป็นหน้าที่ของอัลกอริทึมทั้งหมด — โดยบุคคลต้องมีสิทธิ์ได้รับการทบทวนโดยมนุษย์ การให้พนักงานที่ผ่านการฝึกอบรมมีส่วนร่วมและเปิดใช้งานการอุทธรณ์ จะช่วยให้มั่นใจได้ว่าระบบอัตโนมัติจะยังคงมีความรับผิดชอบ มีความสอดคล้องกับบริบท และมีมนุษยธรรม สิ่งนี้มีอยู่แล้วในยุโรปภายใต้ GDPR(หน้าต่างใหม่) แต่ควรขยายไปยังสหรัฐฯ ด้วย

การลดการเก็บข้อมูลในระดับบุคคล: เรื่องนี้อาจดูยุ่งยากเกินไป แต่ก็มีสิ่งที่จะทำได้เพื่อจำกัดปริมาณข้อมูลที่ดาต้าโบรกเกอร์จะได้รับ ชำระเงินด้วยเงินสด ใช้ บริการที่เข้ารหัสลับจากต้นทางถึงปลายทาง ท่องอินเทอร์เน็ตด้วย VPN ที่เชื่อถือได้(หน้าต่างใหม่), ตัวบล็อกโฆษณา(หน้าต่างใหม่) และ เบราว์เซอร์ที่เน้นความเป็นส่วนตัว มาตรการง่ายๆ เหล่านี้สามารถจำกัดข้อมูลดิบที่เป็นตัวขับเคลื่อนการตัดสินใจของอัลกอริทึมที่ไม่เป็นธรรมได้

เพื่ออินเทอร์เน็ตที่ดีขึ้นและโลกที่ดีขึ้น

เนื่องจากอัลกอริทึมมีอิทธิพลต่อการตัดสินใจครั้งสำคัญในชีวิตมากขึ้นเรื่อยๆ — ตั้งแต่เรื่องที่อยู่อาศัยและเครดิต ไปจนถึงการจ้างงานและความยุติธรรม — ต้องเผชิญหน้ากับระบบที่คลุมเครือและการไหลเวียนของข้อมูลที่ไม่มีการตรวจสอบซึ่งคอยขับเคลื่อนระบบเหล่านั้น เทคโนโลยีเหล่านี้สัญญาว่าจะมอบประสิทธิภาพ แต่บ่อยครั้งกลับสร้างอคติ การกีดกัน และอันตราย โดยเฉพาะอย่างยิ่งเมื่อได้รับแรงหนุนจากดาต้าโบรกเกอร์ที่ไม่มีการควบคุม

หากต้องการเปลี่ยนทิศทาง จำเป็นต้องมีกฎหมายที่บังคับใช้ความโปร่งใส จำกัดการนำข้อมูลไปใช้ในทางที่ผิด และรับประกันการกำกับดูแลโดยมนุษย์ในเรื่องที่สำคัญที่สุด การสร้างอนาคตดิจิทัลที่ยุติธรรมยิ่งขึ้นหมายถึงการเปิดกล่องดำของอัลกอริทึมและให้ผู้คนกลับมาเป็นศูนย์กลางของการตัดสินใจ หากเริ่มดำเนินการในตอนนี้ — ในฐานะพลเมือง นักพัฒนา และผู้กำหนดนโยบาย — จะสามารถสร้างโลกที่เทคโนโลยีเคารพความเป็นส่วนตัว ส่งเสริมความยุติธรรม และได้รับความไว้วางใจ