วันนี้คุณอาจพบอัลกอริธึมการเรียนรู้ด้วยเครื่องอย่างน้อยหนึ่งรายการ รหัสคอมพิวเตอร์ที่ชาญฉลาดเหล่านี้จัดเรียงผลลัพธ์ของเครื่องมือค้นหา กำจัดอีเมลขยะจากกล่องจดหมายเข้า และเพิ่มประสิทธิภาพเส้นทางการนำทางแบบเรียลไทม์ ผู้คนไว้วางใจโปรแกรมเหล่านี้ด้วยการตัดสินใจที่ซับซ้อนมากขึ้น และบางครั้งก็เปลี่ยนชีวิตได้ เช่น การวินิจฉัยโรคและการทำนายกิจกรรมทางอาญา
อัลกอริธึมการเรียนรู้ด้วยเครื่องสามารถทำการเรียกที่ซับซ้อนเหล่านี้ได้
เนื่องจากไม่เพียงแค่ปฏิบัติตามชุดคำสั่งที่ตั้งโปรแกรมไว้เหมือนกับที่อัลกอริธึมดั้งเดิมทำ แต่โปรแกรมสำเร็จรูปเหล่านี้ศึกษาตัวอย่างที่ผ่านมาของวิธีการทำงานให้เสร็จสมบูรณ์ แยกแยะรูปแบบจากตัวอย่าง และใช้ข้อมูลนั้นในการตัดสินใจเป็นรายกรณีไป
น่าเสียดายที่การปล่อยให้เครื่องจักรที่มีปัญญาประดิษฐ์นี้หรือ AI ค้นพบสิ่งต่าง ๆ ด้วยตนเอง ไม่เพียงทำให้พวกเขาเป็น “นักคิด” ที่มีวิจารณญาณเท่านั้น แต่ยังเปิดโอกาสให้พวกเขาได้รับอคติอีกด้วย
การสืบสวนในช่วงไม่กี่ปีที่ผ่านมาได้เปิดเผยวิธีต่างๆ ที่อัลกอริธึมแสดงการเลือกปฏิบัติ ในปี 2015 นักวิจัยรายงานว่าบริการโฆษณาของ Google แสดงการโพสต์ที่เกี่ยวข้องกับงานที่มีรายได้สูงสำหรับผู้ชาย การสืบสวน ProPublica ปี 2016 พบว่า COMPAS ซึ่งเป็นเครื่องมือที่ใช้ในห้องพิจารณาคดีหลายแห่งในการทำนายว่าอาชญากรจะฝ่าฝืนกฎหมายอีกครั้งหรือไม่ คาดการณ์อย่างผิด ๆ ว่าจำเลยผิวดำจะกระทำความผิดซ้ำเกือบสองเท่าของการคาดการณ์ที่ผิดสำหรับคนผิวขาว กลุ่มวิเคราะห์ข้อมูลสิทธิมนุษยชนยังแสดงให้เห็นว่าเครื่องมือทำนายอาชญากรรม PredPol อาจทำให้ตำรวจกำหนดเป้าหมายไปยังชุมชนที่มีรายได้ต่ำและเป็นชนกลุ่มน้อยอย่างไม่เป็นธรรม ( SN Online: 3/8/17). เห็นได้ชัดว่าสติปัญญาที่ดูเหมือนมนุษย์ของอัลกอริธึมสามารถมาพร้อมกับอคติแบบมนุษย์ได้
Moritz Hardt นักวิทยาศาสตร์คอมพิวเตอร์แห่งมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ กล่าวว่า “นี่เป็นปัญหาทั่วไปของการเรียนรู้ของเครื่อง” แม้ว่าโปรแกรมเมอร์จะออกแบบอัลกอริธึมโดยไม่มีเจตนาอคติ “คุณมักจะจบลงในสถานการณ์ที่จะมีปัญหาด้านความเป็นธรรม” Hardt กล่าว “นี่เป็นค่าเริ่มต้นมากกว่าข้อยกเว้น”
เนื้อเรื่องมีภาพด้านล่าง
อคติทำนาย
โปรแกรมแมชชีนเลิร์นนิงที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลอาชญากรรมยาเสพติดจากโอ๊คแลนด์ แคลิฟอร์เนีย จะเสนอมุมมองที่บิดเบือนว่าจะส่งเจ้าหน้าที่ตำรวจไปที่ใด รายงานอาชญากรรมยาเสพติดส่วนใหญ่มาจากย่านที่ไม่ใช่คนขาวและมีรายได้น้อยในปี 2553 (ซ้าย) แต่ข้อมูลด้านสาธารณสุขในปี 2554 บ่งชี้ว่าการใช้ยาแพร่หลายมากขึ้น (ขวา)
แผนที่ของรายงานเทียบกับการใช้ยาโดยประมาณในโอ๊คแลนด์ตามโปรแกรมการเรียนรู้ของเครื่อง
คุณลำ/HRDAG; อี. ออตเวลล์
นักพัฒนาอาจไม่รู้ด้วยซ้ำว่าโปรแกรมได้สอนตัวเองถึงอคติบางอย่าง ปัญหานี้เกิดจากสิ่งที่เรียกว่าปัญหากล่องดำ: อัลกอริธึมบรรลุข้อสรุปได้อย่างไร เนื่องจากไม่มีใครบอกอัลกอริธึมการเรียนรู้ด้วยเครื่องว่าต้องทำงานอย่างไรจึงมักไม่ชัดเจน แม้แต่ผู้สร้างอัลกอริทึมก็มักจะใช้ข้อมูลในการตัดสินใจอย่างไรหรือทำไม
นักวิทยาศาสตร์ด้านคอมพิวเตอร์และข้อมูลที่มีจิตสำนึกทางสังคมหลายคนเพิ่งเริ่มต่อสู้กับปัญหาอคติของเครื่องจักร บางคนมีวิธีเพิ่มข้อกำหนดด้านความเป็นธรรมลงในระบบแมชชีนเลิร์นนิง คนอื่น ๆ ได้ค้นพบวิธีที่จะให้ความกระจ่างแก่แหล่งที่มาของพฤติกรรมลำเอียงของอัลกอริธึม แต่ธรรมชาติของอัลกอริธึมแมชชีนเลิร์นนิงในฐานะระบบการเรียนรู้ด้วยตนเอง หมายความว่าไม่มีวิธีแก้ไขง่ายๆ ที่จะทำให้อัลกอริธึมเหล่านี้เล่นได้อย่างยุติธรรม
credit : comcpschools.com companionsmumbai.com comunidaddelapipa.com cubecombat.net daanishbooks.com
