เมื่อระบบอัตโนมัติ 'อัลกอริทึม' กีดกันสวัสดิการคนจน ส่งผลถึงชีวิต

รายงานพิเศษในเดอะการ์เดียน ระบุถึงการที่รัฐบาลบางแห่งใช้ระบบจัดการอัตโนมัติด้วยปัญญาประดิษฐ์ (AI) จนทำให้เกิดปัญหาคนจนถูกกีดกันด้านการเข้าถึงสวัสดิการ นอกจากนี้ยังวิพากษ์ว่าระบบขั้นตอนวิธีหรือ 'อัลกอริทึม' ในปัจจุบันขาดความโปร่งใส

ที่มาของภาพประกอบ: Public Health Image Library

รัฐบาลหลายแห่งทั่วทุกมุมโลกไม่ว่าจะเป็นเมืองเล็กๆ ในรัฐอิลลินอยส์ ของสหรัฐฯ, เมืองรอชเดลในอังกฤษ, เพิร์ธในออสเตรเลีย, ทุมกาในอินเดีย ต่างก็เริ่มนำระบบปัญญาประดิษฐ์ มาใช้ในการพิจารณาการเข้าถึงสวัสดิการ โดยอาศัยทั้งการทำนายด้วยอัลกอริทึม, การประเมินปัจจัยเสี่ยง และการอาศัยข้อมูลทางชีวภาพ แต่เรื่องนี้ก็ส่งผลกระทบเลวร้ายและอาจจะส่งผลถึงแก่ชีวิตสำหรับคนจนที่ต้องการสวัสดิการปฏิทินประชาไทxไข่แมว2020

นอกจากนี้ยังมีข้อวิจารณ์เรื่องนี้การนำระบบปัญญาประดิษฐ์นี้มาใช้ ขาดความโปร่งใส พวกเขานำมาปรับใช้อย่างลับๆ โดยที่ไม่มีใครรู้ มีเพียงวิศวกรรมระบบและคนเขียนโปรแกรมเบื้องหลังที่อยู่ในแหล่งปิดลับของรัฐบาลห่างไกลจากสายตาประชาชนเท่านั้นที่รู้

สื่อเดอะการ์เดียนทำการสำรวจถึงผลกระทบจากการนำระบบดิจิทัลมาใช้กับรัฐสวัสดิการเช่นนี้ พวกเขาระบุว่าระบบอัตโนมัติแบบดังกล่าวนี้นำมาใช้พิจารณากับสวัสดิการคนว่างงาน, เงินเกื้อหนุนคนมีลูก, สวัสดิการด้านที่พักอาศัย และสวัสดิการอาหาร แต่มันก็กลายเป็นระบบที่ทำให้เกิดความยากจนแบบอัตโนมัติและเปลี่ยนกลุ่มประชากรที่มีความเสี่ยงให้กลายเป็นแค่สถิติ แปรสภาพจากการใช้มนุษย์ด้วยกันเองพิจารณาเป็นรายกรณีกลายมาเป็นการตัดสินใจด้วยเครื่องจักรที่เย็นชา

ถึงแม้ว่ารัฐบาลหลายแห่งจะให้สัญญษว่า ระบบจัดการสวัสดิการด้วยปัญญาประดิษฐ์เช่นนี้จะช่วยแก้ไขปัญหาความยากจนได้อย่างมีประสิทธิภาพมากขึ้น รวดเร็วขึ้น ลดค่าใช้จ่าย มีความโปร่งใสมากขึ้น และขจัดความผิดพลาดกับอคติของมนุษย์ออกไป แต่เดอะการ์เดียนก็ระบุว่าข้ออ้างเหล่านี้มักจะไม่เป็นความจริง เช่น ในช่วงที่นโยบายรัดเข็มขัดครอบงำทางการเมืองทำให้มีการตัดงบประมาณสวัสดิการจำนวนมาก และระบบคอมพิวเตอร์ก็ลดหรืองดให้สวัสดิการประชาชนหลายล้านคนโดยที่แทบไม่มีใครเข้าใจว่าทำไมระบบถึงทำเช่นนี้และผู้ที่ถูกตัดสวัสดิการก็ไม่มีช่องทางในการร้องเรียนใดๆ

ในช่วงกลางเดือนที่ผ่านมามีผู้นำประเด็นปัญหานี้ไปพูดถึงในเวทีโลก ฟิลิป อัลสตัน ทนายความด้านสิทธิมนุษยชนผู้ทำหน้าที่เป็นคนจับตามองประเด็นความยากจนสุดขีดให้กับสหประช่าชาติ ได้นำเสนอเรื่องปัญหาจากการจัดการสวัสดิการแบบดิจิทัลให้กับที่ประชุมสมัชชาสามัญของยูเอ็นในนิวยอร์กเมื่อวันที่ 17 ต.ค. ที่ผ่านมา โดยระบุว่ามันเป็น "โลกโหดร้ายของสวัสดิการดิจิทัลที่มีลักษณะแบบซอมบี้"

อัลสตันกล่าวว่าการทำให้ระบบสวัสดิการกลายเป็นดิจิทัลนั้นรัฐมักจะนำมาใช้เพื่อกีดกันจำกัดจำนวนผู้มีสิทธิได้รับสวัสดิการให้น้อยลง ตัดการบริการบางส่วนออกไป เสนอเงื่อนไขในแบบที่ล่วงล้ำและร้องขอจากผู้รับบริการมากเกินไป มีความเข้มงวดมากเกินไป และมีลักษณะกลับกันกับเป้าหมายดั้งเดิมของสวัสดิการคือการที่รัฐต้องเป็นฝ่ายรับผิดชอบชีวิตประชาชน

อัลสตันวิเคราะห์เรื่องนี้โดยอาศัยข้อมูลส่วนหนึ่งจากการวิจัยเรื่องความยากจนของเจ้าหน้าที่ยูเอ็นทั้งในสหรัฐฯ, อังกฤษ และข้อมูลที่นำมาจากองค์กรต่างๆ มากกว่า 34 ประเทศ จากข้อสรุปของอัลสตันระบุว่า "สวัสดิการแบบดิจิทัลเสี่ยงที่จะกลายเป็นม้าโทรจันที่ระบอบเสรีนิยมใหม่แอบสอดใส้การต่อต้านการคุ้มครองทางสังคมและการกำกับดูแลเข้ามาด้วย" ทั้งนี้อัลสตันยังแสดงความเป็นห่วงว่าระบบสวัสดิการดิจิทัลอาจจะถูกนำมาใช้ในทางที่ผิดสำหรับประเทศที่ไม่ค่อยมีหลักนิติธรรม เช่นการล่วงละเมิดทางชีวมิติของมนุษย์ เป็นต้น

ทางด้านสื่อเดอะการ์เดียนทำการสืบสวนพบว่าในรัฐอิลินอยส์มีการที่ทางการระดับมลรัฐกับระดับรัฐบาลกลางรวมหัวกันบีบเค้นให้ผู้รับสวัสดิการต้องตอบแทนกลับในระดับที่สูงมากเป็นเวลายาวนานถึง 30 ปีในบางกรณี พวกเขาเรียกระบบบีบให้ตอบแทนกลับแบบนี้ว่าเป็น "หนี้ซอมบี้" ที่รัฐบาลอาศัยเทคโนโลยีในการสร้างความกลัวและความยากลำบากในกลุ่มคนที่ขาดโอกาส

สื่อเดอะการ์เดียนยังระบุถึงกรณีในนิวคาสเซิล ประเทศอังกฤษ มีบริษัทเอกชนพยายามสร้างระบบสวัสดิการโดยอาศัยหุ่นยนต์พิจารณาแทนการใช้มนุษย์ พวกเขาเป็นบริษัทที่มำหัวหน้างานเศรษฐีหุ่นยนต์ตัวแรกของโลกและสร้างศัพท์เฉพาะใหม่ๆ อย่าง "แรงงานโลกเสมือน" "กระบวนการการตัดสินใจแบบส่วนเสริม" และ "กระบวนการอัตโนมัติหุ่นยนต์"

แต่ผู้ที่รับสวัสดิการในอังกฤษก็พูดถึงความเลวร้ายจากระบบสวัสดิการดิจิทัลเช่นนี้ ไม่ว่าจะเป็นทั้งความหิวโหย ความหวาดกลัว และความรู้สึกตื่นตระหนก

ในออสเตรเลียก็มีปัญหานี้เช่นกัน โดยผู้รับสวัสดิการบอกว่าพวกเขาต้องเผชิญกับ "หนี้หุ่นยนต์" เนื่องจากระบบอัลกอริทึมกล่าวหาพวกเขาแบบผิดๆ ว่ามีหนี้สินกับรัฐบาล นอกจากนี้ยังมีกรณีที่ผู้คนหลายล้านคนถูกระงับการจ่ายเงินสวัสดิการโดยระบบอัตโนมัติและผู้รับสวัสดิการเหล่านี้ก็ไม่ได้รับแจ้งเลยว่าพวกเขาถูกตัดสวัสดิการ

ในทุมกา ประเทศอินเดียทางรัฐบาลมีการทดลองใช้ระบบแบบชีวมิติ (biometric) ในการออกตัวเลขแสดงตัวตนของบุคคล 12 หลักที่เรียกว่า "อาดฮาร์" (Aadhaar) เทียบกับการประทับลายนิ้วมือ แต่พอคอมพิวเตอร์เกิดรวนทำให้ไม่สามารถอ่านลายนิ้วมือผู้ใช้งานบางคน ทำให้ผู้ใช้งานรายนั้นๆ ไม่มีอาดฮาร์ส่งผลให้ไม่สามารถรับสวัสดิการได้ ผู้ใช้งานที่ประสบปัญหาชื่อ โมตคา มานจี เขาขาดสวัสดิการจนต้องอดมื้อกินมื้อและร่างกายผ่ายผอม จนกระทั่งในวันที่ 22 พ.ค. ที่ผ่านมาเขาก็ล้มลงในบ้านและเสียชีวิต ครอบครัวเชื่อว่าเขาเสียชีวิตเพราะขาดอาหาร

เรื่องราวเหล่านี้แสดงให้เห็นถึงปัญหาใหญ่ของการทำให้สวัสดิการมนุษย์กลายเป็นระบบอัตโนมัติที่ควบคุมโดยหุ่นยนต์ หลายเป็นสิ่งที่ลดทอนปัจจัยความเป็นมนุษย์ออกไปจากรัฐสวัสดิการ มีอัลกอริทึ่มมาทำหน้าที่ตัดสินชีวิตของพวกเราทุกคนแทนที่จะเป็นมนุษย์ด้วยกันที่พิจารณาความต้องการเป็นรายบุคคล ทั้งนี้ถ้าหากระบบอัตโนมัติเองเกิดความผิดพลาดก็อาจจะส่งผลในระดับถึงแก่ชีวิตได้แบบที่เกิดขึ้นกับมานจี

เรียบเรียงจาก

Digital dystopia: how algorithms punish the poor, The Guardian, 14-11-2019

World stumbling zombie-like into a digital welfare dystopia, warns UN human rights expert, OHCHR, 17-10-2019

เท่าไรก็ได้ การสนับสนุนจากคุณ คือการร่วมสร้างและรักษาสื่อเสรี ‘ประชาไท’ ... ร่วมสนับสนุนเรา
โอนเงิน พร้อมเพย์ PromptPay "มูลนิธิสื่อเพื่อการศึกษาของชุมชน" 0993000060423
โอนเงิน PayPal คลิกที่นี่ https://paypal.me/prachatai (รายงานยอดบริจาคสนับสนุน)
ติดตามประชาไทอัพเดท ได้ที่:
เฟซบุ๊ก https://fb.me/prachatai
ทวิตเตอร์ https://twitter.com/prachatai
LINE ไอดี = @prachatai

แสดงความคิดเห็น

เรื่องที่เกี่ยวข้อง

พื้นที่ประชาสัมพันธ์