AI မော်ဒယ်တွေက လူသားတွေထက်တောင် လူမျိုးရေးခွဲခြားမှု ပိုမိုများပြားတယ်လို့ သုတေသနပြုချက်တွေအရ သိရပါတယ်။ AI က ဒေသအလိုက် ပြောတတ်တဲ့စကားတွေအပေါ် တုံ့ပြန်ပုံကို standard English နဲ့ ယှဉ်ပြီး စာတမ်းပြုစုခဲ့ကြပါတယ်။
User တစ်ယောက်က African American English (AAE) ဘာသာစကားကို သုံးပြီး chat bots ကိုအသုံးပြုမယ်ဆိုရင် death penalty နဲ့ဆိုင်တဲ့အချက်အလက်တွေကိုပိုပြီး suggest ပေးတာ များတယ်လို့သိရပါတယ်။
AI က AAE language အသုံးပြုသူတွေကို အခွင့်အလမ်းနည်းတဲ့အလုပ်တွေကို ပိုပြီးတွဲစပ်ပေးတာလည်းရှိပါသေးတယ်။ အများအားဖြင့်က AAE ကို လူမည်းအမေရိကန်တွေနဲ့ ကနေဒါနိုင်ငံသားတွေအသုံးပြုပြောဆိုကြပါတယ်။
peer review မဝင်ရသေးတဲ့ စာတမ်းတစ်ခုမှာဆိုရင်လည်း AI models တွေက မတူညီတဲ့ဒေသအလိုက် ပြောကြတဲ့ စကားတွေအပေါ်မှာ ဘယ်လို racist ဆန်ဆန်တုံ့ပြန်နိုင်စွမ်းရှိတယ်ဆိုတာကို သုတေသနပြုထားပါသေးတယ်။
research တော်တော်များများမှာတော့ AI chat bots တွေက black ဆိုတဲ့ စကားလုံးပေါ်မှာ ဘယ်လိုတုံပြန်တယ်ဆိုတာကို focus ထားတာ များပါတယ်။
စာတမ်းရေးသားသူတစ်ဦးဖြစ်တဲ့ Valentin Hofmann က Sky News မှာလည်း AI chat bots တွေရဲ့ AAE language အပေါ် racist ဆန်မှုတွေကိုပြောကြားထားပါသေးတယ်။
“African Americans တွေကို ဘယ်လိုထင်လဲ” လိုမျိုး မေးခွန်းတွေကို မေးတဲ့အခါမှာ chat bots တွေက intelligent, enthusiastic အစရှိတဲ့ positive စကားလုံးတွေသုံးပြီးပြန်ဖြေပေးပါတယ်။
ဒါပေမယ့် ဒီ language models တွေက ဒေသိသစကားတွေ နောက်ပြီး AAE language တွေနဲ့ ပတ်သက်တဲ့ associations တွေကို ကြည့်လိုက်တဲ့အခါမှာ အပျက်သဘောဆောင်တဲ့ ပုံစံတွေ များစွာ တွေ့မြင်လာရမှာပဲ ဖြစ်ပါတယ်။
အဲ့အတွက်ကြောင့်မို့ racist ဖြစ်ကြောင်း မသိသာစေခဲ့ဘဲ စာတမ်းတွေနဲ့ သေချာလေ့လာပြုစုတဲ့အခါမှာတော့ နောက်ကွယ်မှာ ဒီပြဿနာကို ကိုင်တွယ်ဖြေရှင်းမှု အားနည်းနေသေးကြောင်း သိရပါတယ်။
Developers တွေအနေနဲ့လည်း racist ပိုင်းဆိုင်ရာ အပျက်သဘောဆောင်တဲ့ စကားလုံးတွေ ဖယ်ရှားဖို့ filters တွေနဲ့ ထိန်းဖို့ ကြိုးစားနေကြပါတယ်။ ဝါကျ တည်ဆောက်ပုံတွေ နောက်ပြီး slang အသုံးပြုပုံတွေကြောင့် handle လုပ်ဖို့ရာ ထင်ထားတာထက်တော့ ခက်ခဲနေပါသေးတယ်။
AI ကို job interviews တွေနဲ့ screening process တွေမှာ အသုံးပြုလာကြတဲ့အတွက်အကြောင့် ဒီလို ဘက်လိုက်တာမျိုးတွေက impact ကြီးကြီးမားမားရှိလာနိုင်ပါတယ်။ နောက်ပြီးတရားစီရင်ရေး system တွေမှာအသုံး ချဖို့ ကြိုးစားနေလာကြတဲ့အတွက်ကြောင့် ဒီဘက်လိုက်တဲ့ပြဿနာကို ကောင်းကောင်း handle မလုပ်နိုင်ရင် အတော်အခက်တွေ့စေမယ့် ကိစ္စပဲ ဖြစ်ပါတယ်။
Reference: AI more likely to recommend death sentence when defedant writes in African American English by SkyNews
AMC HACKS
