အထဲမှာ သင်ဘယ်လိုထင်လဲ ဆိုတာကို သင့်ကြောင်လေး ပြောပြပါ - black box effect

အဆင့်မြင့် AI အယ်လဂိုရီသမ်များသည် မည်ကဲ့သို့ဖြစ်လာသည်ကို မဖော်ပြဘဲ ရလဒ်တစ်ခုအား လွှင့်ပစ်သည့် black box (1) နှင့်တူသည်ဟူသည့်အချက်မှာ အချို့က စိုးရိမ်ပြီး အခြားသူများကို စိတ်ပျက်စေပါသည်။

2015 ခုနှစ်တွင် New York ရှိ Mount Sinai ဆေးရုံမှ သုတေသနအဖွဲ့အား ဒေသခံလူနာ (၂) ဦး၏ ကျယ်ပြန့်သောဒေတာဘေ့စ်ကို ခွဲခြမ်းစိတ်ဖြာရန် ဤနည်းလမ်းကို အသုံးပြုရန် တောင်းဆိုခဲ့သည်။ ဤကြီးမားသောစုစည်းမှုတွင် လူနာအချက်အလက်များ၊ စမ်းသပ်မှုရလဒ်များ၊ ဆေးညွှန်းများနှင့် အခြားအရာများပါရှိသည်။

သိပ္ပံပညာရှင်များသည် လုပ်ငန်းခွင်အတွင်း တီထွင်ဖန်တီးထားသော ခွဲခြမ်းစိတ်ဖြာမှုအစီအစဉ်ကို အမည်ပေးခဲ့သည်။ လူ 700 ခန့်ထံမှ အချက်အလက်များကို လေ့ကျင့်သင်ကြားပေးခဲ့သည်။ လူသားနှင့် မှတ်ပုံတင်အသစ်တွင် စမ်းသပ်သောအခါ၊ ၎င်းသည် ရောဂါကြိုတင်ခန့်မှန်းရာတွင် အလွန်ထိရောက်ကြောင်း သက်သေပြခဲ့သည်။ လူသားကျွမ်းကျင်သူများ၏အကူအညီမပါဘဲ၊ အသည်းကင်ဆာကဲ့သို့သောရောဂါတစ်ခုဆီသို့မည်သည့်လူနာကိုရောက်ရှိကြောင်းညွှန်ပြသောဆေးရုံမှတ်တမ်းများတွင်ပုံစံများကိုရှာဖွေတွေ့ရှိခဲ့သည်။ ကျွမ်းကျင်သူများ၏အဆိုအရ၊ စနစ်၏ကြိုတင်ခန့်မှန်းမှုနှင့်ရောဂါရှာဖွေမှုထိရောက်မှုသည်အခြားလူသိများသောနည်းလမ်းများထက်ပိုမိုမြင့်မားသည်။

2. လူနာဒေတာဘေ့စ်များကိုအခြေခံ၍ ဆေးဘက်ဆိုင်ရာဥာဏ်ရည်တုစနစ်

တစ်ချိန်တည်းမှာပင်၊ ၎င်းသည် လျှို့ဝှက်ဆန်းကြယ်သောနည်းလမ်းဖြင့် လုပ်ဆောင်သည်ကို သုတေသီများက သတိပြုမိခဲ့သည်။ ဥပမာအားဖြင့်၊ ၎င်းသည် စံနမူနာပြဖြစ်ခဲ့သည်။ စိတ်ပိုင်းဆိုင်ရာချို့ယွင်းမှု၏အသိအမှတ်ပြုမှုschizophrenia ကဲ့သို့သော ဆရာဝန်များအတွက် အလွန်ခက်ခဲသည်။ အထူးသဖြင့် AI စနစ်သည် လူနာ၏ ဆေးဘက်ဆိုင်ရာ မှတ်တမ်းများပေါ်တွင်သာ အခြေခံ၍ စိတ်ရောဂါကို ကောင်းစွာမြင်နိုင်ပုံကို မည်သူမျှ စိတ်ကူးမရှိသောကြောင့် အံ့ဩစရာဖြစ်ခဲ့သည်။ ဟုတ်ပါသည်၊ ကျွမ်းကျင်ပညာရှင်များသည် ထိုကဲ့သို့ ထိရောက်သော စက်ရောဂါရှာဖွေရေးဆရာ၏အကူအညီကို အလွန်နှစ်သက်ကြသည်၊ သို့သော် AI က ၎င်း၏နိဂုံးချုပ်ပုံကို နားလည်ပါက ၎င်းတို့သည် ပိုမိုကျေနပ်မှုရှိမည်ဖြစ်သည်။

အာရုံကြောအတုအလွှာများ

ဆိုလိုတာက ဉာဏ်ရည်တုရဲ့ သဘောတရားကို အစကတည်းက သိလာကတည်းက AI နဲ့ ပတ်သက်ပြီး အမြင်နှစ်ခု ရှိလာခဲ့ပါတယ်။ ဦးစွာပထမက လူသိများသော သဘောတရားများနှင့် လူ့ယုတ္တိနှင့်အညီ အကြောင်းပြချက်ရှိသော စက်များကို တည်ဆောက်ခြင်းသည် ကျိုးကြောင်းဆီလျော်မှုအရှိဆုံးဖြစ်မည်ဟု အကြံပြုထားပြီး ၎င်းတို့၏အတွင်းစိတ်လုပ်ဆောင်ချက်များကို လူတိုင်းအား ပွင့်လင်းမြင်သာအောင်ပြုလုပ်ရန် အကြံပြုထားသည်။ စက်ယန္တရားများက စူးစမ်းလေ့လာပြီး ထပ်ခါတလဲလဲ စမ်းသပ်ခြင်းဖြင့် သင်ယူပါက ဉာဏ်ရည်ဉာဏ်သွေး ပိုမိုပေါ်ပေါက်လာမည်ဟု အခြားသူများက ယုံကြည်ကြသည်။

နောက်တစ်ခုကတော့ ပုံမှန်ကွန်ပြူတာ ပရိုဂရမ်းမင်းကို ပြောင်းပြန်လှန်ခြင်းကို ဆိုလိုပါတယ်။ ပရိုဂရမ်မာသည် ပြဿနာတစ်ခုကိုဖြေရှင်းရန် အမိန့်ပေးမည့်အစား ပရိုဂရမ်ကထုတ်ပေးသည်။ ကိုယ်ပိုင် algorithm နမူနာဒေတာနှင့် လိုချင်သောရလဒ်အပေါ်အခြေခံသည်။ ယနေ့ခေတ်တွင် အစွမ်းထက်ဆုံး AI စနစ်များအဖြစ်သို့ ပြောင်းလဲလာသော Machine Learning နည်းလမ်းများသည် တကယ်တော့ လမ်းကြောင်းပေါ်မှ ဆင်းသွားခဲ့ပါပြီ။ စက်ကိုယ်တိုင်က ပရိုဂရမ်တွေပါ။.

ဤချဉ်းကပ်မှုသည် 60 နှင့် 70 နှစ်များတွင် AI စနစ်သုတေသန၏အနားသတ်တွင်ရှိနေခဲ့သည်။ ယခင်ဆယ်စုနှစ်အစတွင်သာ ရှေ့ဆောင်အပြောင်းအလဲများနှင့် တိုးတက်မှုအချို့ပြီးနောက်၊ "နက်နဲသော" မသေခင် အလိုအလျောက် ခံယူချက်၏ စွမ်းရည်များတွင် အစွန်းရောက်တိုးတက်မှုကို စတင်ပြသခဲ့သည်။ 

Deep machine learning သည် လူသားတစ်ဦးကဲ့သို့ ပြောဆိုသော စကားလုံးများကို မှတ်သားနိုင်စွမ်းကဲ့သို့သော ထူးကဲသော စွမ်းရည်များရှိသည့် ကွန်ပျူတာများကို ထောက်ပံ့ပေးထားသည်။ ၎င်းသည် အချိန်မတိုင်မီ အစီအစဉ်ဆွဲရန် ခက်ခဲလွန်းလှသည်။ စက်ဖြင့်၎င်း၏ကိုယ်ပိုင် "ပရိုဂရမ်" ကိုဖန်တီးနိုင်ရပါမည်။ ကြီးမားသော datasets များကိုလေ့ကျင့်ခြင်း။.

နက်နက်ရှိုင်းရှိုင်း သင်ယူမှုသည် ကွန်ပျူတာ ရုပ်ပုံ မှတ်သားနိုင်စွမ်းကို ပြောင်းလဲစေပြီး စက်ဘာသာပြန်ခြင်း၏ အရည်အသွေးကို များစွာ တိုးတက်စေသည်။ ယနေ့တွင်၊ ဆေး၊ ငွေကြေး၊ ထုတ်လုပ်မှုနှင့် အခြားအရာများတွင် အဓိက ဆုံးဖြတ်ချက်များ အမျိုးမျိုးပြုလုပ်ရန် ၎င်းကို အသုံးပြုသည်။

သို့သော်ဤအရာအားလုံးနှင့် "အတွင်း" အလုပ်လုပ်ပုံကို သိရန် နက်နဲသော အာရုံကြော ကွန်ရက်အတွင်း၌သာ ကြည့်၍မရပါ။ ကွန်ရက်ကျိုးကြောင်းဆင်ခြင်ခြင်းလုပ်ငန်းစဉ်များသည် ဒါဇင်များစွာ သို့မဟုတ် ရာနှင့်ချီသော ရှုပ်ထွေးပွေလီစွာဆက်နွှယ်နေသော အလွှာများအဖြစ် စုစည်းထားသော ထောင်ပေါင်းများစွာသော အာရုံခံဆဲလ်များ၏ အမူအကျင့်များတွင် ထည့်သွင်းထားသည်။.

ပထမအလွှာရှိ နျူရွန်တစ်ခုစီသည် ပုံတစ်ပုံရှိ pixel တစ်ခု၏ ပြင်းထန်မှုကဲ့သို့သော input တစ်ခုကို လက်ခံရရှိပြီး output ကို မထုတ်မီ တွက်ချက်မှုများ လုပ်ဆောင်သည်။ ၎င်းတို့ကို ရှုပ်ထွေးသော ကွန်ရက်တစ်ခုတွင် နောက်အလွှာ၏ နျူရွန်များထံ ပေးပို့သည် - နောက်ဆုံး အထွက်အချက်ပြမှုအထိ၊ ထို့အပြင်၊ လေ့ကျင့်ရေးကွန်ရက်သည် လိုချင်သောရလဒ်ကို ထုတ်ပေးနိုင်ရန် အာရုံကြောတစ်ခုချင်းစီမှ လုပ်ဆောင်သော တွက်ချက်မှုများကို ချိန်ညှိခြင်းဟုခေါ်သော လုပ်ငန်းစဉ်တစ်ခုရှိသည်။

ခွေးရုပ်ပုံအသိအမှတ်ပြုခြင်းဆိုင်ရာ မကြာခဏ ကိုးကားထားသော ဥပမာတစ်ခုတွင်၊ AI ၏ အောက်ခြေအဆင့်များသည် ပုံသဏ္ဍာန် သို့မဟုတ် အရောင်ကဲ့သို့သော ရိုးရှင်းသောလက္ခဏာများကို ပိုင်းခြားစိတ်ဖြာပါသည်။ မြင့်မားသူများသည် သားမွေး သို့မဟုတ် မျက်လုံးကဲ့သို့သော ရှုပ်ထွေးသော ပြဿနာများကို ကိုင်တွယ်ဖြေရှင်းကြသည်။ အပေါ်ဆုံးအလွှာကသာ အချက်အလက်အစုံအလင်ကို ခွေးတစ်ကောင်အဖြစ် ခွဲခြားသတ်မှတ်ပေးသည်။

တူညီသောချဉ်းကပ်နည်းကို စက်ကိုယ်တိုင်လေ့လာရန် စွမ်းအားပေးသည့် အခြားထည့်သွင်းမှုအမျိုးအစားများတွင် အသုံးပြုနိုင်သည်- စကားပြောဆိုရာတွင် စကားလုံးများ၊ စာလုံးများနှင့် စာကြောင်းများပါသည့် စာကြောင်းများ သို့မဟုတ် ဥပမာ စတီယာရင်ဖြင့် ပေါင်းစပ်ထားသော အသံများ။ ယာဉ်မောင်းနှင်ရန် လိုအပ်သော လှုပ်ရှားမှုများ။

ကားက ဘာမှ မကျော်ပါဘူး။

ထိုသို့သောစနစ်များတွင် ဖြစ်ပျက်နေသည်များကို အတိအကျရှင်းပြရန် ကြိုးပမ်းမှုတစ်ခုဖြစ်သည်။ 2015 ခုနှစ်တွင် Google မှ သုတေသီများသည် ဓာတ်ပုံများတွင် အရာဝတ္တုများကို မြင်ရမည့်အစား ၎င်းတို့ကို ဖန်တီးရန် သို့မဟုတ် ပြုပြင်မွမ်းမံရန်အတွက် နက်နဲသော သင်ယူမှုပုံရိပ်မှတ်သားခြင်းဆိုင်ရာ အယ်လဂိုရီသမ်ကို ပြင်ဆင်ခဲ့သည်။ အယ်လဂိုရီသမ်ကို နောက်ပြန်လှည့်ခြင်းဖြင့်၊ ငှက် သို့မဟုတ် အဆောက်အဦတစ်ခုကို မှတ်မိရန်၊ ပရိုဂရမ်အသုံးပြုသည့် လက္ခဏာများကို ရှာဖွေတွေ့ရှိလိုကြသည်။

ခေါင်းစဉ်အဖြစ် လူသိရှင်ကြားသိသော ဤစမ်းသပ်မှုများသည် အလွန်ဆိုးရွားသော၊ ထူးထူးဆန်းဆန်း တိရစ္ဆာန်များ၊ ရှုခင်းများနှင့် ဇာတ်ကောင် (၃) ခုတို့၏ အံ့သြဖွယ်ကောင်းသော သရုပ်ဖော်မှုများကို ထုတ်ပေးခဲ့သည်။ အချို့သောပုံစံများကို ထပ်ခါတလဲလဲ ထပ်ခါတလဲလဲ ပြန်ပြခြင်းကဲ့သို့သော စက်အာရုံခံစားမှု၏ လျှို့ဝှက်ချက်အချို့ကို ထုတ်ဖော်ခြင်းဖြင့်၊ ၎င်းတို့သည် လူသားတို့၏ ခံယူချက်နှင့် နက်နဲသော စက်သင်ယူမှု ကွာခြားပုံကို ပြသခဲ့သည် - ဥပမာ၊ ကျွန်ုပ်တို့ လျစ်လျူရှုထားသော ရှေးဟောင်းပစ္စည်းများကို ချဲ့ထွင်ပြီး ပွားနေခြင်းကို ပြသသည်။ ကျွန်ုပ်တို့၏ ခံယူချက် ဖြစ်စဉ်တွင် မတွေးဘဲ၊ .

3. ပရောဂျက်တွင် ဖန်တီးထားသော ပုံ

စကားမစပ်, အခြားတစ်ဖက်တွင်၊ ဤစမ်းသပ်မှုများသည် ကျွန်ုပ်တို့၏ကိုယ်ပိုင် သိမြင်မှုယန္တရားများ၏ လျှို့ဝှက်ချက်ကို ဖော်ထုတ်နိုင်ခဲ့သည်။ စက်သည် "အရေးမကြီးသော" အရာများကို စိတ်ရှည်စွာ ထပ်ခါတလဲလဲ ပြုလုပ်နေချိန်တွင် တစ်စုံတစ်ခုကို ချက်ခြင်း နားလည်နိုင်ပြီး လျစ်လျူရှုနိုင်သော နားမလည်နိုင်သော အစိတ်အပိုင်းများ အမျိုးမျိုးရှိနေကြောင်း ကျွန်ုပ်တို့၏ခံယူချက်တွင် ဖြစ်နိုင်သည်။

စက်ကို "နားလည်ရန်" ကြိုးပမ်းရာတွင် အခြားသော စမ်းသပ်မှုများနှင့် လေ့လာမှုများကို ပြုလုပ်ခဲ့ပါသည်။ Jason Yosinski သူသည် ဦးနှောက်အတွင်း ပိတ်နေသော အာရုံကြောအတုတစ်ခုကဲ့သို့ လုပ်ဆောင်သည့် ကိရိယာတစ်ခုကို ဖန်တီးခဲ့ပြီး ၎င်းကို အပြင်းထန်ဆုံး လှုံ့ဆော်ပေးသည့် ပုံရိပ်ကို ရှာဖွေခဲ့သည်။ နောက်ဆုံးစမ်းသပ်မှုတွင်၊ ကွန်ရက်ကို အနီရောင်လက်ဖြင့် "ချောင်းကြည့်ခြင်း" ကြောင့် စိတ္တဇရုပ်ပုံများ ပေါ်လာပြီး စနစ်အတွင်းရှိ လုပ်ငန်းစဉ်များကို ပို၍ပင် လျှို့ဝှက်ဆန်းကြယ်စေသည်။

သို့သော်လည်း သိပ္ပံပညာရှင်များစွာအတွက်၊ ထိုသို့သောလေ့လာမှုသည် နားလည်မှုလွဲမှားခြင်းဖြစ်ပြီး၊ အကြောင်းမှာ ၎င်းတို့၏အမြင်အရ၊ ရှုပ်ထွေးသောဆုံးဖြတ်ချက်များချရာတွင် ပိုမိုမြင့်မားသောအစီအစဥ်များနှင့် ယန္တရားများ၏ပုံစံများကို အသိအမှတ်ပြုရန်၊ အကြောင်းမှာ ၎င်းတို့၏အမြင်အရ၊ တွက်ချက်မှုဆိုင်ရာ အပြန်အလှန်တုံ့ပြန်မှုများအားလုံး နက်နဲသော အာရုံကြောကွန်ရက်အတွင်း ၎င်းသည် သင်္ချာလုပ်ဆောင်ချက်များနှင့် ကိန်းရှင်များ၏ ကြီးမားသော ဝင်္ကပါတစ်ခုဖြစ်သည်။ လောလောဆယ်မှာ ကျွန်တော်တို့အတွက် နားမလည်နိုင်သေးဘူး။

ကွန်ပြူတာ စဖွင့်တော့မှာ မဟုတ်ဘူးလား။ အဘယ်ကြောင့်?

အဆင့်မြင့် ဉာဏ်ရည်တုစနစ်များ၏ ဆုံးဖြတ်ချက်ချသည့် ယန္တရားများကို နားလည်ရန် အဘယ်ကြောင့် အရေးကြီးသနည်း။ လွတ်ငြိမ်းချမ်းသာခွင့်တွင် မည်သည့်အကျဉ်းသားများကို လွှတ်ပေးနိုင်သည်၊ မည်သူက ချေးငွေရနိုင်သည်၊ မည်သူအလုပ်ရနိုင်သည်ကို ဆုံးဖြတ်ရန် သင်္ချာပုံစံများကို အသုံးပြုနေပြီဖြစ်သည်။ စိတ်ပါဝင်စားသူတွေအနေနဲ့ ဒီဆုံးဖြတ်ချက်ကို ဘာကြောင့် မချခဲ့တာလဲ၊ သူ့ရဲ့ အကြောင်းရင်းနဲ့ ယန္တရားက ဘာလဲဆိုတာ သိချင်ပါတယ်။

ဧပြီလ 2017 ခုနှစ်တွင် MIT နည်းပညာပြန်လည်သုံးသပ်ခြင်း၌ဝန်ခံခဲ့သည်။ Tommy Yaakkolaစက်သင်ယူခြင်းအတွက် အက်ပ်လီကေးရှင်းများကို လုပ်ဆောင်နေသည့် MIT ပါမောက္ခတစ်ဦးဖြစ်သည်။ -

AI စနစ်များ၏ ဆုံးဖြတ်ချက်ချသည့် ယန္တရားကို စိစစ်နားလည်နိုင်စွမ်းသည် အခြေခံလူ့အခွင့်အရေးဖြစ်သည်ဟူသော တရားရေးနှင့် မူဝါဒဆိုင်ရာ ရပ်တည်ချက်ပင် ရှိသေးသည်။

2018 ခုနှစ်မှစတင်၍ EU သည် ကုမ္ပဏီများအား အလိုအလျောက်စနစ်ဖြင့်ပြုလုပ်သော ဆုံးဖြတ်ချက်များနှင့်ပတ်သက်၍ ၎င်းတို့၏ဖောက်သည်များအား ရှင်းလင်းချက်ပေးရန် ကုမ္ပဏီများကို တောင်းဆိုရန် လုပ်ဆောင်နေပါသည်။ ကြော်ငြာများကိုပြသရန် သို့မဟုတ် သီချင်းများကို အကြံပြုရန် နက်နဲသောသိပ္ပံကိုအသုံးပြုသည့် အက်ပ်များနှင့် ဝဘ်ဆိုက်များကဲ့သို့သော ရိုးရှင်းပုံပေါ်သည့်စနစ်များဖြင့် တစ်ခါတစ်ရံတွင် ၎င်းသည် တစ်ခါတစ်ရံတွင် မဖြစ်နိုင်ကြောင်း တွေ့ရှိရပါသည်။

ဤဝန်ဆောင်မှုများကို လုပ်ဆောင်သော ကွန်ပျူတာများသည် ၎င်းတို့ကိုယ်တိုင် ပရိုဂရမ်များဖြစ်ပြီး ၎င်းတို့သည် ကျွန်ုပ်တို့ နားမလည်နိုင်သော နည်းလမ်းများဖြင့် လုပ်ဆောင်ကြသည်... ဤအပလီကေးရှင်းများကို ဖန်တီးသည့် အင်ဂျင်နီယာများပင်လျှင် ၎င်းသည် မည်သို့အလုပ်လုပ်သည်ကို အပြည့်အစုံ မရှင်းပြနိုင်ပါ။