Sydney Huang က AI Bot Collusion ကို Regulator များ မတုံ့ပြန်မီ ပျံ့နှံ့နိုင်သည်ဟု သတိပေးသည်။

မူဝါဒ၏အဆုံးသတ်

2026 ခုနှစ် ဧပြီလ အပြည်ပြည်ဆိုင်ရာ ငွေကြေးရန်ပုံငွေအဖွဲ့ (IMF) ၏ အစီရင်ခံစာအရ ကမ္ဘာကြီးသည် “ကလစ်နှိပ်ရန်-ပေးချေခြင်း” ခေတ်နှင့် “ဆုံးဖြတ်ရန်-ပေးချေရန်” ခေတ်သို့ လျင်မြန်စွာ ထွက်ခွာလာနေပြီဖြစ်သည်။ သို့သော် လူသားများ သံသရာမှ ထွက်ခွာလာသောအခါ အရေးကြီးသောမေးခွန်းတစ်ခု ထွက်ပေါ်လာသည်- ကျွန်ုပ်တို့၏ဘဏ္ဍာရေးအကာအရံများသည် စက်အမြန်နှုန်းစီးပွားရေးစနစ်ကို ရှင်သန်နိုင်သလား။

Agentic Artificial Intelligence (AI) သည် ငွေကြေးအလျင်အမြန် တိုးမြင့်လာမည်ဟု IMF ၏ အစီရင်ခံစာတွင် ဖော်ပြထားသည်။ လူသား၏ “ပွတ်တိုက်မှု” ကို ဖယ်ရှားခြင်းဖြင့် အရင်းအနှီးသည် ကမ္ဘာ့စီးပွားရေးကို မကြုံစဖူးအမြန်နှုန်းဖြင့် ပျံ့နှံ့သွားမည်ဖြစ်သည်။ Human API ၏ CEO ဖြစ်သူ Sydney Huang က ငွေအလျင်သည် ၁၀ ဆ တိုးလာနိုင်ကြောင်း အကြံပြုထားသည်။ ဒါဟာ ကုန်ထုတ်စွမ်းအား အံ့ဖွယ်တစ်ခုလို့ ထင်ရပေမယ့် ဗဟိုဘဏ်တွေအတွက် အိပ်မက်ဆိုးတစ်ခု ပေါ်လာပါတယ်။ သမားရိုးကျ ငွေကြေးမူဝါဒကို “lag” ပေါ်တွင် တည်ဆောက်ထားသည်။ ဗဟိုဘဏ်တစ်ခုသည် အတိုးနှုန်းကို မြှင့်တင်သောအခါ၊ ထိုဆုံးဖြတ်ချက်အတွက် လူ့အဖွဲ့ အစည်းများမှတစ်ဆင့် စစ်ထုတ်ရန် လပေါင်းများစွာ ကြာသည်။ AI-to-AI စီးပွားရေးတွင်၊ ထိုနောက်ကျကျန်မှု ပျောက်သွားသည်။

“AI-to-AI ကုန်သွယ်မှုမှ မောင်းနှင်သော ငွေအလျင်သည် ၁၀ ဆ တိုးလာခြင်းသည် စက်အမြန်နှုန်းဖြင့် လည်ပတ်သည့် ကိရိယာများကို စည်းကမ်းထိန်းသူများ အသုံးပြုရန် လိုအပ်လိမ့်မည်” ဟု Huang က သတိပေးသည်။ အဲဒီစွမ်းရည်တွေ မပါရင် စက်ရဲ့ မြန်နှုန်း ငွေကြေးဖောင်းပွမှု လူသားထိန်းချုပ်သူသည် ဒက်ရှ်ဘုတ်သတိပေးချက်မရရှိမီတွင် spike သို့မဟုတ် global flash ပျက်ကျမှု ဖြစ်ပွားနိုင်သည်။

ပျက်ကွက်မှုများကို တားဆီးရန်၊ စည်းကမ်းထိန်းသိမ်းရေးမှူးများသည် ကြည့်ရှုသူများဖြစ်ခြင်းကို ရပ်တန့်ပြီး ကုဒ်၏တစ်စိတ်တစ်ပိုင်းဖြစ်လာရမည်ဟု Huang က စောဒကတက်သည်။ “ ၎င်းတွင် အချိန်နှင့်တပြေးညီ စောင့်ကြည့်စစ်ဆေးသည့်စနစ်များ၊ ဘဏ္ဍာရေးဆိုင်ရာ အခြေခံအဆောက်အအုံများတွင် တိုက်ရိုက်ထည့်သွင်းထားသော ပရိုဂရမ်လိုက်လျောညီထွေမှု နှင့် အကျုံးမဝင်သော ဆုံးရှုံးမှုများကို ကာကွယ်ရန် အလိုအလျောက် circuit breakers များ ပါဝင်သည်” ဟု သူမက ပြောကြားခဲ့သည်။ ဤအမြင်သည် IMF ၏ အဆိုပြုထားသော Three-Layer Framework နှင့် ကိုက်ညီပြီး ငွေပေးငွေယူတိုင်း၏ ခွင့်ပြုချက်အလွှာတွင် လူသားများသတ်မှတ်ထားသော လုပ်ပိုင်ခွင့်များ ထည့်သွင်းထားရမည်ဟု အကြံပြုထားသည်။

Huang က “ စည်းကမ်းထိန်းသူများသည် အရောင်းအ၀ယ်အဆင့်တွင် ကျင့်သုံးနိုင်သော စက်ဖတ်နိုင်သော ဖော်မတ်များဖြင့် မူဝါဒများကို ဖော်ပြရန် လိုအပ်နိုင်သည်” ဟု Huang က အကြံပြုသည်။ Agent commerce သည် အရောင်းအ၀ယ်အဆင့်တွင် အလိုအလျောက် circuit breakers များ လိုအပ်ပြီး အေးဂျင့်များသည် အလွန်ဆက်စပ်နေသည့် အပြုအမူကို စတင်သောအခါ၊ ကွင်းဆက်တုံ့ပြန်မှုကို ရပ်တန့်ရန်အတွက် ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရှိသော “ fuses” များသည် လေမှုတ်ပေးရပါမည်။

IMF အစီရင်ခံစာတွင် “အေးဂျင့်စနစ်များသည် ရည်မှန်းချက်များကို အဓိပ္ပာယ်ဖွင့်ဆိုနိုင်ပြီး လှုပ်ရှားမှုများကို အချိန်နှင့်တပြေးညီ စောင့်ကြည့်နိုင်သည်” ဟု မီးမောင်းထိုးပြထားသည်။ ဆိုလိုသည်မှာ သင့်-ဖောက်သည်များနှင့် ငွေကြေးခဝါချမှု တိုက်ဖျက်ရေး စစ်ဆေးမှုများကို AI အေးဂျင့်၏ DNA တွင် တိုက်ရိုက် အစီအစဉ်ချထားကြောင်း ဆိုလိုသည်။

ဆုံးဖြတ်ချက်သက်သေအထောက်အထား

ဤခေတ်သစ်တွင် စည်းကမ်းထိန်းသိမ်းရေးအတွက် အရှုပ်ထွေးဆုံးစိန်ခေါ်မှုများထဲမှတစ်ခုမှာ “မမြင်နိုင်သော” စျေးကွက်ဖြစ်သည်။ အေးဂျင့်များသည် လူသားဘာသာစကားကို ပေါင်းစပ်ညှိနှိုင်းရန် အသုံးမပြုသော ကမ္ဘာတွင်၊ မေးခွန်းတစ်ခု ပေါ်လာသည်- ကျွန်ုပ်တို့သည် စျေးနှုန်းများကို ပြုပြင်ရန် ဘော့တ်တစ်လုံးကို ရိုးရှင်းအောင်ပြုလုပ်ခြင်းနှင့် စျေးနှုန်းများကို ပြုပြင်ရန် ဘော့တ်အုပ်စုတစ်စုကို မည်သို့ခွဲခြားနိုင်မည်နည်း။

ဆက်ဆံရေးကို ခွဲခြမ်းစိတ်ဖြာခြင်းမှ အပြုအမူကို ပိုင်းခြားစိတ်ဖြာခြင်းသို့ ပြောင်းလဲရန် လိုအပ်ကြောင်း Huang က မှတ်ချက်ပြုသည်။

“ စည်းကြပ်လုပ်ဆောင်မှုများ၊ မျှဝေထားသောဒေတာမှီခိုမှုများနှင့် ကိန်းဂဏန်းဆိုင်ရာကွဲလွဲချက်များကဲ့သို့သော စည်းမျဉ်းစည်းကမ်းများကို စစ်ဆေးရန် လိုအပ်လိမ့်မည်” ဟုသူမကဆိုသည်။ ဖြေရှင်းချက်သည် “ဆုံးဖြတ်ချက်သက်သေ” တွင် ရှိနေနိုင်သည်။ Huang သည် ကြေညာထားသောမူဝါဒအရ ဆုံးဖြတ်ချက်များကို သီးခြားလွတ်လပ်စွာ ပြုလုပ်ခဲ့ကြောင်း အတည်ပြုနိုင်သော အထောက်အထားများပေးရန် ကိုယ်စားလှယ်များ လိုအပ်သည့် အနာဂတ်ကို အကြံပြုပါသည်။ ဆုံးဖြတ်ချက်တစ်ခုကို မည်သို့အောင်မြင်ကြောင်း သက်သေပြခြင်းဖြင့် အေးဂျင့်များသည် ပြိုင်ဘက်များနှင့် လျှို့ဝှက်ပူးပေါင်းဆောင်ရွက်ခြင်းမဟုတ်ကြောင်း သက်သေပြနိုင်သည်။

စည်းမျဥ်းထက်ကျော်လွန်ဒီအေးဂျင့်တွေက တစ်ယောက်နဲ့တစ်ယောက် ဘယ်လိုစကားပြောလဲဆိုတဲ့ ကိစ္စရှိတယ်။ လုံခြုံသော အေးဂျင့်အချင်းချင်း စေ့စပ်ညှိနှိုင်းမှုတွင် အထောက်အထား၊ ဆက်သွယ်ရေးနှင့် ကျင့်သုံးမှုဆိုင်ရာ စံနှုန်းများ လိုအပ်ကြောင်း Huang က ထောက်ပြသည်။

“အေးဂျင့်တွေဟာ အချင်းချင်းရဲ့ အထောက်အထားနဲ့ ခွင့်ပြုချက်ကို စိစစ်နိုင်ရမယ်၊ မျှဝေထားတဲ့ ညှိနှိုင်းမှုဘောင်အတွင်း လုပ်ကိုင်နိုင်ပြီး သူတို့ရဲ့ လုပ်ဆောင်ချက်တွေအတွက် စိစစ်နိုင်တဲ့ အာမခံချက်တွေ ပူးတွဲပါရှိရမယ်” ​​ဟု Huang က ပြောကြားခဲ့သည်။ ဤအပြောင်းအရွှေ့သည် တစ်ဦးချင်းလုပ်ဖော်ကိုင်ဖက်များထံမှ ယုံကြည်မှုကို ရွေ့လျားစေပြီး ၎င်းကို စနစ်၏ အာမခံချက်များတွင် ထည့်သွင်းထားသည်။ အေးဂျင့်ငွေပေးချေမှုပရိုတိုကော (AP2) နှင့် မော်ဒယ်ဆက်စပ်ပရိုတိုကော (MCP) ကဲ့သို့ ပေါ်ထွက်နေသော စံနှုန်းများကို အသုံးပြုခြင်းဖြင့်၊ ကုမ္ပဏီ A မှ အေးဂျင့်တစ်ဦးသည် ကုမ္ပဏီ B မှ ကိုယ်စားလှယ်တစ်ဦးနှင့် သီးသန့်ကြားခံမပါဘဲ လုံခြုံစွာ ညှိနှိုင်းနိုင်ကြောင်း သေချာစေပါသည်။

ဤဒစ်ဂျစ်တယ်ပရောက်စီများထံ အုပ်ချုပ်မှုပိုမိုလွှဲအပ်သည်နှင့်အမျှ၊ လူ့အန္တရာယ်အသစ်တစ်ခု ထွက်ပေါ်လာသည်- သွေးကြောကျဉ်းခြင်း။ အကယ်၍ အေးဂျင့်တစ်ဦးသည် ကုမ္ပဏီ၏ဘဏ္ဍာတိုက်ကို လူသားဝင်ရောက်စွက်ဖက်မှုမရှိဘဲ ငါးနှစ်ကြာ စီမံခန့်ခွဲပါက၊ စနစ်သည် မှောင်မိုက်သွားပါက လူ့ဘဏ္ဍာရေးမှူးသည် အကျပ်အတည်းကို မည်သို့ကိုင်တွယ်ရမည်ကို သိသေးမည်လား။

Huang က ဤသို့သတိပေးသည်။ အုပ်ချုပ်ရေးကို ပိုလွှဲပေးတယ်။လူသားအော်ပရေတာများသည် ထိထိရောက်ရောက် ဝင်ရောက်စွက်ဖက်နိုင်စွမ်း ဆုံးရှုံးသွားနိုင်သည့် ဆိုးရွားသောအန္တရာယ်ရှိပါသည်။ “နောက်ပြန်ဆုတ်တဲ့ ယန္တရားတွေ တည်ဆောက်တာနဲ့အမျှ လုပ်ငန်းလည်ပတ်မှု အဆင်သင့်ရှိဖို့က အရေးကြီးပါတယ်” ဟု သူမက ဆိုသည်။

လူ့စွမ်းရည် Atrophy ကို တိုက်ဖျက်ခြင်း။

ယင်းကို လျော့ပါးစေရန်၊ လူသားများသည် ဘီးကိုယူသည့် စနစ်များတွင် ပုံမှန်လေ့ကျင့်မှုများ ပြုလုပ်ရမည်ဖြစ်ပြီး လူသားများသည် ယုတ္တိဗေဒနှင့် နှိုင်းယှဉ်ရန် အေးဂျင့်လုပ်ဆောင်ချက်များကို အတုယူသည့်မုဒ်များကို ထည့်သွင်းရမည်ဟု သူမက စောဒကတက်သည်။ “kill switch” သည် လေ့ကျင့်ထားသော လမ်းကြောင်းဖြစ်ကြောင်း သေချာရန်လည်း လိုအပ်ပါသည်။ “ ရည်မှန်းချက်” ဟု Huang က “ လူသား၏ကြီးကြပ်ကွပ်ကဲမှုသည် သီအိုရီထက် သာလွန်ကောင်းမွန်ပြီး လက်တွေ့လုပ်ဆောင်နိုင်စေရန်ဖြစ်ကြောင်း သေချာစေရန်ဖြစ်သည်။”

ကမ္ဘာသည် 2034 ခုနှစ်တွင် ခန့်မှန်းထားသော $236 ဘီလီယံရှိသော အေးဂျင့်စျေးကွက်ဆီသို့ ဦးတည်ရွေ့လျားလာသည်နှင့်အမျှ “ စျေးကွက်ပါဝင်သူ” ၏အဓိပ္ပါယ်ဖွင့်ဆိုချက်သည် ပြောင်းလဲနေသည်။ ၎င်းသည် လူများကို ထိန်းညှိရုံမဟုတ်တော့ဘဲ ထောင်ပေါင်းများစွာသော ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ ဘော့တ်များဖြင့် မောင်းနှင်သည့် “ စူပါပုဂ္ဂိုလ်များ” ဟုခေါ်သည်။

ပေးချေရန် ဆုံးဖြတ်သည့် တော်လှန်ရေးသည် ပွတ်တိုက်မှုကင်းသော ထိရောက်မှုရှိသော ကမ္ဘာကို ပေးစွမ်းနိုင်သော်လည်း ၎င်းသည် ကမ္ဘာ့ဘဏ္ဍာရေးဗိသုကာ၏ အလုံးစုံ ဒီဇိုင်းပုံစံကို လိုအပ်သည်။ Huang ကပြောတဲ့အတိုင်း စက်အမြန်နှုန်းစီးပွားရေးကို အုပ်ချုပ်ဖို့ ဥပဒေကိုယ်တိုင်က စက်အမြန်နှုန်းဖြစ်လာရမယ်။ အကယ်၍ ကျွန်ုပ်တို့သည် ဗိသုကာအဆင့်တွင် လူအချင်းချင်းချိတ်ဆက်ခြင်းအား မြှပ်နှံရန် ပျက်ကွက်ပါက၊ ဖန်တီးရှင်များ ထိန်းချုပ်ရန် မြန်ဆန်လွန်းသည့် စီးပွားရေးကို တည်ဆောက်ရန် အန္တရာယ်ရှိသည်။