Claude Fable 5 ကို အွန်လိုင်းပြန်ယူလာစေရန် အမေရိကန်သည် Anthropic ကို ရှင်းလင်းထားသည်။

အမေရိကန်အာဏာပိုင်များသည် ကုမ္ပဏီ၏အဆင့်မြင့်ဆုံး AI မော်ဒယ်နှစ်ခုကို ဇွန် ၁၂ ရက်ကတည်းက အော့ဖ်လိုင်းတွင်ထားရှိသည့် ပို့ကုန်ကန့်သတ်ချက်များကို ရုတ်သိမ်းပြီးနောက် Claude Fable 5 နှင့် Mythos 5 တို့ကို အများသူငှာအသုံးပြုခွင့် ပြန်လည်ရရှိမည်ဖြစ်ကြောင်း Anthropic မှ ပြောကြားခဲ့သည်။

Anthropic ၏ အဆိုအရ အဆိုပါ ဆုံးဖြတ်ချက်သည် အမေရိကန် အစိုးရနှင့် “အကျိုးရှိသော စကားဝိုင်းများ” ကို လုပ်ဆောင်ခဲ့ပြီး၊ ထို့နောက်တွင် ကုမ္ပဏီသည် ဆိုက်ဘာလုံခြုံရေးနှင့် ဆက်နွှယ်သည့် လုပ်ငန်းများကို ခွဲခြားသတ်မှတ်ရန် ဒီဇိုင်းထုတ်ထားသော အမျိုးအစားခွဲအသစ်များဖြင့် မော်ဒယ်များကို ပြန်လည်အသုံးချလာခဲ့သည်။

စနစ်များကို jailbreak နည်းလမ်းများဖြင့် ကျော်ဖြတ်ပါက နောက်ဆုံးပေါ် အကာအကွယ်များသည် အလွဲသုံးစားလုပ်မှုနှင့် ဆက်စပ်နေသည့် အစိုးရ၏စိုးရိမ်မှုများကို ဖြေရှင်းရန် ရည်ရွယ်ထားကြောင်း ကုမ္ပဏီက ပြောကြားခဲ့သည်။

ကန့်သတ်ချက်များကြောင့် Anthropic သည် အသုံးပြုသူအားလုံးအတွက် Fable 5 နှင့် Mythos 5 ကို ယခုလအစောပိုင်းတွင် ဝင်ရောက်ခွင့်ကို ရပ်ဆိုင်းထားရန် ကုမ္ပဏီအား အမေရိကန်အစိုးရ၏ ပို့ကုန်ထိန်းချုပ်ရေး ညွှန်ကြားချက်တွင် ညွှန်ကြားခဲ့ပြီးနောက် နိုင်ငံရပ်ခြားနိုင်ငံသားအားလုံးအတွက် မော်ဒယ်နှစ်မျိုးလုံးကို ပိတ်ဆို့ထားခဲ့သည်။

ဇွန်လ ၁၃ ရက်နေ့ ကြေညာချက်အဆိုပါအမိန့်သည် ကုမ္ပဏီအတွင်း အလုပ်လုပ်နေသော နိုင်ငံခြား-နိုင်ငံသားဝန်ထမ်းများကိုလည်း အကျုံးဝင်စေပြီး လိုက်နာမှုသေချာစေရန် မော်ဒယ်များကို လုံးဝပိတ်ထားရန် လှုံ့ဆော်ခဲ့သည်ဟု Anthropic မှ ပြောကြားခဲ့သည်။

ပြန်လည်သုံးသပ်ပြီးနောက် အမေရိကန်အစိုးရသည် ပြန်လည်နေရာချထားမှုကို ရှင်းလင်းခဲ့သည်။

မော်ဒယ်ကို အမေရိကန်အစိုးရလိုအပ်ချက်များနှင့် လိုက်လျောညီထွေဖြစ်အောင် ထိန်းသိမ်းထားစဉ် Fable 5 ကို ပြန်လည်သုံးသပ်ပြီး အတည်ပြုရန် တာဝန်ရှိသူများက Anthropic နှင့် လွန်ခဲ့သည့် သီတင်းနှစ်ပတ်အတွင်း လုပ်ဆောင်ခဲ့ကြောင်း အမေရိကန် ကူးသန်းရောင်းဝယ်ရေးဝန်ကြီး Howard Lutnick က ဗုဒ္ဓဟူးနေ့တွင် ပြောကြားခဲ့သည်။

အိမ်ဖြူတော် ဦးစီးအရာရှိ Susie Wiles ကလည်း အစိုးရ၏ ဦးစားပေးသည် အကောင်းဆုံး AI နည်းပညာကို တတ်နိုင်သမျှ မြန်မြန်နှင့် ဘေးကင်းစွာ အသုံးပြုနိုင်စေရန် ဖြစ်ကြောင်း X တွင် ပြောကြားခဲ့သည်။

Amazon မှ သုတေသီများသည် Fable 5 ၏ အကာအကွယ်များကို ကျော်လွှားပြီး ဆော့ဖ်ဝဲလ် အားနည်းချက်များကို ရှာဖွေဖော်ထုတ်ရန် နည်းလမ်းတစ်ခုကို Amazon မှ သုတေသီများ ရှာဖွေတွေ့ရှိခဲ့သည့် အစီရင်ခံစာကို တာဝန်ရှိသူများမှ သိရှိလာပြီးနောက် ကြားဝင်ဆောင်ရွက်ပေးခဲ့ခြင်း ဖြစ်သည်။

ဒါပေမယ့် မနုဿ ရှိတယ်။ စောဒကတက်သည်။ အားနည်းသော မော်ဒယ်များသည် တူညီသော အားနည်းချက်များကို ဖော်ထုတ်နိုင်ပြီး အလားတူ exploit နှင့် ပတ်သက်သော output ကိုလည်း ထုတ်လုပ်နိုင်သည်ဟု ဆိုကာ အဆိုပါ ပြဿနာသည် Fable 5 အတွက် ထူးခြားမှု မဟုတ်ကြောင်း ပြောကြားခဲ့သည်။

အဆိုပါအမိန့်အပေါ် ၎င်း၏အစောပိုင်းတုံ့ပြန်မှုတွင်၊ အာဏာပိုင်များသည် ကျဉ်းမြောင်းပြီး universal မဟုတ်သော jailbreak အဖြစ်ဖော်ပြသည့်အရာများကို အာဏာပိုင်များက နှုတ်ဖြင့်သာတင်ပြခဲ့သည်ဟု ကုမ္ပဏီက ပြောကြားခဲ့သည်။ အဆိုပါနည်းလမ်းသည် universal jailbreak နှင့်မတူဘဲ အလုပ်များစွာတွင် မော်ဒယ်၏ဘေးကင်းရေးအကာအကွယ်များကို ဖယ်ရှားမည်မဟုတ်ကြောင်း Anthropic မှပြောကြားခဲ့သည်။

“ ကျဉ်းမြောင်းသော jailbreak ဖြစ်နိုင်ချေကို ရှာဖွေတွေ့ရှိခြင်းသည် လူသန်းပေါင်းများစွာအတွက် အသုံးပြုထားသည့် စီးပွားဖြစ်မော်ဒယ်ကို ပြန်လည်ခေါ်ယူရခြင်း၏ အကြောင်းရင်းဖြစ်သင့်သည်ဟု ကျွန်ုပ်တို့သဘောမတူပါ။ ဤစံနှုန်းကို လုပ်ငန်းနယ်ပယ်အနှံ့ ကျင့်သုံးပါက၊ နယ်ခြားမော်ဒယ်လ်ဝန်ဆောင်မှုပေးသူအားလုံးအတွက် မော်ဒယ်အသစ် ဖြန့်ကျက်မှုအားလုံးကို ရပ်တန့်သွားလိမ့်မည်ဟု ယုံကြည်ပါသည်။”

စီးပွားဖြစ် နယ်နိမိတ်ပုံစံကို ပြန်လည်သိမ်းဆည်းရန် အကြောင်းပြချက်အဖြစ် ကျဉ်းမြောင်းသော jailbreak ကို ကုသခြင်းသည် ယေဘုယျစံအဖြစ် ကျင့်သုံးပါက AI လုပ်ငန်းတစ်ခုလုံးကို ထိခိုက်စေနိုင်ကြောင်း ကုမ္ပဏီက သတိပေးထားသည်။

Anthropic အပေါ် ကန့်သတ်ချက်များသည် အမေရိကန်ပြင်ပတွင် မူဝါဒဆိုင်ရာ စိုးရိမ်မှုများကို မြင့်တက်လာစေသည်။ ဇွန်လ ၂၉ ရက်နေ့တွင် သြစတြီးယား၊ တိုက်တွန်းခဲ့သည်။ ဥရောပသမဂ္ဂသည် အစုအဖွဲ့အတွင်း Anthropic တည်ထောင်ရန် စူးစမ်းလေ့လာရန်၊ ဒစ်ဂျစ်တယ်အသွင်ကူးပြောင်းရေးဆိုင်ရာ နိုင်ငံခြားရေးဝန်ကြီး Alexander Proell က အခြားနေရာများတွင် ပြုလုပ်ခဲ့သော ဆုံးဖြတ်ချက်များကြောင့် ဥရောပ၏ အဓိက AI တိုးတက်မှုများကို လက်လွတ်မခံသင့်ကြောင်း စာတစ်စောင်၌ ငြင်းခုံခဲ့သည်။

Anthropic သည် AI လုံခြုံရေးဆိုင်ရာ ပူးပေါင်းဆောင်ရွက်မှုကို ချဲ့ထွင်သည်။

မော်ဒယ်ပြန်လည်နေရာချထားခြင်းနှင့်အတူ Anthropic က မော်ဒယ်စမ်းသပ်မှု၊ အကာအကွယ်များနှင့် အလွဲသုံးစားမှုခြေရာခံခြင်းအတွက် အမေရိကန်အစိုးရနှင့် ပူးပေါင်းဆောင်ရွက်မှုကို တိုးမြှင့်လုပ်ဆောင်နေသည်ဟု Anthropic မှ ပြောကြားခဲ့သည်။ အကဲဖြတ်ရန်အတွက် မော်ဒယ်များနှင့် ဘေးကင်းရေးစနစ်များသို့ ကြိုတင်ဖြန့်ချိခွင့်၊ jailbreaks နှင့် အလွဲသုံးစားမှုဆိုင်ရာ အချက်အလက်မျှဝေခြင်းနှင့် ပူးတွဲသုတေသနအတွက် သီးသန့်အရင်းအမြစ်များ ပါဝင်မည်ဖြစ်ကြောင်း ကုမ္ပဏီက ပြောကြားခဲ့သည်။

Anthropic သည် Amazon၊ Microsoft၊ Google နှင့် အခြားသော ပါတနာများမှတဆင့် မူဘောင်တစ်ခု စတင်ရေးဆွဲနေပြီဖြစ်သည်။ စီမံကိန်း GlasswingAI jailbreaks ၏ပြင်းထန်မှုကို အကဲဖြတ်ရန် ဆိုက်ဘာလုံခြုံရေး ပူးပေါင်းဆောင်ရွက်မှုကို ဧပြီလတွင် ကြေညာခဲ့သည်။ Jailbreak အန္တရာယ်များကို အမျိုးအစားခွဲရန်အတွက် မူဘောင်ကို အများသဘောတူ ကြိုးပမ်းမှုအဖြစ် ရေးဆွဲထားကြောင်း ကုမ္ပဏီမှ ပြောကြားခဲ့သည်။

Anthropic သည် တင်းကျပ်သော နယ်ခြားစောင့် AI ကြီးကြပ်မှုအတွက် တင်းကျပ်သော တွန်းအားပေးမှုကို ဆက်လက်လုပ်ဆောင်နေသောကြောင့် ဝင်ရောက်ဆွေးနွေးမှု ဖြစ်လာခဲ့သည်။ ကုမ္ပဏီသည် ၎င်း၏ဇွန်လ 11 “AI Exponential ပေါ်လစီ” အဆိုပြုချက်တွင်၊ ခေါ်တယ်။ စမ်းသပ်မှုလိုအပ်ချက်များ၊ အမှီအခိုကင်းသော အကဲဖြတ်မှုများ၊ ဆိုက်ဘာလုံခြုံရေးစံနှုန်းများနှင့် အလားအလာရှိသော ဇီဝဗေဒ၊ ဆိုက်ဘာလုံခြုံရေးနှင့် လုပ်ငန်းလည်ပတ်မှုဆိုင်ရာ အန္တရာယ်များကို ကိုးကား၍ အဆင့်မြင့် AI စနစ်များအတွက် လိုက်နာမှုအစီအမံများ။