အမေရိကန်အစိုးရ၏ ညွှန်ကြားချက်အရ အော့ဖ်လိုင်းဆွဲထုတ်ခံရပြီးနောက် သီတင်းပတ်အကြာတွင် ၎င်းတို့၏ အစွမ်းထက်ဆုံး AI မော်ဒယ်များဖြစ်သည့် Claude Fable 5 နှင့် Mythos 5 တို့ကို Anthropic အတုကုမ္ပဏီ Anthropic မှ ပြန်လည်ရယူရန် စီစဉ်နေပြီဖြစ်သည်။
သုတေသီများသည် Fable 5 ၏ အကာအကွယ်များကို ကျော်လွှားကာ Anthropic ၏ မော်ဒယ်များထံ ချက်ချင်းဝင်ရောက်ခွင့်ကို ချက်ချင်းဆွဲထုတ်ခိုင်းသည့် အစီရင်ခံစာတစ်ခုအပြီးတွင် Anthropic ၏ ပို့ကုန်ထိန်းချုပ်မှုများကို အစိုးရက အသုံးချခဲ့သည့် အစီရင်ခံစာတစ်ခုအပြီးတွင် Anthropic ၏ နောက်ဆုံးထွက်မော်ဒယ်နှစ်ခုကို အများပြည်သူအသုံးပြုခွင့်ကို ဇွန်လ ၁၂ ရက်ကတည်းက ကန့်သတ်ထားသည်။ အစိုးရက အဆိုပါ ကန့်သတ်ချက်များကို ဗုဒ္ဓဟူးနေ့တွင် ရုတ်သိမ်းခဲ့သည်။ ဖော်ပြခဲ့သည်။ မနုဿ။
“ အမေရိကန်အစိုးရနှင့် အကျိုးရှိစွာ ပြောဆိုမှုများ ဆက်တိုက်ပြုလုပ်ပြီးနောက်၊ ဆိုက်ဘာလုံခြုံရေးလုပ်ဆောင်မှုများကို ပစ်မှတ်ထားကာ ပိုမိုပိတ်ဆို့ရန်အတွက် အမျိုးအစားခွဲကိရိယာအသစ်များဖြင့် မော်ဒယ်ကို ပြန်လည်အသုံးပြုနေသည်” ဟု Anthropic ဟုဆိုသည်။.
မော်ဒယ်များကို ဆိုင်းငံ့လိုက်ခြင်းကြောင့် နယ်စပ်ဒေသအပေါ် ပြည်နယ်ထိန်းချုပ်မှုအပေါ် စိုးရိမ်မှုများ မြင့်တက်လာခဲ့သည်။ AI နည်းပညာ နှင့် အန္တရာယ်ရှိသော စံနမူနာကို သတ်မှတ်ပါ။ပညာရှင်များနှင့် နည်းပညာရှင်များထံမှ သိရသည်။ အဆိုပါ အားကောင်းမောင်းသန်မော်ဒယ်များကို ထောင်ဖောက်ပြီး အန္တရာယ်ရှိသော ရည်ရွယ်ချက်များအတွက် အသုံးပြုပါက ပို့ကုန်ထိန်းချုပ်မှုများသည် အမျိုးသားဆိုက်ဘာလုံခြုံရေး ခြိမ်းခြောက်မှုဖြစ်နိုင်ချေရှိသော အမျိုးသားဆိုက်ဘာလုံခြုံရေး ခြိမ်းခြောက်မှုနှင့်ပတ်သက်၍ အိမ်ဖြူတော်၏စိုးရိမ်မှုကို မီးမောင်းထိုးပြထားသည်။
အကောင်းဆုံးနည်းပညာများ အသုံးချခွင့်ရရေးသည် ဦးစားပေးဖြစ်သည်။
အမေရိကန် ကူးသန်းရောင်းဝယ်ရေးဝန်ကြီး Howard Lutnick ဟုဆိုသည်။ ဗုဒ္ဓဟူးနေ့တွင် X တွင် “ လွန်ခဲ့သည့် နှစ်ပတ်ကျော်အတွင်း၊ ကျွန်ုပ်တို့သည် အမေရိကန်အစိုးရတစ်ဝှမ်းလုံးတွင် လိုက်လျောညီထွေရှိစေရန်နှင့် AI တွင် အမေရိကန်၏ခေါင်းဆောင်မှုအားကောင်းလာစေရန် Fable 5 ကို ခွဲခြမ်းစိတ်ဖြာအတည်ပြုရန်နှင့် အတည်ပြုရန် Anthropic နှင့် အနီးကပ်ပူးပေါင်းဆောင်ရွက်ခဲ့ပါသည်။”
ထိုအတောအတွင်း အိမ်ဖြူတော် ဦးစီးချုပ် Susie Wiles ဟုဆိုသည်။ X တွင် အစိုးရ၏ ဦးစားပေးသည် “ အကောင်းဆုံးကို ရရန် ကျန်နေပါသည်။ [AI] နည်းပညာကို တတ်နိုင်သမျှ မြန်မြန်နဲ့ ဘေးကင်းစွာ ဖြန့်ကျက်ထားပါတယ်။”
ဆက်စပ်- AI သုတေသီက သူသည် Anthropic ၏ Fable 5 အစောင့်အကြပ်များကို ကျော်ဖြတ်နေပြီဟု ဆိုထားသည်။
Fable 5 ၏ အကာအကွယ်များကို ကျော်လွှားနိုင်သည့် နည်းလမ်းကို Amazon မှ သုတေသီများက တွေ့ရှိခဲ့သည့် အစီရင်ခံစာကို အစိုးရမှ သိရှိလာပြီးနောက် ကန့်သတ်ချက်များသည် ဆော့ဖ်ဝဲလ်၏ အားနည်းချက်များစွာကို ဖော်ထုတ်ရန် မော်ဒယ်ကို လှုံ့ဆော်ပေးခဲ့သည်။
တစ်ထဲမှာ ဘလော့ဂ်ပို့စ်အားနည်းသော မော်ဒယ်များသည် တူညီသော အားနည်းချက်များကို ဖော်ထုတ်နိုင်ပြီး တူညီသော exploit ကို ထုတ်လုပ်နိုင်သောကြောင့် ၎င်းသည် Fable 5 အတွက် ထူးခြားသော အန္တရာယ်မဟုတ်ကြောင်း Anthropic မှ စောဒကတက်ခဲ့သည်။
AI jailbreak အမျိုးအစားများကို အဆိုပြုထားသည်။
Anthropic သည် Amazon၊ Microsoft၊ Google နှင့် အခြားလုပ်ဖော်ကိုင်ဖက်များနှင့် သဘောတူညီမှု မူဘောင်တစ်ခုကို စတင်ရေးဆွဲနေပြီဖြစ်သည်။ စီမံကိန်း Glasswing — “AI jailbreaks များ၏ ပြင်းထန်မှုကို အကဲဖြတ်ခြင်း” အတွက် AI ဆိုက်ဘာလုံခြုံရေး ခြိမ်းခြောက်မှုများကို ကာကွယ်ရန် ဧပြီလတွင် ကြေငြာခဲ့သည့် ပူးပေါင်းဆောင်ရွက်မှု။
Anthropic ၏ဆိုက်ဘာလုံခြုံရေးဘေးကင်းရေးအမျိုးအစားခွဲခြားမှုများနှင့် jailbreaks များသည်ဘေးကင်းရေးအမျိုးအစားခွဲခြားမှုများနှင့်မည်ကဲ့သို့အကျိုးသက်ရောက်သည်။ အရင်းအမြစ်- မနုဿ
ကုမ္ပဏီသည် AI မော်ဒယ်စမ်းသပ်မှုနှင့် အကာအကွယ်များဆိုင်ရာ အမေရိကန်အစိုးရနှင့် ပူးပေါင်းလုပ်ဆောင်နေပါသည်။ “ ၎င်းတွင် အကဲဖြတ်ရန်အတွက် မော်ဒယ်များထံ ကြိုတင်ဖြန့်ချိခွင့်နှင့် အကဲဖြတ်ရန် အကာအကွယ်များ၊ jailbreaks နှင့် အလွဲသုံးစားမှုဆိုင်ရာ သတင်းအချက်အလက်မျှဝေခြင်းနှင့် ပူးတွဲသုတေသနအတွက် သီးသန့်အရင်းအမြစ်များ ပါဝင်လိမ့်မည်” ဟု ၎င်းကဆိုသည်။
လူသိများသော AI သုတေသနပညာရှင်တစ်ဦးရှိသည်ဟု ဆိုထားသည်။ jailbroken Fable 5 ဇွန်လတွင် စတင်ရောင်းချပြီး ၄၈ နာရီအတွင်း အစိုးရ၏ ကန့်သတ်ချုပ်ချယ်မှုများ မတိုင်မီနှင့် မော်ဒယ်၏ လုံခြုံရေးအကာအရံများကို ကျော်ဖြတ်သွားပုံကို ပြသသည့် စခရင်ပုံများ မျှဝေခဲ့သည်။
မဂ္ဂဇင်း- AI သည် အာဖရိကရှိ ဘဏ်ခွဲမရှိသူများကို ဘဏ်စာရင်းသွင်းနေသည်… crypto ထက် ပိုမြန်သည်။
Comments are closed, but trackbacks and pingbacks are open.