Jan Leike သည် Anthropic ၏ အံဝင်ခွင်ကျ သိပ္ပံအဖွဲ့ကို ဦးဆောင်ကာ AI ဘေးကင်းရေး သုတေသနကို နှစ်ဆတိုးခဲ့သည်။

AI alignment research တွင် အထင်ရှားဆုံးအမည်များထဲမှ တစ်ခုဖြစ်သည့် Jan Leike သည် Anthropic ရှိ Alignment Science အဖွဲ့ကို ဦးဆောင်နေသည်။ သူ၏အသက်မွေးဝမ်းကြောင်းကို သတ်မှတ်ပေးထားသည့် စည်းကမ်းနှင့် ဝေးကွာသော Leike သည် ပိုမိုနက်ရှိုင်းလာပုံရပြီး AI စနစ်များသည် လူသားများ အမှန်တကယ်လုပ်ဆောင်စေလိုသည့်အတိုင်း လုပ်ဆောင်ရန် အခက်ခဲဆုံးပြဿနာအချို့အတွက် ရည်ရွယ်သည့် သုတေသနပရိုဂရမ်များကို ဖန်တီးတည်ဆောက်နေပုံရသည်။

နယ်နိမိတ်တွင် AI ဘေးကင်းရေး လုပ်ဆောင်နေသူများ၏ စကြဝဠာအသေးစားကို ခြေရာခံသူတိုင်းအတွက်၊ Leike ၏ Anthropic matters တွင် နေရာချထားခြင်း။ ၎င်းသည် 2024 ခုနှစ် မေလတွင် OpenAI မှ လူသိရှင်ကြား ထွက်ခွာသွားခဲ့သော သုတေသီဖြစ်ပြီး ကုမ္ပဏီ၏ ဘေးကင်းရေး ကတိကဝတ်နှင့် ပတ်သက်၍ ထောက်ပြသော စိုးရိမ်ပူပန်မှုများ တိုးပွားလာခဲ့သည်။ အခုတော့ သူအဲဒီမှာ မတည်ဆောက်နိုင်ခဲ့တဲ့ အသင်းမျိုးကို တည်ဆောက်နေပါတယ်။

Leike အမှန်တကယ်လုပ်ဆောင်နေသည့်အရာ

Anthropic ရှိ Alignment Science အဖွဲ့သည် လိမ်လည်လွယ်သည်ဟု ထင်ရသော်လည်း လက်တွေ့တွင် အလွန်ခက်ခဲသော ပြဿနာအစုံကို အာရုံစိုက်ထားသည်။ အဓိကစိန်ခေါ်မှု- လူသားများကိုယ်တိုင် ရလဒ်ကို အကဲဖြတ်ရန် ရုန်းကန်နေရသော အလုပ်များတွင် မှန်ကန်စွာ ပြုမူနေထိုင်ရန် AI စနစ်အား သင်မည်ကဲ့သို့ လေ့ကျင့်ပေးသနည်း။

Leike ၏အဖွဲ့သည် ထောင့်ပေါင်းစုံမှ တိုက်ခိုက်နေပါသည်။ အလုပ်တစ်ကြောင်းတွင် အတိုင်းအတာတစ်ခုအထိ ကြီးကြပ်မှုပါ၀င်သည်၊ အဓိကအားဖြင့် လူသားများသည် AI စနစ်များပေါ်တွင် အဓိပ္ပါယ်ရှိသော ထိန်းချုပ်မှုကို ထိန်းသိမ်းနိုင်စေမည့် နည်းစနစ်များကို တီထွင်ဖန်တီးထားသောကြောင့် ယင်းစနစ်များသည် ၎င်းတို့၏ကြီးကြပ်မှူးများထက် ပိုစွမ်းဆောင်နိုင်မည်ဖြစ်သည်။ နောက်တစ်ခုက အားနည်းမှ ခိုင်ခံ့သော ယေဘုယျ အသွင်ကူးပြောင်းမှုကို အာရုံစိုက်သည်၊၊ အားနည်းသော မော်ဒယ်၏ ချိန်ညှိမှု ဂုဏ်သတ္တိများကို ပိုမိုအားကောင်းသည့် အရာတစ်ခုသို့ လွှဲပြောင်းပေးနိုင်သည့် အယူအဆကို အာရုံစိုက်သည်။

AI စနစ်များကို ၎င်းတို့၏ ဘေးကင်းရေး လမ်းညွှန်ချက်များကို လျစ်လျူရှုခြင်းမှ လှည့်ဖြားခြင်းမှ ကာကွယ်သည့် cat-and-mouse ဂိမ်းကို ကိုင်တွယ်ဖြေရှင်းသည့် jailbreaks အတွက် ကြံ့ခိုင်မှုလည်း လုပ်ဆောင်ပါသည်။ ရည်မှန်းချက်ကြီးကြီးမားမားဖြင့်၊ အဖွဲ့သည် စိတ်ကူးများကို အဆိုပြုရန်နှင့် ချိန်ညှိမှုနည်းပညာဆိုင်ရာ စမ်းသပ်မှုများကို လုပ်ဆောင်ရန် လုံလောက်သော AI အေးဂျင့်များကို အသုံးပြုကာ အလိုအလျောက်ချိန်ညှိခြင်းဆိုင်ရာ သုတေသနကို လုပ်ဆောင်နေပါသည်။

OpenAI နောက်ခံသမိုင်း

Leike ၏ Anthropic သို့သွားရာလမ်းကြောင်းသည် ကမ္ဘာပေါ်ရှိ အထင်ရှားဆုံး AI ဓာတ်ခွဲခန်းနှစ်ခုကို ဖြတ်သန်းသည်။ သူသည် 2021 ခုနှစ်တွင် OpenAI တွင်မပါဝင်မီ DeepMind တွင်အလုပ်လုပ်ခဲ့ပြီး 2023 ခုနှစ်ဇွန်လတွင်တည်ထောင်ခဲ့သော Superalignment ပရောဂျက်ကိုပူးတွဲဦးဆောင်ကာ superintelligent AI စနစ်များအတွက်အထူးပစ်မှတ်ထားသောချိန်ညှိမှုကိုပစ်မှတ်ထားခဲ့သည်။

OpenAI သုတေသီဟောင်း Dario နှင့် Daniela Amodei တို့မှ တည်ထောင်ထားသော Anthropic သည် AI ကုမ္ပဏီများကြားတွင် ဘေးကင်းရေး ပထမဆုံးရွေးချယ်စရာအဖြစ် ရပ်တည်ခဲ့သည်။ သူသည် 2024 ခုနှစ် မေလတွင် Anthropic သို့ဝင်ရောက်ခဲ့ပြီး အဓိကအားဖြင့် OpenAI မှထွက်သည့်လတည်းကပင်။

ဒါက AI ဘေးကင်းရေးရှုခင်းအတွက် ဘာကိုဆိုလိုလဲ။

ပိုမိုကျယ်ပြန့်သောနယ်ပယ်အတွက်၊ Anthropic ၏ဘလော့ဂ်နှင့် ၎င်း၏ကိုယ်ရေးကိုယ်တာ Substack တွင်အလုပ်လုပ်ခြင်းအပါအဝင် Leike ၏တက်ကြွသောထုတ်ဝေမှုမှတ်တမ်းသည် သူ၏သုတေသနပြုချက်သည် အခြားဓာတ်ခွဲခန်းများနှင့် ပညာရပ်ဆိုင်ရာအုပ်စုများ ပေါင်းစပ်မှုအပေါ် မည်သို့သက်ရောက်မှုရှိသည်ကို ဆိုလိုသည်။ အထူးသဖြင့် အားနည်းမှ အားကောင်းသည့် ယေဘုယျသတ်မှတ်ခြင်းနှင့် အလိုအလျောက် ချိန်ညှိခြင်းဆိုင်ရာ သုတေသနပြုခြင်း နှင့် ပတ်သက်၍ သူ၏အဖွဲ့မှ ထွက်ပေါ်လာသော အကြံဥာဏ်များသည် လုပ်ငန်းနယ်ပယ်အနှံ့ သုတေသနအစီအစဉ်ကို ပုံဖော်လျက်ရှိသည်။