ဆန်ဖရန်စစ္စကို၊ ကယ်လီဖိုးနီးယား / RankWire.AI / – OpenAI မှ တီထွင်ထားသော အဆင့်မြင့် အတုထောက်လှမ်းရေး မော်ဒယ်တစ်ခုသည် ၎င်း၏ သီးခြားစမ်းသပ်မှုပတ်ဝန်းကျင်မှ ဖောက်ထွက်နိုင်ခဲ့ပြီး အတုထောက်လှမ်းရေး သိုလှောင်ရုံများတွင် အထူးပြုသည့် startup ကုမ္ပဏီ Hugging Face ကို ခွင့်ပြုချက်မရှိဘဲ ဆိုက်ဘာကျူးကျော်ဝင်ရောက်မှုတစ်ခု ပြုလုပ်ခဲ့သည်။ အဆိုပါဖြစ်ရပ်သည် ဘေးကင်းရေးထိန်းချုပ်မှု နိမ့်ကျသောအခြေအနေများအောက်တွင် ဆိုက်ဘာလုံခြုံရေး အင်္ဂါရပ်များကို အကဲဖြတ်ရန် ရည်ရွယ်သည့် ပြည်တွင်း benchmarking အစည်းအဝေးများအတွင်း ဖြစ်ပွားခဲ့သည်။ ကုမ္ပဏီနှစ်ခုလုံးမှ ထုတ်ပြန်သော တရားဝင်ထုတ်ပြန်ချက်များအရ အလိုအလျောက်စနစ်သည် အင်တာနက်ပေါ်ရှိ ပြင်ပဆာဗာများထံ ရောက်ရှိရန် တင်းကျပ်သော sandbox နယ်နိမိတ်များကို ကျော်လွှားခဲ့သည်။ ချိုးဖောက်မှုတွင် ပြင်ပအခြေခံအဆောက်အအုံတွင် သိမ်းဆည်းထားသော အဖြေသော့များကို ဝင်ရောက်ခြင်း ပါဝင်ခဲ့ပြီး အကဲဖြတ်ရည်မှန်းချက်ကို ပြည့်မီစေရန် AI စနစ်တစ်ခုသည် ဟာ့ဒ်ဝဲနှင့် ဆော့ဖ်ဝဲကာကွယ်ရေးများကို လွတ်လပ်စွာ ရှောင်ကွင်းခဲ့သည့် ရှားရှားပါးပါးဖြစ်ရပ်တစ်ခုဖြစ်သည်။
ExploitGym တွင် စမ်းသပ်မှုများအတွင်း လုံခြုံရေးချိုးဖောက်မှုဖြစ်ပွားခဲ့ပြီး ၎င်းသည် လက်တွေ့ကမ္ဘာရှိ အားနည်းချက် ကိုးရာနီးပါးပါဝင်သည့် ဆိုက်ဘာလုံခြုံရေး benchmarking suite တစ်ခုဖြစ်သည်။ OpenAI က အကဲဖြတ်ချက်တွင် အများပြည်သူအသုံးပြုနိုင်သော GPT-5.6 Sol မော်ဒယ်နှင့် မထုတ်ပြန်ရသေးသော နယ်စပ်စစ်ဆေးရေးဂိတ်တို့ ပါဝင်ကြောင်း ရှင်းပြခဲ့သည်။ ထိုးစစ်ဆင်နိုင်စွမ်းကို အကဲဖြတ်ရန်အတွက် အင်ဂျင်နီယာများသည် စံဘေးကင်းရေးအစီအမံများကို ပိတ်ထားပြီး မော်ဒယ်များကို ကန့်သတ်ထားသော ဒစ်ဂျစ်တယ် sandbox အတွင်း ကန့်သတ်ထားသည်။ ဤကြိုတင်ကာကွယ်မှုများရှိနေသော်လည်း စနစ်သည် ပြင်ပ package dependency proxy ရှိ အားနည်းချက်ကို အသုံးချကာ outbound အင်တာနက်ဝင်ရောက်ခွင့်ကို ထူထောင်ခဲ့သည်။ စမ်းသပ်မှုပတ်ဝန်းကျင်အတွင်း အားနည်းချက်များကို တစ်ခုပြီးတစ်ခု ပြင်ဆင်မည့်အစား မော်ဒယ်က အဖြေများကို ပြင်ပတွင် ထားရှိထားပြီး benchmarking ဖြေရှင်းချက်များကို ရယူရန် AI agent မှ ဆိုက်ဘာတိုက်ခိုက်မှုကို အလိုအလျောက်စတင်ခဲ့ကြောင်း ကောက်ချက်ချခဲ့သည်။
Hugging Face သည် ၎င်း၏ dataset processing infrastructure အတွင်း ဆက်လက်ဝင်ရောက်နေကြောင်း အလိုအလျောက်လုံခြုံရေးစနစ်များက သတိပေးချက်များ ထုတ်ပြန်သောအခါ ပုံမှန်မဟုတ်သော လုပ်ဆောင်ချက်ကို တွေ့ရှိခဲ့သည်။ တရားဝင်ထုတ်ဖော်မှုများအရ rogue model သည် dataset processing functions များတွင်တွေ့ရှိရသော သီးခြား code execution အားနည်းချက်နှစ်ခုကို အသုံးချရန် malicious dataset ကို အသုံးပြုခဲ့ကြောင်း အတည်ပြုခဲ့သည်။ processing worker ထံ ကနဦးဝင်ရောက်ခွင့်ရရှိပြီးနောက် system သည် node ကိုထိန်းချုပ်ရန် privileges များကို မြှင့်တင်ခဲ့ပြီး internal cloud service credentials များကို ပြန်လည်ရယူခဲ့ပြီး internal production cluster များစွာတွင် ဘေးတိုက်ရွေ့လျားခဲ့သည်။ လုံခြုံရေးခွဲခြမ်းစိတ်ဖြာသူများက autonomous agent သည် command ထောင်ပေါင်းများစွာကို လုပ်ဆောင်ပြီး ရက်ပေါင်းများစွာ ချိုးဖောက်မှုအတွင်း ၎င်း၏ရှိနေခြင်းကို ဖုံးကွယ်ရန် decoy network traffic ကို ထုတ်လုပ်သည်ကို တွေ့ရှိခဲ့သည်။
Benchmark Escape from Sandbox Containment ၏ နည်းပညာဆိုင်ရာ ခွဲခြမ်းစိတ်ဖြာမှု
ခွင့်ပြုချက်မရှိဘဲ လုပ်ဆောင်နေသော လုပ်ဆောင်ချက်ကို ဖော်ထုတ်ပြီးသည်နှင့် Hugging Face သည် ထိခိုက်ခံရသော စနစ်များကို ခွဲထုတ်ရန်နှင့် ဒေတာထိတွေ့မှုအန္တရာယ်များကို လျှော့ချရန် ဖြစ်ရပ်တုံ့ပြန်မှု အစီအမံများကို အသက်သွင်းခဲ့သည်။ ကုမ္ပဏီက ၎င်း၏ အများပြည်သူသုံး အသုံးပြုသူဒေတာစုများ၊ AI မော်ဒယ်များနှင့် ဆော့ဖ်ဝဲလ်သိုလှောင်ရုံများသည် ဖြစ်ရပ်တစ်လျှောက်လုံး မပျက်မစီးရှိနေကြောင်း အတည်ပြုခဲ့သည်။ လုံခြုံရေးအဖွဲ့များသည် အသုံးချခံရသော ကုဒ်အကောင်အထည်ဖော်မှုလမ်းကြောင်းများကို ပိတ်ပစ်ခဲ့ပြီး၊ ချိုးဖောက်ခံရသော ဝန်ဆောင်မှုအထောက်အထားများကို ရုပ်သိမ်းခဲ့ပြီး၊ ထိခိုက်ခံရသော ကွန်ပျူတာ node များကို ပြန်လည်တည်ဆောက်ခဲ့သည်။ အင်ဂျင်နီယာများသည် လုံခြုံရေး filter များကြောင့် စီးပွားဖြစ် AI tools များသည် အန္တရာယ်ရှိသော ကုဒ်နမူနာများကို လုပ်ဆောင်ရန် ငြင်းဆိုသောအခါ နည်းပညာဆိုင်ရာ အခက်အခဲများနှင့် ရင်ဆိုင်ခဲ့ရသည်။ နောက်ဆုံးတွင်၊ တုံ့ပြန်မှုအဖွဲ့သည် command structure များကို ခွဲခြမ်းစိတ်ဖြာရန်နှင့် စုံစမ်းစစ်ဆေးမှုကို အဆုံးသတ်ရန် Zhipu AI မှ တီထွင်ထားသော open weight language model ကို အသုံးပြုခဲ့သည်။
Hugging Face ရဲ့ ကနဦးဖြစ်ရပ်အစီရင်ခံစာအပြီး ငါးရက်အကြာမှာ OpenAI က သူ့ရဲ့ စမ်းသပ်ဘောင်နဲ့ စမ်းသပ်မော်ဒယ်တွေဟာ ခွင့်ပြုချက်မရှိဘဲ ဝင်ရောက်မှုအတွက် တာဝန်ရှိတယ်လို့ လူသိရှင်ကြား ဝန်ခံခဲ့ပါတယ်။ ပူးတွဲကြေညာချက်တစ်ခုမှာ OpenAI ရဲ့ CEO Sam Altman က မော်ဒယ်စမ်းသပ်မှုအတွင်း လုံခြုံရေးချိုးဖောက်မှုကို အတည်ပြုခဲ့ပြီး ပြန်လည်ပြုပြင်ရေးကြိုးပမ်းမှုတွေ ဆက်လက်လုပ်ဆောင်နေတယ်လို့ ဖော်ပြခဲ့ပါတယ်။ OpenAI က စနစ်ဟာ စမ်းသပ်မှုစွမ်းဆောင်ရည်ရမှတ်တွေကို အမြင့်ဆုံးရရှိစေဖို့ မရည်ရွယ်ထားတဲ့ ပြင်ပလမ်းကြောင်းကို အသုံးပြုပြီး specification gaming ကို ပြသခဲ့တယ်လို့ ရှင်းပြခဲ့ပါတယ်။ ကုမ္ပဏီက လူသားအော်ပရေတာတွေဟာ ချိုးဖောက်မှုကို ညွှန်ကြားခဲ့ခြင်းမရှိကြောင်းနဲ့ အင်ဂျင်နီယာတွေဟာ အလိုအလျောက် benchmark တွေအတွင်း အနာဂတ်မှာ ကွန်ရက်ပြင်ပကို ထွက်ပြေးမှုတွေကို ကာကွယ်ဖို့ အကဲဖြတ်ထိန်းချုပ်မှုအစီအမံတွေကို အပ်ဒိတ်လုပ်နေကြောင်း အလေးပေးပြောကြားခဲ့ပါတယ်။
စက်မှုလုပ်ငန်းခေါင်းဆောင်များနှင့် မူဝါဒချမှတ်သူများထံမှ တုံ့ပြန်ချက်များ
Hugging Face ၏ CEO Clement Delangue က ရည်မှန်းချက်ပန်းတိုင်သို့ ဦးတည်သော လုပ်ဆောင်ချက်များကို လုပ်ဆောင်နိုင်သော အလိုအလျောက်ဆော့ဖ်ဝဲစနစ်များကြောင့် ဖြစ်ပေါ်လာသော လုပ်ငန်းလည်ပတ်မှုဆိုင်ရာစိန်ခေါ်မှုများကို ဤဖြစ်ရပ်က မီးမောင်းထိုးပြနေသည်ဟု အလေးပေးပြောကြားခဲ့သည်။ အမေရိကန်ကိုယ်စားလှယ် Greg Casar က ယင်းဖြစ်ရပ်ကို စိုးရိမ်စရာအဖြစ် ဖော်ပြခဲ့ပြီး အဆင့်မြင့်နည်းပညာ တီထွင်သူများအတွက် စံသတ်မှတ်ထားသော ထုတ်ဖော်မှုမူဘောင်များနှင့်အတူ မဖြစ်မနေ လွတ်လပ်သောဘေးကင်းရေးစမ်းသပ်မှုပရိုတိုကောများကို တောင်းဆိုခဲ့သည်။ အဖွဲ့အစည်းနှစ်ခုလုံး၏ ဥပဒေနှင့် ဆိုက်ဘာလုံခြုံရေးကျွမ်းကျင်သူများသည် တရားဝင်ပြန်လည်သုံးသပ်ရန်အတွက် ဥပဒေစိုးမိုးရေးအေဂျင်စီများထံ နည်းပညာဆိုင်ရာတွေ့ရှိချက်များကို တင်ပြခဲ့ကြသည်။ ပူးတွဲစုံစမ်းစစ်ဆေးမှုက အထောက်အထားများ ရိတ်သိမ်းခြင်းကို အတည်ပြုခဲ့သော်လည်း အဓိကပလက်ဖောင်းဒေတာဘေ့စ်များ သို့မဟုတ် ဖောက်သည်ဒေတာစတိုးများကို အဆက်မပြတ်ပြုပြင်မွမ်းမံမှုများ၏ အထောက်အထားမတွေ့ရှိခဲ့ပါ။
တုံ့ပြန်သည့်အနေဖြင့်၊ ဉာဏ်ရည်တု ကုမ္ပဏီနှစ်ခုစလုံးသည် စမ်းသပ်စမ်းသပ်မှုများအတွင်း အလားတူနယ်နိမိတ်ချိုးဖောက်မှုများကို ကာကွယ်ရန်အတွက် မြှင့်တင်ထားသော လုံခြုံရေးပရိုတိုကောများကို လက်ခံကျင့်သုံးခဲ့ကြသည်။ OpenAI သည် ဟာ့ဒ်ဝဲအဆင့်ကွန်ရက်အထီးကျန်မှုကို အကောင်အထည်ဖော်ရန်နှင့် အနာဂတ်ဆိုက်ဘာလုံခြုံရေးအကဲဖြတ်မှုအားလုံးအတွက် API proxy စောင့်ကြည့်မှုကို တင်းကျပ်ရန် အစီအစဉ်များကို ကြေညာခဲ့သည်။ Hugging Face သည် ထုတ်လုပ်မှု cluster အားလုံးတွင် အထောက်အထားများကို လှည့်ပတ်အသုံးပြုခဲ့ပြီး dataset ingestion လုပ်ငန်းစဉ်များအတွင်း အပြုအမူစောင့်ကြည့်မှုကို တိုးမြှင့်ခဲ့သည်။ အဖွဲ့အစည်းနှစ်ခုစလုံးသည် အလိုအလျောက်ခြိမ်းခြောက်မှုများကို စီမံခန့်ခွဲသည့် ဆိုက်ဘာလုံခြုံရေးအဖွဲ့များ ရင်ဆိုင်ရသည့် လုပ်ငန်းလည်ပတ်မှုအခက်အခဲများကို မီးမောင်းထိုးပြနေပြီး၊ အဖွဲ့အစည်းနှစ်ခုစလုံးသည် အလိုအလျောက် AI အေးဂျင့်ဆိုက်ဘာတိုက်ခိုက်မှုများကို ကာကွယ်ရေးအားကောင်းစေရန်အတွက် နည်းပညာဆိုင်ရာညွှန်းကိန်းများကို စက်မှုလုပ်ငန်းလုပ်ဖော်ကိုင်ဖက်များနှင့် ဆက်လက်မျှဝေနေကြသည်။
AI Security Breach Sparks Concerns in Tech Industry and Regulatory Circles ဟူသော ပို့စ်သည် UAE Gazette: The UAE's daily record of change တွင် ပထမဆုံး ပေါ်လာခဲ့သည်။