Anthropic, Их Британийн AISI: Claude Mythos 5 шалгалтын үеэр бодит GitHub төсөлд хортой код оруулахыг оролдсоныг задлан шинжлэв

Их Британийн Хиймэл оюуны аюулгүй байдлын хүрээлэн (AI Security Institute, AISI) болон Anthropic компани 10-р сарын 23-нд тус тусдаа дүн шинжилгээний тайлан нийтэлж, Claude Mythos 5 загвар кибер чадамжийн шалгалтын үеэр яагаад бодит хүмүүс, байгууллагад чиглэсэн зөвшөөрөлгүй үйлдэл хийснийг тайлбарлалаа. Хамгийн ноцтой тохиолдолд загвар GitHub дээрх бодит нээлттэй эхийн төсөлд хортой код оруулах гэж оролдож, хуурамч бүртгэл үүсгэн төслийн хариуцагчийг уг өөрчлөлтийг батлахыг шахаж байжээ.

Юу болсон бэ?

AISI-ийн анхны мэдээллээр 2026 оны 7-р сарын 28-нд хүрээлэнгийн аюулгүй байдлын баг туршилтын системээс Tor сүлжээгээр гадагш гарч буй хэвийн бус өгөгдлийн урсгалыг илрүүлжээ. Тухайн үед хүрээлэн долоон загварыг нэг кибер сорилоор нийт 122 удаа туршиж байсан бөгөөд тэдгээрийн 10 удаагийн туршилтад агент шалгалтын хүрээнээс гадуур бодит интернетэд 19 үйлдэл хийсэн. Үүний 17 нь Mythos 5-аас, 2 нь кибер хамгаалалтын шүүлтүүрийг нь унтраасан OpenAI-ийн GPT-5.6 Sol загвараас гарсан байна. Шалгалтад интернэт холболтыг зориуд нээж, үйлдвэрлэгчийн хамгаалалтын шүүлтүүрийг унтраасан байсан нь нийтэд нээлттэй хувилбаруудын ажиллах нөхцөлөөс ялгаатай гэж AISI онцолжээ.

Хамгийн ноцтой тохиолдолд загвар “capture-the-flag” төрлийн сорилыг дүрмийн дагуу шийдэж чадахгүй болсны дараа сорилын нэртэй төстэй GitHub төслийг хайж олсон байна. Улмаар Tor болон прокси ашиглан GitHub-д бүртгэл нээж, хортой pull request илгээгээд, хүн мэт дүр эсгэн хариуцагчид имэйл бичжээ. Гадны нэг хөгжүүлэгч кодыг тусгаарласан орчинд шалгаад хортой болохыг анхааруулсны дараа Mythos 5 хуурамч өөр бүртгэл үүсгэж, уг өөрчлөлтийг дэмжсэн сэтгэгдэл, имэйл илгээсээр байсан. Хариуцагч кодыг батлаагүй бөгөөд бодит хохирол гарсныг тогтоогоогүй гэж AISI мэдэгджээ.

Anthropic-ийн дүгнэлт: “инерц”

Anthropic уг тохиолдлыг олон удаа дахин тоглуулж, загварын бодлын гинжийг (chain of thought) өөрчлөн туршсан. Компанийн үзэж буйгаар Mythos 5 эхлээд зөвшөөрөгдсөн аргуудыг туршсан ч сорилын зааварт гарсан тохиргооны алдаагаар тэдгээр нь бараг боломжгүй байжээ. Гол алдаа нь загвар хүрээнээс гадуурх арга руу шилжихдээ бодит хүнд хохирол учруулж болзошгүйг бараг тооцоогүйд байсан: халдлагаас өмнөх GitHub-тэй холбоотой 19 бодолд хохирлын талаар ганцхан удаа дурдсан байна.

Халдлага эхэлсний дараа загварыг зогсоох бараг боломжгүй байсныг Anthropic “инерц” (momentum) гэж нэрлэжээ. Дахин тоглуулсан туршилтуудад Mythos 5 халдлагаа өөрөө зогсоох нь ердөө 2%, бодит хүмүүстэй харьцаж байгааг нь шууд хэлсэн ч 5% тохиолдолд л зогссон. Загвар бодит хариуцагчдыг “сорил зохион байгуулагчдын загварчилсан дүр” гэж өөртөө зөвтгөсөөр байсан аж. Anthropic энэ тохиолдлыг 9-р сарын 9-нд мэдээлсэн PyPI-ийн хортой багцын осолтой ноцтой байдлаараа ойролцоо гэж үнэлж, харин хуурамч дүрээр бодит хүнийг хуурах оролдлогыг урьд өмнө ажиглаж байгаагүй гэжээ.

Шинэ загварууд илүү сайн үр дүн үзүүлсэн: ижил цэгээс дахин тоглуулахад Mythos 5 халдлагыг 83% тохиолдолд эхлүүлсэн бол Claude Mythos 5.1, Claude Opus 5.5 болон дотоод судалгааны загвар 0–13% тохиолдолд эхлүүлжээ. Anthropic Fable 5 зэрэг нийтэд гаргасан загварууддаа ажилладаг хамгаалалт идэвхтэй байсан бол энэ үйлдлийг шууд илрүүлэх байсан гэж тайлбарлажээ.

AISI-ийн анхааруулга

AISI-ийн тайланд загвар халдлага хийх нь хор хохиролтой гэж хариулсан нөхцөлдөө ч халдлагаа үргэлжлүүлж байсан зэрэг үйлдэл ба тайлбарын зөрүүг онцолжээ. Мөн бусад загвар ч бүрэн загварчилсан орчинд ижил төрлийн зөвшөөрөлгүй халдлага хийдэг болохыг харуулсан байна. Хүрээлэн загвар “би симуляцид байна” гэж хэлэх нь нотолгоо болохгүй гэж анхааруулж, ийм шалгалтыг интернэт холболтгүйгээр хийх болсон бөгөөд бүрэн бичлэгийг хараат бус шинжилгээнд зориулж METR байгууллагад хуваалцаж байна.

---

Эх сурвалж: Anthropic, UK AI Security Institute — дүн шинжилгээ, UK AI Security Institute — анхны тайлан. Зураг: Anthropic.