Anthropic хиймэл оюуны хариултыг аль загвар гаргасныг криптографаар батлах FlashProve системээ нээлттэй эхээр танилцууллаа
Anthropic хэрэглэгчид авсан хариулт нь үнэхээр зарласан загвараас гарсан эсэхийг загварын жинг ил болгохгүйгээр шалгах боломж олгох “баталгаат инференс”-ийн FlashProve прототипээ нээлттэй эхийн лицензээр нийтэллээ.
Хиймэл оюуны Anthropic компани FlashProve нэртэй нээлттэй эхийн прототип системээ танилцууллаа. Энэ нь “баталгаат инференс” (provable inference) буюу тухайн хариултыг яг аль загвар гаргасныг криптографийн аргаар нотлох зорилготой. Компанийн судалгааны нийтлэлийг TechCrunch 11-р сарын 3-нд онцлон мэдээлжээ.
Ямар асуудлыг шийдэх вэ
Anthropic-ийн судлаачдын тайлбарласнаар өнөөдөр хэрэглэгч хариулт нь хөгжүүлэгчийн зарласан загвараас гарсан уу, эсвэл зардал хэмнэх зорилгоор чиглүүлэгч үйлчилгээ өөр загвараар нууцаар сольсон уу, эсвэл халдагч токены урсгалд хөндлөнгөөс оролцсон уу гэдгийг шалгах боломжгүй. Үүнийг зөвхөн хариултын чанараар дүгнэх нь найдваргүй юм.
FlashProve нь zkSNARK гэгддэг тэг мэдлэгийн товч нотолгоог ашигладаг. Загвар үйлчилгээ үзүүлэгч загварынхаа жинд тулгуурласан “хурууны хээ”-г урьдчилан нийтэлж, хариулт бүрт хэдхэн мегабайтын нотолгоо хавсаргана. Хэрэглэгч энэ нотолгоог энгийн CPU дээр шалгах боломжтой бөгөөд нотолгоо нь загварын нууц жингийн талаар ямар ч мэдээлэл задруулахгүй.
Гүйцэтгэл ба хязгаарлалт
Компанийн мэдээлснээр 400 тэрбум параметртэй Llama 4 Maverick загвар дээрх туршилтад нэг H100 GPU секундэд 100 гаруй токены нотолгоо үүсгэж, 1,024 токены хүсэлт тутамд 19 МБ орчим нотолгоо гаргажээ. Энэ нь ердийн инференсээс 70–95 дахин их GPU хугацаа шаардана. Протоколын аюулгүй байдлын шинж чанарыг Lean нотолгооны системээр албан ёсоор баталгаажуулсан бөгөөд код, баримт бичгийг Apache 2.0 лицензээр GitHub-д нийтэлжээ.
Судлаачид энэ нь бүрэн шийдэл бус, “завсрын ахиц” гэдгийг онцолж, бусад судлаачдыг сайжруулахад урьжээ. TechCrunch-ийн мэдээлснээр одоогоор системийг Anthropic болон бусад лабораторид нэвтрүүлэх төлөвлөгөө байхгүй.
Ач холбогдол
TechCrunch-ийн тэмдэглэснээр ийм систем нь хиймэл оюуны компани зардал хэмнэхийн тулд хямд загвараар нууцаар солих, эсвэл гүйцэтгэлийн үр дүнгээ хөөрөгдөхийн тулд илүү үнэтэй загвар ашиглахаас сэргийлэх боломжтой. Anthropic мөн бие даасан үнэлгээчид туршиж буй загвар нь бодитоор үйлчилж буй загвартай ижил эсэхийг шалгах, зохицуулагчид техник хангамжийг зөвхөн инференсэд ашиглаж буйг нотлох зэрэгт хэрэглэж болохыг дурджээ.
Эх сурвалж: Anthropic, TechCrunch, GitHub
Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.
Холбоотой мэдээ
