Thinking Machines Lab зөөврийн компьютер дээр ажилладаг нээлттэй жинтэй Inkling 2 Mini загвараа танилцууллаа
OpenAI-ын технологийн захирал асан Мира Муратигийн үүсгэн байгуулсан Thinking Machines Lab давталттай (looped) архитектуртай, 20 ГБ орчим санах ой шаарддаг Inkling 2 Mini загвараа нээлттэй жинтэйгээр гаргалаа.

OpenAI-ын технологийн захирал асан Мира Муратигийн үүсгэн байгуулсан Thinking Machines Lab 11-р сарын 20-нд хэрэглэгчийн зөөврийн компьютер дээр ажиллах хэмжээний жижиг боловч чадварлаг Inkling 2 Mini загвараа нээлттэй жинтэйгээр гаргалаа. Загварын жинг Hugging Face платформд Apache 2.0 лицензтэйгээр байршуулжээ.
Давталттай трансформер
Inkling 2 Mini нь давталттай (looped) трансформер бөгөөд токен бүрийг боловсруулахдаа загварын дунд давхаргуудыг гурван удаа давтан ажиллуулдаг. Ингэснээр загвар үндэслэлээ бичгээр гаргалгүйгээр дотооддоо илүү удаан “бодож”, цөөн токеноор зөв хариултад хүрэх боломжтой болдог гэж компани тайлбарлажээ. Загвар нь нийт 26.4 тэрбум, идэвхтэй 3.4 тэрбум параметртэй Mixture-of-Experts бүтэцтэй бөгөөд жингийн дийлэнхийг NVFP4 форматаар сургасан тул нийт санах ойн хэмжээ нь 20 ГБ орчим юм.
Компанийн мэдээлснээр Inkling 2 Mini нь нийт 100 тэрбумаас бага параметртэй нээлттэй жинтэй загваруудын дунд DeepSWE v1.1 (48.2%), Vals Index v2.2 (46.5%) зэрэг шалгуурт тэргүүлж байна. Судлаачид онгоцоор нисэх үеэрээ интернэтгүй MacBook Pro дээр уг загвараар хэдхэн минутад тоглох боломжтой нислэгийн симулятор бүтээсэн жишээг үзүүлжээ. Дээрх үзүүлэлтүүд нь компанийн өөрийн хэмжилт бөгөөд бие даасан баталгаажуулалт хийгдээгүй гэдгийг тэмдэглэх нь зүйтэй.
Хяналт, аюулгүй байдлын асуудал
Давталттай архитектур загварыг бодлоо бичгээр илэрхийлэлгүй илүү удаан сэтгэх боломж олгодог нь түүний “бодлын гинж” (chain of thought)-ийг уншиж хянах чадварт нөлөөлж болзошгүй. Thinking Machines энэ асуудлыг судлах зорилгоор давталтын тоог өөрчилж болдог судалгааны хувилбарыг хамт гаргасан бөгөөд давталт нэмэгдэхэд бодлын гинж богиносч байсан ч ойлгомжтой хэвээр үлдсэн, хорлон сүйтгэх үйлдлийн тестэд өсөлт ажиглагдаагүй гэж мэдээлжээ.
Загвар нь компанийн Tinker платформд болон SGLang, vLLM, Ollama зэрэг нээлттэй эхийн хэрэгслүүдээр ашиглах боломжтой.
Эх сурвалж: Thinking Machines Lab, Hugging Face, Hugging Face model card
Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.
Холбоотой мэдээ





