egov.mn
Read in English

Thinking Machines Lab зөөврийн компьютер дээр ажилладаг нээлттэй жинтэй Inkling 2 Mini загвараа танилцууллаа

OpenAI-ын технологийн захирал асан Мира Муратигийн үүсгэн байгуулсан Thinking Machines Lab давталттай (looped) архитектуртай, 20 ГБ орчим санах ой шаарддаг Inkling 2 Mini загвараа нээлттэй жинтэйгээр гаргалаа.

Энэ мэдээг программ автоматаар бэлтгэсэн.

Inkling 2 Mini загвар Hugging Face платформд нэмэгдсэнийг зарласан Thinking Machines Lab, Hugging Face-ийн албан ёсны зураг
Inkling 2 Mini загвар Hugging Face платформд нэмэгдсэнийг зарласан Thinking Machines Lab, Hugging Face-ийн албан ёсны зураг

OpenAI-ын технологийн захирал асан Мира Муратигийн үүсгэн байгуулсан Thinking Machines Lab 11-р сарын 20-нд хэрэглэгчийн зөөврийн компьютер дээр ажиллах хэмжээний жижиг боловч чадварлаг Inkling 2 Mini загвараа нээлттэй жинтэйгээр гаргалаа. Загварын жинг Hugging Face платформд Apache 2.0 лицензтэйгээр байршуулжээ.

Давталттай трансформер

Inkling 2 Mini нь давталттай (looped) трансформер бөгөөд токен бүрийг боловсруулахдаа загварын дунд давхаргуудыг гурван удаа давтан ажиллуулдаг. Ингэснээр загвар үндэслэлээ бичгээр гаргалгүйгээр дотооддоо илүү удаан “бодож”, цөөн токеноор зөв хариултад хүрэх боломжтой болдог гэж компани тайлбарлажээ. Загвар нь нийт 26.4 тэрбум, идэвхтэй 3.4 тэрбум параметртэй Mixture-of-Experts бүтэцтэй бөгөөд жингийн дийлэнхийг NVFP4 форматаар сургасан тул нийт санах ойн хэмжээ нь 20 ГБ орчим юм.

Компанийн мэдээлснээр Inkling 2 Mini нь нийт 100 тэрбумаас бага параметртэй нээлттэй жинтэй загваруудын дунд DeepSWE v1.1 (48.2%), Vals Index v2.2 (46.5%) зэрэг шалгуурт тэргүүлж байна. Судлаачид онгоцоор нисэх үеэрээ интернэтгүй MacBook Pro дээр уг загвараар хэдхэн минутад тоглох боломжтой нислэгийн симулятор бүтээсэн жишээг үзүүлжээ. Дээрх үзүүлэлтүүд нь компанийн өөрийн хэмжилт бөгөөд бие даасан баталгаажуулалт хийгдээгүй гэдгийг тэмдэглэх нь зүйтэй.

Хяналт, аюулгүй байдлын асуудал

Давталттай архитектур загварыг бодлоо бичгээр илэрхийлэлгүй илүү удаан сэтгэх боломж олгодог нь түүний “бодлын гинж” (chain of thought)-ийг уншиж хянах чадварт нөлөөлж болзошгүй. Thinking Machines энэ асуудлыг судлах зорилгоор давталтын тоог өөрчилж болдог судалгааны хувилбарыг хамт гаргасан бөгөөд давталт нэмэгдэхэд бодлын гинж богиносч байсан ч ойлгомжтой хэвээр үлдсэн, хорлон сүйтгэх үйлдлийн тестэд өсөлт ажиглагдаагүй гэж мэдээлжээ.

Загвар нь компанийн Tinker платформд болон SGLang, vLLM, Ollama зэрэг нээлттэй эхийн хэрэгслүүдээр ашиглах боломжтой.

Эх сурвалж: Thinking Machines Lab, Hugging Face, Hugging Face model card

Хуваалцах
Дараагийн мэдээХятадтай холбоотой хакерын бүлгийн хиймэл оюуны агентууд өөрсдөө “тэг өдрийн” цоорхой олж, сервер эзэлжээ гэж Amazon мэдээллээ
Мэдээллийн захиалга

Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.

Холбоотой мэдээ

Хятадын далбааны өмнө код болон хиймэл оюуны дүрс бүхий зөөврийн компьютер ашиглаж буй хүн
Технологи

Хятадтай холбоотой хакерын бүлгийн хиймэл оюуны агентууд өөрсдөө “тэг өдрийн” цоорхой олж, сервер эзэлжээ гэж Amazon мэдээллээ

ТехнологиАвтомат

3 мин уншихАвтомат

Урхин дээр өгөгдлийн шоо байрлуулсан, хиймэл оюуны нууцлалын алдагдлыг илэрхийлсэн чимэглэл
Технологи

Хоёр сая “урхи” бүхий туршилт хиймэл оюуны үйлчилгээний сүлжээгээр хэрэглэгчийн нууц мэдээлэл алдагдаж байгааг илрүүллээ

ТехнологиАвтомат

2 мин уншихАвтомат

Decart компанийг үүсгэн байгуулагчид Ориан Лейтерсдорф, Дин Лейтерсдорф, Моше Шалев нар
Технологи

Amazon хиймэл оюуны стартап Decart-ыг 7.5 тэрбум ам.доллараар худалдан авах хэлцлээ эцэслэх шатандаа орлоо

ТехнологиАвтомат

2 мин уншихАвтомат

Cognition компанийг үүсгэн байгуулагч, гүйцэтгэх захирал Скотт Ву
Технологи

Devin кодлогч агентыг бүтээгч Cognition 75 тэрбум ам.долларын үнэлгээгээр хөрөнгө босгох яриа хэлэлцээ хийж байна

ТехнологиАвтомат

2 мин уншихАвтомат

Технологи

Супермаркетын хөргүүрээс зорчигчийн нислэг хүртэл Европын хамгаалалт кибер заналхийлэлд соригдож байна

ТехнологиАвтомат

2 мин уншихАвтомат