Amazon өөрийн Trainium чипийг PyTorch кодтой шууд ажилладаг болгож, Nvidia-гийн програм хангамжийн давуу талыг сорилоо
Amazon хиймэл оюуны хөгжүүлэгчдийн хамгийн өргөн ашигладаг PyTorch дээр бичсэн кодыг дахин бичихгүйгээр, ганц тохиргоо өөрчлөөд л AWS Trainium чип дээр ажиллуулах TorchNeuron хэрэгслийг нээлттэй эхээр гаргаж байна.
Энэ мэдээг программ автоматаар бэлтгэсэн.
Amazon өөрийн хиймэл оюуны Trainium чипийг хөгжүүлэгчдэд илүү ойр болгох шинэ хэрэгсэл болох TorchNeuron-ийг танилцууллаа. Reuters-ийн мэдээлснээр уг програм хангамж нь хиймэл оюуны салбарт хамгийн өргөн хэрэглэгддэг PyTorch фреймворк дээр бичсэн кодыг дахин бичихгүйгээр, ганц тохиргоо өөрчлөөд л Trainium дээр ажиллуулах боломж олгоно. Энэ нь Nvidia-гийн зах зээлийн ноёрхлын үндэс болсон програм хангамжийн давуу талыг сулруулах зорилготой алхам юм.
Нэг мөр код өөрчлөхөд хангалттай
Meta-гийн удирдлага дор хөгжиж ирсэн нээлттэй эхийн PyTorch-ыг хиймэл оюуны хөгжүүлэгчдийн дийлэнх нь ашигладаг. Amazon-ы мэдээлснээр судлаач, хөгжүүлэгчдийн 85 хувь кодоо PyTorch дээр бичдэг. Гэвч өнөөг хүртэл шинэ чип рүү шилжихийн тулд олон сарын турш боловсруулсан кодоо дахин бичиж, шалгах шаардлагатай байсан. Nvidia арав гаруй жилийн турш хөгжүүлсэн CUDA програм хангамжаараа PyTorch кодыг өөрийн чип дээр хамгийн сайн ажиллуулдаг болгосон нь тус компанийн давуу талын гол тулгуур болж ирсэн.
TorchNeuron нь Trainium-ийг PyTorch-ын “стандарт төхөөрөмж” болгон бүртгэдэг. PyTorch сангийн блогт дурдсанаар загвараа .to('neuron') гэж зааж өгөхөд л код Trainium дээр ажиллана. Шууд гүйцэтгэх (eager) горим, бүтээмж өндөр torch.compile, тархсан сургалт, профайлинг болон тусгай кернел бичих Neuron Kernel Interface зэргийг дэмжих бөгөөд Trainium2, Trainium3 чипүүдэд ажиллана. Програм хангамжийг Apache 2.0 лицензтэй нээлттэй эхээр, 10-р сарын 20-нд болох PyTorch Conference North America хурлаар олон нийтэд бета хувилбараар гаргана.
Эхний хэрэглэгчид зардлаа хэмнэж байна
Amazon-ы чип хөгжүүлэгч Annapurna Labs нэгжийн програм хангамж хариуцсан дэд ерөнхийлөгч Колин Брейс Reuters-т өгсөн ярилцлагадаа “Энэ бол хэрэглэгчдийнхээ байгаа газар нь очиж уулзах тухай асуудал” гэжээ. Түүний хэлснээр робот техник, дэлхийн загвар (world models), дуут хиймэл оюун зэрэг чиглэлийн 30 гаруй эхний хэрэглэгч уг програмыг ашиглаж эхэлсэн бөгөөд Amazon-ы чип рүү шилжих нь зардлыг мэдэгдэхүйц хэмнэх боломжтой.
Тухайлбал дуут хиймэл оюуны Deepgram компани Trainium нь одоогийн GPU-тэй харьцуулахад нэг доллар тутамд 60 орчим хувиар илүү аудио боловсруулж байгааг туршилтаар тогтоосон гэж PyTorch-ын блогт дурджээ. Hugging Face ч Transformers болон Diffusers сангууд нь Trainium-ийг шууд дэмждэг болсныг онцолсон байна.
Чипийн өрсөлдөөн програм хангамжийн талбарт
Reuters-ийн тэмдэглэснээр өөрийн хиймэл оюуны чиптэй Google зэрэг бусад үүлэн тооцооллын компаниуд ч хөгжүүлэгчдийг Nvidia-гаас татахын тулд PyTorch-ын хэрэгслээ сайжруулж байна. Хиймэл оюуны лабораториуд тооцооллын хүчин чадлын хэрэгцээгээ хангахын тулд Nvidia-гаас гадна өөр чип нийлүүлэгчид рүү хандаж буй энэ үед програм хангамжийн нийцтэй байдал нь чипийн зах зээлийн өрсөлдөөний гол хүчин зүйл болж байна.
Эх сурвалж: Reuters (U.S. News-ээр), Amazon, PyTorch. Зураг: Amazon.
Холбоотой мэдээ
