"Anthropic" хиймэл оюуны хөгжлийг хэмжих гурван шинэ үзүүлэлтээ нийтэд нээлттэй болголоо
Компанийн дотоод платформ дээр нэгэн зэрэг ойролцоогоор 30 мянган хиймэл оюуны агент ажиллаж байжээ. Тэд хиймэл оюунд суурилсан судалгаа, хөгжүүлэлтийн тооцооллын нөөцийн 6 хувийг аюулгүй байдлын ажилд зарцуулсан байна. “Anthropic” эдгээр хэмжүүрийг тогтмол нийтэлснээр хиймэл оюуны хөгжүүлэлтийн бодит явц, хяналт, аюулгүй байдлын хөрөнгө оруулалтыг гуравдагч талууд илүү бодитой үнэлэх боломжтой гэж үзэж байна.

Хиймэл оюуны “Anthropic” компани пүрэв гарагт нийтэлсэн блогтоо хиймэл оюуны хөгжлийн хурд, дотоод үйл явцыг хянах гурван шинэ хэмжүүрээ танилцуулж, бусад байгууллага ашиглах боломжтойгоор нээлттэй хуваалцлаа.
Компанийн тайлбарласнаар шинэ хэмжүүрүүд нь загварын чадварыг үнэлдэг уламжлалт шалгалтыг орлохгүй. Харин загварууд хэрхэн бүтээгдэж, судалгаа, инженерчлэлийн ажилд ямар түвшинд оролцож, хөгжүүлэлтийн нөөц хэрхэн хуваарилагдаж байгааг илүү тодорхой харуулах зорилготой.
Ингэснээр хиймэл оюуны салбарын гаднах судлаач, зохицуулагч болон бусад гуравдагч тал зөвхөн бэлэн болсон загварын чадварыг бус, хөгжүүлэлтийн явцыг өөрийг нь үнэлэх нэмэлт мэдээлэлтэй болох юм.
Автоматжуулалтыг илүү нарийн хэмжинэ
Эхний хэмжүүр нь хиймэл оюуны загвар судалгаа, хөгжүүлэлтийн ажлыг хүний оролцоогүйгээр хэр хэмжээнд гүйцэтгэж байгааг тодорхойлоход чиглэжээ.
“Anthropic”-ийн мэдээлснээр “Claude” загварууд компанийн хэмжсэн судалгаа, хөгжүүлэлтийн ажлуудыг бүрэн автомат байдлаар гүйцэтгээгүй байна. Шинэ аргачлал нь ямар даалгаврыг загвар бие даан хийж чадсан, хаана хүний чиглүүлэг эсвэл хяналт шаардлагатай байсныг тусад нь хэмжих зорилготой.
Ингэснээр “бүрэн автомат” гэх ерөнхий тодорхойлолтоос илүү нарийн түвшинд хиймэл оюуны бодит оролцоог хэмжих боломж бүрдэхээр байна.
Хоёр дахь хэмжүүр нь хиймэл оюуны агентуудын ажиллагаанд хяналт тавьж, шаардлагатай үед хүний оролцоот системтэй холбоотой.
“Anthropic”-ийн хамгийн өргөн ашигладаг дотоод платформ дээр нэгэн зэрэг ойролцоогоор 30 мянган агент судалгаа болон инженерчлэлийн ажил гүйцэтгэж байсан гэж компани мэдээлэв.
Олон мянган агент зэрэг ажиллах болсон нь зөвхөн гүйцэтгэлийг хэмжихээс гадна тэдний үйлдлийг хэрхэн хянах, алдаа болон эрсдэлийг хэрхэн илрүүлэхийг тоон үзүүлэлтээр тайлагнах шаардлагыг нэмэгдүүлж байна.
Гурав дахь хэмжүүр нь хиймэл оюуны судалгаа, хөгжүүлэлтэд ашиглаж буй тооцооллын нөөц буюу compute хэрхэн хуваарилагдаж байгааг харуулжээ.
“Anthropic” долоодугаар сарын 13-наас 20-ны хооронд хийсэн хэмжилтээр хиймэл оюунд суурилсан судалгаа, хөгжүүлэлтийн тооцооллын нийт нөөцийн 6 хувийг аюулгүй байдлын ажилд зориулсан байна.
Компанийн тайлбарласнаар уг үзүүлэлт нь нэг удаагийн гүйцэтгэлийн шалгалт бус, байгууллага аюулгүй байдалд бодитоор хэр хэмжээний нөөц зарцуулж байгааг харуулах зорилготой аж.
“Anthropic” цаашид эдгээр хэмжүүрийг тогтмол нийтэлснээр хиймэл оюуны хөгжүүлэлтийн ил тод байдлын шинэ жишиг тогтоохыг зорьж байна.
Компанийн зүгээс хөгжлийн явцыг илүү сайн хэмжиж, олон нийтэд тайлагнаснаар нийгэм, зохицуулагчид болон судлаачид тухайн мэдээллийг хэрхэн ашиглахаа өөрсдөө шийдэх боломжтой гэж үзжээ.
Хиймэл оюуны засаглал, аюулгүй байдлын талаарх хэлэлцүүлэг эрчимжиж буй үед ийм төрлийн хэмжүүрүүд салбарын бусад компанид нийтлэг стандарт болох эсэх нь дараагийн тайлан, хэмжилтүүдээс илүү тодорхой болохоор байна.
Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.
Холбоотой мэдээ





