Anthropic аюулгүй ажиллагааны хөндлөнгийн үнэлгээг бодитоор эхлүүлж, Accenture-ийг суурин үнэлэгчээр сонголоо

Anthropic хиймэл оюуны загваруудаа илүү аюулгүй байдлаар хөгжүүлэх зорилготой “суурин үнэлэгч”-ийн ажлыг бодитоор эхлүүлж, Accenture-ийг эхний үнэлэгчээр сонголоо. Хоёр компанийн тохиролцоогоор ирэх таван жилд энэ чиглэлд дор хаяж 1 тэрбум ам.доллар зарцуулахаар болсон байна. Энэхүү хэлбэрээр үнэлэгчийг компанийн дотор байршуулж, хамгаалалтын арга хэмжээг турших, red-team хийх, загварын зан авирыг үнэлэх ажлыг гүйцэтгүүлэхээр төлөвлөж байна.

Anthropic-ийн тайлбарласнаар Accenture-ийн хиймэл оюуны тусгай нэгж Faculty-ээс бүрдэх анхны багийг Anthropic дотор байршуулна. Энэ нь хөндлөнгийн үнэлгээг “гадаад аудит” маягаар алсаас хийлгэхээс илүү ойроос, тасралтгүй хийлгэх боломж гэж үзэж байгаа. Гэхдээ хамтын ажиллагаа онцгой эрхтэй биш бөгөөд Anthropic METR зэрэг бусад хөндлөнгийн талуудтай мөн хэлэлцэж байгаагаа дурдсан. Өөрөөр хэлбэл, нэг үнэлэгчээр хязгаарлагдахгүй, загвар хөгжүүлэлтийн явцад олон талын шалгалтыг зэрэгцүүлнэ гэсэн дохио юм.

Тус компани “загварын аюулгүй байдлын хариуцлага өөрт нь хэвээр үлдэнэ, суурин үнэлэгчид орсноор хариуцлага буурахгүй” гэж онцоллоо. Үнэлэгчдийг дотроос ажиллуулах алхам нь салбарын зохицуулалтын маргаан ширүүссэн энэ үед, “итгэлийг нэмэгдүүлэх хөшүүрэг болно” гэж Anthropic үзэж байна. Үйл явц нь гаднаас ажиглагчдад ойлгомжтой байх ёстой гэж компанийн байр суурь тодорхой байгаа бөгөөд “манай үйл явцыг хүмүүс болон бусад хиймэл оюун хөгжүүлэгчид харж ойлгохын тулд энэ эхний ажлуудаа одоо хуваалцаж байна” гэж мэдэгдэв. Ингэснээр компанийн хэлж буйгаар зөвхөн дотоод стандарт биш, хөндлөнгийн шалгалтаар баталгаажсан хамгаалалтын аргачлал илүү харагдахуйц болох боломжтой.

Санхүүжилтийн хувьд Anthropic урт хугацаанд үнэлгээний ажлыг нэгдсэн сан эсвэл улсын эх үүсвэрээс гаргах нь илүү зөв загвар гэж үзэж байгаа ч одоогоор Accenture-ийн ажлыг шууд санхүүжүүлнэ. “Урт хугацаанд санхүүжилт нь нэгдсэн сан эсвэл улсын эх үүсвэрээс гарах ёстой гэж бид зургаадугаар сард танилцуулсан Advanced AI Framework-дээ тусгасан” гэж компанийн мэдэгдэлд дурджээ. Гэвч “эдгээр нь өнөөдөр байхгүй тул бид өөр өөр санхүүжилтийн зохицуулалтаар янз бүрийн үнэлэгчидтэй ажиллахаар төлөвлөж байна” гэсэн нь ойрын хугацаанд олон хэлбэрийн түншлэл зэрэг явж болохыг илтгэнэ. Энэ нөхцөл байдал нь “хэн төлбөр төлж байна, хэн үнэлж байна” гэсэн асуултыг дахин хурцатгах ч, нөгөө талаас шалгалтын ажлыг цар хүрээтэй, тогтвортой явуулах санхүүгийн боломжийг ч бүрдүүлж байна.

Гүйцэтгэх захирал Дарио Амодэй Бямба гарагт Anthropic энэ алхмыг “дангаараа” хэрэгжүүлэх амлалт өгсөн бөгөөд бусад компаниудыг дагахыг уриалсан гэж мэдээлсэн. Хиймэл оюуны салбарт OpenAI, Tesla, SpaceX, Nvidia зэрэг нэрс тойрсон өргөн хэлэлцүүлэг өрнөж буй энэ үед, “суурин үнэлэгч” гэх туршилт нь компанийн өөрийнх нь аюулгүй ажиллагааны амлалтыг шалгах бодит механизм болж хувирч байна. Anthropic мөн “салбар төлөвшихийн хэрээр манай арга барил өөрчлөгдөнө, ажил эхлэх болон нэмэлт үнэлэгчид татан оролцуулах үед илүү дэлгэрэнгүй хуваалцана” гэж мэдэгдсэн нь энэ загварыг нэг удаагийн шийдэл бус, үе шаттайгаар өргөтгөх төлөвтэйг харууллаа.