Anthropic METR-ийн зургаан ажилтанд ажилтны түвшинтэй хандалт олгож эхлэв

Anthropic 2026 оны 10-р сарын 15-нд frontier AI загварыг үнэлдэг ашгийн бус METR байгууллагын зургаан ажилтанд компанийн төхөөрөмж, оффисын зай, дотоод багаж хэрэгсэлд ажилтны түвшинтэй хандалт олгож эхэлснээ зарлалаа. Энэ тухай компанийн албан ёсны блог болон TechCrunch, Reuters мэдээлэв.

«Ажилтны түвшинтэй хандалт» гэж юу вэ

Anthropic-ийн мэдэгдлээр METR-ийн баг эрсдэлийн үнэлгээний дотоод багуудтай ойролцоо түвшинд дотоод системд нэвтэрнэ. Хэрэглэгчийн өгөгдөл, хуульчийн нууц, загварын архитектур зэрэг цөөн тодорхой ангиллаас бусад тохиолдолд Anthropic-ийн ажилтнууд тэдэнтэй alignment эрсдэлийн хамт ажилтантай адил мэдээлэл хуваалцахыг дэмжинэ.

METR Anthropic-ийн эрсдэлийн түвшин, тохиолдол, практикийн талаарх шинжилгээгээ нийтлэнэ. Anthropic нийтлэлийг хориглох эрхгүй; зөвхөн дээрх нарийн ангиллын мэдээллийг хасахыг шаардаж болно. METR хасалтуудыг зөвтгөмжтэй гэж үзэж байгаа эсэхээ олон нийтэд хэлэх эрхтэй — гэхдээ хассан агуулгыг илчлэхгүйгээр.

Гурав дахин шатлалтай систем

Anthropic үнэлэгчдэд зориулсан гурван түвшний хандалтын загвар боловсруулж байна. Нэгдүгээр түвшинд нарийн хүрээний шинжилгээ хийж, нийтлэхэд компанийн зөвшөөрөл шаардлагатай. Хоёрдугаар түвшинд илүү мэдээлэлтэй, зөвшөөрөлгүйгээр нийтэлж болно (нарийн ангиллын хасалт үлдэж болно). Гуравдугаар түвшин нь METR-тэй байгаа ажилтны түвшинтэй зохицуулалт юм.

Компани мөн SecureBio, Accenture (болон Faculty)-тай ажиллаж байгаагаа дурдаад, Hugging Face зэрэг бусад байгууллагатай эрт ярилцаж байна гэжээ. SecureBio хими/биологийн зэвсгийн бүлгийг хянаж байгаа бөгөөд нийтлэх эрх нь одоогоор илүү хязгаарлагдмал.

Яагаад одоо

Anthropic энэ алхмыг өнгөрсөн сард зарласан бие даасан үнэлгээний амлалт болон Цагаан ордонтой байгуулсан Super Intelligence Accord-ын хүрээнд хийж байна. Компани банкны хяналттай зүйрлэж, том банкуудад байнгын шалгагч суулгадагтай адил frontier лабораториудад гүнзгий нэвтрэх үнэлэгч хэрэгтэй гэжээ. CEO Дарио Амодей 9-р сарын эссэдээ ийм суулгасан үнэлэгчдийг санал болгосон бөгөөд TechCrunch-ийн мэдээлснээр OpenAI ч ижил амлалт өгсөн.

«Бидний гаргаж буй шийдвэрт олон нийтийн өмнө хариуцлага хүлээхийг хүсэж байна. Үнэлэгчид frontier AI компанийн системийн талаар мэдэх зүйл болон компани өөрөө мэдэх зүйлийн хоорондын зайг багасгахыг зорьж байна» гэж Anthropic блогтоо бичжээ.

---

Эх сурвалж: Anthropic, TechCrunch, Reuters (Investing.com-оор).