Anthropic хараат бус үнэлэгчдийг эрсдэлийн хяналтдаа нэгтгэн ажиллаж эхэллээ

METR-ийн зургаан ажилтан Anthropic-ийн техник хангамж, оффис болон хэрэгслүүдэд тус компанийн эрсдэлийн багтай ойролцоо түвшинд нэвтрэхээр болжээ. Энэ нь Anthropic хиймэл оюуны загварын аюулгүй байдлыг гаднын байгууллагаар шалгуулах зорилгоор хараат бус үнэлэгчдийг үйл ажиллагаандаа нэгтгэж эхэлсний хүрээнд хэрэгжиж байна. Пүрэв гарагт компани Моделийн үнэлгээ ба аюулын судалгаа буюу METR, SecureBio байгууллагуудтай хамтран ажиллаж буйгаа танилцуулсан байна. Мөн Hugging Face зэрэг бусад байгууллагатай хэлэлцэж байгаа аж.

Anthropic хараат бус үнэлэгчдэд олгох хандалтыг гурван түвшинд ангилжээ. Нэгдүгээр түвшний үнэлэгчид хязгаарлагдмал эрсдэлийн шалгалт явуулах бол хоёрдугаар түвшний үнэлэгчид компанийн зөвшөөрөлгүйгээр тайлан нийтлэх боломжтой байна. Харин гуравдугаар түвшний үнэлэгчид Anthropic-ийн ажилтантай адил өргөн хүрээний хандалттай ажиллана. METR энэ түвшинд багтаж, зургаан ажилтнаа Anthropic-д ажиллуулан тус компанийн техник хангамж, оффис болон хэрэгслүүдийг ашиглах юм.

METR-ийн ажилтнууд Anthropic-ийн эрсдэлийн түвшин, гарсан зөрчил болон үйл ажиллагааг шинжилж, дүгнэлтээ нийтэлнэ. Гэхдээ Anthropic METR-ийн ажлыг санхүүжүүлэхгүй гэж мэдэгдсэн байна. Нэгдүгээр түвшний үнэлэгчээр ажиллаж буй SecureBio нь наймдугаар сард нийтэлсэн эрсдэлийн тайлангийн химийн болон биологийн зэвсгийн хэсгийг хянаж байгаа аж. Ингэснээр үнэлэгчдийн оролцоо зөвхөн загварын техникийн ажиллагаагаар хязгаарлагдахгүй, тодорхой эрсдэлийн чиглэлүүдийг хамрах боломжтой болж байна.

Үүний зэрэгцээ Anthropic Accenture компанитай өргөн хүрээний түншлэл байгуулахаар ажиллаж байгаа ч түүний гурван түвшний систем дэх байр суурийг тодруулаагүй байна. Anthropic Accenture-ийн ажлыг шууд санхүүжүүлэхээр мэдэгдсэн нь үнэлгээний хараат бус байдалд эргэлзэх шалтгаан болжээ. Компани энэ ажлын ач холбогдол, яаралтай шаардлагыг харгалзан Accenture-ийн ажлыг шууд санхүүжүүлнэ гэж тайлбарласан байна. Гэвч хараат бус үнэлгээний мэдээллийн хандалт, тайлагнал болон санхүүжилтийн нэгдсэн стандарт одоогоор байхгүй гэж мөн мэдэгджээ.

Anthropic-ийн мэдээлснээр хараат бус үнэлэгчид ямар мэдээлэлд нэвтрэх, илрүүлсэн зүйлээ хэрхэн тайлагнах стандарт одоогоор тогтоогдоогүй бөгөөд санхүүжилтийн нэгдсэн тогтолцоо ч бүрдээгүй байна. Тус компани үнэлэгчдийг сайн дураар үйл ажиллагаандаа нэгтгэж байгаа бөгөөд тэргүүлэх хиймэл оюуны компани бүр мөн адил ажиллах ёстой гэж үзэж байна. Anthropic-ийн гүйцэтгэх захирал Дарио Амодей үнэлэгчид аюулгүй ажиллагааны хэрэгжилтийг баталгаажуулахад тусална гэжээ. Ийнхүү компани гаднын хяналтыг өөрийн эрсдэлийн үйл ажиллагаатай холбохын зэрэгцээ санхүүжилт, тайлагналын хараат бус байдлын асуудлыг зэрэг авч үзэж байна.