OpenAI хиймэл оюуны аюулгүй байдлыг хараат бусаар үнэлүүлэхээр дөрвөн байгууллагатай гэрээлэв
OpenAI компани хиймэл оюуны аюулгүй байдлыг хөндлөнгөөс шалгуулах дөрвөн байгууллагатай гэрээ байгуулж, хараат бус хяналтын ач холбогдлыг нэмэгдүүлэв.

Apollo Research, METR, Transluce болон Goodfire компаниуд OpenAI-ийн хиймэл оюуны загварын зан төлөв, хамгаалалтын арга хэмжээнд эхний ээлжид үнэлгээ хийхээр гэрээ байгууллаа. Ингэснээр загваруудыг зөвхөн компанийн дотоод судлаачид бус, гаднын байгууллагуудын оролцоотойгоор шалгах боломж бүрдэж байна. OpenAI эдгээр байгууллагад судалгаандаа ашигладаг эх код, загварын хяналтын цэг, сургалтын өгөгдөл болон холбогдох баримт бичигт нэвтрэх боломж олгоно. Гэрээний хүрээнд хийгдэх ажил нь загварын үйлдэл, хамгаалалтын тогтолцоо бодит туршилтад хэрхэн ажиллаж байгааг хөндлөнгөөс нягтлахад чиглэнэ.
Үнэлгээчид эхлээд загварын зан төлөвийг судалж, хамгаалалтын туршилт явуулна. Эдгээр шалгалтаар загварын хариу үйлдэл, хамгаалалтын хязгаарлалт болон тэдгээрийн үндэслэлийг авч үзэхээр байна. Судалгаанд шаардлагатай мэдээлэлд нэвтрэх эрх олгосноор байгууллагууд OpenAI-ийн судлаачдын ашигладаг материал дээр ажиллах боломжтой болох юм. Гэхдээ ямар мэдээлэл нийтэд нээлттэй болох, ямар хэсэг нь компанийн нууцад үлдэх нь цаашдын анхаарах асуудал хэвээр байна.
OpenAI-ийн мэдээлснээр Apollo Research болон Goodfire хийсэн ажлынхаа төлөө санхүүгийн нөхөн олговор авна. Гэхдээ олгох төлбөр нь үнэлгээний үр дүнгээс хамаарахгүй гэж компани мэдэгдэв. METR болон Transluce үнэлгээнийхээ төлөө төлбөр авахгүй боловч тооцооллын нөөц эсвэл хэрэглээний програмчлалын интерфейсийн эрх авч болзошгүй байна. Үнэлгээчид санхүүгийн дэмжлэг авсан тохиолдолд ч хараат бус байдлаа хадгалж чадна гэж OpenAI үзэж байгаа ч энэ нөхцөлийг ил тод мэдээлэх нь чухал гэж онцолжээ.
Шалгалтын үр дүнг нийтлэх боломж нь хамгаалалтын дутагдлыг илрүүлж, засах шаардлагатай хэсгүүдийг олон нийтэд ойлгуулахад тусална. Нөгөө талд, эх код, сургалтын өгөгдөл болон бусад баримт бичгийг хамарсан үнэлгээний үр дүнг ямар хэмжээнд нийтлэх вэ гэсэн асуулт гарч байна. Үүнд компанийн нууцлалын шаардлага, үнэлгээний хараат бус байдлын талаарх маргаан давхар хөндөгдөнө. Санал зөрөлдсөн тохиолдолд асуудлыг эхлээд OpenAI компанийн Аюулгүй байдлын зөвлөх бүлэг хянана.
Хэрэв маргаан тэнд шийдвэрлэгдэхгүй бол OpenAI сангийн захирлуудын зөвлөлийн хараат бус Аюулгүй байдал, хамгаалалтын хороо хяналт тавина. OpenAI-ийн тайлбарласнаар энэхүү үнэлгээний эхний үе шат цаашид урт хугацааны, тогтмол, байгууллагад суурилсан хамтын ажиллагаанд шилжих зорилготой. Ийм хамтын ажиллагаа нь аюулгүй байдлын гол шаардлага болон хамгаалалтын үндэслэлд тасралтгүй дохио өгч, сайжруулах зөвлөмж боловсруулахад чиглэнэ. Компани мөн энэ ажлыг өргөжүүлж, тогтвортой хэрэгжүүлэхэд шаардлагатай чадавх болон нийтлэг стандартыг бүрдүүлэхэд туслахаар зорьж байгаагаа мэдэгдлээ.
Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.
Холбоотой мэдээ





