Хараат бус үнэлгээчид OpenAI-ийн дотоод хяналтын системийн эмзэг байдлыг илрүүлэв
OpenAI-ийн дотоод хяналтын системд хараат бус үнэлгээ хийсэн байгууллагууд эмзэг байдал илрүүлсэн нь аюулгүй байдлын хамтын ажиллагааг эрчимжүүлэв METR болон Redwood Research байгууллагын ажилтнууд…
Энэ мэдээг программ автоматаар бэлтгэсэн.
Долдугаар сарын 21-нээс наймдугаар сарын 11 хүртэл METR болон Redwood Research байгууллагын тус бүр нэг ажилтан OpenAI-ийн кодын сан, баримт бичигт нэвтэрч, зарим техникийн ажилтантай хамтран ажиллажээ. Энэ хугацаанд хоёр байгууллага OpenAI-ийн дотоод хяналтын системд гурван долоо хоногийн турш туршилтын үнэлгээ хийсэн байна. Үнэлгээ нь системийн хамгаалалт хэрхэн ажиллаж байгааг хараат бус байдлаар шалгах зорилготой байжээ. Ажилтнууд туршилтын хүрээнд код, техникийн баримт бичиг болон холбогдох ажлын явцтай танилцсан байна.
Үнэлгээний үеэр шинэ эмзэг байдлууд илэрсний нэг нь сүүлийн үеийн хэдэн зуун үйлдлийг хяналтаас нуух боломжтой ашиглалтын арга байжээ. Уг арга нь дотоод хяналтын системийн анхаарлаас тодорхой үйлдлүүдийг далдлах боломжтой эсэхийг харуулсан байна. Үнэлгээчид илэрсэн асуудлуудыг OpenAI-д мэдээлсэн бөгөөд тэдгээр нь үйлдвэрлэлийн хамгаалалтад нөлөөлсөн гэж байгууллагаас мэдэгджээ. OpenAI дараа нь илэрсэн эмзэг байдлуудыг зассан гэж үнэлгээчдэд мэдээлсэн байна.
METR болон Redwood Research байгууллагууд OpenAI-д 61 хуудас дотоод тайлан хүргүүлжээ. Гэхдээ үнэлгээчид уг туршилтыг олон нийтэд бүрэн ил тод мэдээлэл өгөх зорилготой байгаагүй гэж тайлбарласан байна. Иймээс илэрсэн эмзэг байдлуудыг зассан хэдий ч дотоод хяналтын системийн бодит ажиллагаа, шалгалтын хамрах хүрээний талаар олон нийтэд хязгаарлагдмал мэдээлэл үлджээ. Тайланг бүхэлд нь нийтлээгүй нь хараат бус үнэлгээний ил тод байдал болон цаашдын зохицуулалтын талаар асуулт дагуулж байна.
OpenAI-ийн төлөөлөгч энэ хамтын ажиллагаа нь хараат бус үнэлгээчидтэй гуравдагч талын туршилтын шинэ арга барил хөгжүүлэх урт хугацааны амлалтад тулгуурлаж байгааг хэлжээ. Мөн байгууллага үнэлгээнээс олж авсан сургамжаа хамгаалалтаа бэхжүүлэх, цаашдын хамтын ажиллагааг тодорхойлоход ашиглаж байгааг мэдэгдсэн байна. Сэм Алтман өмнө нь хараат бус үнэлгээчдэд ажилтантай адил түвшний нэвтрэх эрх олгоно гэж мэдэгдэж байжээ. Энэ байр суурь нь гаднын байгууллагуудад дотоод системийг илүү өргөн хүрээнд шалгах боломж олгох тухай амлалт болсон байна.
Үүнтэй зэрэгцэн Anthropic энэ чиглэлээр Accenture, METR болон SecureBio байгууллагатай тохиролцжээ. OpenAI-ийн мэдээлснээр, “Энэхүү хамтын ажиллагаа нь хараат бус үнэлгээчидтэй гуравдагч талын туршилтын шинэ арга барил хөгжүүлэх урт хугацааны амлалтад тулгуурлаж байна. Бид олж авсан сургамжаа хамгаалалтаа бэхжүүлэх, цаашдын хамтын ажиллагааг тодорхойлоход ашиглаж байна.” OpenAI мөн “Төхөөрөмжүүд байрнаас хэзээ ч гараагүй” гэж мэдэгдсэн бол Сэм Алтман хараат бус үнэлгээчдэд “ажилтантай адил түвшний нэвтрэх эрх” олгох байр сууриа давтжээ. Ийнхүү эмзэг байдлыг зассан тухай мэдээлэл гарсан ч дотоод хяналтын тогтолцоог гаднын байгууллагууд хэр хэмжээнд, ямар нөхцөлөөр шалгах вэ гэсэн асуудал цаашдын хамтын ажиллагааны гол сэдэв хэвээр байна.
Холбоотой мэдээ
