Reuters: OpenAI-ийн ажилтнууд олон жилийн турш дотоод аюулгүй байдлын цоорхойн талаар анхааруулж иржээ
Reuters-ийн эх сурвалжуудын мэдээлснээр OpenAI-ийн ажилтнууд ChatGPT гарахаас ч өмнөөс компанийн дотоод аюулгүй байдлын хяналт сул байгааг удирдлага, ТУЗ-д мэдэгдэж байсан бөгөөд компани одоо аюулгүй байдлаа бэхжүүлэх тусгай санаачилга хэрэгжүүлж эхэлжээ.
Reuters агентлаг 11-р сарын 3-нд нийтэлсэн тусгай сурвалжилгадаа OpenAI-ийн зарим ажилтан ChatGPT 2022 оны сүүлээр гарахаас ч өмнөөс компанийн аюулгүй байдлын практикт санаа зовж буйгаа дотооддоо илэрхийлж байсныг таван эх сурвалжид тулгуурлан мэдээллээ.
Ажилтнуудын анхааруулга
Эх сурвалжуудын хэлснээр ажилтнууд санаа зовнилоо компанийн дээд удирдлага болон төлөөлөн удирдах зөвлөлд хүргэж байсан ч зарим нь удирдлага аюулгүй байдлаас илүү Google, Anthropic зэрэг өрсөлдөгчөөсөө хоцрохгүй байхад анхаарч байна гэж дүгнэсэн байна. Тэдний үзэж байгаагаар хяналт хэт сул байсан тул гадны этгээд, тэр дундаа гадаадын засгийн газрууд компанийн технологийн нууц мэдээллийг харьцангуй хялбар олж авах эрсдэлтэй байжээ.
Жишээлбэл, OpenAI кодынхоо ихэнхийг “моно-репо” буюу нэг нэгдсэн агуулахад хадгалдаг байсан тул кодод хандах эрхтэй хэн ч олон төслийн техникийн нарийн мэдээллийг харах боломжтой байсан гэнэ. Мөн шинэ загварыг стресс-тест хийдэг “sandbox” зэрэг дотоод хэрэгслүүдэд аюулгүй байдлын тогтмол хяналт хийдэггүй байсныг гурван эх сурвалж дурджээ.
OpenAI-ийн байр суурь
OpenAI-ийн хэвлэлийн төлөөлөгч Элана Видманн компани дэлхийд хамгийн их халдлагад өртдөг байгууллагуудын нэг тул дотоод этгээд, кибер гэмт хэрэгтнүүд, улсын түвшний халдагчдаас хамгаалахад их хөрөнгө зарцуулдаг гэж мэдэгджээ. Компани хамгийн эмзэг ажлууд нь хатуу хандалтын хяналттай тусдаа агуулахад хадгалагддаг, моно-репод загварын жин багтдаггүй гэж онцолсон бөгөөд одоо дотоод хэрэгслүүддээ аюулгүй байдлын тогтмол хяналт хийдэг болсноо мэдэгджээ.
Reuters-ийн эх сурвалжуудын мэдээлснээр бүтээгдэхүүн хөгжүүлэлтийг хариуцсан удирдах ажилтан Тибо Соттиа саяхнаас дотоод системийг хамгаалах санаачилгыг удирдаж эхэлсэн бөгөөд 8-р сард үйлдвэрлэлийн инженерүүдийн дөрөвний нэгийг аюулгүй байдлын дэд бүтцийг сайжруулах ажилд шилжүүлжээ. Reuters тайлбар авахаар хандсаны дараа OpenAI блогтоо дараагийн дотоод аюулгүй байдлын спринт-ээ зарлаж, алдаа илрүүлсний шагналаа нэмэгдүүлсэн юм.
Өргөн хүрээний нөхцөл байдал
Сурвалжилгад 10-р сард АНУ-ын Хууль зүйн яам OpenAI-ийн удирдлагын хурлын өрөөнд нууц дуу хураагч төхөөрөмж байрлуулсан хэрэгт тухайн үед компанийн инженер байсан этгээдэд яллах дүгнэлт үйлдсэнийг дурджээ. Мөн өнгөрсөн 10-р сард кибер аюулгүй байдлын нэгэн стартап Anthropic-ийн системд нэвтэрсэн гэж мэдэгдсэн тохиолдлыг дурдаж, хиймэл оюуны лабораториуд нээлттэй судалгааны соёл болон технологийн аюулгүй байдлын хооронд тэнцвэр олох дарамтад байгааг тэмдэглэжээ. Энэ асуудал OpenAI, Anthropic-ийн хувьцаагаа олон нийтэд санал болгох томоохон төлөвлөгөөг ч хүндрүүлж болзошгүй гэж Reuters бичжээ.
Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.
Холбоотой мэдээ
