egov.mn

OpenAI хиймэл оюуны аюулгүй байдлыг хараат бусаар үнэлүүлэхээр дөрвөн байгууллагатай гэрээлэв

OpenAI компани хиймэл оюуны аюулгүй байдлыг хөндлөнгөөс шалгуулах дөрвөн байгууллагатай гэрээ байгуулж, хараат бус хяналтын ач холбогдлыг нэмэгдүүлэв.

Энэ мэдээг программ автоматаар бэлтгэсэн.

OpenAI хиймэл оюуны аюулгүй байдлыг хараат бусаар үнэлүүлэхээр дөрвөн байгууллагатай гэрээлэв

Apollo Research, METR, Transluce болон Goodfire компаниуд OpenAI-ийн хиймэл оюуны загварын зан төлөв, хамгаалалтын арга хэмжээнд эхний ээлжид үнэлгээ хийхээр гэрээ байгууллаа. Ингэснээр загваруудыг зөвхөн компанийн дотоод судлаачид бус, гаднын байгууллагуудын оролцоотойгоор шалгах боломж бүрдэж байна. OpenAI эдгээр байгууллагад судалгаандаа ашигладаг эх код, загварын хяналтын цэг, сургалтын өгөгдөл болон холбогдох баримт бичигт нэвтрэх боломж олгоно. Гэрээний хүрээнд хийгдэх ажил нь загварын үйлдэл, хамгаалалтын тогтолцоо бодит туршилтад хэрхэн ажиллаж байгааг хөндлөнгөөс нягтлахад чиглэнэ.

Үнэлгээчид эхлээд загварын зан төлөвийг судалж, хамгаалалтын туршилт явуулна. Эдгээр шалгалтаар загварын хариу үйлдэл, хамгаалалтын хязгаарлалт болон тэдгээрийн үндэслэлийг авч үзэхээр байна. Судалгаанд шаардлагатай мэдээлэлд нэвтрэх эрх олгосноор байгууллагууд OpenAI-ийн судлаачдын ашигладаг материал дээр ажиллах боломжтой болох юм. Гэхдээ ямар мэдээлэл нийтэд нээлттэй болох, ямар хэсэг нь компанийн нууцад үлдэх нь цаашдын анхаарах асуудал хэвээр байна.

OpenAI-ийн мэдээлснээр Apollo Research болон Goodfire хийсэн ажлынхаа төлөө санхүүгийн нөхөн олговор авна. Гэхдээ олгох төлбөр нь үнэлгээний үр дүнгээс хамаарахгүй гэж компани мэдэгдэв. METR болон Transluce үнэлгээнийхээ төлөө төлбөр авахгүй боловч тооцооллын нөөц эсвэл хэрэглээний програмчлалын интерфейсийн эрх авч болзошгүй байна. Үнэлгээчид санхүүгийн дэмжлэг авсан тохиолдолд ч хараат бус байдлаа хадгалж чадна гэж OpenAI үзэж байгаа ч энэ нөхцөлийг ил тод мэдээлэх нь чухал гэж онцолжээ.

Шалгалтын үр дүнг нийтлэх боломж нь хамгаалалтын дутагдлыг илрүүлж, засах шаардлагатай хэсгүүдийг олон нийтэд ойлгуулахад тусална. Нөгөө талд, эх код, сургалтын өгөгдөл болон бусад баримт бичгийг хамарсан үнэлгээний үр дүнг ямар хэмжээнд нийтлэх вэ гэсэн асуулт гарч байна. Үүнд компанийн нууцлалын шаардлага, үнэлгээний хараат бус байдлын талаарх маргаан давхар хөндөгдөнө. Санал зөрөлдсөн тохиолдолд асуудлыг эхлээд OpenAI компанийн Аюулгүй байдлын зөвлөх бүлэг хянана.

Хэрэв маргаан тэнд шийдвэрлэгдэхгүй бол OpenAI сангийн захирлуудын зөвлөлийн хараат бус Аюулгүй байдал, хамгаалалтын хороо хяналт тавина. OpenAI-ийн тайлбарласнаар энэхүү үнэлгээний эхний үе шат цаашид урт хугацааны, тогтмол, байгууллагад суурилсан хамтын ажиллагаанд шилжих зорилготой. Ийм хамтын ажиллагаа нь аюулгүй байдлын гол шаардлага болон хамгаалалтын үндэслэлд тасралтгүй дохио өгч, сайжруулах зөвлөмж боловсруулахад чиглэнэ. Компани мөн энэ ажлыг өргөжүүлж, тогтвортой хэрэгжүүлэхэд шаардлагатай чадавх болон нийтлэг стандартыг бүрдүүлэхэд туслахаар зорьж байгаагаа мэдэгдлээ.

Хуваалцах
Дараагийн мэдээMegaspeed компани Nvidia-гийн чипийг Хятад руу дамжуулсан гэх хэргээр шалгуулж байна
Мэдээллийн захиалга

Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.

Холбоотой мэдээ

Технологи

"Meta" өсвөр насныханд сэтгэл зүйн хохирол учруулсан гэх нотлох баримтаа нуусан байж магадгүй

ТехнологиАвтомат

2 мин уншихАвтомат

Нью-Йоркийн хөрөнгийн биржийн танхимд ажиллаж буй брокерууд
Технологи

Nvidia-гийн тайлан, Anthropic-ийн IPO-гийн өмнө хиймэл оюуны хувьцаанууд уналтад орж Nasdaq засварын бүсэд шилжлээ

ТехнологиАвтомат

2 мин уншихАвтомат

Гэрэлтсэн зангилаа бүхий хиймэл оюуны агентуудын сүлжээг дүрсэлсэн зураг (хиймэл оюунаар бүтээсэн чимэглэл)
Технологи

Кибер аюулгүй байдлын хиймэл оюуны стартап Corma гурван сарын дотор 1 тэрбум ам.долларын үнэлгээнд хүрлээ

ТехнологиАвтомат

2 мин уншихАвтомат

TensorWave компанийн лого
Технологи

TensorWave OpenAI-д AMD чип дээр суурилсан 457 МВт хүчин чадал нийлүүлэх зургаан жилийн гэрээ байгууллаа

ТехнологиАвтомат

2 мин уншихАвтомат

“AI Artificial Intelligence” гэсэн бичиг болон компьютерийн ард сууж буй хүмүүсийн дүрс бүхий зураг
Технологи

АНУ болон есөн түнш орон хиймэл оюуны нийлүүлэлтийн сүлжээг хамгаалах Сан Францискогийн тунхаглалд гарын үсэг зурлаа

ТехнологиАвтомат

2 мин уншихАвтомат

Индонезийн Нонгса дижитал парк буюу хиймэл оюуны дата төвүүд төвлөрсөн бүсийн агаараас авсан зураг
Технологи

АНУ хиймэл оюуны чипийг гуравдагч орны дата төвөөр алсаас ашиглах боломжийг хязгаарлах шинэ дүрэм гаргалаа

ТехнологиАвтомат

3 мин уншихАвтомат