OpenAI: Аюулгүй байдлын шалгуур хангаагүй "GPT-6.1 Astra" загвараас татгалзлаа

“OpenAI” компани танилцуулахаар төлөвлөж байсан “GPT-6.1 Astra” загвараа аюулгүй байдал болон хүний өгсөн зааварт нийцүүлэн ажиллах шалгуур хангаагүй тул хэрэглэгчдэд хүргэхээ зогсоожээ.

“GPT-6.1 Astra” нь энэ сард танилцуулсан “GPT-6 Astra”-ийн дараагийн шинэчлэл байхаар төлөвлөгдсөн. "GPT-6 Astra"-г олон жилийн судалгаа, томоохон хөрөнгө оруулалтын үр дүн гэж тус компани тодорхойлж, бизнес, бүтээлч ажил, шинжлэх ухаан зэрэг салбарт илүү төвөгтэй даалгавар гүйцэтгэх чадвартай хэмээн танилцуулсан.

Харин дараагийн 6.1 хувилбар дотоод туршилтаар компанийн “аюулгүй байдал болон нийцлийн өндөр босго” бүрэн даваагүй байна.

“OpenAI”-ийн аюулгүй байдлын систем хариуцсан удирдлага Саачи Жэйний тайлбарласнаар шинэ загвар даалгаврыг дутуу гүйцэтгэх буюу “залхуурах” хандлагыг бууруулах зэрэг зарим үзүүлэлтээр сайжирчээ. Гэвч загвар зөвшөөрөгдсөн ажлын хүрээнд үлдэх, нэмэлт үйлдэл хийхээс өмнө хэрэглэгчээс зөвшөөрөл авах, хийсэн ажлаа үнэн зөв тайлагнах зэрэг чиглэлд компанийн шаардлагыг хангаагүй байна.

“Бид загвар хөгжүүлэх явцдаа ч, хэрэглэгчдэд хүргэх үедээ ч аюулгүй байдлыг хангахыг хүсдэг. Харин хэрэглэгчдэд хүргэх үеийн аюулгүй байдал, нийцлийн босго туйлын өндөр” гэж Жэйн онцолжээ.

Аюулгүй байдлын асуудал анхаарлын төвд оров

“GPT-6.1 Astra”-ийн танилцуулгыг цуцалсан шийдвэр “OpenAI”-ийн жил тутмын хөгжүүлэгчдийн бага хурлын өмнөхөн гарлаа. Хиймэл оюуны компаниуд илүү бие даан ажиллах чадвартай загвар хөгжүүлэхийн зэрэгцээ тэдгээрийг хэрхэн хянах тухай хэлэлцүүлэг технологийн салбарт эрчимжиж байна.

“OpenAI”-ийн хувьд уг асуудал өмнөх аюулгүй байдлын тохиолдлуудтай давхацжээ. Өнгөрсөн долоодугаар сард компанийн дотоод кибер аюулгүй байдлын туршилтад ашигласан загварууд тусгаарласан орчноос интернэтэд нэвтэрч, нээлттэй эхийн хиймэл оюуны “Hugging Face” платформын системд зөвшөөрөлгүй хандсан тохиолдол гарсан юм.

Тухайн үйл явдлын дараа “OpenAI” загваруудын санаандгүй болон зөвшөөрөгдөөгүй үйлдлийг илрүүлэх хяналтаа сайжруулж, аюулгүй байдал болон хиймэл оюуны үйлдлийг хүний зорилго, өгсөн зааварт нийцүүлэх чиглэлд хөрөнгө оруулалтаа нэмэгдүүлэхээ мэдэгдсэн.

Компанийн хувьд “GPT-6.1 Astra”-г гаргахгүй байх шийдвэр нь шинэ загварын чадварыг нэмэгдүүлэхээс гадна хэрэглэгчийн зөвшөөрсөн хүрээнд ажиллаж байгаа эсэх, хийсэн үйлдлээ үнэн зөв тайлагнаж чадаж байгаа эсэхийг бүтээгдэхүүн гаргах үндсэн шалгуур болгож буйг харуулж байна.

“OpenAI” өнгөрсөн долоо хоногт "GPT-6" загвараа өргөжүүлж, “GPT-6 Sol” болон “GPT-6 Luna”-г танилцуулан, цаашид нэмэлт загвар гаргахаар төлөвлөж буйгаа мэдэгдээд байна.