OpenAI программын эмзэг байдлыг илрүүлж засдаг Daybreak Red Team, Defense Factory хэрэгслээ танилцууллаа

OpenAI кибер аюулгүй байдлын Daybreak цуврал бүтээгдэхүүндээ Daybreak Red Team болон Daybreak Defense Factory гэсэн хоёр шинэ хэрэгслийг нэмлээ. Тэдгээрийг 11-р сарын 12-нд болсон компанийн «Cyber at the Frontier» арга хэмжээн дээр танилцуулсан байна.

Red Team: агентууд халдагчийн байр сууринаас

SecurityWeek-ийн мэдээлснээр Daybreak Red Team нь олон хиймэл оюуны агентыг ашиглан вэб аппликейшны аюулгүй байдлын сул талыг илрүүлж, нэвтрэлтийн туршилт (penetration testing) хийдэг. OpenAI-ийн тайлбарласнаар агентууд эх код болон аппликейшны орчны мэдээллийг ашиглан халдлагын боломжит замыг судалж, эмзэг байдал бодитой эсэхийг баталгаажуулдаг.

Хэрэгсэл нь кодын сканнер, «bug bounty» хөтөлбөрийн мэдэгдэл, эмзэг байдлын тайлангийн үр дүнг шалгах боломжтой. Агентууд тусгаарлагдсан орчинд ажиллах бөгөөд Guardian хяналт нь туршилтын хил хязгаарыг сахиулж, ямар аппликейшн, хаягт хандахыг хязгаарладаг байна.

Defense Factory: засварын нөхөөс бэлтгэнэ

Daybreak Defense Factory нь аюулгүй байдлын хэрэгслүүдийн илрүүлсэн эмзэг байдлыг кодын дагуу мөшгиж, засварын нөхөөс (patch) боловсруулдаг. Red Team-ийн үр дүнгээс гадна Wiz, Snyk, Endor Labs-ийн мэдээллийг импортлох, холбогдсон GitHub репозиторуудыг сканнердах, шинэ commit-уудыг хянах, хуваарьт шалгалт хийх боломжтой.

Инженерүүд нотлох баримтыг шалгаж, санал болгосон нөхөөсийг Codex ашиглан засаж, GitHub-д ноорог pull request үүсгэж болно. Гэхдээ нөхөөсийг автоматаар нэвтрүүлэхгүй бөгөөд нэгтгэхээс өмнө инженер заавал хянаж туршина.

Хүртээмж

OpenAI одоогоор Daybreak Red Team-ийн эрт хандалтын хүсэлт хүлээн авч байгаа бол Defense Factory нь Daybreak эрхтэй ChatGPT ажлын орчинд урьдчилсан хувилбарын залгаас хэлбэрээр нээлттэй байна.

Эх сурвалж: SecurityWeek, OpenAI — Daybreak Red Team, OpenAI — Daybreak Defense Factory