CrowdStrike хиймэл оюуны агентуудыг зогсоох хамгаалалтын унтраалга танилцууллаа

CrowdStrike байгууллагын сүлжээнд хяналтгүй ажилласан хиймэл оюуны агентуудыг зогсоох хамгаалалтын унтраалга танилцууллаа. Тус хэрэгсэл нь компанийн Falcon Guardian платформд суурилсан бөгөөд дотоод хиймэл оюуны агентын үйлдлийг илрүүлсний дараа дахин эхлэхээс сэргийлж, сүлжээний хандалтыг таслах зориулалттай. Мягмар гарагт танилцуулсан шийдэл нь хиймэл оюуны агентууд байгууллагын орчинд хяналтгүй ажиллахтай холбоотой өсөн нэмэгдэх эрсдэлийг онцолж байна. Ийнхүү агентын үйл ажиллагааг зогсоох боломжийг хамгаалалтын системийн нэг хэсэг болгон авч үзжээ.

Falcon Guardian-д нэгдсэн хэрэгсэл нь агентын үйлдлийг илрүүлэхээс гадна түүнийг дахин ажиллуулах боломжийг хаахаар бүтээгдсэн байна. Хандалтыг тасалснаар байгууллагын сүлжээтэй үргэлжлүүлэн харилцах боломжийг зогсоох бөгөөд энэ нь агентын үйл ажиллагааг үндсээр нь таслах арга юм. Гэхдээ систем агентын үйлдлийг илрүүлсэн ч тухайн үйлдэл хорлонтой эсэхийг эцэслэн өөрөө шийдэхгүй. Ийм шийдвэрийг хүн гаргах зохицуулалттай байгаа нь автомат хамгаалалт болон хүний хяналтыг зэрэг хадгалахыг зорьсныг харуулж байна.

CrowdStrike мөн Anthropic-ийн Claude Cowork-той холболт зарлав. Үүний зэрэгцээ Fiddler AI болон Dreadnode компаниудыг худалдан авахаар төлөвлөж буйгаа мэдэгдсэн байна. Эдгээр алхам нь хиймэл оюуны агентуудын хэрэглээ нэмэгдэхийн хэрээр тэдгээрийг илрүүлэх, хянах, шаардлагатай үед зогсоох хамгаалалтын шийдлүүдийг нэг орчинд авч үзэх хандлагыг харуулж байна. Гэвч эх сурвалжийн мэдээллээр эдгээр холболт болон төлөвлөж буй худалдан авалтын хүрээнд өөр нэмэлт нөхцөл дурдагдаагүй байна.

CrowdStrike-ийн Даниел Бернард агентын үйл ажиллагаанд хяналт тавих, шаардлагатай үед унтраах боломжийг хиймэл оюуны хэрэглээний дараагийн шатанд чухал гэж үзжээ. “Хянах, унтраах боломжтой байж, шийдвэр гаргах нь хиймэл оюуны хэрэглээний дараагийн шатанд үнэхээр чухал” гэж Бернард хэлсэн байна. Түүний тайлбар нь зөвхөн агент ажиллаж байгаа эсэхийг ажиглахаас гадна, түүнийг хэзээ зогсоохыг тодорхойлох үйл явц хамгаалалтын гол хэсэг болж байгааг илэрхийлж байна. Энэ шийдэлд эцсийн үнэлгээ хүний оролцоотой үлдэж байгаа юм.

Бернард процессийг үндсээр нь зогсоох үед шийдвэр илүү тодорхой болдог гэж тайлбарлав. “Та хиймэл оюун болон агентыг зогсооно, эсвэл зогсоохгүй, дараа нь тайлагнана” гэж тэр хэлжээ. Ийм байр суурь нь агентын үйлдлийг үргэлжлүүлэн шинжлэхийн оронд эхлээд зогсоох, дараа нь нөхцөл байдлыг тайлагнах дарааллыг тодотгож байна. Тус хэрэгсэл ч мөн агентын дахин эхлэлтийг хориглож, сүлжээний хандалтыг таслах замаар энэ зарчмыг техникийн түвшинд хэрэгжүүлнэ.

Гэсэн хэдий ч агентын үйлдлийг илрүүлэх болон түүнийг хорлонтой гэж эцэслэн тогтоох нь хоёр өөр шат хэвээр байна. Компаниуд хиймэл оюуны шийдлийг хурдан нэвтрүүлэхийн зэрэгцээ найдвартай хамгаалалтыг хангах сорилттой үлдэнэ. CrowdStrike-ийн танилцуулсан унтраалга нь хяналтгүй ажилласан агентын ажиллагааг зогсоох боломж өгч байгаа ч шийдвэр гаргах хүний үүргийг арилгаагүй. Иймээс дараагийн шатны хэрэглээнд хяналт, унтраалт, шийдвэр гэсэн гурван үйл явц зэрэгцэн явах шаардлагатай болж байна.