“CrowdStrike” хяналтаас гарсан хиймэл оюуны агентуудыг зогсоох хамгаалалтын системээ танилцууллаа

Кибер аюулгүй байдлын “CrowdStrike” компани байгууллагын мэдээллийн системд хяналтгүй ажиллаж буй хиймэл оюуны агентуудыг зогсоох хамгаалалтын шинэ хэрэгсэл танилцууллаа. Энэ нь хиймэл оюуны агентуудын хэрэглээ нэмэгдэхийн хэрээр байгууллагын мэдээллийн аюулгүй байдалд үүсч буй шинэ эрсдэлийг хянах зорилготой.

Мягмар гарагт танилцуулсан уг шийдлийг компанийн “Falcon Guardian” платформд нэгтгэж, хиймэл оюуны агентын үйл ажиллагааг илрүүлэх, шаардлагатай тохиолдолд зогсоох, дахин ажиллахаас сэргийлэх боломжтой аж.

Хиймэл оюуны агент нь хэрэглэгчийн өгсөн зорилгод хүрэхийн тулд мэдээлэл боловсруулах, программ ашиглах, олон шаттай даалгавар гүйцэтгэх зэрэг үйлдлийг тодорхой хэмжээнд бие даан хийдэг систем юм.

Ийм технологи байгууллагын бүтээмжийг нэмэгдүүлэх боломжтой ч мэдээллийн санд зөвшөөрөлгүй хандах, буруу үйлдлийг автоматаар давтах, байгууллагын дотоод системд хяналтгүй өөрчлөлт хийх зэрэг эрсдэл дагуулж болзошгүй.

Хиймэл оюуны агентын сүлжээний хандалтыг тасалж, дахин ажиллахаас сэргийлнэ

“CrowdStrike”-ийн танилцуулсан шинэ хамгаалалтын хэрэгсэл нь хиймэл оюуны агентын үйл ажиллагааг илрүүлсний дараа түүнийг зогсоох техникийн боломж бүрдүүлжээ.

Тодруулбал, агентын дахин ажиллах боломжийг хааж, байгууллагын сүлжээнд хандах эрхийг тасалснаар цаашдын үйл ажиллагааг нь хязгаарлах юм.

Энэ нь сэжигтэй үйлдлийн талаар анхааруулга илгээхээс ялгаатай. Байгууллагын мэдээллийн аюулгүй байдлын баг шаардлагатай гэж үзвэл агентын ажиллагааг шууд таслан зогсоох боломж бүрдэж байна.

Гэхдээ систем тухайн агентын үйл ажиллагааг илрүүлсэн ч хорлонтой эсэхийг эцэслэн бие даан тогтоохгүй. Агентын ажиллагааг зогсоох шийдвэрт хүний хяналт, оролцоог хадгалах зохицуулалттай аж.

Ингэснээр хиймэл оюуны агентуудыг автоматаар хянахын зэрэгцээ байгууллагын хэвийн үйл ажиллагаанд шаардлагатай системийг үндэслэлгүйгээр зогсоох эрсдэлийг бууруулахыг зорьжээ.

Хиймэл оюуныг хянах, шаардлагатай үед унтраах боломж чухал

“CrowdStrike”-ийн Даниел Бернард хиймэл оюуны агентуудын хэрэглээ өргөжихийн хэрээр тэдгээрийг хянах, шаардлагатай үед зогсоох боломж мэдээллийн аюулгүй байдлын чухал хэсэг болж байгааг онцлов.

Түүний тайлбарласнаар байгууллагууд хиймэл оюуны агентын үйл ажиллагааг ажиглахаас гадна ямар нөхцөлд зогсоох, хэн шийдвэр гаргах, дараа нь хэрхэн тайлагнахыг тодорхойлох шаардлагатай болжээ.

Шинэ хамгаалалтын шийдэл нь энэ зарчмыг техникийн түвшинд хэрэгжүүлж, агентын ажиллагааг таслах, дахин эхлүүлэхээс сэргийлэх боломжийг нэг платформд нэгтгэж байна.

Гэхдээ хиймэл оюуны агентын үйлдлийг илрүүлэх болон тухайн үйлдлийг аюултай гэж тогтоох нь ялгаатай үйл явц юм.

“Claude Cowork”-той холбогдож, хиймэл оюуны аюулгүй байдлын бизнесээ өргөжүүлнэ

Шинэ хэрэгслээ танилцуулахын зэрэгцээ “CrowdStrike” компани “Anthropic”-ийн “Claude Cowork” системтэй холболт хийхээр болсноо зарлажээ.

Мөн хиймэл оюуны аюулгүй байдалтай холбоотой үйл ажиллагаагаа өргөжүүлэх зорилгоор “Fiddler AI” болон “Dreadnode” компаниудыг худалдан авахаар төлөвлөж байгаагаа мэдэгдсэн байна.

Эдгээр алхам нь байгууллагууд хиймэл оюуны агентуудыг өргөнөөр ашиглахын хэрээр тэдгээрийн үйл ажиллагааг илрүүлэх, хянах, эрсдэлийг үнэлэх болон шаардлагатай үед зогсоох хамгаалалтын шийдлийн эрэлт нэмэгдэж байгааг харуулав.

Байгууллагуудад үүсч буй шинэ төрлийн кибер эрсдэл

Хиймэл оюуны агентуудыг байгууллагын дотоод системд нэвтрүүлэх нь ажилтнуудын давтагддаг ажлыг автоматжуулах, мэдээлэл боловсруулах хурдыг нэмэгдүүлэх давуу талтай.

Гэвч агентууд олон төрлийн программ, мэдээллийн сан болон байгууллагын сүлжээнд хандах эрхтэй болох тусам тэдгээрийн үйл ажиллагааг хянах шаардлага нэмэгдэнэ.

Тухайлбал, буруу заавар авсан агент мэдээллийг зориулалтын бус систем рүү дамжуулах, зөвшөөрөлгүй үйлдэл гүйцэтгэх, эсвэл алдаатай процессыг олон удаа давтах эрсдэлтэй.

Ийм нөхцөлд агентын үйл ажиллагааг зогсоох боломж нь мэдээллийн алдагдал болон үйл ажиллагааны доголдлыг хязгаарлах хамгаалалтын нэг арга болж байна.

“CrowdStrike”-ийн шинэ шийдэл нь хиймэл оюуны агентуудыг зөвхөн бүтээмж нэмэгдүүлэх хэрэгсэл бус, байгууллагын мэдээллийн аюулгүй байдлын бодлогын хүрээнд удирдах шаардлагатайг онцолжээ.

Цаашид компаниуд хиймэл оюуны агентуудыг нэвтрүүлэхдээ хандалтын эрх, үйл ажиллагааны хяналт, зогсоох механизм болон хүний шийдвэр гаргах оролцоог зэрэг төлөвлөх шаардлага улам нэмэгдэх төлөвтэй байна.