“Nvidia” хиймэл оюуны агентуудыг хязгаарлах аюулгүй байдлын платформ танилцууллаа

АНУ-ын чип үйлдвэрлэгч “Nvidia” даваа гарагт хиймэл оюуны агентууд компанийн системд зөвшөөрөгдсөн хүрээнээсээ хэтэдсэн үйлдэл гаргах эрсдэлийг бууруулах зорилготой шинэ “Open Agent Safety Platform” платформоо танилцууллаа. Тус системээр хөгжүүлэгчид агент ямар мэдээлэл, программ болон сүлжээнд хандаж болохыг урьдчилан тогтоож, үйл ажиллагааг нь тасралтгүй хянах боломжтой юм. “Nvidia”-ийн үүсгэн байгуулагч, гүйцэтгэх захирал Женсен Хуанг CNBC-ийн “Squawk Box” нэвтрүүлэгт өгсөн ярилцлагадаа хиймэл оюуны агентуудыг байгууллагын систем дотор хүний хараа хяналтгүй ажиллуулах боломжгүйг онцолжээ. Мөн тэрбээр шинэ платформыг агентуудад зориулсан хайлтын системтэй зүйрлэж, тухайн агент зөвхөн ажлаа гүйцэтгэхэд шаардлагатай систем, мэдээлэлд хандах орчин бүрдүүлнэ хэмээн тайлбарлав.

Агентын эрхийг программ болон техник хангамжаар хязгаарлана Платформын үндсэн хэсэг болох нээлттэй эхийн “Nvidia OpenShell” программ нь хиймэл оюуны агент бүрийг тусгаарлагдсан орчинд ажиллуулж, файл, сүлжээ, процесс болон нэвтрэх эрхийг нь бодлогоор хязгаарлах аж. Хяналт нь агентаас тусдаа ажилладаг тул агент өөрөө код бичих, нэмэлт процесс эхлүүлэх үед ч тогтоосон зөвшөөрлийг тойрч гарахаас сэргийлэхээр бүтээгдсэн байна. Үүний зэрэгцээ агентыг үйлдлийг тогтмол хянах “Nvidia Sentry” системийг суурилуулжээ. Энэ системээр “BlueField-4” өгөгдөл боловсруулах чип дээр агентыг тусад нь хянах хамгаалалтын давхарга үүсгэсэн ба агент зөвшөөрөгдсөн хүрээнээс гарах оролдлого хийвэл “Sentry” түүнийг миллисекундын дотор тусгаарлан зогсоох үүрэгтэй юм. “Nvidia”-ийн байгууллагын хиймэл оюун хариуцсан дэд ерөнхийлөгч Жастин Бойтаногийн хэлснээр сүүлийн үеийн аюулгүй байдлын эрсдэлтэй тохиолдлууд хиймэл оюуны загварт суулгасан хамгаалалт дангаараа агент ямар системд нэвтэрч, ямар үйлдэл хийхийг бүрэн хянахад хүрэлцэхгүй байгааг харуулжээ. Хиймэл оюуны агентуудын аюулгүй байдал шинэ зах зээл болж байна Хиймэл оюуны агент нь хэрэглэгчийн өгсөн хүсэлтийн хүрээнд код бичих, программ ашиглах, мэдээлэл хайх, мөн бусад системтэй холбогдох зэрэг олон шаттай ажлыг бие даан гүйцэтгэх боломжтой. Гэвч ийм агентуудын эрх нэмэгдэхийн хэрээр компанийн нууц мэдээлэлд нэвтрэх, үйлдвэрлэлийн өгөгдлийг өөрчлөх, зөвшөөрөөгүй системтэй холбогдох зэрэг эрсдэл дагаад нэмэгдэж буйг “Nvidia” тайлбарлав. Шинэ платформыг технологийн “Cisco”, “Microsoft”, “Oracle”, “CoreWeave”, “Dell Technologies”, “HPE”, “Lenovo”, “Arm” болон “Intel” зэрэг компанийн дэд бүтэцтэй уялдуулан ашиглах боломжтой юм. Мөн “Nvidia” хиймэл оюуны “Anthropic” компанитай хамтран агентын системүүдийг “OpenShell”-тэй нэгтгэж байна. “Nvidia”-ийн мэдээлснээр нийт 100 гаруй байгууллага платформын технологитой ажиллаж эхэлжээ. Түүнчлэн Женсен Хуанг CNBC-д өгсөн ярилцлагадаа хиймэл оюуны салбарын өсөлт зөвхөн загваруудын хүчин чадлаас бус, хэрэглэгч болон компаниуд тэдгээрийг аюулгүй ашиглаж чадна гэсэн итгэлээс хамаарна гэж үзэж буйгаа хэлсэн байна. “Nvidia”-ийн хувьд уг платформ нь GPU нийлүүлэгчийн үндсэн бизнесээс гадна хиймэл оюуны агент ажиллах программ, процессор, сүлжээ болон аюулгүй байдлын дэд бүтцийг нэг дор хамрах оролдлого болж байна. Компани “Open Agent Safety Platform”-ыг бусад үйлдвэрлэгч бүтээгдэхүүн, үйлчилгээ хөгжүүлэхэд ашиглаж болох жишиг архитектур хэлбэрээр нээлттэй хөгжүүлж байгаа бөгөөд “OpenShell”-ийг гуравдагч талын техник хангамжид ашиглах боломжтой гэж мэдээлжээ.