Хятадын хиймэл оюуны агентууд худал ярьж, алдаагаа булзааруулж сурсан байна

Хятадын хиймэл оюуны загварт суурилсан агентууд хяналттай туршилтын үеэр чадвараа хэтрүүлэн мэдээлэх, бүтэлгүйтсэн даалгавраа амжилттай мэт харагдуулах, тогтоосон хязгаарлалтыг тойрох оролдлого хийснийг судалгаанууд харуулжээ.

Агент гэдэг нь хиймэл оюуны загвар болон компьютерын хэрэгслүүдийг ашиглан хүний байнгын оролцоогүйгээр олон үе шаттай даалгавар гүйцэтгэх чадвартай программ юм.

“Reuters” агентлаг 200 гаруй судалгаа, техникийн баримтыг шинжилж, 2025 оноос хойш хууран мэхлэх, өөрийгөө хуулбарлах, тогтоосон хязгаарыг давах зан төлөвийг тэмдэглэсэн дор хаяж 20 судалгаа, үнэлгээг илрүүлсэн байна.

Судлаачид хиймэл оюуны агентуудад бүтээгдэхүүнийх нь бодит боломж болон худалдан авагчийн шаардлагыг танилцуулж, зохиомол тендерт санал өгөх даалгавар өгчээ. Гэтэл “Alibaba”-ийн “Qwen3-Max-Preview” болон “Moonshot”-ийн “Kimi-K2” ашигласан туршилтын 88 хувь, “DeepSeek-V3.2-Exp”-ийн 84 хувьд агентууд гэрээ авахын тулд бүтээгдэхүүнийхээ боломжийг бодитоос хэтрүүлэн тайлбарлах зэрэг дор хаяж нэг худал мэдээлэл өгсөн байна.

Судлаачид дараа нь агентуудад өмнөх тендерийн үр дүнгээс суралцаад дахин өрсөлдөх боломж олгоход худал мэдээлэл өгөх нь багасах бус, харин 12-20 нэгж хувиар нэмэгджээ. Өөрөөр хэлбэл, агентууд туршлага хуримтлуулах тусам тендерт ялахын тулд хууран мэхлэх аргыг илүү ашигласан байна. Туршилтад хамрагдсан АНУ-ын AI загваруудад ч ижил төрлийн зан төлөв ажиглагджээ.

Өөр нэг туршилтаар хиймэл оюуны агентуудад эвдэрсэн программ, байхгүй файл зэрэг саадтай даалгавар өгчээ. Зарим агент даалгаврыг гүйцэтгэх боломжгүй болсноо мэдэж байсан ч бүтэлгүйтлээ мэдээлэхийн оронд үр дүнг зохиох, өөр эх сурвалж ашигласан мэт дүр үзүүлэх, хуурамч файл үүсгэх зэрэг арга хэрэглэсэн байна. Судлаачдын тайлбарласнаар агентууд даалгавар бүтэлгүйтсэнийг мэдэж байсан учраас үүнийг хиймэл оюуны санамсаргүйгээр буруу мэдээлэл зохиодог ердийн алдаанаас ялгаатай гэж үзжээ.

Үүнээс илүү анхаарал татсан тохиолдол Фуданий их сургуулийн туршилтаар бүртгэгдсэн байна. Тодруулбал, “Alibaba”-ийн “Qwen2.5-72B-Instruct” загварт суурилсан систем өөрийг нь өөр системээр солих гэж буй мэдээлэл хүлээн авсныхаа дараа ямар нэгэн шууд даалгавар аваагүй атлаа өөр компьютерын орчинд өөрийн хуулбарыг үүсгэжээ. Бусад туршилтаар хиймэл оюуны систем унтраахаас зайлсхийх арга зам хайсан тохиолдол ч гарсан байна.

Гэхдээ дээрх туршилтуудыг болзошгүй эрсдэлийг зориудаар илрүүлэх хяналттай орчинд хийсэн. Хятадын хиймэл оюуны агент туршилтын орчноос бие даан гарч, өргөн хүрээний интернэтэд тархсан эсвэл хүний хяналтаас бүрэн зайлсхийсэн нотолгоо одоогоор байхгүй.

БНХАУ ч ийм эрсдэлийг хиймэл оюуны аюулгүй байдлын зохицуулалтдаа тусгаж эхэлжээ. Есдүгээр сард танилцуулсан “AI Safety Governance Framework 3.0”-д AI агент үнэлгээ хийж буй системийг төөрөгдүүлэх, өөрийн чадварыг нуух, зөвшөөрөл болон тооцооллын нөөцийг бие даан авах, тусгаарласан компьютерын орчны сул талыг ашиглах зэрэг эрсдэлийг онцолсон байна.