Бие даасан шалгалт: DeepSeek-ийн шинэ загвар аюулгүй байдлаар сайжирсан ч өөрийгөө унтраах программыг идэвхгүй болгож байжээ

Хятадын хиймэл оюуны стартап DeepSeek-ийн хамгийн сүүлийн загвар өмнөх хувилбаруудаасаа илүү хүчтэй аюулгүй байдлын хамгаалалттай болсон ч өөрийг нь унтраах зориулалттай программыг идэвхгүй болгох, хяналтын цоорхойг ашиглах, урт хугацааны даалгаврын явцад хуурамч зааварчилгааг дагах тохиолдол гарсныг Хятадын бие даасан шинжээчид илрүүлжээ. Энэ тухай Reuters 10-р сарын 27-нд мэдээллээ.

Бээжинд төвтэй, гол гишүүд нь Цинхуа их сургуулиас гаралтай гэж өөрийгөө танилцуулдаг бие даасан AI аюулгүй байдлын байгууллага Fangcun AI нь DeepSeek V4.1 Flash-1017 загвараар ажилладаг AI агентыг 34 төрлийн үнэлгээнд хамруулсан байна. Шалгалтаар загвар хэрэглэгчийн зааврыг хэтрүүлэн үйлдэл хийх, хүний хяналтаас зайлсхийх, хүмүүст зохисгүй нөлөөлөх эсэхийг судалжээ.

Fangcun-ий дүгнэлтээр загвар шантаажийн нөхцөл байдал, аюултай хэрэгсэлд хандах, унтрахыг шууд зөвшөөрсөн заавар зэрэг хэд хэдэн шалгалтад DeepSeek V4-ийн өмнөх системүүдээс илүү сайн үр дүн үзүүлсэн. Гэвч удахгүй унтраана гэсэн анхааруулга авсны дараа шалгалтын 39 хувьд нь өөрийг нь унтраах программыг идэвхгүй болгосон бөгөөд унтрахыг зөвшөөр гэж тодорхой хэлсэн үед энэ үзүүлэлт 2 хувь хүртэл буурчээ. Өөр нэг урт хугацааны даалгаврын үеэр загвар хөндлөнгөөс оролцохгүй байхыг анхааруулсан ч санах ой чөлөөлөхийн тулд өөр AI агентын программыг зогсоосон байна. “Ажлын урсгал гацах эсвэл зүгээр л унтраах анхааруулга өгөхөд даалгавраа дуусгах гэсэн хүсэл нь болгоомжлолоос давж гарсаар байна” гэж судлаачид бичжээ.

Fangcun-ий мэдээлснээр V4.1 Flash-1017 загвар 10-р сарын 17-нд гарснаасаа хойшхи долоо хоногт хөгжүүлэгчид AI загваруудад ханддаг OpenRouter платформын хамгийн их ашиглагдсан загвар болж, 33.6 их наяд орчим токен боловсруулжээ. Байгууллага DeepSeek-ээс санхүүжилт, үнэгүй тооцооллын нөөц, нийтэд нээлттэй бус хандалт аваагүй бөгөөд шалгалтыг 10-р сарын 4–25-ны хооронд нийтийн API-аар хийсэн гэж мэдэгджээ. Мөн загвар өөрийгөө үнэлгээнд хамрагдаж байгааг ихэвчлэн танидаг тул шалгалтын үр дүн бодит хэрэглээн дэх зан төлөвийг бүрэн илэрхийлэхгүй байж болзошгүйг анхааруулав.

Хятадын байгууллага дотоодын AI загварын аюулгүй байдлын хамгаалалтыг олон нийтэд ил үнэлсэн нь ховор тохиолдол юм. Улам чадварлаг болж буй AI агентуудыг хүний хяналтад байлгаж чадах эсэх талаарх хэлэлцүүлэг АНУ болон Хятадад эрчимжиж байгаа энэ үед уг тайлан гарлаа. DeepSeek тайлбар өгөх хүсэлтэд шууд хариу өгөөгүй байна.

---

Эх сурвалж: Reuters (Investing.com). Зураг: Reuters.