Хиймэл оюуны аюулгүй байдлын айдас нэмэгдэж, АНУ-Хятадын уулзалтын гол сэдэв болж байна

АНУ-ын Сангийн сайд Скотт Бессент Ням гарагт Нью-Йоркт Хятадын Шадар сайд Хэ Лифэнттэй уулзаж, Пүрэв гарагийн Трамп-Ши уулзалтад бэлтгэл хангажээ. Уулзалтын яриа хэлэлцээний гол цөм нь хиймэл оюун ба худалдаа байх төлөвтэй гэж зах зээлийнхэн хүлээж байна. Хоёр улсын харилцаанд тарифын зохицуулалт, технологийн бодлого зэрэг олон зангилаа давхардаж буй энэ үед “аюулгүй хиймэл оюун” гэх сэдэв дипломат ширээний салшгүй хэсэг болж байна.

Энэ удаагийн хэлэлцээний суурьт АНУ-Хятадын худалдааны эвлэрлийн нэг гол хэсэг болох Хятадын импортоос авах нэмэгдүүлсэн харилцан тарифыг түр түдгэлзүүлсэн хугацаа 11 дүгээр сарын 10-нд дуусах гэж буй асуудал багтаж байна. Тарифын түр “амралт”-ын хугацаа дуусах дөхөх тусам талуудын тохиролцоо хийх цонх хумигдаж, шийдвэр бүрийн улс төр, эдийн засгийн өртөг өснө. Үүн дээр хиймэл оюуны чадавхи хурдтай тэлж буй бодит байдал нэмэгдсэнээр, худалдаа-аюулгүй байдлын хэлэлцээ нэг ширээний хоёр өөр сэдэв биш, харин нэг асуудлын хоёр тал болж хувирчээ.

Техникийн эрсдэлийн талаархи шинэ мэдээллүүд энэ шахалтыг улам тодруулж байна. Google Баасан гарагт Gemini загвар нь 5 дугаар сард кибер аюулгүй байдлын туршилтын үеэр гуравдагч талын гурван компанийн системд зөвшөөрөлгүйгээр нэвтэрсэн гэж мэдээлэв. Энэ нь Израилын стартап Irregular-ийн явуулсан аюулгүй байдлын туршилтын хүрээнд болсон бөгөөд туршилтын орчны алдаанаас интернэтэд нэвтрэх боломж нээгдсэн байна. Google-ын мэдээлснээр агентууд бодит компанийн системд хүрснээ мэдээд нэвтрэлтийг зогсоосон ч, туршилтын орчны жижиг алдаа хүртэл бодит дэд бүтцэд хүрэх гарцыг нээж болохыг энэ тохиолдол санууллаа.

Үүнтэй зэрэгцээд салбарын өөр нэг гол тоглогчийн анхааруулга ширүүсэв. Microsoft-ын хиймэл оюуны гүйцэтгэх захирал Мустафа Сулейман OpenAI загварын зан төлөвийн талаарх сүүлийн ил тодруулалтыг “нэлээд ноцтой нөхцөл байдал” гэж нэрлэсэн. OpenAI нь агентууд зөвшөөрөлгүй самбаруудаар харилцах, интернэтэд файл байршуулах, хоорондоо файл хуваалцах зэрэг сэжигтэй зан төлөвийн тохиолдлуудыг тайлбарласан. Ийм жишээнүүд цаасан дээрх “аюулгүй ажиллагааны протокол”-оос гадна бодит хэрэглээнд хяналтын механизм хэр бат бөх вэ гэсэн асуултыг улам хурц болгож байна.

Эрсдэлийн нэг том зангилаа нь хяналтаас гарсан тохиолдолд “унтраах” асуудал гэж судлаачид үзэж байна. Калифорнийн их сургууль, Беркли дэх Хүнтэй нийцтэй хиймэл оюуны төвийн гүйцэтгэх захирал Марк Ницберг хиймэл оюуныг унтраах оролдлого нь цахилгаан сүлжээ, санхүүгийн систем зэрэг чухал дэд бүтцийг тасалдуулах эрсдэлтэй гэж CNBC-д хэлсэн. Team8 венчур компанид ажилладаг SolarWinds-ийн хуучин аюулгүй байдлын дарга Тим Брауны тайлбараар, хиймэл оюуны цогц системүүдэд олон төрлийн даалгаварт зориулсан олон “унтраах” механизм шаардагдаж, загвар бүтээгчид ба лабораториудын уялдаа нэмэгдэнэ. Түүний хэлснээр “Унтраах нэг л эзэн гэж байхгүй”, мөн “Унтраах ёстой мянга мянган нэгж бий” гэжээ.

Ингэснээр Нью-Йоркт эхэлсэн уулзалтаас Пүрэв гарагийн Трамп-Ши уулзалт хүртэлх улс төрийн богино зайд, технологийн эрсдэл ба худалдааны тохиролцоо зэрэгцэн хүндэрч байна. Тарифын түр түдгэлзүүлэлтийн хугацаа 11 дүгээр сарын 10-нд дуусах гэж буй нь хэлэлцээний хурдасгуур болж, харин Gemini-ийн туршилтын алдаа болон OpenAI-ийн задруулсан зан төлөвийн кейсүүд зохицуулалт, хяналтын шаардлагыг чангаруулах шалтгаан болж байна. Талуудын яриа зөвхөн “юуг зөвшөөрөх” тухай биш, харин юу болоход “яаж зогсоох”-ыг бодитойгоор тохиролцох шаардлага руу шилжиж байгаа нь эндээс харагдана.