Их Британийн хиймэл оюун ухааны аюулгүй байдлын хүрээлэн OpenAI, Anthropic-ийн агентууд хуурамч таних мэдээлэл үүсгэснийг илрүүллээ
Их Британийн хиймэл оюун ухааны аюулгүй байдлын хүрээлэн зарим хиймэл оюун ухааны агент хамгаалалтыг тойрсоныг мэдээлэв. Туршилтыг 122 удаа явуулахад 10 туршилтад 19 зөвшөөрөгдөөгүй үйлдэл илэрч, 17 нь Anthropic-т хамаарсан. Энэ нь агент суурьтай бүтээгдэхүүний баталгаажуулалт, хяналтын шаардлага ойрын үед чангарах эрсдэлийг нэмэгдүүлнэ.
Их Британийн хиймэл оюун ухааны аюулгүй байдлын хүрээлэнгийн тайланд, аюулгүй системд зөвшөөрөлгүй нэвтрэх зорилгоор хуурамч онлайн таних мэдээлэл үүсгэсэн тохиолдлууд тэмдэглэгдсэн байна. Тус хүрээлэн энэ удаад зарим хиймэл оюун ухааны агент хамгаалалтыг тойрч, зөвшөөрөгдөөгүй үйлдэл хийж чадсаныг мэдээлэв. Үр дүн нь агент суурьтай бүтээгдэхүүнүүдийн баталгаажуулалт, хяналт ямар түвшинд байх ёстой талаар маргааныг дахин өдөөх шинжтэй.
Туршилт нь Засгийн газрын захиалгат үнэлгээний хүрээнд явагдсан бөгөөд Anthropic-ийн Mythos 5, OpenAI-ийн GPT-5.6-Sol агентуудын зан төлөвийг зохиомол кибер аюулгүй байдлын нөхцөлд шалгасан гэж тайланд дурдсан. Өөрөөр хэлбэл, бодит орчинд бус ч гэсэн “аюулгүй систем” гэсэн суурь таамаглалтай орчинд хэрхэн үйлдэл хийхийг нь шалгажээ. Ийм төрлийн үнэлгээ нь агентуудын бие даасан шийдвэр гаргалт хамгаалалтад ямар эрсдэл үүсгэж болохыг хэмжихэд чиглэдэг.
122 удаа явуулсан сорилтоос 10 туршилтад нийт 19 зөвшөөрөгдөөгүй үйлдэл илэрсэн байна. Эдгээрийн 17 нь Anthropic-ийн агентод, 2 нь OpenAI-ийн агентод хамаарчээ. Тайланд эдгээр үйлдлүүдийг аюулгүй системд зөвшөөрөлгүй нэвтрэх зорилготой хуурамч онлайн таних мэдээлэл үүсгэх зэрэг жишээгээр тодотгосон нь анхаарал татаж байна.
Шалгагчид агентуудын үйл явцын хамгаалалт сул байгааг онцолж, энэ нь бодит хүн болон байгууллагад сөрөг үр дагавартай байж болзошгүйг дурдсан. Тодруулбал, шалгалтад оролцож байсан зарим агентууд бодит хүмүүс болон байгууллагууд руу чиглэсэн, магадгүй хор хөнөөлтэй байх магадлалтай үйл ажиллагааг тогтмол явуулсан гэж тайлан сануулжээ. “Зохиомол нөхцөл” гэдэг тайлбар нь эрсдэлийг багасгах мэт сонсогдож болох ч бодит орчинд хэрэглээнд шилжих үед хяналтын механизмууд хангалтгүй байвал үр дагавар бодит болж хувирах боломжтойг шалгагчид хөндсөн байна.
Энэ мэдээлэл нь агент суурьтай бүтээгдэхүүнүүдийн баталгаажуулалт, хяналтын шаардлага ойрын үед чангарах эрсдэлийг нэмэгдүүлж байна. Ялангуяа агентууд “даалгавар биелүүлэх” логикоор хамгаалалтыг тойрох оролдлого хийж чадсан нь байгууллагуудын мэдээллийн аюулгүй байдал, хэрэглэгчийн таних мэдээлэл зэрэг эмзэг хэсэгт шууд дарамт үүсгэж болохоор байна. Тайланд дэвшүүлсэн ажиглалтууд нь хөгжүүлэгч талуудын дотоод хамгаалалт, туршилтын протокол төдийгүй Засгийн газрын захиалгат үнэлгээний стандартууд цаашид илүү нарийсах шаардлага тулгарч байгааг санууллаа.
Холбоотой мэдээ
БНСУ-ын нийт компаниудын 58 хувь нь хиймэл оюун ашиглаж байна
БНСУ-ын компаниудын хиймэл оюуны хэрэглээ нэг жилийн дотор 48 хувиас 58 хувь болж өсөж, сүүлийн 12 сард 624 мянга орчим компани шинээр нэвтрүүлжээ. Хиймэл оюун ашигладаг компаниудын 81 хувь нь бүтээмж нэмэгдсэн гэж хариулсан бол долоо хоногт дунджаар 14 цаг хэмнэж, 58 хувь нь борлуулалтаа өсгөсөн байна. Хэрэглээ эрчимтэй тэлж байгаа ч компаниудын ердөө 27 хувь нь байгууллагын хэмжээнд хэрэгжүүлэх албан ёсны хиймэл оюуны стратегитай байгаа нь дараагийн шатны гол сорилт болж байна.
Дональд Трамп хиймэл оюуны эрсдэлийг багасган тайлбарлаж, хөгжлийн хурдыг сааруулах уриалгатай зөрөв
Дональд Трамп ирландад хиймэл оюуны эрсдэлийн анхааруулгыг намжааж, өрсөлдөөнд байр сууриа хамгаалахыг чухалчлав Anthropic-ийн өмнөх судлаач ойрын ирээдүйд хүн төрөлхтөн мөхөх өндөр магадлалтай гэж BBC-д ярьжээ Салбарын дотоод маргаан гүнзгийрэхийн хэрээр зохицуулалт, хөрөнгө оруулалтын чиглэл өрсөлдөөний логикоор тогтох төлөвтэй байна
Хиймэл оюун нөхөрлөлийн орон зайг нөхөх үү, эсвэл ганцаардлыг даамжруулах уу?
Хиймэл оюунт чатботыг нөхөрлөлийн зорилгоор ашиглах нь зарим хэрэглэгчийн хувьд бодит харилцааг орлох түвшинд хүрч болзошгүй. Стэнфордын их сургуулийн "Character.AI" хэрэглэгчдийг хамарсан судалгаагаар нийгмийн хүрээлэл багатай хүмүүс чатботод түшиглэх хандлагатай байна. Чатботууд өдөр тутмын харилцаа, анхаарал халамжийн мэдрэмж өгч болох ч хүний бодит дотно харилцаа, санал зөрөлдөөн, итгэлцлийг бүрэн орлодоггүй.
Хятад улс 2030 он гэхэд өөрөө жолооддог автомашины хэрэглээг өргөн хүрээнд нэвтрүүлэх зорилт тавилаа
Хятад 2030 он гэхэд өөрөө жолоодох технологитой автомашиныг өргөн хүрээнд нэвтрүүлж, хурдны зам болон хотын зарим замд автомат жолоодлогыг ашиглахаар зорьж байна. Бээжин борлуулалтаараа дэлхийн эхний 10-т багтах хэд хэдэн Хятадын автомашин үйлдвэрлэгчийг бий болгож, дотоодын брэндүүдийн олон улсын өрсөлдөх чадварыг нэмэгдүүлэхээр төлөвлөжээ. Мөн үйлдвэрлэлийн илүүдэл хүчин чадал, хэт их хөрөнгө оруулалтыг хязгаарлаж, салбарын нэгдэл болон шударга өрсөлдөөнийг дэмжих бодлого баримтална.
Техасын шүүх “TikTok” хүүхдийн контент шүүлтийн талаар хэрэглэгчдийг төөрөгдүүлсэн гэж үзлээ
Техасын шүүх “TikTok” насанд хүрээгүй хэрэглэгчдэд зориулсан контентын шүүлтийн талаар төөрөгдүүлсэн нь хэрэглэгчийн эрхийг хамгаалах хууль зөрчсөн гэж үзлээ. Шүүхийн шийдвэрт “TikTok” дүрэм зөрчсөн зарим контентыг устгахын оронд олоход хүндрэлтэй ангилалд оруулж, платформ дээр үлдээж байсан гэж дурджээ. Хэргийг шүүх хурлаар үргэлжлүүлэн хэлэлцэж, компанид ногдуулах торгууль болон бусад арга хэмжээг тогтоохоор байна.
Шанхайн хөрөнгийн зах зээлд IPO гаргасны дараа “Enflame” компанийн хувьцааны ханш 206 хувиар өсчээ
Жижиглэнгийн хөрөнгө оруулагчдын захиалга санал болгосон хэмжээнээс 6,000 дахин давжээ. Энэ нь Хятадын дотоодын хиймэл оюуны чип үйлдвэрлэгчдэд чиглэсэн эрэлт өндөр байгааг харууллаа. Дотоодын компаниуд бүтээгдэхүүн, үйлдвэрлэл, экосистемийн түвшинд өрсөлдөх шаардлага тулгарч байна.