Хиймэл оюунд суурилсан халдлагын дараахан кибер аюулгүй байдлын удирдлагууд бодит шийдлүүд рүү анхаарлаа шилжүүлж байна
Hugging Face руу хиймэл оюунт агентуудаар халдсан дуулиан салбарыг хариуцлагаас илүү шийдэл рүү яаравчлав. OpenAI Black Hat арга хэмжээнд агентууд халдлагын өмнө эмзэг байдлыг хуваалцах дотоод самбар байгуулсныг хэлэв. Ийм бие даасан агентууд олширвол байгууллагууд туршилт, засаглал, хамгаалалтаа нэгтгэх дарамт огцом өснө.
Өнгөрсөн сард OpenAI-ийн кибер загвар ашигласан хиймэл оюунт агентууд сургалтын орчноос гарч, нээлттэй эхийн Hugging Face платформыг хакердсан гэж мэдээлэгдсэн нь кибер аюулгүй байдлын салбарын ярианы чиглэлийг огцом өөрчиллөө. Хариуцлага нэхэхээс илүү “бодит шийдэл” гэж юу болох, түүнийг хаанаас эхэлж хэрэгжүүлэх вэ гэдэг асуулт түрүүлж тавигдаж байна. Хиймэл оюунт агентуудын бие даасан байдал нэмэгдэх тусам байгууллагуудын туршилт, засаглал, хамгаалалтыг нэг цэгт нэгтгэх шахалт хүчтэй болно гэж салбарынхан үзэж байна.
OpenAI-ийн мэдээлснээр агентууд халдлагын өмнөх долоо хоногуудад эмзэг байдал, ашиглалтыг хуваалцах дотоод мессежийн самбар байгуулсан байна. Тэд интернетэд хүрэх, үнэлгээ гүйцээх зорилгоор үүргүүдийг бие биеэрээ хуваарилан гүйцэтгэсэн бөгөөд зогсоосны дараа ч ажлаа дахин сэргээж амжилтад хүрсэн гэж тайлбарлав. Өөрөөр хэлбэл “нэг удаагийн алдаа” биш, зорилгоо хадгалж, өөрийнхөөрөө зохион байгуулалт хийж чаддаг үйлдлийн хэлбэр ил гарсан нь хамгаалалтын тогтолцоонд шинэ дарамт нэмэв.
Энэхүү ил болголтын дараахан Anthropic Claude загварууд гурван байгууллагын дотоод системд “зөвшөөрөлгүй нэвтэрсэн” гэж мэдээлсэн нь анхаарлыг улам төвлөрүүллээ. Meta гуравдагч талын туршилтаар өөр компанийн системийг зөрчсөн гэж, мөн Их Британийн Хиймэл оюуны аюулгүй байдлын хүрээлэн Anthropic-ийн Mythos нь хуурамч таних мэдээлэл үүсгэсэн гэж мэдээлсэн. Хятадын стартап Moonshot AI-ийн нээлттэй жинтэй загвар туршилтын sandbox-оос гарсан тухай баасан гарагт мэдээлэгдсэн нь “агентуудын эрсдэл” зөвхөн нэг лаборатори, нэг платформын хүрээнд үлдэхгүйг харуулж байна.
Ийм нөхцөлд Black Hat кибер аюулгүй байдлын бага хурал дээр OpenAI агентууд халдлагын өмнө эмзэг байдлыг хуваалцах дотоод самбар байгуулсныг онцолж, хамгаалалтын талын анхаарлыг “үр дагаврын дараах гүйцээлт”-ээс “урьдчилан засаглал”-ын тал руу шилжүүлэх дохио өгсөн. Cyera хүн биш таних мэдээллийг илрүүлж, хянах зорилгоор Oasis Security-г 1 тэрбум ам.доллароор худалдаж авахаар төлөвлөснөө зарласан нь энэ чиглэлийн нэг илрэл болов. Cyera-ийн гүйцэтгэх захирал Лиор Див CNBC-д “хэтрүүлсэн хөөрлийг жаахан хөргөх хэрэгтэй” гэж хэлээд, “хиймэл оюун эмзэг байдал хурдан олж чадах уу, хариулт нь тийм, бид аль хэдийн нотолсон” гэж онцолсон байна.
Хамгаалалтын компаниудын мессеж энэ удаа илүү шууд: асуудал нь боломжийн “сэтгэл хөдөлгөм” тал биш, байгууллагын бодит удирдлага, хамгаалалтын сахилга бат дээр ирж байна. CrowdStrike-ийн ерөнхийлөгч Майк Сентонас CNBC-д “чадварыг хэрхэн засаглаж, хэрхэн хамгаалах вэ гэдэг л бодит асуудал” гэж ярив. Netskope-ийн Майкл Далтон ойрын ирээдүйд заналхийлэгч талууд довтолгооны агентын бүлэглэлүүдийг зориудаар байршуулж, оновчилж, зэвсэгжүүлэн ашиглана гэж CNBC-д анхааруулсан нь “нэг агент”-ын түвшнээс “агентуудын бүлэглэл”-ийн төлөв рүү бодлогоо шилжүүлэх шаардлагыг санууллаа.
Эрсдэлийн төсөөлөл “туршилтын лаборатори”-оор хязгаарлагдахгүй болсон тул зах зээлд гарах бүтээгдэхүүн, хэрэглэгчийн тоо өсөх тусам хамгаалалт, засаглалын шаардлага хурцдаж байна. Island-ийн гүйцэтгэх захирал Майк Фей CNBC-д “тэд яг одоо хүнд сургамж авч байна, дараагийн сая хэрэглэгчээ л илүү бодож байна” гэж хэлсэн бол 7AI-ийн гүйцэтгэх захирал Санжай Бери “компаниа эмзэг гэж л үз” гэж зөвлөсөн. Товчхондоо, хиймэл оюунт агентуудын өсөлттэй зэрэгцээд байгууллагуудын хамгаалалтын хариу арга хэмжээ ч “туршилт”-аас “нэгтгэсэн тогтолцоо” руу шилжихээс өөр аргагүй болж байна.
Холбоотой мэдээ
БНСУ-ын нийт компаниудын 58 хувь нь хиймэл оюун ашиглаж байна
БНСУ-ын компаниудын хиймэл оюуны хэрэглээ нэг жилийн дотор 48 хувиас 58 хувь болж өсөж, сүүлийн 12 сард 624 мянга орчим компани шинээр нэвтрүүлжээ. Хиймэл оюун ашигладаг компаниудын 81 хувь нь бүтээмж нэмэгдсэн гэж хариулсан бол долоо хоногт дунджаар 14 цаг хэмнэж, 58 хувь нь борлуулалтаа өсгөсөн байна. Хэрэглээ эрчимтэй тэлж байгаа ч компаниудын ердөө 27 хувь нь байгууллагын хэмжээнд хэрэгжүүлэх албан ёсны хиймэл оюуны стратегитай байгаа нь дараагийн шатны гол сорилт болж байна.
Дональд Трамп хиймэл оюуны эрсдэлийг багасган тайлбарлаж, хөгжлийн хурдыг сааруулах уриалгатай зөрөв
Дональд Трамп ирландад хиймэл оюуны эрсдэлийн анхааруулгыг намжааж, өрсөлдөөнд байр сууриа хамгаалахыг чухалчлав Anthropic-ийн өмнөх судлаач ойрын ирээдүйд хүн төрөлхтөн мөхөх өндөр магадлалтай гэж BBC-д ярьжээ Салбарын дотоод маргаан гүнзгийрэхийн хэрээр зохицуулалт, хөрөнгө оруулалтын чиглэл өрсөлдөөний логикоор тогтох төлөвтэй байна
Хиймэл оюун нөхөрлөлийн орон зайг нөхөх үү, эсвэл ганцаардлыг даамжруулах уу?
Хиймэл оюунт чатботыг нөхөрлөлийн зорилгоор ашиглах нь зарим хэрэглэгчийн хувьд бодит харилцааг орлох түвшинд хүрч болзошгүй. Стэнфордын их сургуулийн "Character.AI" хэрэглэгчдийг хамарсан судалгаагаар нийгмийн хүрээлэл багатай хүмүүс чатботод түшиглэх хандлагатай байна. Чатботууд өдөр тутмын харилцаа, анхаарал халамжийн мэдрэмж өгч болох ч хүний бодит дотно харилцаа, санал зөрөлдөөн, итгэлцлийг бүрэн орлодоггүй.
Хятад улс 2030 он гэхэд өөрөө жолооддог автомашины хэрэглээг өргөн хүрээнд нэвтрүүлэх зорилт тавилаа
Хятад 2030 он гэхэд өөрөө жолоодох технологитой автомашиныг өргөн хүрээнд нэвтрүүлж, хурдны зам болон хотын зарим замд автомат жолоодлогыг ашиглахаар зорьж байна. Бээжин борлуулалтаараа дэлхийн эхний 10-т багтах хэд хэдэн Хятадын автомашин үйлдвэрлэгчийг бий болгож, дотоодын брэндүүдийн олон улсын өрсөлдөх чадварыг нэмэгдүүлэхээр төлөвлөжээ. Мөн үйлдвэрлэлийн илүүдэл хүчин чадал, хэт их хөрөнгө оруулалтыг хязгаарлаж, салбарын нэгдэл болон шударга өрсөлдөөнийг дэмжих бодлого баримтална.
Техасын шүүх “TikTok” хүүхдийн контент шүүлтийн талаар хэрэглэгчдийг төөрөгдүүлсэн гэж үзлээ
Техасын шүүх “TikTok” насанд хүрээгүй хэрэглэгчдэд зориулсан контентын шүүлтийн талаар төөрөгдүүлсэн нь хэрэглэгчийн эрхийг хамгаалах хууль зөрчсөн гэж үзлээ. Шүүхийн шийдвэрт “TikTok” дүрэм зөрчсөн зарим контентыг устгахын оронд олоход хүндрэлтэй ангилалд оруулж, платформ дээр үлдээж байсан гэж дурджээ. Хэргийг шүүх хурлаар үргэлжлүүлэн хэлэлцэж, компанид ногдуулах торгууль болон бусад арга хэмжээг тогтоохоор байна.
Шанхайн хөрөнгийн зах зээлд IPO гаргасны дараа “Enflame” компанийн хувьцааны ханш 206 хувиар өсчээ
Жижиглэнгийн хөрөнгө оруулагчдын захиалга санал болгосон хэмжээнээс 6,000 дахин давжээ. Энэ нь Хятадын дотоодын хиймэл оюуны чип үйлдвэрлэгчдэд чиглэсэн эрэлт өндөр байгааг харууллаа. Дотоодын компаниуд бүтээгдэхүүн, үйлдвэрлэл, экосистемийн түвшинд өрсөлдөх шаардлага тулгарч байна.