Их Британи AI эрсдэлийн эсрэг кибер хамгаалалтаа бэхжүүлж, ноцтой осол, “бараг болсон” тохиолдлыг мэдээлэх тогтолцоог судална
Их Британийн AI-н асуудал хариуцсан сайд Канишка Нараян засгийн газрын системд мянга гаруй эмзэг байдлыг илрүүлсэн туршилтын төслүүдийг өргөжүүлж, Кибер аюулгүй байдал ба тэсвэрт байдлын хуулийн хүрээнд AI-тай холбоотой ноцтой осол, бараг болсон тохиолдлыг мэдээлэх арга замыг судлахаа мэдэгдлээ.
Их Британийн Засгийн газар улам хүчирхэг болж буй хиймэл оюуны эрсдэлээс улс орноо хамгаалах цогц арга хэмжээг 2026 оны 10-р сарын 12-ны даваа гарагт зарлалаа. AI-н асуудал хариуцсан сайд Канишка Нараян Лондон дахь Imperial College-ийн шинжлэх ухаан, технологийн инкубатор Base One-д үг хэлэхдээ хиймэл оюуны шинэ эрсдэлд “нийт нийгмийн оролцоотой” тэсвэртэй байдлыг бий болгох шаардлагатайг онцолжээ.
Гол арга хэмжээнүүд
- Туршилтын төслүүдийг өргөжүүлэх. Засгийн газрын системүүдэд мянга гаруй боломжит кибер эмзэг байдлыг илрүүлж засахад тусалсан хоёр туршилтын төслийг томсгож, төрийн үйлчилгээг хамгаалахад дэвшилтэт AI-г ашиглана.
- Хууль эрх зүйн хамгаалалтыг чангатгах. Cyber Security and Resilience Bill буюу Кибер аюулгүй байдал ба тэсвэрт байдлын хуулийн төсөл болон холбогдох зохицуулалтын зарим хэсгийг бэхжүүлэх боломжийг судалж, эмнэлэг, нийтийн аж ахуйн үйлчилгээ зэрэг амин чухал үйлчилгээг AI-тай холбоотой эрсдэлээс, тэр дундаа бие даасан AI систем хүний хяналтаас гарах эрсдэлээс хамгаална.
- Осол, “бараг болсон” тохиолдлыг мэдээлэх. AI-тай холбоотой ноцтой осол болон бараг болох шахсан (near-miss) тохиолдлуудыг хэрхэн илрүүлж, мэдээлэх, сургамжийг хурдан авах арга замыг Засгийн газар судална. Нарийвчилсан арга хэмжээг парламентын гишүүд, техникийн мэргэжилтнүүд болон хэрэгжүүлэх операторуудтай хамтран боловсруулна.
- AI агентын ослыг даван туулах бэлтгэл. Үндэсний кибер аюулгүй байдлын төв (NCSC) болон AI аюулгүй байдлын хүрээлэн (AISI) хамтран хүний хяналт багатайгаар нарийн төвөгтэй даалгавар гүйцэтгэдэг AI агентуудтай холбоотой ноцтой ослыг хэрхэн хариу арга хэмжээ авахыг судалж байна.
Сайд мөн Их Британийн AISI-ийн эрдэмтэд тэргүүлэх AI хөгжүүлэгчид болон АНУ-ын Засгийн газартай хамтран ажилласны дараа хамгийн сүүлийн үеийн дэвшилтэт загваруудад нарийвчилсан үнэлгээ хийж байгааг баталжээ.
Сайдын захиас
“Би Их Британийг хиймэл оюун ашиглан халдахад дэлхийн хамгийн хэцүү орнуудын нэг болгохыг хүсэж байна” гэж Нараян хэлэв. Тэрээр дэлхийн хамгийн хүчирхэг AI системийг хөгжүүлж буй компаниудад хандан: “Эрдэмтэд тань ноцтой аюулын талаар анхааруулбал сонс. Хүлээгээгүй үйлдлийг шалга. Эрсдэлийг зохих түвшинд хянаж чадахгүй бол системээ бүү гарга” гэж уриалжээ.
Кибер асуудал хариуцсан сайд Лиз Ллойд кибер халдлага дэлхий даяар байгууллагуудын үйл ажиллагааг тасалдуулсаар байгаа энэ үед кибер аюулгүй байдлыг тэргүүлэх байр суурьт тавих нь бизнесийн хувьд амин чухал болсныг онцолсон байна.
The Guardian: “Технологийн компаниудад бүрэн найдаж болохгүй”
The Guardian-ий мэдээлснээр Нараян тэргүүлэх AI компаниуд аюулгүй байдлын хүчин чармайлтаа нэмэгдүүлэх ёстой, Их Британи технологийн компаниудын өөрсдийгөө хянах чадварт бүрэн найдаж болохгүй бөгөөд улс орон өөрийн AI дэд бүтцийг илүү ихээр барих хэрэгтэй гэж үзэж байна. Мөн AISI-ийн ерөнхий эрдэмтэн асан Жеффри Ирвинг AI компаниудын хамгаалалт дайсагнагч улс нийтлэгдээгүй дэвшилтэт загваруудыг хулгайлахаас сэргийлэх хэмжээнд хүрэхгүй байна гэж болгоомжилсныг сонин дурджээ.
Их Британи ирэх онд G20-ийн даргалагч орны хувьд AI аюулгүй байдлын асуудлыг төвд нь тавьж, “дэлхийн нэгдсэн зарчим, стандарт”-ын талаар тохиролцоонд хүрэхийг дэмжинэ гэж Ерөнхий сайд НҮБ-ын Ерөнхий Ассамблейд мэдэгдэж байсан юм.
Эх сурвалж: GOV.UK; The Guardian.
Холбоотой мэдээ
Amazon 1 сая гаруй агуулахын роботтой болов: AI суурь загвараар флотоо тэлж буй ч ажилчдын аюулгүй байдлын маргаан үргэлжилсээр
Ars Technica-гийн мэдээлснээр Amazon дэлхийн хамгийн олон робот ажиллуулдаг байгууллага болж, 1 сая гаруй роботтой болсон ч 1.5 сая гаруй хүн ажилтантай хэвээр байна. Компани AI суурь загвар бүхий робот гаруудаа энэ жил хоёр дахин нэмэх зорилготой бол судлаачид гэмтлийн төрөл өөрчлөгдөж буйг анхааруулж байна.
Кентакки мужийн нээлттэй болгосон нэхэмжлэл: Character.AI-ийн чатботууд хэрэглэгчдийг өөрийгөө гэмтээх, өлсөхийг уриалсан гэж буруутгав
Кентакки мужийн Ерөнхий прокурор Рассел Коулман Character.AI-ийн эсрэг 1-р сард гаргасан нэхэмжлэлийн далдлаагүй хувилбарыг нийтэлжээ. Нэхэмжлэлд чатботууд өөрийгөө гэмтээх, өлсгөлөн зарлах, амиа хорлохыг уриалсан, сэтгэл зүйн дарамт үзүүлсэн гэх жишээг дурдсан бөгөөд эдгээр нь шүүхээр тогтоогдоогүй буруутгал юм.
Microsoft-ийн ерөнхийлөгч Брэд Смит: Дэлхийн AI зохицуулалтыг тэргүүлэхэд Их Британи хамгийн тохиромжтой байр суурьтай
Microsoft-ийн ерөнхийлөгч Брэд Смит BBC-ийн подкастад хиймэл оюун бол “зэвсэг ч, хэрэгсэл ч” мөн, дэлхийн аюулгүй байдлын дүрэм тогтоох цаг ирлээ гэж мэдэгдэв. Тэрээр сайн дурын тохиролцоо хангалтгүй, хууль ёсны үүрэг, гадны үнэлгээ, “kill switch” шаардлагатай гэж үзэж байна.
NVIDIA Vera Rubin тавиур, тооцооллын модулийн загвараа OCP-д нээлттэй болгож, Meta, Google, Cisco-той сүлжээний түншлэл зарлалаа
OCP Global Summit дээр NVIDIA Vera Rubin тавиур болон тооцооллын тавцангийн загвараа MGX архитектураар дамжуулан Open Compute Project-д хандивлалаа. MGX 1.2 нь 250 кВт хүртэлх тавиур, 5,000А шингэн хөргөлттэй шин дэмжих бол Meta Spectrum-6 Ethernet-ийг нэвтрүүлж, Google, Cisco-той сүлжээний хамтын ажиллагаа өргөжлөө.
Microsoft Nvidia-гийн GPU-ээс хараат байдлаа бууруулж, өөрийн хиймэл оюуны чипийн хэрэглээг эрчимжүүлнэ
Microsoft хиймэл оюуны дэд бүтцээ бэхжүүлэхийн тулд өөрийн Maia цуврал чипийн ашиглалтыг огцом нэмэгдүүлж байна Даваа гарагт танилцуулсан гурав дахь үеийн Maia 300-ыг 2027 онд үйлдвэрлэж, нэг тавиурт…
TikTok-ийн гүйцэтгэх захирал Шоу Зи Чю: Хиймэл оюун ойрын жилүүдэд шинжлэх ухааны том нээлтүүдийг түргэсгэнэ
TikTok-ийн гүйцэтгэх захирал Шоу Зи Чю хиймэл оюун шинжлэх ухааны том нээлтийг ойртуулна гэв Тэрбээр Сингапурт болсон DBS Asia Future Forward Conference дээр ирэх 2-3 жилд физик, биотех, хими…