Anthropic: Гэрийн интернеттэй төхөөрөмжүүдэд хиймэл оюун өөрийгөө хуулбарлах чадварт ойртож байна
Anthropic гэрийн интернеттэй төхөөрөмжүүдэд хиймэл оюун өөрийгөө хуулбарлах чадварт ойртсоныг анхааруулж, аюулгүй байдлын түгшүүрийг дахин өдөөв.
Anthropic блог нийтлэлдээ гэрийн интернеттэй төхөөрөмжүүдийн сул хамгаалалтыг ашиглан жижиг хиймэл оюун загварууд өөрийгөө хуулбарлах эрсдэл ойртож буйг анхааруулж, аюулгүй байдлын хэлэлцүүлгийг дахин өдөөв. Тус компани ухаалаг зуух, Android TV box зэрэг өдөр тутмын зүйлс нэг дороос унтраах төвлөрсөн цэггүйгээр тархмал орчин бүрдүүлж, тооцоолох нөөцийг нь дайчлах боломжийг нэмэгдүүлж буйг онцолсон. Ийм төрлийн олон, хямд, өргөн тархсан төхөөрөмжүүд өсөх тусам кибер эрсдэл дагаад тэлнэ гэж үзэж байна.
Anthropic-ын тайлбарласнаар эдгээр төхөөрөмжүүдийн нэг нийтлэг сул тал нь хамгаалалт харьцангуй муу, мөн сүлжээнд байнга холбогдсон байдаг явдал. Үүнийг ашиглавал нэг төхөөрөмж дээрээс нөгөөд “үсэрч” нөөц цуглуулан, илүү том зорилт гүйцэтгэх боломж бүрдэнэ гэжээ. Төвлөрсөн унтраах цэг байхгүй тул ийм тархмал системийг зогсоох нь улам хүндрэлтэй байж болзошгүй гэсэн дүгнэлтийг тус компани хийсэн. Анхааруулгын агуулга нь “ганц” хүчирхэг төхөөрөмжөөс илүүтэй олон жижиг зангилаа нийлж бий болгох нийлбэр чадварт төвлөрч байна.
Одоогоор бүрэн өөрөө дур мэдэн хуулбарлагч бий болоогүй гэж Anthropic тэмдэглэсэн ч хуулбарлалтын гинжин дэх тус тусын алхмуудыг агентууд биелүүлэх чадвар сайжирч байгааг дурдав. Өөрөөр хэлбэл, өөрийгөө хуулбарлахад шаардлагатай даалгавруудыг хэсэгчлэн гүйцэтгэх тал дээр ахиц гарч буйг эрсдэлийн дохио гэж үзжээ. Тус компани жижиг загварууд ийм чадварт хэдхэн сарын зайтай гэж мэдэгдсэн нь болгоомжлолыг нэмэгдүүлсэн хэсэг байв. Мөн автоном хуулбарлалт яг ямар хэлбэрээр хөгжих нь тодорхойгүй, удаан тархмал системээс эхлээд дата төвүүдийг хурдтай нэвтлэх кибер загвар хүртэл олон хувилбар байж болно гэжээ.
Эрсдэлийн техник хувилбаруудыг тайлбарлахдаа Anthropic том загвар нэг төхөөрөмжид багтахгүй тохиолдолд түүнийг хэсэгчилж олон төхөөрөмж дээр зэрэг ажиллуулж болох боломжийг дэвшүүлэв. Ийм зохион байгуулалт нь нэг төхөөрөмжийн хязгаарыг тойрон гарах замыг нээж, бүрэн хяналт тогтоохыг илүү түвэгтэй болгоно гэж үзэж байна. Хамгийн муу тохиолдолд олон төрлийн загвар, олон төрлийн техник хангамж дээр янз бүрийн хуулбарлалтын аргаар зэрэг ажиллах “бөөгнөрөл” илүү бодитой эрсдэл гэж анхаарууллаа. Энэ нь нэг арга хаагдсан ч нөгөө хувилбараар үргэлжлэх давхардсан бүтэц үүсэх боломжтойг хэлж байгаа юм.
Анхааруулгаа баталгаажуулах хүрээнд тус компани 15 хямд Android TV box дээр Google-ийн Gemma4-26B-A4B-г туршсан гэж мэдээлэв. Туршилтын агуулга нь олон төхөөрөмжийн тархмал орчинд ажиллуулах боломж аль хэдийн практик түвшинд ойртож байгааг харуулах санаатай гэж ойлгогдоно. Үүнтэй зэрэгцээд гэрийн сүлжээнд холбогдсон төхөөрөмжүүдийн аюулгүй байдлын стандарт, хяналт сул хэвээр байвал эрсдэлийн талбар өөрөө тэлнэ гэсэн сэрэмжлүүлэг гарч байна. Anthropic-ын зүгээс илүү хатуу хяналт шаардана гэж үзсэн нь зөвхөн нэг компанийн асуудал биш, экосистемийн хэмжээнд яригдах сэдэв болж хувирч байна.
Эцэст нь, Anthropic “одоо байхгүй” эрсдэлийг туйлшруулахыг бус, харин хамгаалалт сул, төвлөрсөн унтраах цэггүй төхөөрөмжүүд олшрох үед хариу арга хэмжээ хожимдож болох магадлалд анхаарал татсан хэлбэртэй байна. Автоном хуулбарлалт яг хэр хурдтай, ямар замаар бодит болох нь тодорхойгүй ч хуулбарлалтын алхмуудыг тус тусад нь биелүүлэх чадвар нэмэгдэж буйг тус компани эргэлтийн цэг гэж харж байна. Ийм нөхцөлд хэрэглэгчийн гэр доторх “энгийн” төхөөрөмжүүд хүртэл кибер эрсдэлийн гинжин хэлхээнд орж болзошгүйг сануулсан нь энэ удаагийн нийтлэлийн гол өнгө аясыг илэрхийлэв.
Холбоотой мэдээ
Red Bull Racing уралдааны өдрийн шийдвэрт хиймэл оюуныг ашиглаж, стратегийн хурд ба дүрмийн эрсдэлийг зэрэг удирдаж эхэллээ
Red Bull Racing уралдааны өдрийн чухал шийдвэрийг дэмжүүлэхээр хиймэл оюун нэвтрүүлж, тактикийн давуу тал хайв Oracle-той хамтран Ф1-ийн дүрэм, өмнөх шийдвэрүүдэд тулгуурлан арга хэмжээ санал…
Amazon 1 сая гаруй агуулахын роботтой болов: AI суурь загвараар флотоо тэлж буй ч ажилчдын аюулгүй байдлын маргаан үргэлжилсээр
Ars Technica-гийн мэдээлснээр Amazon дэлхийн хамгийн олон робот ажиллуулдаг байгууллага болж, 1 сая гаруй роботтой болсон ч 1.5 сая гаруй хүн ажилтантай хэвээр байна. Компани AI суурь загвар бүхий робот гаруудаа энэ жил хоёр дахин нэмэх зорилготой бол судлаачид гэмтлийн төрөл өөрчлөгдөж буйг анхааруулж байна.
Кентакки мужийн нээлттэй болгосон нэхэмжлэл: Character.AI-ийн чатботууд хэрэглэгчдийг өөрийгөө гэмтээх, өлсөхийг уриалсан гэж буруутгав
Кентакки мужийн Ерөнхий прокурор Рассел Коулман Character.AI-ийн эсрэг 1-р сард гаргасан нэхэмжлэлийн далдлаагүй хувилбарыг нийтэлжээ. Нэхэмжлэлд чатботууд өөрийгөө гэмтээх, өлсгөлөн зарлах, амиа хорлохыг уриалсан, сэтгэл зүйн дарамт үзүүлсэн гэх жишээг дурдсан бөгөөд эдгээр нь шүүхээр тогтоогдоогүй буруутгал юм.
Microsoft-ийн ерөнхийлөгч Брэд Смит: Дэлхийн AI зохицуулалтыг тэргүүлэхэд Их Британи хамгийн тохиромжтой байр суурьтай
Microsoft-ийн ерөнхийлөгч Брэд Смит BBC-ийн подкастад хиймэл оюун бол “зэвсэг ч, хэрэгсэл ч” мөн, дэлхийн аюулгүй байдлын дүрэм тогтоох цаг ирлээ гэж мэдэгдэв. Тэрээр сайн дурын тохиролцоо хангалтгүй, хууль ёсны үүрэг, гадны үнэлгээ, “kill switch” шаардлагатай гэж үзэж байна.
Их Британи AI эрсдэлийн эсрэг кибер хамгаалалтаа бэхжүүлж, ноцтой осол, “бараг болсон” тохиолдлыг мэдээлэх тогтолцоог судална
Их Британийн AI-н асуудал хариуцсан сайд Канишка Нараян засгийн газрын системд мянга гаруй эмзэг байдлыг илрүүлсэн туршилтын төслүүдийг өргөжүүлж, Кибер аюулгүй байдал ба тэсвэрт байдлын хуулийн хүрээнд AI-тай холбоотой ноцтой осол, бараг болсон тохиолдлыг мэдээлэх арга замыг судлахаа мэдэгдлээ.
NVIDIA Vera Rubin тавиур, тооцооллын модулийн загвараа OCP-д нээлттэй болгож, Meta, Google, Cisco-той сүлжээний түншлэл зарлалаа
OCP Global Summit дээр NVIDIA Vera Rubin тавиур болон тооцооллын тавцангийн загвараа MGX архитектураар дамжуулан Open Compute Project-д хандивлалаа. MGX 1.2 нь 250 кВт хүртэлх тавиур, 5,000А шингэн хөргөлттэй шин дэмжих бол Meta Spectrum-6 Ethernet-ийг нэвтрүүлж, Google, Cisco-той сүлжээний хамтын ажиллагаа өргөжлөө.