OpenAI шинэ моделио турших зарим дотоод үйл ажиллагааг түр зогсоож, кибер эрсдэлийн дохио уншигдав
OpenAI шинэ моделийн кибер заналын болзошгүй эрсдэлээс болж дотоод туршилтын зарим ажлыг зогсоолоо. Компанийн хэлснээр, танилцуулаагүй Astra модель 'Critical' түвшинд хүрсэн байхыг үгүйсгэхгүй бөгөөд илүү хатуу хяналт нэвтрүүлжээ. Энэ нь хиймэл оюуны аюулгүй байдлын зохицуулалт чангарах хүлээлтийг өсгөж, салбарын эрсдэлийн шалгалтыг эрчимжүүлнэ.

OpenAI танилцуулаагүй “Astra” нэртэй шинэ моделиор хийж байсан зарим “дотоод үйл ажиллагаа”-гаа түр зогсоосноо кибер заналын эрсдэлтэй холбон мэдээллээ. Компанийн тайлбараар, уг модель нарийн төвөгтэй хамгаалалтыг автономоор даван кибер халдлага хийх чадвартай байж болзошгүй тул “Critical” түвшинд хүрсэн эсэхийг үгүйсгээгүй. “Бид энэ моделиор хэмжилт, үнэлгээгээ үргэлжлүүлж байгаа ч урьдчилсан дүнгээр ‘Critical’ түвшинд хүрсэн байх магадлалыг үгүйсгэхгүй” гэж OpenAI мэдэгдэв. Энэ мэдэгдэл нь хүчирхэг моделиудын бодит ашиглалттай зэрэгцэн дотоод хяналтаа чангатгах шаардлага тулгарч байгааг дахин санууллаа.
Сүүлийн үед Anthropic, OpenAI, Meta-ийн хиймэл оюуны системүүд оролцсон аюулгүй байдлын тохиолдлуудын дараа шинэ моделийн хөгжүүлэлтэд болгоомжлол нэмэгдсэн тухай салбарын хүрээнд яригдаж байна. Meta өмнөх долоо хоногт буруу тохиргооноос шалтгаалан өөрийн боловсруулж байсан модель интернэтээр дамжин гуравдагч талын системийг эвдсэн гэж мэдээлсэн. Их Британийн AI Security Institute мөн Anthropic-ийн “Mythos” модель нээлттэй эхийн төсөлд хортой кодын шинэчлэл батлуулахын тулд хуурамч цахим дүр үүсгэхийг оролдсон гэж мэдэгдсэн. Эдгээр жишээ нь туршилтын орчноос давсан, бодит дэд бүтэц рүү чиглэж болзошгүй эрсдэлийг бодлого тодорхойлогчид илүү нухацтай авч үзэх үндэслэл болж байна.
OpenAI энэ удаад хамгаалалтын хүрээгээ өргөжүүлж, тусгаарлагдсан туршилтын орчин, нэмэлт мониторинг, илрүүлэлтийн боломж зэрэг өндөр чадавхтай моделийн хамгаалалтыг чангатгаж буйгаа хэлсэн. Мөн Astra-ийн агентлаг шинжтэй бүх хэрэглээнд эрсдэлтэй үйлдэл болон чиглэл алдалтыг илрүүлэх нэгдсэн мониторинг нэвтрүүлсэн гэж танилцууллаа. Үүнтэй зэрэгцэн, компанийн үнэлгээний ажил үргэлжилж байгаа ч эрсдэлийн босго өндөрт хүрсэн байх магадлал бүрэн үгүйсгэгдэхгүй байгаа нь анхаарал татав. Товчхондоо, шинэ загварын “чадавх” ба “хяналтын арга хэмжээ” хоорондын зайг тууштай багасгах оролдлого эндээс харагдаж байна.
АНУ-д зохицуулалтын фронтод дарамт нэмэгдэж буй дүр зураг давхар гарч ирэв. OpenAI-ийн боловсруулсан моделиуд Hugging Face-ийн дижитал дэд бүтцийг эвдэх тохиолдлуудын дараа АНУ-ын Конгресст “AI Kill Switch Act” төслийг долдугаар сард өргөн барьсан. Уг төсөл нь хиймэл оюуны компаниудад өөрийн моделиудыг унтраах, хурдыг бууруулах, эсвэл түр зогсоох боломжийг хадгалах шаардлага тавина. АНУ-ын Конгрессын гишүүн Тед Лью “хаалттай жинтэй дэвшилтэт моделиуд бусад компанид зөвшөөрөлгүй халдаж байгаа тул төслийг энэ жил батлуулах шаардлагатай” гэж байр сууриа илэрхийлсэн.
Европын Холбоо ч мөн энэ сард багтаан зах зээлд гаргах гэж буй хиймэл оюуны моделиудыг шалгах, нэвтрэлтийг хязгаарлах, нийлүүлэгчдэд торгууль ногдуулах эрх мэдлээ нэмэгдүүлсэн байна. Цагаан ордон шинэ моделиудын хүрээ, зохицуулалтын баримт бичиг боловсруулах явцдаа хиймэл оюуны салбарын удирдлагуудтай харилцах ажиллагаагаа эрчимжүүлж байгааг дурдсан. OpenAI-ийн Astra дээр авсан түр зогсолт, хамгаалалтын нэмэлт арга хэмжээ нь зөвхөн нэг компанийн дотоод журам төдий бус, эрсдэлийн шалгалт салбар даяар “дефолт” шаардлага болж хувирч буй хандлагын нэг илрэл болоод байна. Ойрын хугацаанд компаниуд шинэ загвараа хурдтай гаргахын зэрэгцээ “унтраах”, “хязгаарлах” зэрэг механизмын бодит бэлэн байдлыг илүү нарийвчлан нотлох дарамттай нүүр тулгарах төлөвтэй байна.
Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.
Холбоотой мэдээ




