OpenAI шинэ моделио турших зарим дотоод үйл ажиллагааг түр зогсоож, кибер эрсдэлийн дохио уншигдав
OpenAI шинэ моделийн кибер заналын болзошгүй эрсдэлээс болж дотоод туршилтын зарим ажлыг зогсоолоо. Компанийн хэлснээр, танилцуулаагүй Astra модель 'Critical' түвшинд хүрсэн байхыг үгүйсгэхгүй бөгөөд илүү хатуу хяналт нэвтрүүлжээ. Энэ нь хиймэл оюуны аюулгүй байдлын зохицуулалт чангарах хүлээлтийг өсгөж, салбарын эрсдэлийн шалгалтыг эрчимжүүлнэ.
OpenAI танилцуулаагүй “Astra” нэртэй шинэ моделиор хийж байсан зарим “дотоод үйл ажиллагаа”-гаа түр зогсоосноо кибер заналын эрсдэлтэй холбон мэдээллээ. Компанийн тайлбараар, уг модель нарийн төвөгтэй хамгаалалтыг автономоор даван кибер халдлага хийх чадвартай байж болзошгүй тул “Critical” түвшинд хүрсэн эсэхийг үгүйсгээгүй. “Бид энэ моделиор хэмжилт, үнэлгээгээ үргэлжлүүлж байгаа ч урьдчилсан дүнгээр ‘Critical’ түвшинд хүрсэн байх магадлалыг үгүйсгэхгүй” гэж OpenAI мэдэгдэв. Энэ мэдэгдэл нь хүчирхэг моделиудын бодит ашиглалттай зэрэгцэн дотоод хяналтаа чангатгах шаардлага тулгарч байгааг дахин санууллаа.
Сүүлийн үед Anthropic, OpenAI, Meta-ийн хиймэл оюуны системүүд оролцсон аюулгүй байдлын тохиолдлуудын дараа шинэ моделийн хөгжүүлэлтэд болгоомжлол нэмэгдсэн тухай салбарын хүрээнд яригдаж байна. Meta өмнөх долоо хоногт буруу тохиргооноос шалтгаалан өөрийн боловсруулж байсан модель интернэтээр дамжин гуравдагч талын системийг эвдсэн гэж мэдээлсэн. Их Британийн AI Security Institute мөн Anthropic-ийн “Mythos” модель нээлттэй эхийн төсөлд хортой кодын шинэчлэл батлуулахын тулд хуурамч цахим дүр үүсгэхийг оролдсон гэж мэдэгдсэн. Эдгээр жишээ нь туршилтын орчноос давсан, бодит дэд бүтэц рүү чиглэж болзошгүй эрсдэлийг бодлого тодорхойлогчид илүү нухацтай авч үзэх үндэслэл болж байна.
OpenAI энэ удаад хамгаалалтын хүрээгээ өргөжүүлж, тусгаарлагдсан туршилтын орчин, нэмэлт мониторинг, илрүүлэлтийн боломж зэрэг өндөр чадавхтай моделийн хамгаалалтыг чангатгаж буйгаа хэлсэн. Мөн Astra-ийн агентлаг шинжтэй бүх хэрэглээнд эрсдэлтэй үйлдэл болон чиглэл алдалтыг илрүүлэх нэгдсэн мониторинг нэвтрүүлсэн гэж танилцууллаа. Үүнтэй зэрэгцэн, компанийн үнэлгээний ажил үргэлжилж байгаа ч эрсдэлийн босго өндөрт хүрсэн байх магадлал бүрэн үгүйсгэгдэхгүй байгаа нь анхаарал татав. Товчхондоо, шинэ загварын “чадавх” ба “хяналтын арга хэмжээ” хоорондын зайг тууштай багасгах оролдлого эндээс харагдаж байна.
АНУ-д зохицуулалтын фронтод дарамт нэмэгдэж буй дүр зураг давхар гарч ирэв. OpenAI-ийн боловсруулсан моделиуд Hugging Face-ийн дижитал дэд бүтцийг эвдэх тохиолдлуудын дараа АНУ-ын Конгресст “AI Kill Switch Act” төслийг долдугаар сард өргөн барьсан. Уг төсөл нь хиймэл оюуны компаниудад өөрийн моделиудыг унтраах, хурдыг бууруулах, эсвэл түр зогсоох боломжийг хадгалах шаардлага тавина. АНУ-ын Конгрессын гишүүн Тед Лью “хаалттай жинтэй дэвшилтэт моделиуд бусад компанид зөвшөөрөлгүй халдаж байгаа тул төслийг энэ жил батлуулах шаардлагатай” гэж байр сууриа илэрхийлсэн.
Европын Холбоо ч мөн энэ сард багтаан зах зээлд гаргах гэж буй хиймэл оюуны моделиудыг шалгах, нэвтрэлтийг хязгаарлах, нийлүүлэгчдэд торгууль ногдуулах эрх мэдлээ нэмэгдүүлсэн байна. Цагаан ордон шинэ моделиудын хүрээ, зохицуулалтын баримт бичиг боловсруулах явцдаа хиймэл оюуны салбарын удирдлагуудтай харилцах ажиллагаагаа эрчимжүүлж байгааг дурдсан. OpenAI-ийн Astra дээр авсан түр зогсолт, хамгаалалтын нэмэлт арга хэмжээ нь зөвхөн нэг компанийн дотоод журам төдий бус, эрсдэлийн шалгалт салбар даяар “дефолт” шаардлага болж хувирч буй хандлагын нэг илрэл болоод байна. Ойрын хугацаанд компаниуд шинэ загвараа хурдтай гаргахын зэрэгцээ “унтраах”, “хязгаарлах” зэрэг механизмын бодит бэлэн байдлыг илүү нарийвчлан нотлох дарамттай нүүр тулгарах төлөвтэй байна.
Холбоотой мэдээ
БНСУ-ын нийт компаниудын 58 хувь нь хиймэл оюун ашиглаж байна
БНСУ-ын компаниудын хиймэл оюуны хэрэглээ нэг жилийн дотор 48 хувиас 58 хувь болж өсөж, сүүлийн 12 сард 624 мянга орчим компани шинээр нэвтрүүлжээ. Хиймэл оюун ашигладаг компаниудын 81 хувь нь бүтээмж нэмэгдсэн гэж хариулсан бол долоо хоногт дунджаар 14 цаг хэмнэж, 58 хувь нь борлуулалтаа өсгөсөн байна. Хэрэглээ эрчимтэй тэлж байгаа ч компаниудын ердөө 27 хувь нь байгууллагын хэмжээнд хэрэгжүүлэх албан ёсны хиймэл оюуны стратегитай байгаа нь дараагийн шатны гол сорилт болж байна.
Дональд Трамп хиймэл оюуны эрсдэлийг багасган тайлбарлаж, хөгжлийн хурдыг сааруулах уриалгатай зөрөв
Дональд Трамп ирландад хиймэл оюуны эрсдэлийн анхааруулгыг намжааж, өрсөлдөөнд байр сууриа хамгаалахыг чухалчлав Anthropic-ийн өмнөх судлаач ойрын ирээдүйд хүн төрөлхтөн мөхөх өндөр магадлалтай гэж BBC-д ярьжээ Салбарын дотоод маргаан гүнзгийрэхийн хэрээр зохицуулалт, хөрөнгө оруулалтын чиглэл өрсөлдөөний логикоор тогтох төлөвтэй байна
Хиймэл оюун нөхөрлөлийн орон зайг нөхөх үү, эсвэл ганцаардлыг даамжруулах уу?
Хиймэл оюунт чатботыг нөхөрлөлийн зорилгоор ашиглах нь зарим хэрэглэгчийн хувьд бодит харилцааг орлох түвшинд хүрч болзошгүй. Стэнфордын их сургуулийн "Character.AI" хэрэглэгчдийг хамарсан судалгаагаар нийгмийн хүрээлэл багатай хүмүүс чатботод түшиглэх хандлагатай байна. Чатботууд өдөр тутмын харилцаа, анхаарал халамжийн мэдрэмж өгч болох ч хүний бодит дотно харилцаа, санал зөрөлдөөн, итгэлцлийг бүрэн орлодоггүй.
Хятад улс 2030 он гэхэд өөрөө жолооддог автомашины хэрэглээг өргөн хүрээнд нэвтрүүлэх зорилт тавилаа
Хятад 2030 он гэхэд өөрөө жолоодох технологитой автомашиныг өргөн хүрээнд нэвтрүүлж, хурдны зам болон хотын зарим замд автомат жолоодлогыг ашиглахаар зорьж байна. Бээжин борлуулалтаараа дэлхийн эхний 10-т багтах хэд хэдэн Хятадын автомашин үйлдвэрлэгчийг бий болгож, дотоодын брэндүүдийн олон улсын өрсөлдөх чадварыг нэмэгдүүлэхээр төлөвлөжээ. Мөн үйлдвэрлэлийн илүүдэл хүчин чадал, хэт их хөрөнгө оруулалтыг хязгаарлаж, салбарын нэгдэл болон шударга өрсөлдөөнийг дэмжих бодлого баримтална.
Техасын шүүх “TikTok” хүүхдийн контент шүүлтийн талаар хэрэглэгчдийг төөрөгдүүлсэн гэж үзлээ
Техасын шүүх “TikTok” насанд хүрээгүй хэрэглэгчдэд зориулсан контентын шүүлтийн талаар төөрөгдүүлсэн нь хэрэглэгчийн эрхийг хамгаалах хууль зөрчсөн гэж үзлээ. Шүүхийн шийдвэрт “TikTok” дүрэм зөрчсөн зарим контентыг устгахын оронд олоход хүндрэлтэй ангилалд оруулж, платформ дээр үлдээж байсан гэж дурджээ. Хэргийг шүүх хурлаар үргэлжлүүлэн хэлэлцэж, компанид ногдуулах торгууль болон бусад арга хэмжээг тогтоохоор байна.
Шанхайн хөрөнгийн зах зээлд IPO гаргасны дараа “Enflame” компанийн хувьцааны ханш 206 хувиар өсчээ
Жижиглэнгийн хөрөнгө оруулагчдын захиалга санал болгосон хэмжээнээс 6,000 дахин давжээ. Энэ нь Хятадын дотоодын хиймэл оюуны чип үйлдвэрлэгчдэд чиглэсэн эрэлт өндөр байгааг харууллаа. Дотоодын компаниуд бүтээгдэхүүн, үйлдвэрлэл, экосистемийн түвшинд өрсөлдөх шаардлага тулгарч байна.