"Хиймэл оюуны лабораториудад туршиж буй супер-оюуны "уралдаан" хүн төрөлхтөнд аюул учруулна"
Хиймэл оюуны лабораториуд өөрийгөө улам сайжруулах чадвартай, хүний оюуны түвшнээс давсан систем бүтээхээр өрсөлдөж байна. Уг "уралдаан"-ы эрсдэлийг нийгэм бүхэлдээ үүрнэ гэж судлаач онцолжээ. Хиймэл оюун хүн төрөлхтөнд аюул учруулж болзошгүйг өмнө нь “SpaceX”-ийн гүйцэтгэх захирал Илон Маск анхааруулж байв.
Хиймэл оюуны “Anthropic” компанийн судлаач Жейкоб Коксон мягмар гарагт ажлаасаа гарснаа мэдэгдэж, “Anthropic” болон АНУ-ын хиймэл оюуны “OpenAI” компаниуд супер-оюуны хөгжүүлэлтийн хурдыг аюулгүй байдлаас дээгүүр тавьж байна гэж шүүмжилжээ.
Коксон CNBC-д өгсөн ярилцлагадаа хиймэл оюуны лабораториуд өөрийгөө улам сайжруулах чадвартай, хүний оюуны түвшнээс давсан систем бүтээхээр өрсөлдөж, уг "уралдаан"-ы эрсдэлийг нийгэм бүхэлдээ үүрч байна гэж үзэж буйгаа илэрхийлсэн байна.
“Тэд өөрийгөө сайжруулах супер-оюун руу уралдаж, бидний амь насаар мөрийцөж байна” гэж хэлжээ.
Дотоод орчинд өрнөсөн шүүмжлэл
Хиймэл оюун хүн төрөлхтөнд аюул учруулж болзошгүй талаар өмнө нь “Tesla”, “SpaceX”-ийн гүйцэтгэх захирал Илон Маск болон бусад технологийн салбарын төлөөлөгчид анхааруулж байсан.
Харин Коксоны байр суурь хиймэл оюуны лабораторийн дотоод орчноос, хөгжүүлэлтийн хурд болон аюулгүй байдлын бодлогод шууд чиглэснээрээ ялгарч байна.
“Anthropic”-ийн зохицуулалтын шинжлэх ухааны судалгааны ахлагч Эван Хюбингер Коксоны ийн болгоомжилж буйтай санал нийлснээ илэрхийлсэн ч супер оюуны хөгжүүлэлтийг хэрхэн үр дүнтэй зохицуулах талаар одоогоор тодорхой шийдэл алга гэж үзжээ.
Түүний хэлснээр, хүний түвшнээс давсан хиймэл оюуны системүүд салбаруудыг богино хугацаанд өөрчилж, бодит нөөц болон шийдвэр гаргах нөлөө олж авах боломжтой. Хюбингер хиймэл оюун ирэх арван жилд хүн төрөлхтөнд сүйрлийн хэмжээний эрсдэл учруулах магадлалыг өөрийн үнэлгээгээр 10 хувиас давсан гэж өгүүлсэн байна.
Өөрийгөө сайжруулах хиймэл оюун гол эрсдэлд тооцогдож байна
Маргааны нэг гол сэдэв нь “өөрийгөө бүрэн сайжруулах” буюу хиймэл оюуны систем өөрийн чадварыг сайжруулсан дараагийн үеийн системийг дахин бие даан бүтээх боломж юм.
“Anthropic” өмнөх тайлбартаа ийм түвшний хөгжүүлэлт нь хүмүүс хиймэл оюуны системийг хянах чадвараа алдах эрсдэлийг нэмэгдүүлж болзошгүйг онцолж байв.
Хюбингерийн тайлбарласнаар, хиймэл оюуны системүүд өөрсдийн залгамжлагчийг бүрэн бүтээх чадвартай болбол тэдгээрийг хамгаалах, хянах, зан үйлийг нь чиглүүлэх арга улам чухал болно. Улмаар өнөөгийн аюулгүй байдлын аргачлал илүү өндөр чадвартай системүүдэд хүрэлцэх эсэх асуудал урган гарч байна.
Коксон мөн нээлттэй эхийн хиймэл оюуны хөгжүүлэлтийн томоохон платформ “Hugging Face”-тай холбоотой долоодугаар сарын нэгэн үйл явдлыг анхааруулах дохио гэж үзжээ. Түүний байр сууринаас хиймэл оюуны экосистем лабораториудаас гадна улам өргөжих тусам хяналт, хариуцлагын хүрээ ч нэмэгдэж байна.
Харин дэлхийн хэмжээний хөгжүүлэлтийн уралдааныг зогсоох бодит боломжид Хюбингер эргэлзэж буйгаа илэрхийлжээ. Тэрбээр хиймэл оюуны загварын чадварыг сайжруулахад түр хориг тавих зэрэг өндөр зардалтай арга хэмжээ шаардах хэмжээнд хүрсэн ч олон улсын өрсөлдөөнийг бүрэн зогсооно гэдэгт итгэхгүй байгаагаа уламжилжээ.
Холбоотой мэдээ
БНСУ-ын нийт компаниудын 58 хувь нь хиймэл оюун ашиглаж байна
БНСУ-ын компаниудын хиймэл оюуны хэрэглээ нэг жилийн дотор 48 хувиас 58 хувь болж өсөж, сүүлийн 12 сард 624 мянга орчим компани шинээр нэвтрүүлжээ. Хиймэл оюун ашигладаг компаниудын 81 хувь нь бүтээмж нэмэгдсэн гэж хариулсан бол долоо хоногт дунджаар 14 цаг хэмнэж, 58 хувь нь борлуулалтаа өсгөсөн байна. Хэрэглээ эрчимтэй тэлж байгаа ч компаниудын ердөө 27 хувь нь байгууллагын хэмжээнд хэрэгжүүлэх албан ёсны хиймэл оюуны стратегитай байгаа нь дараагийн шатны гол сорилт болж байна.
Дональд Трамп хиймэл оюуны эрсдэлийг багасган тайлбарлаж, хөгжлийн хурдыг сааруулах уриалгатай зөрөв
Дональд Трамп ирландад хиймэл оюуны эрсдэлийн анхааруулгыг намжааж, өрсөлдөөнд байр сууриа хамгаалахыг чухалчлав Anthropic-ийн өмнөх судлаач ойрын ирээдүйд хүн төрөлхтөн мөхөх өндөр магадлалтай гэж BBC-д ярьжээ Салбарын дотоод маргаан гүнзгийрэхийн хэрээр зохицуулалт, хөрөнгө оруулалтын чиглэл өрсөлдөөний логикоор тогтох төлөвтэй байна
Хиймэл оюун нөхөрлөлийн орон зайг нөхөх үү, эсвэл ганцаардлыг даамжруулах уу?
Хиймэл оюунт чатботыг нөхөрлөлийн зорилгоор ашиглах нь зарим хэрэглэгчийн хувьд бодит харилцааг орлох түвшинд хүрч болзошгүй. Стэнфордын их сургуулийн "Character.AI" хэрэглэгчдийг хамарсан судалгаагаар нийгмийн хүрээлэл багатай хүмүүс чатботод түшиглэх хандлагатай байна. Чатботууд өдөр тутмын харилцаа, анхаарал халамжийн мэдрэмж өгч болох ч хүний бодит дотно харилцаа, санал зөрөлдөөн, итгэлцлийг бүрэн орлодоггүй.
Хятад улс 2030 он гэхэд өөрөө жолооддог автомашины хэрэглээг өргөн хүрээнд нэвтрүүлэх зорилт тавилаа
Хятад 2030 он гэхэд өөрөө жолоодох технологитой автомашиныг өргөн хүрээнд нэвтрүүлж, хурдны зам болон хотын зарим замд автомат жолоодлогыг ашиглахаар зорьж байна. Бээжин борлуулалтаараа дэлхийн эхний 10-т багтах хэд хэдэн Хятадын автомашин үйлдвэрлэгчийг бий болгож, дотоодын брэндүүдийн олон улсын өрсөлдөх чадварыг нэмэгдүүлэхээр төлөвлөжээ. Мөн үйлдвэрлэлийн илүүдэл хүчин чадал, хэт их хөрөнгө оруулалтыг хязгаарлаж, салбарын нэгдэл болон шударга өрсөлдөөнийг дэмжих бодлого баримтална.
Техасын шүүх “TikTok” хүүхдийн контент шүүлтийн талаар хэрэглэгчдийг төөрөгдүүлсэн гэж үзлээ
Техасын шүүх “TikTok” насанд хүрээгүй хэрэглэгчдэд зориулсан контентын шүүлтийн талаар төөрөгдүүлсэн нь хэрэглэгчийн эрхийг хамгаалах хууль зөрчсөн гэж үзлээ. Шүүхийн шийдвэрт “TikTok” дүрэм зөрчсөн зарим контентыг устгахын оронд олоход хүндрэлтэй ангилалд оруулж, платформ дээр үлдээж байсан гэж дурджээ. Хэргийг шүүх хурлаар үргэлжлүүлэн хэлэлцэж, компанид ногдуулах торгууль болон бусад арга хэмжээг тогтоохоор байна.
Шанхайн хөрөнгийн зах зээлд IPO гаргасны дараа “Enflame” компанийн хувьцааны ханш 206 хувиар өсчээ
Жижиглэнгийн хөрөнгө оруулагчдын захиалга санал болгосон хэмжээнээс 6,000 дахин давжээ. Энэ нь Хятадын дотоодын хиймэл оюуны чип үйлдвэрлэгчдэд чиглэсэн эрэлт өндөр байгааг харууллаа. Дотоодын компаниуд бүтээгдэхүүн, үйлдвэрлэл, экосистемийн түвшинд өрсөлдөх шаардлага тулгарч байна.