egov.mn

"Хиймэл оюуны лабораториудад туршиж буй супер-оюуны "уралдаан" хүн төрөлхтөнд аюул учруулна"

Хиймэл оюуны лабораториуд өөрийгөө улам сайжруулах чадвартай, хүний оюуны түвшнээс давсан систем бүтээхээр өрсөлдөж байна. Уг "уралдаан"-ы эрсдэлийг нийгэм бүхэлдээ үүрнэ гэж судлаач онцолжээ. Хиймэл оюун хүн төрөлхтөнд аюул учруулж болзошгүйг өмнө нь “SpaceX”-ийн гүйцэтгэх захирал Илон Маск анхааруулж байв.

Энэ мэдээг программ автоматаар бэлтгэсэн.

"Хиймэл оюуны лабораториудад туршиж буй супер-оюуны "уралдаан" хүн төрөлхтөнд аюул учруулна" — Гэрэл зураг: Pexels
"Хиймэл оюуны лабораториудад туршиж буй супер-оюуны "уралдаан" хүн төрөлхтөнд аюул учруулна" — Гэрэл зураг: Pexels

Хиймэл оюуны “Anthropic” компанийн судлаач Жейкоб Коксон мягмар гарагт ажлаасаа гарснаа мэдэгдэж, “Anthropic” болон АНУ-ын хиймэл оюуны “OpenAI” компаниуд супер-оюуны хөгжүүлэлтийн хурдыг аюулгүй байдлаас дээгүүр тавьж байна гэж шүүмжилжээ.

Коксон CNBC-д өгсөн ярилцлагадаа хиймэл оюуны лабораториуд өөрийгөө улам сайжруулах чадвартай, хүний оюуны түвшнээс давсан систем бүтээхээр өрсөлдөж, уг "уралдаан"-ы эрсдэлийг нийгэм бүхэлдээ үүрч байна гэж үзэж буйгаа илэрхийлсэн байна.

“Тэд өөрийгөө сайжруулах супер-оюун руу уралдаж, бидний амь насаар мөрийцөж байна” гэж хэлжээ.

Дотоод орчинд өрнөсөн шүүмжлэл

Хиймэл оюун хүн төрөлхтөнд аюул учруулж болзошгүй талаар өмнө нь “Tesla”, “SpaceX”-ийн гүйцэтгэх захирал Илон Маск болон бусад технологийн салбарын төлөөлөгчид анхааруулж байсан.

Харин Коксоны байр суурь хиймэл оюуны лабораторийн дотоод орчноос, хөгжүүлэлтийн хурд болон аюулгүй байдлын бодлогод шууд чиглэснээрээ ялгарч байна.

“Anthropic”-ийн зохицуулалтын шинжлэх ухааны судалгааны ахлагч Эван Хюбингер Коксоны ийн болгоомжилж буйтай санал нийлснээ илэрхийлсэн ч супер оюуны хөгжүүлэлтийг хэрхэн үр дүнтэй зохицуулах талаар одоогоор тодорхой шийдэл алга гэж үзжээ.

Түүний хэлснээр, хүний түвшнээс давсан хиймэл оюуны системүүд салбаруудыг богино хугацаанд өөрчилж, бодит нөөц болон шийдвэр гаргах нөлөө олж авах боломжтой. Хюбингер хиймэл оюун ирэх арван жилд хүн төрөлхтөнд сүйрлийн хэмжээний эрсдэл учруулах магадлалыг өөрийн үнэлгээгээр 10 хувиас давсан гэж өгүүлсэн байна.

Өөрийгөө сайжруулах хиймэл оюун гол эрсдэлд тооцогдож байна

Маргааны нэг гол сэдэв нь “өөрийгөө бүрэн сайжруулах” буюу хиймэл оюуны систем өөрийн чадварыг сайжруулсан дараагийн үеийн системийг дахин бие даан бүтээх боломж юм.

“Anthropic” өмнөх тайлбартаа ийм түвшний хөгжүүлэлт нь хүмүүс хиймэл оюуны системийг хянах чадвараа алдах эрсдэлийг нэмэгдүүлж болзошгүйг онцолж байв.

Хюбингерийн тайлбарласнаар, хиймэл оюуны системүүд өөрсдийн залгамжлагчийг бүрэн бүтээх чадвартай болбол тэдгээрийг хамгаалах, хянах, зан үйлийг нь чиглүүлэх арга улам чухал болно. Улмаар өнөөгийн аюулгүй байдлын аргачлал илүү өндөр чадвартай системүүдэд хүрэлцэх эсэх асуудал урган гарч байна.

Коксон мөн нээлттэй эхийн хиймэл оюуны хөгжүүлэлтийн томоохон платформ “Hugging Face”-тай холбоотой долоодугаар сарын нэгэн үйл явдлыг анхааруулах дохио гэж үзжээ. Түүний байр сууринаас хиймэл оюуны экосистем лабораториудаас гадна улам өргөжих тусам хяналт, хариуцлагын хүрээ ч нэмэгдэж байна.

Харин дэлхийн хэмжээний хөгжүүлэлтийн уралдааныг зогсоох бодит боломжид Хюбингер эргэлзэж буйгаа илэрхийлжээ. Тэрбээр хиймэл оюуны загварын чадварыг сайжруулахад түр хориг тавих зэрэг өндөр зардалтай арга хэмжээ шаардах хэмжээнд хүрсэн ч олон улсын өрсөлдөөнийг бүрэн зогсооно гэдэгт итгэхгүй байгаагаа уламжилжээ.

Хуваалцах
Дараагийн мэдээMeta хиймэл оюунт хувийн агентын апп танилцуулж, хэсэг хэрэглэгчээс төлбөр авах туршилт эхлүүллээ
Мэдээллийн захиалга

Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.

Холбоотой мэдээ

Inkling 2 Mini загвар Hugging Face платформд нэмэгдсэнийг зарласан Thinking Machines Lab, Hugging Face-ийн албан ёсны зураг
Технологи

Thinking Machines Lab зөөврийн компьютер дээр ажилладаг нээлттэй жинтэй Inkling 2 Mini загвараа танилцууллаа

ТехнологиАвтомат

2 мин уншихАвтомат

Хятадын далбааны өмнө код болон хиймэл оюуны дүрс бүхий зөөврийн компьютер ашиглаж буй хүн
Технологи

Хятадтай холбоотой хакерын бүлгийн хиймэл оюуны агентууд өөрсдөө “тэг өдрийн” цоорхой олж, сервер эзэлжээ гэж Amazon мэдээллээ

ТехнологиАвтомат

3 мин уншихАвтомат

Урхин дээр өгөгдлийн шоо байрлуулсан, хиймэл оюуны нууцлалын алдагдлыг илэрхийлсэн чимэглэл
Технологи

Хоёр сая “урхи” бүхий туршилт хиймэл оюуны үйлчилгээний сүлжээгээр хэрэглэгчийн нууц мэдээлэл алдагдаж байгааг илрүүллээ

ТехнологиАвтомат

2 мин уншихАвтомат

Decart компанийг үүсгэн байгуулагчид Ориан Лейтерсдорф, Дин Лейтерсдорф, Моше Шалев нар
Технологи

Amazon хиймэл оюуны стартап Decart-ыг 7.5 тэрбум ам.доллараар худалдан авах хэлцлээ эцэслэх шатандаа орлоо

ТехнологиАвтомат

2 мин уншихАвтомат

Cognition компанийг үүсгэн байгуулагч, гүйцэтгэх захирал Скотт Ву
Технологи

Devin кодлогч агентыг бүтээгч Cognition 75 тэрбум ам.долларын үнэлгээгээр хөрөнгө босгох яриа хэлэлцээ хийж байна

ТехнологиАвтомат

2 мин уншихАвтомат