egov.mn

Хиймэл оюуныг “унтраах товч”-ийг дарвал аюултай юу, эсвэл амар тайван байх уу?

Хиймэл оюуны хурдтай хөгжлийг хязгаарлах шаардлагатай гэсэн байр суурь хүчтэй болж, АНУ-д өндөр чадвартай загваруудыг онцгой нөхцөлд албадан унтраах механизмыг хэлэлцэж эхэллээ. Гэвч дэлхий даяар тархсан өгөгдлийн төв, нөөц сервер болон олон давхар дэд бүтэцтэй хиймэл оюуны системийг нэг дор бүрэн зогсоох нь техникийн хувьд тун хүндрэлтэй гэж судлаачид анхааруулж байна. Хиймэл оюуныг хүчээр унтраах механизм буруу хэрэгжвэл цахилгаан сүлжээ, санхүүгийн систем зэрэг хиймэл оюунаас хамааралтай болсон чухал дэд бүтцийн хэвийн ажиллагаанд эрсдэл үүсгэж болзошгүй.

Энэ мэдээг программ автоматаар бэлтгэсэн.

Хиймэл оюуныг “унтраах товч”-ийг дарвал аюултай юу, эсвэл амар тайван байх уу?

Хиймэл оюуны хөгжлийг хэрхэн хянах тухай маргаан технологийн салбараас хальж, АНУ-ын улс төр, бизнесийн хүрээний томоохон сэдэв болоод байна. “OpenAI”, “Anthropic”-ийн хуучин судлаачид өндөр чадвартай хиймэл оюуны систем хүн төрөлхтөнд ноцтой эрсдэл учруулж болзошгүйг анхааруулсны дараа технологийн хөгжлийг удаашруулах, бүр шаардлагатай үед хүчээр зогсоох санал дахин хүчээ авах болжээ.

Цахилгаан автомашин үйлдвэрлэгч “Tesla” болон сансрын технологийн “SpaceX” компанийн гүйцэтгэх захирал Илон Маск “Anthropic”-ийн гүйцэтгэх захирал Дарио Амодейгийн хамгийн дэвшилтэт хиймэл оюуны загварын хөгжлийн хурдыг сааруулах саналыг дэмжив. “OpenAI”-ийн гүйцэтгэх захирал Сэм Алтман мөн уг саналыг дэмжиж буйгаа илэрхийлсэн байна.

Харин АНУ-ын Ерөнхийлөгч Дональд Трамп хиймэл оюунтай холбоотой сүйрлийн эрсдэлийн анхааруулгыг “хуурамч” гэж нэрлэсэн бол чип үйлдвэрлэгч “Nvidia”-гийн гүйцэтгэх захирал Женсен Хуан “шинэ зохицуулалт шаардлагагүй” гэсэн байр суурь илэрхийлжээ.

Техникийн хувьд нэг товч дарахтай адил биш

Үйлдвэрийн орчинд машин, тоног төхөөрөмж ослын нөхцөлд шууд зогсоох товчтой байдаг. Харин хиймэл оюун системийн хувьд ижил зарчмыг хэрэгжүүлэхэд дата төвийн бүтэц хамгийн том саад болж байна.

Технологийн “Meta Platforms”, “Alphabet”, “Amazon” зэрэг компани сүүлийн жилүүдэд дэлхий даяар дата төв байгуулахад олон тэрбум ам.доллар зарцуулсан. Эдгээр төв олон мянган сервер, чип, нөөц системээс бүрдэх бөгөөд нэг төхөөрөмж ажиллагаагүй болсон ч тооцооллыг өөр систем үргэлжлүүлэхээр бүтээгджээ.

Калифорнийн их сургууль, Берклигийн “Center for Human-Compatible AI” төвийн гүйцэтгэх захирал Марк Ницберг хиймэл оюуныг бүрэн унтраахын тулд үндсэн системээс гадна бүх нөөц дэд бүтцийг зэрэг зогсоох шаардлагатайг онцлов.

Түүний хэлснээр хиймэл оюуны системийг огцом зогсоох нь өөр нэг эрсдэлийг бий болгож мэднэ. Цахилгаан сүлжээ, банк санхүү, кибер аюулгүй байдлын зарим үйл ажиллагаа хиймэл оюуны системтэй улам нягт холбогдож байгаа тул буруу зохион байгуулсан унтраалга чухал дэд бүтцийг доголдуулж болзошгүй.

Кибер аюулгүй байдлын “Neo” стартапын гүйцэтгэх захирал Ник Уорнер “kill switch” нь хиймэл оюунаас үүсэх бүх эрсдэлийг шийдэх дээд зэргийн арга биш гэж үзэж байна. Түүний тайлбарласнаар асуудал зөвхөн техникийн шийдлээр хязгаарлагдахгүй, хэн уг механизмыг удирдах, ямар нөхцөлд ашиглах, аль байгууллага эцсийн шийдвэр гаргах зэрэг бодлогын томоохон асуулт үлдээж байна.

Хуваалцах
Дараагийн мэдээNvidia-ийн гүйцэтгэх захирал Женсен Хуанг хиймэл оюуны сүйрлийн сэрэмжлүүлгийг 'сүйрлийн зохиомж' гэж няцаав
Мэдээллийн захиалга

Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.

Холбоотой мэдээ

Технологи

Супермаркетын хөргүүрээс зорчигчийн нислэг хүртэл Европын хамгаалалт кибер заналхийлэлд соригдож байна

ТехнологиАвтомат

2 мин уншихАвтомат

DeepMind Institute-ийн “What comes after AGI?” эссэгийн нүүр зураг, Тим Геневайн
Технологи

Google DeepMind ерөнхий хиймэл оюунаас супер оюун ухаан руу хүрэх дөрвөн замыг тодорхойллоо

ТехнологиАвтомат

2 мин уншихАвтомат

“Pharmaceutical Development” болон “AI Artificial Intelligence” гэсэн бичгийн өмнө байрлуулсан роботын дүрс
Технологи

Дэлхийн томоохон эм үйлдвэрлэгчид хиймэл оюун эм нээх эхний шатны хугацааг хоёр дахин хүртэл богиносгож байна гэв

ТехнологиАвтомат

2 мин уншихАвтомат

Хятадын төрийн далбаанууд болон хэлхээний самбарын өмнө байрлуулсан Nvidia-гийн лого бүхий ухаалаг утас
Технологи

АНУ-ын хиймэл оюуны чипийн хязгаарлалт Хятадын технологийн хувьцааг унагаж, Alibaba 20 гигаваттын зорилтоо бууруулж магадгүй гэв

ТехнологиАвтомат

2 мин уншихАвтомат

АНУ-ын Ерөнхийлөгч Дональд Трамп, Хятадын дарга Си Жиньпин нарын тэргүүлсэн төлөөлөгчид хоёр талын хэлэлцээ хийж буй архивын зураг
Технологи

Трамп, Си Жиньпин нар цэргийн томоохон шийдвэрт хиймэл оюуныг хүний оролцоогүйгээр ашиглахгүй байхаар тохирсон гэж Бессент мэдэгдэв

ТехнологиАвтомат

2 мин уншихАвтомат

Тайбэй хот дахь Nvidia компанийн оффисын байрны гадна байрлах компанийн лого бүхий самбар
Технологи

Nvidia-гийн нягтлан бодох бүртгэлийг АНУ-ын SEC шалгаж байгаа гэх мэдээллээр хувьцаа нь 14 хувиар унаж, Nasdaq 5.3 хувиар буурлаа

ТехнологиАвтомат

3 мин уншихАвтомат