Хиймэл оюуныг “унтраах товч”-ийг дарвал аюултай юу, эсвэл амар тайван байх уу?
Хиймэл оюуны хурдтай хөгжлийг хязгаарлах шаардлагатай гэсэн байр суурь хүчтэй болж, АНУ-д өндөр чадвартай загваруудыг онцгой нөхцөлд албадан унтраах механизмыг хэлэлцэж эхэллээ. Гэвч дэлхий даяар тархсан өгөгдлийн төв, нөөц сервер болон олон давхар дэд бүтэцтэй хиймэл оюуны системийг нэг дор бүрэн зогсоох нь техникийн хувьд тун хүндрэлтэй гэж судлаачид анхааруулж байна. Хиймэл оюуныг хүчээр унтраах механизм буруу хэрэгжвэл цахилгаан сүлжээ, санхүүгийн систем зэрэг хиймэл оюунаас хамааралтай болсон чухал дэд бүтцийн хэвийн ажиллагаанд эрсдэл үүсгэж болзошгүй.

Хиймэл оюуны хөгжлийг хэрхэн хянах тухай маргаан технологийн салбараас хальж, АНУ-ын улс төр, бизнесийн хүрээний томоохон сэдэв болоод байна. “OpenAI”, “Anthropic”-ийн хуучин судлаачид өндөр чадвартай хиймэл оюуны систем хүн төрөлхтөнд ноцтой эрсдэл учруулж болзошгүйг анхааруулсны дараа технологийн хөгжлийг удаашруулах, бүр шаардлагатай үед хүчээр зогсоох санал дахин хүчээ авах болжээ.
Цахилгаан автомашин үйлдвэрлэгч “Tesla” болон сансрын технологийн “SpaceX” компанийн гүйцэтгэх захирал Илон Маск “Anthropic”-ийн гүйцэтгэх захирал Дарио Амодейгийн хамгийн дэвшилтэт хиймэл оюуны загварын хөгжлийн хурдыг сааруулах саналыг дэмжив. “OpenAI”-ийн гүйцэтгэх захирал Сэм Алтман мөн уг саналыг дэмжиж буйгаа илэрхийлсэн байна.
Харин АНУ-ын Ерөнхийлөгч Дональд Трамп хиймэл оюунтай холбоотой сүйрлийн эрсдэлийн анхааруулгыг “хуурамч” гэж нэрлэсэн бол чип үйлдвэрлэгч “Nvidia”-гийн гүйцэтгэх захирал Женсен Хуан “шинэ зохицуулалт шаардлагагүй” гэсэн байр суурь илэрхийлжээ.
Техникийн хувьд нэг товч дарахтай адил биш
Үйлдвэрийн орчинд машин, тоног төхөөрөмж ослын нөхцөлд шууд зогсоох товчтой байдаг. Харин хиймэл оюун системийн хувьд ижил зарчмыг хэрэгжүүлэхэд дата төвийн бүтэц хамгийн том саад болж байна.
Технологийн “Meta Platforms”, “Alphabet”, “Amazon” зэрэг компани сүүлийн жилүүдэд дэлхий даяар дата төв байгуулахад олон тэрбум ам.доллар зарцуулсан. Эдгээр төв олон мянган сервер, чип, нөөц системээс бүрдэх бөгөөд нэг төхөөрөмж ажиллагаагүй болсон ч тооцооллыг өөр систем үргэлжлүүлэхээр бүтээгджээ.
Калифорнийн их сургууль, Берклигийн “Center for Human-Compatible AI” төвийн гүйцэтгэх захирал Марк Ницберг хиймэл оюуныг бүрэн унтраахын тулд үндсэн системээс гадна бүх нөөц дэд бүтцийг зэрэг зогсоох шаардлагатайг онцлов.
Түүний хэлснээр хиймэл оюуны системийг огцом зогсоох нь өөр нэг эрсдэлийг бий болгож мэднэ. Цахилгаан сүлжээ, банк санхүү, кибер аюулгүй байдлын зарим үйл ажиллагаа хиймэл оюуны системтэй улам нягт холбогдож байгаа тул буруу зохион байгуулсан унтраалга чухал дэд бүтцийг доголдуулж болзошгүй.
Кибер аюулгүй байдлын “Neo” стартапын гүйцэтгэх захирал Ник Уорнер “kill switch” нь хиймэл оюунаас үүсэх бүх эрсдэлийг шийдэх дээд зэргийн арга биш гэж үзэж байна. Түүний тайлбарласнаар асуудал зөвхөн техникийн шийдлээр хязгаарлагдахгүй, хэн уг механизмыг удирдах, ямар нөхцөлд ашиглах, аль байгууллага эцсийн шийдвэр гаргах зэрэг бодлогын томоохон асуулт үлдээж байна.
Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.
Холбоотой мэдээ





