Хиймэл оюуныг “унтраах товч”-ийг дарвал аюултай юу, эсвэл амар тайван байх уу?
Хиймэл оюуны хурдтай хөгжлийг хязгаарлах шаардлагатай гэсэн байр суурь хүчтэй болж, АНУ-д өндөр чадвартай загваруудыг онцгой нөхцөлд албадан унтраах механизмыг хэлэлцэж эхэллээ. Гэвч дэлхий даяар тархсан өгөгдлийн төв, нөөц сервер болон олон давхар дэд бүтэцтэй хиймэл оюуны системийг нэг дор бүрэн зогсоох нь техникийн хувьд тун хүндрэлтэй гэж судлаачид анхааруулж байна. Хиймэл оюуныг хүчээр унтраах механизм буруу хэрэгжвэл цахилгаан сүлжээ, санхүүгийн систем зэрэг хиймэл оюунаас хамааралтай болсон чухал дэд бүтцийн хэвийн ажиллагаанд эрсдэл үүсгэж болзошгүй.
Хиймэл оюуны хөгжлийг хэрхэн хянах тухай маргаан технологийн салбараас хальж, АНУ-ын улс төр, бизнесийн хүрээний томоохон сэдэв болоод байна. “OpenAI”, “Anthropic”-ийн хуучин судлаачид өндөр чадвартай хиймэл оюуны систем хүн төрөлхтөнд ноцтой эрсдэл учруулж болзошгүйг анхааруулсны дараа технологийн хөгжлийг удаашруулах, бүр шаардлагатай үед хүчээр зогсоох санал дахин хүчээ авах болжээ.
Цахилгаан автомашин үйлдвэрлэгч “Tesla” болон сансрын технологийн “SpaceX” компанийн гүйцэтгэх захирал Илон Маск “Anthropic”-ийн гүйцэтгэх захирал Дарио Амодейгийн хамгийн дэвшилтэт хиймэл оюуны загварын хөгжлийн хурдыг сааруулах саналыг дэмжив. “OpenAI”-ийн гүйцэтгэх захирал Сэм Алтман мөн уг саналыг дэмжиж буйгаа илэрхийлсэн байна.
Харин АНУ-ын Ерөнхийлөгч Дональд Трамп хиймэл оюунтай холбоотой сүйрлийн эрсдэлийн анхааруулгыг “хуурамч” гэж нэрлэсэн бол чип үйлдвэрлэгч “Nvidia”-гийн гүйцэтгэх захирал Женсен Хуан “шинэ зохицуулалт шаардлагагүй” гэсэн байр суурь илэрхийлжээ.
Техникийн хувьд нэг товч дарахтай адил биш
Үйлдвэрийн орчинд машин, тоног төхөөрөмж ослын нөхцөлд шууд зогсоох товчтой байдаг. Харин хиймэл оюун системийн хувьд ижил зарчмыг хэрэгжүүлэхэд дата төвийн бүтэц хамгийн том саад болж байна.
Технологийн “Meta Platforms”, “Alphabet”, “Amazon” зэрэг компани сүүлийн жилүүдэд дэлхий даяар дата төв байгуулахад олон тэрбум ам.доллар зарцуулсан. Эдгээр төв олон мянган сервер, чип, нөөц системээс бүрдэх бөгөөд нэг төхөөрөмж ажиллагаагүй болсон ч тооцооллыг өөр систем үргэлжлүүлэхээр бүтээгджээ.
Калифорнийн их сургууль, Берклигийн “Center for Human-Compatible AI” төвийн гүйцэтгэх захирал Марк Ницберг хиймэл оюуныг бүрэн унтраахын тулд үндсэн системээс гадна бүх нөөц дэд бүтцийг зэрэг зогсоох шаардлагатайг онцлов.
Түүний хэлснээр хиймэл оюуны системийг огцом зогсоох нь өөр нэг эрсдэлийг бий болгож мэднэ. Цахилгаан сүлжээ, банк санхүү, кибер аюулгүй байдлын зарим үйл ажиллагаа хиймэл оюуны системтэй улам нягт холбогдож байгаа тул буруу зохион байгуулсан унтраалга чухал дэд бүтцийг доголдуулж болзошгүй.
Кибер аюулгүй байдлын “Neo” стартапын гүйцэтгэх захирал Ник Уорнер “kill switch” нь хиймэл оюунаас үүсэх бүх эрсдэлийг шийдэх дээд зэргийн арга биш гэж үзэж байна. Түүний тайлбарласнаар асуудал зөвхөн техникийн шийдлээр хязгаарлагдахгүй, хэн уг механизмыг удирдах, ямар нөхцөлд ашиглах, аль байгууллага эцсийн шийдвэр гаргах зэрэг бодлогын томоохон асуулт үлдээж байна.
Холбоотой мэдээ
Вашингтонд хиймэл оюуны зохицуулалтын маргаан ширүүсэх үед Дональд Трамп Nvidia-ийн гүйцэтгэх захирал Жэнсэн Хуандтай утсаар ярив
Вашингтонд хиймэл оюуны зохицуулалтын маргаан ширүүсэх үед Трамп Nvidia-ийн Жэнсэн Хуандтай шууд холбогдов Nvidia өнгөрсөн санхүүгийн жилд орлогоо 215 тэрбум ам.долларт хүргэж, 2021 оны 17 тэрбум ам.доллароос огцом өссөн Хятадын зах зээл ба экспортын хяналтын маргаан төр, салбарын хэлэлцээг цаашид хурцатгах төлөвтэй байна
NASA SpaceX-тэй гэрээгээ өргөтгөж, Олон улсын сансрын станц руу нэмэлт хүнтэй нислэгүүд захиалав
NASA SpaceX-ийн Dragon хөлгөөр Олон улсын сансрын станцад очих нэмэлт хүнтэй нислэгүүдийг баталгаажууллаа. Commercial Crew Transportation Capability гэрээний хүрээнд 2030 он хүртэл гурван нислэг нэмэгдэж, нийт 17 ажиллагаат нислэг болно. Энэ шийдвэр нь станц руу тасралтгүй нэвтрэх боломжийг хадгалж, арилжааны хоёр түншийн хуваарийг тогтвортой болгоно.
Калифорни мужийн захирагч Гэвин Ньюсом хиймэл оюуны эрсдэлийг бууруулах захирамж гаргав
Калифорни муж хиймэл оюуны аюултай эрсдэлийг хязгаарлахуйц шинэ захирамж гарган, зохицуулалтаа түргэтгэв Захирамжаар экспертүүд хоёр сарын дотор аюулгүй байдал, хамгаалалтын хуулийг чангатгах зөвлөмж гаргана Бие даасан аудит, яаралтай унтраах механизм зэрэг шаардлага нэмэгдвэл компаниудын нийцэл, зардал өснө
Хиймэл оюуны 100 гаруй шинжээч гуравдагч талын аюулгүй байдлын шалгалтад хамгаалалт, нөөц дутагдаж буйг анхааруулав
Хиймэл оюуны 100 гаруй шинжээч, үнэлэгчид аюулгүй байдлын шалгалт хийхэд нөөц, хамгаалалт дутмаг гэж сэрдүүлэв. Баасан гарагт нийтэлсэн захидалд Жэффри Хинтон, Жонс Хопкинсийн их сургууль, Стэнфордын их сургууль, METR-ийн төлөөлөл гарын үсэг зуржээ. Гуравдагч талын хяналт бодитой хэрэгжихгүй бол хил хязгаарын загваруудын эрсдэлийн үнэлгээ, олон нийтийн итгэл алдагдаж болзошгүй.
Эх сурвалжийн хэлснээр Anthropic, OpenAI хиймэл оюуны дата төвийн жижиг хэлцлүүдийг эрэлхийлж эхэлжээ
Anthropic, OpenAI нь хиймэл оюуны тооцооллын нөөцөө хурдан нэмэхийн тулд жижиг хэлцэл хайж байна Эх сурвалжуудын мэдээлснээр зорьж буй багтаамж нь 20-30 МВт бөгөөд Их Британи, Нордикс, АНУ-д хэлэлцжээ Энэ чиг хандлага нь дата төвийн эсэргүүцэл, газрын болон цахилгааны хомсдолын үед байршуулалтыг түргэсгэнэ
“Moonshot” санхүүгийн байгууллагуудад зориулсан “Kimi” хиймэл оюуны шийдлээ танилцууллаа
“Kimi” нь ОУВС, Дэлхийн банк болон FRED зэрэг санхүү, эдийн засгийн мэдээллийн эх сурвалжтай шууд холбогдох боломжтой. Санхүүгийн салбарт хиймэл оюуны хэрэглээ тэлэхийн хэрээр өгөгдлийн зөвшөөрөл, найдвартай ажиллагаа, мэдээллийн аюулгүй байдал бүтээгдэхүүний бодит хэрэглээг тодорхойлох гол шалгуур болж байна. Санхүүгийн бодит урсгалыг ойлгож, найдвартай ажиллагаа болон өгөгдлийн аюулгүй байдлыг хангаж чаддаг хиймэл оюуны компаниуд илүү хүчтэй байр суурь эзлэх боломж бүрджээ.