Хиймэл оюуны анхдагчид чадвар хязгааргүй тэлэхийн аюулыг онцолж, зохицуулалтын маргаан ширүүсэв

Anthropic, OpenAI, Google DeepMind зэрэг тэргүүлэх лабораторийн судлаачид сүүлийн долоо хоногт хиймэл оюуны “сүйрлийн эрсдэл”-ийн талаар анхааруулгаа нэмэгдүүлж, хөгжүүлэлтийн хурд ба хяналтын тэнцвэрийг тойрсон маргааныг улам ширүүсгэв. Сэм Алтман, Дарио Амодей, Демис Хассабис, Илон Маск нар зохицуулалтын хяналт хэрэгтэй, хөгжүүлэлтийн хурдад болгоомжтой хандах ёстой гэсэн агуулгаар санал нийлсэн нь салбарт ховор тохиолдол гэж ажиглагчид үзэж байна. Эрсдэл бодитоор яригдах тусам “сааруулах уу, хяналт тогтоох уу” гэсэн асуулт улс төр, бизнесийн түвшинд зэрэгцэн тавигдаж эхэллээ.

Энэ сард Ёшуа Бенжио дээд түвшний лабораторийн эрдэмтэд хамгийн дэвшилт загваруудын талаар олон нийтээс түрүүлж “онцгой мэдээлэл”-тэй байдаг гэж онцолсон. Түүний хэлснээр, “Хил хязгаарын хиймэл оюуны лабораторийн эрдэмтэд хамгийн дэвшилт загваруудын талаар онцгой ойлголттой.” Эндээс үзвэл олон нийтэд мэдээлэхээс өмнө эрсдэлийг мэдэх боломж хэнд төвлөрч, хэн шийдвэр гаргах вэ гэсэн асуудал зохицуулалтын гол маргааны нэг болж байна. Мэдээллийн асимметри өөрөө бодлого хоцрох эрсдэлийг нэмэгдүүлж болзошгүй талаар шүүмжлэл дагалдаж байна.

Энэ байр суурь Anthropic компанийн судлаач Жэйкоб Коксон огцорсноо зарлах үеийн хэлэлцүүлэгт ч тод туссан. Бенжио огцролтын тухай ярианы хүрээнд олон нийтэд гаргахаас өмнөх эрсдэлийг мэдэх, түүн дээр үндэслэн арга хэмжээ авах боломж нь нэн чухал гэж тэмдэглэсэн байна. Лабораториуд шинэ загваруудаа танилцуулахын өмнөх дотоод үнэлгээ, сэрэмжлүүлгийн босго, хэнд ямар үед мэдээлэх тухай асуудал улам хурцдаж, “аюулгүй байдал” гэсэн ойлголт зөвхөн техникийн биш, засаглалын асуудал болон өргөжиж байна.

Нөгөө талд шинжлэх ухааны хүрээний зарим гол төлөөлөл эрсдэлийн хэмжүүрийг өөрөөр тайлбарлаж байна. Торонтогийн их сургуулийн профессор Жэффри Хинтон хиймэл оюун хүнээс ухаантай болох боломжийн талаар ярьж, эрсдэлийн магадлалыг тооцоолох арга зүйн бэрхшээлийг BBC-д хэлжээ. Тэрээр “Бид ийм зүйлтэй өмнө нь тулгарч байгаагүй учраас үнэлэхэд маш хэцүү; удахгүй биднээс ухаантай байж мэдэх оршихуй бүтээсэн” гэж анхааруулсан. Энэ нь тооцооллын эргэлзээ өндөр үед бодлогын “болзошгүй хор уршгийг” хэрхэн үнэлж, ямар босго тогтоох вэ гэсэн маргааныг улам хүндрүүлж байна.

Аюулын зураглал зөвхөн “супер ухаан”-аар хязгаарлагдахгүйг салбарын өөр тоглогчид сануулж байна. Cohere Inc.-ийн гүйцэтгэх захирал Айдан Гомез кибер аюулыг онцолж, байршуулалтын орчны хамгаалалт нь эцсийн аюулгүй байдлыг тодорхойлно гэж CNBC-д ярьсан байна. Түүний хэлснээр, “Эдгээр загварууд бол урьд өмнө үзэгдээгүй хамгийн хүчирхэг кибер зэвсэг.” Үүн дээр OpenAI-ийн ахлах эрдэмтэд “Үр дагаварт хэн ч бэлэн биш” гэж дүгнэсэн нь хөгжүүлэлтээс гадна ашиглалт, хамгаалалтын стандартын асуудлыг шууд урд эгнээнд авчрав.

Улс төрийн түвшинд АНУ-ын Конгресс дахь хоёр намын зарим гишүүн хиймэл оюуны ахицыг хянах хуулийн төслүүдийг дэмжсэн ч, АНУ-ын Ерөнхийлөгч Доналд Трамп зохицуулалтын дуудлагыг шүүмжилсэн. Энэ зөрчил нь компаниудын дунд ч байр суурь нэг мөр болж амжаагүй байгаа үед бодлого хоцрох эрсдэлийг өсгөж, аюулгүй байдлын стандартыг чангатгах шаардлага ярианы төвд улам бат суулгаж байна. Ойрын хугацаанд хэлэлцүүлэг “хэнийг хязгаарлах вэ” гэхээс илүү “ямар эрсдэлийг ямар өгөгдлөөр, ямар хариуцлагын тогтолцоонд багтаах вэ” гэсэн асуултад тулж, лабораториуд, хууль тогтоогчид, хэрэглээний орчны хамгаалалтыг хариуцагчдын хоорондын таталцал үргэлжлэх төлөвтэй байна.