egov.mn

Илон Маск хиймэл оюуны тэргүүлэх компаниудыг олон нийтэд гаргахаас өмнө харилцан туршихыг уриалав

Илон Маск хиймэл оюуны тэргүүлэх компаниуд загвараа олон нийтэд гаргахаасаа өмнө харилцан шалгахыг уриалав. Тэр Лос Анжелест болсон All-in Summit дээр SpaceX, OpenAI, Anthropic, Google, Meta болон Хятадын хэдэн компанийг дурдав. Зохицуулалтын маргаан хурцдаж буй энэ үед салбарын эрсдэлийг бууруулах дарамтыг нэмэгдүүлэх төлөвтэй байна.

Энэ мэдээг программ автоматаар бэлтгэсэн.

Илон Маск хиймэл оюуны тэргүүлэх компаниудыг олон нийтэд гаргахаас өмнө харилцан туршихыг уриалав

SpaceX компанийн гүйцэтгэх захирал Илон Маск даваа гарагт Лос Анжелест болсон All-in Summit дээр үг хэлэхдээ хиймэл оюуны тэргүүлэх лабораториуд загвараа олон нийтэд гаргахаасаа өмнө харилцан шалгах механизмыг бий болгохыг уриалав. Тэр SpaceX, OpenAI, Anthropic, Google, Meta болон Хятадын тэргүүлэх гурваас дөрвөн компанийг нэрлээд, хоорондоо “test harness” ажиллуулах санал дэвшүүлсэн. Маскийн тайлбарласнаар энэ нь төгс шийдэл биш ч асуудал илрүүлэх магадлалыг мэдэгдэхүйц өсгөнө гэж үзэж байна. Өөрөөр хэлбэл, өрсөлдөгчдөөрөө чиний хийсэн ажлыг шалгуулбал санаа зовоосон зүйл илэрвэл “дохио өгнө” гэсэн логиктой гэв.

Түүний энэ санаачилга нь хиймэл оюуны зохицуулалтын маргаан сүүлийн үед эрчимжсэн орчинд гарч байна. Anthropic, OpenAI зэрэг компанийн удирдлагууд эрсдэлийн тухай анхааруулсны дараа салбарын аюулгүй байдал, хариуцлагын асуудал дахин хурцдав. Маск энэ нөхцөлд лабораториуд өөр хоорондоо шалгалт, үнэлгээг илүү системтэй болговол олон нийтэд хүрэхээс өмнөх “алхам” нэмэгдэнэ гэж үзэж буйгаа илэрхийлсэн. Гэхдээ санал бодит ажил хэрэг болох эсэх нь өрсөлдөөний динамик, харилцан итгэлцлээс ихээхэн хамаарах дүр зурагтай.

Маск мөн SpaceX-ийн эзэмшдэг SpaceXAI-тай өрсөлддөг лабораториуд түүний саналд одоогоор нэгдэхгүй байгааг хүлээн зөвшөөрөв. Энэ нь нэг талаас санаачилгын цар хүрээ, хэрэгжилтэд эргэлзээ дагуулж болох ч нөгөө талаас бусад тоглогчийг хэлэлцүүлэгт татан оруулах зорилготой дохио гэж зах зээл унших магадлалтай. Тэрбээр “test harness”-ийг харилцан ажиллуулснаар ганц байгууллагын дотоод шалгалтаас давсан, илүү бодитой хяналтын суваг нэмэгдэнэ гэж үзэж байна. Үүнийг “хамтран шалгах” энгийн санаа гэж тайлбарласан нь анхаарал татав.

Ижил сэдвийн хүрээнд Anthropic-ийн гүйцэтгэх захирал Дарио Амодэй гуравдагч талын “embedded evaluators” ашиглан аюулгүй байдлын практикийг баталгаажуулах хувилбар дэвшүүлсэн. Өөрөөр хэлбэл, компаниудын дотоод процесс дээр гаднын үнэлэгчийг “суулгаж” бодит хэрэглээнд ойр орчинд шалгах зарчмыг ярьж байна. Үүнийг Маскийн саналтай нэг түвшинд огтлолцох боломжтой, гэхдээ хэрэгжүүлэх хэлбэр нь өөр шийдэл гэж салбарынхан харж болохоор байна. Энэ мэтээр аюулгүй байдлын тухай яриа зөвхөн технологийн чадамжаас биш, хяналт-үнэлгээний архитектур руу шилжиж буйг илтгэнэ.

Зохицуулалтын талбарт улс төрийн өнгө аястай байр сууриуд ч зэрэгцэн гарч байна. Ерөнхийлөгч Дональд Трамп Truth Social дээр хиймэл оюуны айдсыг “hoax”, “scam” гэж нэрлэн няцаасан. Харин АНУ-ын Үндэсний Эдийн Засгийн Зөвлөлийн дарга Кевин Хассетт CNBC-д ярилцлага өгөхдөө хувийн хэвшил нь асуудлыг шийдэх “right place” гэж хэлээд, засгийн газар салбарыг ажиглаж, шаардлагатай үед “law enforcement” ашиглан хариуцлагатай байдлыг хангана гэж мэдэгдсэн. Үүнийг төрийн шууд зохицуулалт бус, хяналтын дохиотой хандлага гэж уншиж байна.

АНУ-ын хэлэлцүүлгийн хажууд БНХАУ-ын байр суурь ч тодорчээ. БНХАУ-ын Гадаад хэргийн яамны хэвлэлийн төлөөлөгч удаашруулах уриалгыг “fear mongering” гэж Reuters-ын англи орчуулгад дурдсанаар хэлсэн байна. Маскийн дэвшүүлсэн харилцан туршилтын санаа, Амодэйн гуравдагч талын үнэлгээний хувилбар, мөн улс төрийн зөрүүтэй тайлбарууд зэрэгцэн өрнөснөөр салбарт “эрсдэлийг бууруулах” дарамт өсөхөөр харагдаж байна. Компаниудын хувьд дараагийн алхам нь нийтэд нээлттэй амлалт хийхээс илүүтэй, хоорондын итгэлцэл ба бодит хэрэгжилт дээр ямар бүтэц байгуулах вэ гэдэгт шилжиж байна.

Хуваалцах
Дараагийн мэдээХиймэл оюуны анхдагчид чадвар хязгааргүй тэлэхийн аюулыг онцолж, зохицуулалтын маргаан ширүүсэв
Мэдээллийн захиалга

Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.

Холбоотой мэдээ

Технологи

Супермаркетын хөргүүрээс зорчигчийн нислэг хүртэл Европын хамгаалалт кибер заналхийлэлд соригдож байна

ТехнологиАвтомат

2 мин уншихАвтомат

DeepMind Institute-ийн “What comes after AGI?” эссэгийн нүүр зураг, Тим Геневайн
Технологи

Google DeepMind ерөнхий хиймэл оюунаас супер оюун ухаан руу хүрэх дөрвөн замыг тодорхойллоо

ТехнологиАвтомат

2 мин уншихАвтомат

“Pharmaceutical Development” болон “AI Artificial Intelligence” гэсэн бичгийн өмнө байрлуулсан роботын дүрс
Технологи

Дэлхийн томоохон эм үйлдвэрлэгчид хиймэл оюун эм нээх эхний шатны хугацааг хоёр дахин хүртэл богиносгож байна гэв

ТехнологиАвтомат

2 мин уншихАвтомат

Хятадын төрийн далбаанууд болон хэлхээний самбарын өмнө байрлуулсан Nvidia-гийн лого бүхий ухаалаг утас
Технологи

АНУ-ын хиймэл оюуны чипийн хязгаарлалт Хятадын технологийн хувьцааг унагаж, Alibaba 20 гигаваттын зорилтоо бууруулж магадгүй гэв

ТехнологиАвтомат

2 мин уншихАвтомат

АНУ-ын Ерөнхийлөгч Дональд Трамп, Хятадын дарга Си Жиньпин нарын тэргүүлсэн төлөөлөгчид хоёр талын хэлэлцээ хийж буй архивын зураг
Технологи

Трамп, Си Жиньпин нар цэргийн томоохон шийдвэрт хиймэл оюуныг хүний оролцоогүйгээр ашиглахгүй байхаар тохирсон гэж Бессент мэдэгдэв

ТехнологиАвтомат

2 мин уншихАвтомат