Mistral-ийн гүйцэтгэх захирал АНУ-ын хиймэл оюуны удаашруулах маргааныг өрсөлдөгчдийн хайнга байдлын халхавч гэж шүүмжиллээ

Mistral-ийн гүйцэтгэх захирал Артур Менш АНУ-д өрнөж буй хиймэл оюуны аюулгүй байдлын маргааныг өрсөлдөгчдийн “хайнга байдал”-ыг халхлах оролдлого гэж үзэж байгаагаа CNBC-д ярив. Түүний хэлснээр, хөгжлийг зориудаар удаашруулах тухай яриа нь бодит эрсдэлийн удирдлагаас анхаарлыг сарниулж, хариуцлагагүй байдлыг бусдаас шалтгаалсан мэт харагдуулахад ашиглагдаж байна. “АНУ-д өрнөсөн энэ мэтгэлцээн манай зарим өрсөлдөгчийн хайнга байдлыг халхалсан хэрэг болсон” гэж Менш онцоллоо.

Энэ байр суурь Цагаан ордон, “Ерөнхийлөгчийн Шинжлэх ухаан, технологийн асуудлаарх зөвлөхүүдийн зөвлөл”, АНУ-ын Батлан хамгаалах яам зэрэг нэрс олонтаа дурдагддаг хүрээнд, аюулгүй байдал ба өрсөлдөх чадварын тэнцвэрийн тухай хэлэлцүүлэг хурцадсан үед гарч байна. Маргаанд технологийн салбарын хэд хэдэн төлөөлөгч өөр өөрийн өнцгөөс дүгнэлт хийж байгаа нь анзаарагдана. Дэвид Сакс “Удаашруулах шалтгаан нь цэвэр өгөөмөр сэтгэл гэж жүжиглэхээ болих ёстой” гэж хэлсэн бол, Эмил Майкл үүнийг “айдас дэвэргэх уялдаа холбоотой кампанит ажил” гэж тодорхойлжээ. Нөгөө талд OpenAI, Anthropic зэрэг лабораториудын нэрс ч энэ сэдвийн хүрээнд байнга хөвөрдөг.

Меншийн тавьж буй гол анхааруулга нь хиймэл оюуны “агентууд”-ын эрсдэлийг хаанаас, яаж барих тухай. Тэрээр агентууд олон хэрэгсэлтэй болох тусам урьдчилан таамаглахад бэрх, илүү динамик үйлдлийн зураглал үүсч, санаандгүй үйлдэл хийх эрсдэл нэмэгддэг гэж үзэж байна. “Олон хэрэгсэл олговол хиймэл оюуны агентууд маш динамик болж, таны төсөөлөөгүй зүйл хийж чадна” гэж Менш хэлээд, эрсдэлийг “зогсоох” тухай нийтлэг урианаас илүү бодит хяналтын дэд бүтцийг ярих ёстой гэж санууллаа. Түүний логикоор энэ бол технологийн хурдыг бууруулахын өмнөхөн зайлшгүй хийх инженерчлэлийн ажил.

Иймээс Mistral хамтран ажилладаг байгууллагуудад мониторингийн систем нийлүүлдэг, агентуудыг хязгаарлах дэд бүтцийг чухалчилж байгаагаа тэр тодотгов. “Зөв мониторинг хэрэгтэй, бид хамтран ажилладаг байгууллагууддаа тийм төрлийн системийг өгдөг” гэж Менш ярьсан нь “аюулгүй байдал”-ын хэлэлцүүлгийг зөвхөн зарчим, уриа лоозонгоор бус, хэрэгжүүлэлтээр хэмжих ёстой гэсэн санааг давхар илэрхийлнэ. Түүний үзэж буйгаар хяналт, мониторингийг сайжруулж чадвал агентуудын эрсдэлийг барьж, Европын хувилбаруудын өрсөлдөх чадвар ч нэмэгдэнэ.

Үүний зэрэгцээ Mistral өргөжилтөө илүү том загваруудын тооцооллын нөөцөөр баталгаажуулах зорилт тавьж байна. Тус компани энэ сард Samsung тэргүүлсэн 3 тэрбум еврогийн шинэ санхүүжилт татаж, илүү хүчирхэг загвар сургах тооцооллын нөөцөө тэлэхээ дурдсан. Санхүүжилтийн дүнд “дараагийн үеийн загвар”-ын түвшинд өрсөлдөх боломж бодитоор нэмэгдэнэ гэсэн хүлээлт Меншийн байр сууринд ил байгаа ч тэр АНУ-ын лабораториудын давуу талыг “тийм ч том биш” гэж үзэж, технологийн шинэ мөчлөг зөрүүг мэдэгдэхүйц нөхнө гэж тайлбарлав.

Эцэст нь Меншийн хэлж буй “удаашруулах” тухай маргааны цаана, хэн нь эрсдэлийг бодитоор удирдаж, хэн нь хэлэлцүүлгийг өөртөө ашигтай байдлаар хүргэж байна вэ гэсэн асуулт үлдэж байна. Түүний хувьд шийдэл нь цар хүрээгүй хориг, ерөнхий айдас бус, хэмжигдэх мониторинг, агентын хязгаарлалтын дэд бүтэц, мөн тооцооллын нөөц дээр суурилсан өрсөлдөх чадвар юм. АНУ дахь энэ мэтгэлцээн үргэлжлэх тусам Европын тоглогчид өөрсдийн хариуг зөвхөн шүүмжлэлээр бус, бүтээгдэхүүн болон хэрэгжүүлэлтээр өгнө гэсэн мессеж Mistral-ийн байр сууринаас тод харагдаж байна.