Хиймэл оюуны 100 гаруй шинжээч гуравдагч талын аюулгүй байдлын шалгалтад хамгаалалт, нөөц дутагдаж буйг анхааруулав

Хиймэл оюуны аюулгүй байдлын гуравдагч талын шалгалт хийхээр ажилладаг 100 гаруй шинжээч, үнэлэгчид нөөц, хамгаалалтын ноцтой дутагдал байгааг анхааруулсан захидал нийтэллээ. Тэдний байр суурь нь “хил хязгаарыг” тэлж буй дэвшилтэт загваруудын эрсдэлийг үнэлэх ажил бодитой хэрэгжихгүй бол олон нийтийн итгэл, бодлогын хэлэлцүүлэг хоёул зэрэг ганхах эрсдэлтэй гэсэн санаанд төвлөрч байна. Захидалд хяналт, үнэлгээ зөвхөн нэр төдий биш, шинжлэх ухааны бодитой байдал, ил тод байдал, хараат бус байдал, хөндлөнгийн нөлөөллөөс хамгаалах баталгаатай байх ёстой гэж тусгасан.

Энэ захидал Баасан гарагт нийтлэгдсэн бөгөөд Жэффри Хинтон, Johns Hopkins University, Stanford University, METR-ийн төлөөлөл зэрэг олон хүний гарын үсэгтэй. Өөрөөр хэлбэл, зөвхөн нэг байгууллагын байр суурь биш, хиймэл оюуны үнэлгээний салбарт ажилладаг нарийн хүрээний боловч нөлөөтэй бүлэг “гуравдагч талын хяналт”-ын бодит нөхцөлийг ил болгож тавьж байна. Тэдний хэлж буй гол асуудал нь үнэлэгчдээс өндөр хариуцлага нэхэж буй мөртлөө ажиллах орчин, нэвтрэх боломж, хамгаалалтын дэглэм дутмаг байгаа явдал.

Сүүлийн өдрүүдэд энэ сэдэв олны анхааралд илүү хүчтэй орж ирсэн нь Anthropic-ийн гүйцэтгэх захирал Дарио Амодэй зарим үнэлэгчдэд ажилтантай адил түвшний нэвтрэх эрх олгох санаа дэвшүүлсэнтэй холбоотой. Уг саналыг OpenAI-ийн гүйцэтгэх захирал Сэм Олтман, SpaceX-ийн Илон Маск, Microsoft-ийн гүйцэтгэх захирал Сатья Наделла нар дэмжиж буйгаа илэрхийлсэн ч логистикийн асуудлууд тодорхойгүй хэвээр байгааг контекстэд дурджээ. Харин улс төрийн орчинд Ерөнхийлөгч Доналд Трамп болон түүний өмнөх хиймэл оюуны бодлогын зөвлөх Дэвид Сакс нар төрийн зохицуулалтыг эрс эсэргүүцэж буй талаар мөн онцолсон байна.

Захидалд гуравдагч талын үнэлгээ “жинхэнэ” болохын тулд үнэлэгчдэд дотоод мэдрэмтгий мэдээлэл, нийтлэгдээгүй системүүд, холбогдох өгөгдөл, хэрэгсэлд нэвтрэх нөхцөл зайлшгүй хэрэгтэй гэж тодотгожээ. Зөвхөн олон нийтэд ил болсон мэдээлэл дээр тулгуурлан дүгнэлт гаргах нь бодит эрсдэлийг хэмжихэд хүрэлцэхгүй гэж үзэж байгаа хэрэг. Конрад Стосз CNBC-д “хиймэл оюуны эрсдэлийг өргөн хүрээнд удирдах утга бүхий хэрэгсэл болохын тулд хараат бус хяналтын суурь зарчмуудад нийтлэг ойлголт бүрдүүлэхийг зорьж байна” гэж хэлсэн бол үнэлэгчид “мэдрэмтгий дотоод өгөгдөл, нийтлэгдээгүй системүүдийг харах” түвшний нэвтрэх эрхтэй бол бодит эрсдэлийн талаар илүү итгэлтэй дүгнэлт хийх боломжтойг мөн онцолжээ.

Эндээс дараагийн асуудал нь “ямар нөхцөлтэй шалгалтыг хангалттай” гэж үзэх вэ гэсэн стандартын маргаан руу орж байна. Захидалд шалгалтын нөхцөлийг стандартчлах, дүрэмчлэх, хэрэгжилтийг хангах хэрэгтэй бөгөөд AEF-1 стандартын эхний хэрэглээ гарсныг тэмдэглэсэн. Практик дээр улс орон, компани, лаборатори бүр өөр өөр нөхцөл тавьсаар байвал гуравдагч талын үнэлгээ нь ижил нэртэй атлаа өөр түвшний баталгаатай болох эрсдэлтэй гэж үзэж буй.

Энэ бүхний цаад өртөг нь зөвхөн салбарын дотоод процедур биш, олон нийтийн итгэл, төрийн шийдвэр гаргалтад очиж тулдаг. Винь Нгуен CNBC-д “цөөн лаборатори кибер аюулгүй байдал, чухал дэд бүтэц, үндэсний аюулгүй байдалд нөлөөлөх чадварыг дангаар атгавал төр, олон нийт тэдний өөрсдийн тайланд найдах ёсгүй” гэж ярьжээ. Үнэлгээ бодитой байх эсэх нь эцэстээ компаниудын өөрийн тайлангийн хязгаараас хамаарах уу, эсвэл хараат бус шалгалтын нийтлэг зарчим, стандарт дээр тогтох уу гэдэг асуултыг энэ захидал дахин өргөн фронтоор сөхөж байна.