Хиймэл оюуны аюулгүй байдлын үнэлгээчдийг Anthropic, OpenAI аврах хүч болгон дуудаж эхэллээ

Anthropic болон OpenAI сүүлийн үед хиймэл оюуны аюулгүй байдлыг гуравдагч талын үнэлгээгээр “гүн суулгаж” баталгаажуулах алхмуудаа эрчимжүүлж эхэллээ. Anthropic-ийн гүйцэтгэх захирал Дарио Амодей өнгөрсөн сард компанидоо бие даасан үнэлгээчдийг суулгах амлалт өгсөн бөгөөд OpenAI-ийн гүйцэтгэх захирал Сам Алтман үүнийг хурдан дэмжив. Технологийн хөгжил хурдасч, холбооны түвшний стандарт хоцорч буй нөхцөлд энэ нь салбарын итгэл, хариуцлагын маргааныг өөр чигт эргүүлэх оролдлого гэж харагдаж байна.

Энэ хөдөлгөөн Цагаан ордноос өгсөн дохиотой зэрэгцэж байна. АНУ-ын Ерөнхийлөгч Дональд Трамп есдүгээр сарын сүүлээр танилцуулсан сайн дурын тохиролцоонд компаниудад бие даасан гадаад аудитортой эсвэл үнэлгээчтэй хамтрахыг уриалсан. Цагаан ордонд болсон уулзалтын үеэр танилцуулсан нэг нүүрийн баримтад компани бүр технологио аюулгүй хөгжүүлж, олон нийт болон хэрэглэгчдийн итгэлийг бий болгох хариуцлагатай гэж тусгасан нь “сайн дурын” хүрээнд ч гэсэн шахалт нэмэгдэж буйг илтгэнэ.

Гэхдээ үнэлгээчид, аудиторуудыг тойрсон маргаан OpenAI дээр ил тод цухалзав. Тус компани өнгөрсөн долоо хоногт гурав ажилтнаа бодлого зөрчин мэдрэмтгий компанийн мэдээлэлд нэвтэрч, зохицуулсан гэж мэдэгдсэн байна. Халагдсан ажилтнуудаас Микита Балесни, Томек Корбак нар үүнийг гуравдагч талын үнэлгээчидтэй харилцсан байдлаас болсон гэж үзэж буйгаа хэлсэн ч OpenAI үүнийг няцаав. Үүний араас OpenAI баасан гарагт гуравдагч талын аюулгүй байдлын үнэлгээчидтэй гэрээгээ идэвхтэй эцэслэж, ойрын долоо хоногуудад дэлгэрэнгүй мэдээлнэ гэж нийтэлжээ.

Anthropic харин эсрэг чиглэлд, гадны багийг компанийн доторх туршилтад оруулах алхам хийв. Тус компани Accenture-ийн хиймэл оюуны мэргэшсэн нэгж болох Faculty-ийн ажилтнуудыг хамгаалалтын туршилт, эрсдэлийн үнэлгээнд суулгаж ажиллуулахаа зарлаж, зардлыг шууд санхүүжүүлнэ гэж мэдэгдсэн. Anthropic үүнийг компанийн хувьд “ер бусын алхам” боловч гадаад үнэлгээчдийг суулгах үзэл баримтлалыг бодитоор туршиж нотлох нь чухал гэж тайлбарлав. Өөрөөр хэлбэл, үнэлгээ зөвхөн тайлан бичих биш, хөгжүүлэлтийн процессын нэг хэсэг болох хувилбарыг компанийн дотор туршиж эхэлж байгаа юм.

Гуравдагч талын үнэлгээ бодитоор амжилттай хэрэгжих эсэх нь нэг талдаа санхүүжилт, нөгөө талдаа хараат бус байдлаас ихээхэн шалтгаална. Model Evaluation and Threat Research (METR) наймдугаар сард сүүлийн зургаан сард 71 сая ам.долларын санхүүжилтийн амлалт татсанаа зарласан нь 2024 оны нийт 13.6 сая ам.долларын хандивын дүнгээс огцом өссөн үзүүлэлт болсон. Гэхдээ илүү их мөнгө орж ирэхийн хэрээр “өөрийнхөө санхүүжүүлэгчийг шалгах” эрсдэлийг тойрсон асуулт хурцаар тавигдана. Суреш Венкатасубраманиан “жинхэнэ гуравдагч талын үнэлгээ хийхийг хүсвэл санхүүгийн болон бусад талаараа жинхэнэ хараат бус байдал хэрэгтэй” гэж хэлсэн нь энэ санааг шулуухан хэлж байгаа хэрэг.

Дүрэм, хяналтын талбар ч хөдөлгөөнд орж байна. Fathom 2024 оны зургадугаар сард Төрөөс зөвшөөрөлтэй Бие даасан баталгаажуулалтын байгууллага буюу IVO-уудын зах зээлийн хүрээг санал болгосон бол Independent Verification Organizations-ыг тусгасан FRONTIER хууль төслийг Төлөөлөгч Лори Трахан, Жэй Обернолте нар долдугаар сард өргөн барьсан. Калифорни мужийн захирагч Гэвин Ньюсом IVO-той холбоотой хоёр хуулийг баталж, нэг нь улсын хэмжээнд анхных гэх хүрээ, нөгөө нь хиймэл оюуны аудиторуудын мужийн бүртгэлийг бий болгох агуулгатай болсон бөгөөд Крис Лихэйн “Калифорни замын дүрмийг тогтооход тусалж чадна” гэж бичсэн. Гэсэн ч Уортон хариуцлагатай хиймэл оюуны лабораторийн захирал Кевин Вербах үнэлгээний экосистем одоогоор хангалттай бат бөх биш гэж анхааруулсан хэвээр байна. Энэ нөхцөлд компанийн дотоод алхам, мужийн хэмжээний зохицуулалт, гуравдагч талын үнэлгээний бодит хараат бус байдал гурав нэгэн зэрэг бүрэлдэхгүй бол итгэл хамгаална гэсэн амлалт эргээд эрсдэлийн эх үүсвэр болж болзошгүй.