Лейф Венар: ХОУ-д ухаалаг шийдвэр гаргагч хэрэгтэй, үр дүнтэй алтруистууд үүнийг харуулж чадаагүй

Стэнфордын их сургуулийн философийн профессор, тус сургуулийн ёс зүйн төвийн тэргүүн, «Blood Oil» номын зохиогч Лейф Венар The Economist сэтгүүлийн «By Invitation» буланд нийтэлсэн нийтлэлдээ үр дүнтэй алтруизм (effective altruism, EA) хөдөлгөөнийг хатуу шүүмжилж, хиймэл оюун ухааныг (ХОУ) хөгжүүлэхэд ёс суртахууны өндөр зорилго бус, ухаалаг шийдвэр гаргах чадвар (good judgment) илүү чухал гэж бичжээ. Нийтлэл сэтгүүлийн 2026 оны 10 дугаар сарын 10-ны Их Британийн хэвлэлийн 17 дугаар нүүрт «AI needs people of good judgment. Effective altruists haven't shown it» гарчигтай, цахим хувилбар нь 10 дугаар сарын 7-нд «Can effective altruists grow up?» гарчигтай нийтлэгдсэн.

Венарын гол үндэслэлүүд

«Сайн нь шинэ биш, шинэ нь сайн биш». Венарын үзэж байгаагаар EA-ийн сайн тал нь Будда, Есүс, Мо Цзы, Британийн эртний утилитаристуудаас уламжилсан энэрэл, тэгш байдлын санаа бөгөөд шинэ зүйл биш, харин хөдөлгөөний шинэ санаанууд сайн биш аж. Ёс суртахууны их зорилгоос илүү ухаалаг шийдвэр чухал гэж тэрбээр онцолжээ.

Эх сурвалжийн сул тал. Венар EA-ийн үзэл сурталч Уильям МакАскиллын «What We Owe The Future» номд уур амьсгалын нэгэн буяны байгууллагыг «маш өндөр зардал-үр ашигтай» гэж дүгнэсэн ч зүүлт тайлбар нь баттай биш гэж шүүмжилжээ.

GiveWell-ийн тооцоо. GiveWell байгууллага «340,000 гаруй хүний амь аврах болно» гэж мэдэгддэг. Венарын үзэж байгаагаар энэ тооцоонд хөгжлийн эдийн засагчдад мэдэгдэж буй сөрөг үр дагавар, тэр дундаа бодит амь эрсдэлийг оруулдаггүй. Жишээ болгон тэрбээр Нигерийн хойд хэсэгт өндөр үнэлгээтэй бэлэн мөнгөний тусламжийн хөтөлбөрийн үеэр мөнгө хайсан дээрэмчин хоёр хүнийг хөнөөсөн тохиолдлыг дурдаж, эдгээр үхлийг тооцоонд «хасах хоёр» гэж тооцдоггүй гэжээ.

Хариуцлагын дутагдал. Венарын бичсэнээр GiveWell-ийн «аварсан амь»-ны тооцоо эрдэм шинжилгээний хөндлөнгийн хяналтад (peer review) ороогүй, тусламж хүлээн авагчид гомдол гаргаж, эрхээ хамгаалах боломж бага байна.

SBF-ийн сургамж. Хөдөлгөөний итгэл үнэмшлийг хамгийн бүрэн хэрэгжүүлсэн гэгддэг криптовалютын бизнесмэн Сэм Бэнкман-Фрид залилангийн хэргээр 25 жилийн хорих ял эдэлж байгааг Венар сануулж, түүнийг тойрон байсан EA-ийн удирдагчид эрсдэлийг олж хараагүйг эдийн засагч Тайлер Коуэны шүүмжийг иш татан онцолжээ. Оюутнууд одоо EA-г «бага зэрэг ичмээр» (a bit cringeworthy) гэж үздэг болсон гэж тэрбээр бичжээ.

Өв нь бүхэлдээ муу биш. Венарын үзэж байгаагаар хандивлагчид одоо илүү ухаалаг, бодитой ярьдаг болж, суурь шинжлэх ухаан, нийгмийн эрүүл мэндэд санхүүжилт чиглэж байгаа нь EA-ийн эерэг үр дүн юм.

ХОУ-ийн асуудал. Венарын гол санаа зовнил бол ХОУ бүтээж буй EA-тай холбоотой хүмүүс, ялангуяа Anthropic компани. Түүний тодорхойлсноор Anthropic-ийн саяхны аюулгүй байдлын асуудлуудыг компанийн удирдлагын EA-ийн найз нөхөд, гэр бүлтэй ойр холбоотой бүлгүүд шалгаж байгаа бөгөөд Claude загварын ёс суртахууны «үндсэн хууль»-ийн гол зохиогч EA-д удаан хугацаанд оролцсон хүн аж. Ийм хүмүүсийн сонголтыг хянах гадны хүчин зүйл цөөн гэж Венар үзжээ.

Зөвлөгөө. Венар туслахыг хүссэн хүмүүстэйгээ хамт амьдарч, гүнзгий мэргэжлийн мэдлэг эзэмшиж, орон нутгийн амьдралын туршлага хуримтлуулахыг зөвлөжээ. Нийтлэлээ тэрбээр EA-ийн эцсийн өв хүний амиар хэмжигдэж магадгүй, «гэхдээ тэдний хэзээ ч төсөөлж байгаагүй байдлаар» гэж төгсгөсөн байна.

Нэр томьёо, нөхцөл байдал

• Үр дүнтэй алтруизм (EA): нотолгоо, тооцоонд тулгуурлан хандив, карьераа хамгийн их сайн үр дүн гаргах зүйлд чиглүүлэхийг уриалдаг, 2000-аад оны сүүлээс Оксфордоос эхэлсэн хөдөлгөөн.
• GiveWell: буяны байгууллагуудын зардал-үр ашгийг үнэлж, хандивлагчдад зөвлөмж өгдөг АНУ-ын ашгийн бус байгууллага. Цахим хуудсандаа «340,000 гаруй хүний амь аврах» гэж бичсэн байдаг.
• Сэм Бэнкман-Фрид (SBF): FTX криптовалютын биржийг үүсгэн байгуулагч. АНУ-ын шүүх 2024 оны 3 дугаар сарын 28-нд түүнд залилан, хуйвалдааны хэргээр 25 жилийн хорих ял оноосон (АНУ-ын Хууль зүйн яам).
• Anthropic: Claude загварыг хөгжүүлдэг АНУ-ын ХОУ-ийн компани.

Редакторын дүгнэлт

Венарын шүүмжийн хамгийн хүчтэй тал нь хариуцлага, хөндлөнгийн хяналтын асуудал юм. Олон сая хүний амьдралд нөлөөлөх тооцоог бие даасан эрдэмтэд шалгах, тусламж хүлээн авагчид дуу хоолойтой байх ёстой гэдэг нь хөгжлийн салбарт өргөн хүлээн зөвшөөрөгдсөн зарчим. Мөн хүснэгтийн тооцоо бодит амьдралын нөхцөл, орон нутгийн мэдлэгийг орлож чадахгүй гэсэн санаа нь үнэ цэнтэй.

Гэхдээ түүний зарим үндэслэл маргаантай. GiveWell зардал-үр ашгийн загвар, тооцоогоо цахим хуудсандаа нарийвчлан нийтэлдэг тул «ил тод бус» гэх нь бүрэн үнэн биш. EA-г дэмжигчид Венарын нийтлэлд EA Forum болон бусад блогоор хурдан хариу өгч, EA-ийнхан ХОУ-ийн эрсдэлийг бусдаас олон жилийн өмнө анхааруулж байсан, зарим статистикийг хэтрүүлсэн, SBF-ийн хэргийг дурдсан нь бүхэл хөдөлгөөний шийдвэр гаргах чадварыг үгүйсгэх нотолгоо биш гэж маргажээ. Anthropic-ийн тухай хэсэг нь Венарын өөрийн тайлбар бөгөөд Anthropic түүний нийтлэлд шууд хариу өгсөн мэдээлэл олдсонгүй. Харин компани 10 дугаар сарын 9-нд туршилт, дотоод хэрэглээний үеэр ажиглагдсан загварын төлөвлөөгүй үйлдлүүдийн талаар тайлан нийтэлж, авсан арга хэмжээгээ олон нийтэд мэдээлсэн байна.

ХОУ-ийн засаглалын хувьд гол сургамж нь нэг бүлэг хүмүүсийн ёс зүйн үзэл баримтлалд найдахаас илүү бие даасан хяналт, ил тод байдал, хариуцлагын механизм шаардлагатай гэдэг. Монголын хувьд гадаадын ХОУ-ийн компаниудын ёс зүйн зарчим, «үндсэн хууль»-ийг шууд хүлээн авахаас өмнө тэдгээр нь монгол хэл, соёл, хууль тогтоомж, нийгмийн нөхцөлд хэрхэн нийцэхийг өөрсдөө үнэлэх, төрийн байгууллагад ХОУ нэвтрүүлэхдээ бие даасан аудит, иргэдэд гомдол гаргах боломж, орон нутгийн мэргэжилтнүүдийн оролцоог хангах нь чухал. Венарын хэлсэн «ухаалаг шийдвэр» нь Монголд орон нутгийн мэдлэгтэй хүмүүсийг шийдвэр гаргах түвшинд оролцуулахыг хэлнэ.

Эх сурвалж: The Economist, "By Invitation", Leif Wenar, 2026.10.10 (хэвлэлийн дугаар, х.17) https://www.economist.com/by-invitation/2026/10/07/can-effective-altruists-grow-up