Goldman Sachs-ийн хиймэл оюуны төслийг удирдагч Уолл-стрит даяарх хэт автоматжуулалт шинэ үеийн шинжээчдийг мохоож болзошгүйг анхааруулав

Goldman Sachs-ийн түнш Крис Чёрчман хиймэл оюун Уолл-стритэд хурдтай нэвтрэхийн зэрэгцээ залуу үеийн шинжээч, арилжаачдын сэтгэн бодох чадварыг сулруулж мэднэ гэж CNBC-д өгсөн транскриптэд анхааруулав. Түүний хэлснээр “сэтгэн бодох” үйл явцыг загваруудад хэт даатгавал үндсэн зарчмаар тайлбарлан дүгнэх чадвар доройтох эрсдэлтэй. Ашигт ажиллагааг нэмэгдүүлэх нэрийн дор сургалт, дадлагажуулах соёл хөсөрдөх вий гэдэг нь зөвхөн хүний нөөцийн асуудал биш, шийдвэрийн чанарт шууд нөлөөлөх хүчин зүйл гэж тэр үзэж байна.

Чёрчман Goldman Sachs-ийн Global Banking and Markets хэлтсийн AI working group-ийн хамтарсан даргаар ажилладаг бөгөөд Marquee AI платформ одоогоор зөвхөн ажилтнуудад нээлттэй гэв. Тэрээр өмнө нь UBS-д валютын арилжааг удирдаж байгаад 2021 онд Goldman Sachs-д нэгдсэн. Ийм туршлага дээрээ тулгуурлан Уолл-стритийн “хиймэл оюуныг бүх арилжаа, банкны процессод шингээх” хөдөлгөөнийг өнөөдөр илүү ашигтай болгож болох ч ирээдүйн авьяас бэлтгэхэд сөрөг нөлөөтэй “арилжаа” болж мэднэ гэж санууллаа.

Түүний хамгийн гол санаа нь амархан ажил хөнгөвчлөгдөх тусам эрсдэлтэй бодит даалгаврын ард гарах суурь чадвар алдагдах магадлал нэмэгдэнэ гэсэн анхааруулга байв. Чёрчман залуу арилжаачдыг туршлагатай эрсдэл хариуцагчдын хяналтад клиентын үнийн хүсэлтээр сургах жишээ татсан нь энэ санааг тодруулж байна. Өөрөөр хэлбэл, эхний үе шатанд гарын дор хийж, алдаа оноог газар дээр нь засуулах дадлага нь хүнийг “яагаад” гэдгийг тайлбарлаж сургадаг; харин бүхнийг загвар бэлдээд өгдөг орчин түүнээс холдуулж болзошгүй. Ингэснээр өндөр эрсдэлтэй шийдвэрүүдэд хүний оролцоо, хяналтын логик сулрах вий гэсэн болгоомжлолыг тэр товойлгов.

Илүү техникийн түвшинд, хамгийн хүнд сорилт нь хиймэл оюуны хариулт 100% баримттай, шалгаж баталгаажуулах боломжтой байх явдал гэж онцоллоо. Түүний хэлснээр логик дүгнэлт одоо ч чухал хэвээр: асуудлыг өөрөө задлан шинжилж, үндэслэлтэй тайлбар болгон бүтэцжүүлэх ёстой атал бид энэ дүгнэлтийг загвар руу “шилжүүлж” эхэлж байна. Чёрчман үүнийг “танин мэдэхүйн атрофи” гэж тодорхойлж, үндсэн зарчмаас нь өөрсдөө бодож дүгнэх чадвар мохно гэсэн “том аюул” байгааг сануулсан. Хурд, бүтээмж хоёрын ард үнэн зөв, тайлбарлагдахуйц процесс шаардлагатай гэдэг нь түүний ярилцлагын гол шугам байв.

Тэрээр банкууд ашигт ажиллагаагаа өсгөхийн зэрэгцээ дагалдан сургалтын соёлоо хамгаалж, өндөр эрсдэлтэй шийдвэрт хүнийг голлохоор системээ зохион байгуулах шаардлагатай гэж үзэж байна. Өөрөөр хэлбэл, автоматжуулалт нэмэгдэх тусам “хяналт” гэх үг зүгээр нэг журам биш, ажлын зохион байгуулалтын үндсэн зарчим болж хувирна. Чёрчман энэ санаагаа илүү хүнлэгээр хоёрдмол мэдрэмжтэй илэрхийлж, сайтар шахаж шалгахад ядаж л үнэнч байсан ч эцэст нь “би няхуур сонсогдохдоо илүү, няхуур байхдаа дутуу” гэж хэлсэнтэй адил гэж дүгнэсэн нь технологийн амлалт ба бодит хариуцлагын хоорондын зөрчлийг сануулж байна. Брэндан Макдермидын гэрэл зурганд Нью-Йоркийн хөрөнгийн бирж дээрх орчин дүрслэгдсэн энэ сэдэвт, санхүүгийн байгууллагуудын дараагийн алхам нь хурднаас гадна бодол, хариуцлагыг хэрхэн хамгаалах вэ гэдэг дээр тогтож байна.