Anthropic-ийн захирал Дарио Амодэй хиймэл оюуны хөгжлийг удаашруулах санаачилгын хамгийн хэцүү эргэлзээг тодотгов

Anthropic-ийн гүйцэтгэх захирал Дарио Амодэй бямба гарагт нийтэлсэн эсээгээрээ дэвшилтэт загваруудын сайжруулалтын хурдыг удаашруулахыг хиймэл оюуны компаниудад уриаллаа. Тэрээр энэ санаачилгыг хэрэгжүүлэхэд тулгарах хамгийн том зөрчлийг БНХАУ зэрэг дайсагнагч орнууд адилхан хурдаа сааруулахгүй байх хувилбар гэж тайлбарлав. Өөрөөр хэлбэл, нэг хэсэг нь хурдны хязгаар тавих гэж оролдох үед нөгөө хэсэг нь өрсөлдөөний логикоор эсрэг чигт шахаж болзошгүйг анхааруулсан байна.

Амодэй CBS News-ийн Sunday Morning нэвтрүүлэгт гуравдагч талд ажилтны түвшний хандалт олгох талаар нэг талдаа амласан. Түүний хэлснээр эхний алхам нь гуравдагч талын үнэлэгчдэд аюулгүй байдлын практикийг шалгах, ослын талаар мэдээлэх зорилгоор ажилтны түвшний хандалт олгох явдал. Ингэснээр аюулгүй байдлын асуудлыг зөвхөн компанийн дотоод үнэлгээнд үлдээхгүйгээр, илүү өргөн хүрээнд хяналттай болгоно гэж үзэж байна. Гэхдээ ийм төрлийн нэвтрэлт, хяналтын зохион байгуулалт нь компаниудын өрсөлдөөний болон мэдээллийн хамгаалалтын бодлоготой шууд тулгардаг эмзэг цэг хэвээр.

Эсээнд дурдсан хоёр дахь алхам нь ардчилсан орнуудын тэргүүлэх хиймэл оюуны компаниуд хамтран нийтлэг аюулгүй ажиллагааны стандарт тогтоохыг дэмжих тухай. Энэ нь “ганцаараа” илүү хурдан давших урамшууллыг багасгаж, зах зээл дээрх тоглогчдыг нэг түвшний суурь шаардлагад барих санаа гэж тайлбарлагдаж байна. Гурав дахь алхам нь ардчилсан засаг захиргаа болон авторитар засаглал хоорондын зохицуулалтыг уриалсан нь илүү төвөгтэй түвшний хэлэлцээ болохыг тэрээр өөрөө ч хүлээн зөвшөөрсөн. Амодэйн байр суурь нь урт хугацаанд хиймэл оюуны ахицын хурданд нэг төрлийн хурдны хязгаар тогтоохоор хамтран ажиллах хэрэгтэй гэсэн санаанд тулж ирнэ.

Гэхдээ үүнийг хэрэгжүүлэх “маш хүнд” гэж тэр үзсэн бөгөөд шалтгааныг тодорхой хэлжээ: түрүүлж давших урамшуулал болон цэргийн давуу тал асар их. Хэрэв стандарт хамтын ажиллагаа бүтэхгүй бол өрсөлдөөний болон аюулгүй байдлын дарамт улам ихсэх эрсдэлтэй гэсэн анхааруулга нь энэ логикийн үргэлжлэл. Өрсөлдөгчдийн хиймэл оюуныг харилцан хянах нь үүнийг эхлүүлэх зөв арга гэж тэр тэмдэглэсэн нь бодитой “эхний шатаар” урагшлуулах гэсэн оролдлого гэж харагдана.

Түүний санаачилга салбарын бусад нөлөө бүхий хүмүүсийн байр суурьтай зэрэгцэн явж байна. OpenAI-ийн захирал Сэм Альтман энэ жил олон нийтэд хувьцаагаа санал болгох нь зохимжгүй гэж хэлсэн бөгөөд аюулгүй байдлын асуудлыг дурдсан. Google DeepMind-ийн гүйцэтгэх захирал Демис Хассабис X дээр Амодэйн эсээ зөв чиглэл заалаа гэж бичсэн бол Илон Маск мөн X дээр хяналт хэрэгтэй гэж дэмжээд, өрсөлдөгчдийн харилцан хяналт зөв эхлэл гэж тэмдэглэв. Энэ нь хиймэл оюуны өрсөлдөөн ширүүсэж буй үед “аюулгүй байдлын стандарт” гэх хэллэг зөвхөн зарчим бус, стратегийн байрлал болж хувирч байгааг илтгэнэ.

Баримтад дурдсанаар Anthropic нь SpaceX-д 2029 оны тавдугаар сар хүртэл сар бүр 1.25 тэрбум ам.доллар төлөх тооцоололтой байгаа нь компаниудын дэд бүтэц, хүчин чадлын өрсөлдөөн ямар өндөр өртөгтэй түвшинд очсоныг сануулна. Ийм хөрөнгө, тооцоолол явж буй нөхцөлд “одоо олон нийтэд хувьцаагаа санал болгох нь оновчгүй мөч” гэх байр суурь ч аюулгүй байдал, өрсөлдөөний тэнцвэртэй холбоотой гэж уншигдаж байна. Амодэйн дэвшүүлсэн санаанууд бодлого, компаниудын тохиролцоо, хөндлөнгийн хяналтыг нэг дор барихыг оролдож байгаа ч гол эргэлзээ нь хэвээр: нэг тал удааширч, нөгөө тал хурд нэмбэл ямар механизм бодитоор ажиллах вэ. Одоогоор тэр асуултад өгч буй хариулт нь “харилцан хяналт”-аас эхэлнэ гэсэн зарчим дээр тогтож байна.