egov.mn

Anthropic-ийн захирал Дарио Амодэй хиймэл оюуны хөгжлийг удаашруулах санаачилгын хамгийн хэцүү эргэлзээг тодотгов

Anthropic-ийн гүйцэтгэх захирал Дарио Амодэй хиймэл оюуны хурд сааруулах санаачилга өрсөлдөгч улс дагахгүйг анхааруулав Тэр CBS News-ийн Sunday Morning нэвтрүүлэгт гуравдагч талд ажилтны түвшний хандалт олгохоор нэг талдаа амласан Хэрэв стандарт хамтын ажиллагаа бүтэхгүй бол өрсөлдөөний болон аюулгүй байдлын дарамт улам ихсэх эрсдэлтэй

Энэ мэдээг программ автоматаар бэлтгэсэн.

Anthropic-ийн захирал Дарио Амодэй хиймэл оюуны хөгжлийг удаашруулах санаачилгын хамгийн хэцүү эргэлзээг тодотгов

Anthropic-ийн гүйцэтгэх захирал Дарио Амодэй бямба гарагт нийтэлсэн эсээгээрээ дэвшилтэт загваруудын сайжруулалтын хурдыг удаашруулахыг хиймэл оюуны компаниудад уриаллаа. Тэрээр энэ санаачилгыг хэрэгжүүлэхэд тулгарах хамгийн том зөрчлийг БНХАУ зэрэг дайсагнагч орнууд адилхан хурдаа сааруулахгүй байх хувилбар гэж тайлбарлав. Өөрөөр хэлбэл, нэг хэсэг нь хурдны хязгаар тавих гэж оролдох үед нөгөө хэсэг нь өрсөлдөөний логикоор эсрэг чигт шахаж болзошгүйг анхааруулсан байна.

Амодэй CBS News-ийн Sunday Morning нэвтрүүлэгт гуравдагч талд ажилтны түвшний хандалт олгох талаар нэг талдаа амласан. Түүний хэлснээр эхний алхам нь гуравдагч талын үнэлэгчдэд аюулгүй байдлын практикийг шалгах, ослын талаар мэдээлэх зорилгоор ажилтны түвшний хандалт олгох явдал. Ингэснээр аюулгүй байдлын асуудлыг зөвхөн компанийн дотоод үнэлгээнд үлдээхгүйгээр, илүү өргөн хүрээнд хяналттай болгоно гэж үзэж байна. Гэхдээ ийм төрлийн нэвтрэлт, хяналтын зохион байгуулалт нь компаниудын өрсөлдөөний болон мэдээллийн хамгаалалтын бодлоготой шууд тулгардаг эмзэг цэг хэвээр.

Эсээнд дурдсан хоёр дахь алхам нь ардчилсан орнуудын тэргүүлэх хиймэл оюуны компаниуд хамтран нийтлэг аюулгүй ажиллагааны стандарт тогтоохыг дэмжих тухай. Энэ нь “ганцаараа” илүү хурдан давших урамшууллыг багасгаж, зах зээл дээрх тоглогчдыг нэг түвшний суурь шаардлагад барих санаа гэж тайлбарлагдаж байна. Гурав дахь алхам нь ардчилсан засаг захиргаа болон авторитар засаглал хоорондын зохицуулалтыг уриалсан нь илүү төвөгтэй түвшний хэлэлцээ болохыг тэрээр өөрөө ч хүлээн зөвшөөрсөн. Амодэйн байр суурь нь урт хугацаанд хиймэл оюуны ахицын хурданд нэг төрлийн хурдны хязгаар тогтоохоор хамтран ажиллах хэрэгтэй гэсэн санаанд тулж ирнэ.

Гэхдээ үүнийг хэрэгжүүлэх “маш хүнд” гэж тэр үзсэн бөгөөд шалтгааныг тодорхой хэлжээ: түрүүлж давших урамшуулал болон цэргийн давуу тал асар их. Хэрэв стандарт хамтын ажиллагаа бүтэхгүй бол өрсөлдөөний болон аюулгүй байдлын дарамт улам ихсэх эрсдэлтэй гэсэн анхааруулга нь энэ логикийн үргэлжлэл. Өрсөлдөгчдийн хиймэл оюуныг харилцан хянах нь үүнийг эхлүүлэх зөв арга гэж тэр тэмдэглэсэн нь бодитой “эхний шатаар” урагшлуулах гэсэн оролдлого гэж харагдана.

Түүний санаачилга салбарын бусад нөлөө бүхий хүмүүсийн байр суурьтай зэрэгцэн явж байна. OpenAI-ийн захирал Сэм Альтман энэ жил олон нийтэд хувьцаагаа санал болгох нь зохимжгүй гэж хэлсэн бөгөөд аюулгүй байдлын асуудлыг дурдсан. Google DeepMind-ийн гүйцэтгэх захирал Демис Хассабис X дээр Амодэйн эсээ зөв чиглэл заалаа гэж бичсэн бол Илон Маск мөн X дээр хяналт хэрэгтэй гэж дэмжээд, өрсөлдөгчдийн харилцан хяналт зөв эхлэл гэж тэмдэглэв. Энэ нь хиймэл оюуны өрсөлдөөн ширүүсэж буй үед “аюулгүй байдлын стандарт” гэх хэллэг зөвхөн зарчим бус, стратегийн байрлал болж хувирч байгааг илтгэнэ.

Баримтад дурдсанаар Anthropic нь SpaceX-д 2029 оны тавдугаар сар хүртэл сар бүр 1.25 тэрбум ам.доллар төлөх тооцоололтой байгаа нь компаниудын дэд бүтэц, хүчин чадлын өрсөлдөөн ямар өндөр өртөгтэй түвшинд очсоныг сануулна. Ийм хөрөнгө, тооцоолол явж буй нөхцөлд “одоо олон нийтэд хувьцаагаа санал болгох нь оновчгүй мөч” гэх байр суурь ч аюулгүй байдал, өрсөлдөөний тэнцвэртэй холбоотой гэж уншигдаж байна. Амодэйн дэвшүүлсэн санаанууд бодлого, компаниудын тохиролцоо, хөндлөнгийн хяналтыг нэг дор барихыг оролдож байгаа ч гол эргэлзээ нь хэвээр: нэг тал удааширч, нөгөө тал хурд нэмбэл ямар механизм бодитоор ажиллах вэ. Одоогоор тэр асуултад өгч буй хариулт нь “харилцан хяналт”-аас эхэлнэ гэсэн зарчим дээр тогтож байна.

Хуваалцах
Дараагийн мэдээХиймэл оюун нөхөрлөлийн орон зайг нөхөх үү, эсвэл ганцаардлыг даамжруулах уу?
Мэдээллийн захиалга

Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.

Холбоотой мэдээ

DeepMind Institute-ийн “What comes after AGI?” эссэгийн нүүр зураг, Тим Геневайн
Технологи

Google DeepMind ерөнхий хиймэл оюунаас супер оюун ухаан руу хүрэх дөрвөн замыг тодорхойллоо

ТехнологиАвтомат

2 мин уншихАвтомат

“Pharmaceutical Development” болон “AI Artificial Intelligence” гэсэн бичгийн өмнө байрлуулсан роботын дүрс
Технологи

Дэлхийн томоохон эм үйлдвэрлэгчид хиймэл оюун эм нээх эхний шатны хугацааг хоёр дахин хүртэл богиносгож байна гэв

ТехнологиАвтомат

2 мин уншихАвтомат

Хятадын төрийн далбаанууд болон хэлхээний самбарын өмнө байрлуулсан Nvidia-гийн лого бүхий ухаалаг утас
Технологи

АНУ-ын хиймэл оюуны чипийн хязгаарлалт Хятадын технологийн хувьцааг унагаж, Alibaba 20 гигаваттын зорилтоо бууруулж магадгүй гэв

ТехнологиАвтомат

2 мин уншихАвтомат

АНУ-ын Ерөнхийлөгч Дональд Трамп, Хятадын дарга Си Жиньпин нарын тэргүүлсэн төлөөлөгчид хоёр талын хэлэлцээ хийж буй архивын зураг
Технологи

Трамп, Си Жиньпин нар цэргийн томоохон шийдвэрт хиймэл оюуныг хүний оролцоогүйгээр ашиглахгүй байхаар тохирсон гэж Бессент мэдэгдэв

ТехнологиАвтомат

2 мин уншихАвтомат

Тайбэй хот дахь Nvidia компанийн оффисын байрны гадна байрлах компанийн лого бүхий самбар
Технологи

Nvidia-гийн нягтлан бодох бүртгэлийг АНУ-ын SEC шалгаж байгаа гэх мэдээллээр хувьцаа нь 14 хувиар унаж, Nasdaq 5.3 хувиар буурлаа

ТехнологиАвтомат

3 мин уншихАвтомат

Технологи

Cursor Хятадын хөгжүүлсэн хиймэл оюуны загваруудаас татгалзах хувилбар судалж байна

ТехнологиАвтомат

2 мин уншихАвтомат