Anthropic-ийн бодлогын тэргүүн: Хиймэл оюуны аюулгүй байдлыг 'нэр төрийн код'-оор зохицуулах боломжгүй

Anthropic-ийн төрийн бодлогын асуудал хариуцсан тэргүүн Сара Хекк хиймэл оюуны аюулгүй байдал, хяналтыг компаниуд өөрсдийн “нэр төрийн код” маягийн зохицуулалтаар шийднэ гэж үзэх нь бодитой биш гэж анхаарууллаа. Түүний хэлснээр, ийм эмзэг асуудлыг зөвхөн салбар дотроо өөрсдөө дүгнэж, өөрсдөдөө шалгалт тавих зарчим дээр үлдээх нь буруу чиглэл. “Бид өөрсдийнхөө даалгаврыг өөрсдөө шалгаж болохгүй нь маш тодорхой,” гэж Хекк хэлэв. Тэрээр энэ байр сууриа Washington, DC-д болсон Politico Decoded Summit дээр илэрхийлсэн байна.

Хекк зохицуулалтын “оновчтой” шийдэл гэдэг нь нэг талын уриа лоозон биш, харин Засгийн газартай хамт тодорхойлох ажил гэж тайлбарлав. “Юу нь оновчтой вэ гэдгийг Засгийн газартай хамтран тодорхойлохыг бид хүсэж байна,” гэж тэр хэлсэн. Anthropic Цагаан ордонтой өдөр тутам харилцаж, АНУ-ын Конгресстой энэ жилжин ажилласан гэж Хекк мэдэгдэв. Өөрөөр хэлбэл, компани зөвхөн “өөрсдөө хариуцлагаа үүрье” гэж хэлээд зогсохгүй бодлого тодорхойлогч талтай нягт холбогдож ажиллаж буйгаа онцолж байна.

Энэхүү маргаан сүүлийн үед Anthropic-ийн гүйцэтгэх захирал Дарио Амодей загварын чадварын өсөлтийг зориуд сааруулах гурван алхамт төлөвлөгөө дэвшүүлснээр улам хурцдав. Төлөвлөгөө нь салбарыг донсолгож, зохицуулалт болон хөгжүүлэлтийн хурдыг удаашруулах боломжит гарцын талаар илүү чанга хэлэлцүүлэг өдөөсөн байна. Үүний араас OpenAI-ийн гүйцэтгэх захирал Сэм Алтман, SpaceX-ийн гүйцэтгэх захирал Илон Маск, Google DeepMind-ийн дарга Демис Хассабис нар саналд дэмжлэг илэрхийлжээ. Маск “Дарио зөв,” гэж хэлсэн нь анхаарал татлаа.

Гэхдээ бүх тал ижил байр суурьтай биш байна. Nvidia-ийн гүйцэтгэх захирал Женсен Хуанг шинэ хууль, зохицуулалт шаардлагагүй гэж Dreamforce дээр хэлсэн бол Meta-ийн гүйцэтгэх захирал Марк Цукерберг мөн энэ байр суурийг давтав. Talk нь “хурдыг сааруулах” санаачилга шаардлагатай юу, эсвэл салбарын өөрийн шинэчлэл өөрөө зохицуулалтаас илүү үр дүнтэй юу гэсэн гол асуулт руу чиглэж байна. Салбар дахь дэмжлэг, эргэлзээ зэрэгцсэн энэ зураг нь хэлэлцүүлгийг улам төвөгтэй болгожээ.

Цукерберг өөрийнх нь баг болгоомжлолын хүрээнд тодорхой алхам хийснээ жишээ татсан байна. Тэрээр Meta өөрийн хувийн хиймэл оюуны агент Muse-ийн гаргалтыг аюулгүй байдал, хамгаалалтад төвлөрөхөөр хэдэн сараар хойшлуулсан гэж мэдээлэв. “Бид өөрсдөө хийхээсээ өмнө бусдад үүнийг хийхийг уриалаагүй,” гэж Цукерберг хэлээд, “Хүмүүст ч, бидэнд ч зөв байсан учраас өдөр тутмын ажлынхаа нэг хэсэг болгон хийсэн,” гэж нэмжээ. Энэ нь компаниуд дотоод шийдвэрээр эрсдэлийг удирдаж болно гэсэн байр суурийг нь бэхжүүлэх оролдлого байв.

Anthropic-ийн хувьд гол санаа нь хариуцлага, хяналт хоёрын зааг дээр зогсож байна. Хекк “Хэрэв бид эдгээр хүнд зүйлсийг одооноос бодож эхлэхгүй бол хожим хэт оройтсон байж мэднэ,” гэж анхааруулж, салбарын сайн дурын амлалт дангаараа хүрэхгүй гэдгийг дахин санууллаа. Компаниудын байр суурь хоёр талд хуваагдсан хэвээр байгаа нөхцөлд Вашингтонд үргэлжилж буй өдөр тутмын яриа, Конгресстой хийсэн жилийн туршийн ажил бодлогын хэлэлцүүлгийг ойрын хугацаанд улам идэвхжүүлэх төлөвтэй байна.