Salesforce-ийн гүйцэтгэх захирал Марк Бениофф хиймэл оюуны салбарыг хариуцлагатай хөгжүүлэхийг уриалав

Salesforce-ийн гүйцэтгэх захирал Марк Бениофф хиймэл оюуны загварууд улам хүчирхэгжихийн хэрээр салбар бүхэлдээ хариуцлагатай ажиллах шаардлагатайг онцоллоо. Тэрээр San Francisco дахь Dreamforce арга хэмжээний үеэр CNBC-ийн “Mad Money” нэвтрүүлэгт Жим Крамертай ярилцахдаа хиймэл оюуны хэрэглээний өргөн хүрээний үр дагаврыг тооцох ёстой гэсэн байр сууриа илэрхийлсэн. Шууд утгаараа хөгжлийг удаашруулахыг дэмжээгүй ч “Ёс зүйн гол цөм нь хариуцлага” гэж хэлсэн нь анхаарал татав.

Бениоффын энэ байр суурь нь хиймэл оюуны аюулгүй байдал, салбарын өөрийн зохицуулалтын талаарх маргаан ширүүсэж буй үед гарч ирлээ. Тэрээр өмнө нь нийгмийн сүлжээнүүдийн өсөлтийн үед хяналт, хариуцлагын асуудал орхигдсоноос ямар үр дагавар гарсныг сануулсан юм. “Нийгмийн сүлжээгээр олон компани, олон хүн хохирсон” гэж Бениофф хэлээд, “Бид хиймэл оюунд тийм зүйл давтагдахыг хүсэхгүй” гэв. Ийм анхааруулга нь хиймэл оюуныг бизнесийн үйл ажиллагаанд түргэн нэвтрүүлж буй компаниудад ёс зүй, эрсдэлийн удирдлагын шаардлага илүү тод тавигдаж байгааг харуулж байна.

Сүүлийн өдрүүдэд Anthropic-ийн гүйцэтгэх захирал Дарио Амодей хиймэл оюуны аюулгүй байдлын хэлэлцүүлгийг эрчимжүүлсэн эсээ нийтэлсэн нь энэ сэдвийг дахин төвд авчрав. Амодей “Салбарыг урагшлуулах арга нь жишиг тогтоох, хүн бүр үргэлж сайжирч чадна гэж харуулах явдал” гэж онцолсон. Энэ үзэл нь салбарын дотоод стандарт, сайн туршлагын өрсөлдөөнөөр аюулгүй байдлыг ахиулах боломжийн тухай яриаг өдөөж байна. Харин тийм “жишиг” бодитой хэрэгжих эсэх нь зөвхөн нэг компанийн амлалт биш, өргөн хүрээний хариуцлагын тогтолцоотой холбоотой хэвээр.

Нөгөө талд Salesforce өнгөрсөн сард Claudeforce-ыг танилцуулж, хэрэглэгчдэд Anthropic-ийн Claude-оор дамжуулан Salesforce-д хадгалсан өгөгдөл дээр имэйл бичих, бүртгэл шинэчлэх зэрэг ажлыг хийх боломж нээсэн. Өөрөөр хэлбэл Бениоффын хэлж буй “хариуцлага” нь бүтээгдэхүүн, нэвтрүүлэлт, хэрэглээний бодит процесстэй зэрэгцэн яригдаж байна. Хиймэл оюуныг ажлын урсгалд оруулах нь бүтээмжийн хүлээлт дагуулдаг ч мэдээлэл, хэрэглэгчийн итгэлцэл, буруу хэрэглээний эрсдэл зэрэг асуудлыг нэг дор томруулдаг. Ийм нөхцөлд компаниуд технологийн боломжоо харуулахын зэрэгцээ нийгмийн түвшний эрсдэлийг хэрхэн тооцож буйгаа тайлбарлах дарамттай нүүр тулна.

Зах зээлийн хувьд энэ яриа бодит хөдөлгөөн дагуулж буй нь ажиглагдсан. Мягмар гарагт Salesforce-ийн хувьцаа өмнөх өдрийн 4.5 гаруй хувийн өсөлтийнхөө хэсгийг буцаан алдсан. Хөрөнгө оруулагчид хиймэл оюуны шинэ боломжийг үнэлэхийн зэрэгцээ зохицуулалт, аюулгүй байдлын маргаан хурцдах нь бүтээгдэхүүн хөгжүүлэлт, хэрэглээний бодлогод ямар нөлөө үзүүлэхийг зэрэг харж байна. Иймэрхүү хэлэлцүүлэг олон нийтийн түвшинд өргөн хүрээтэй болох тусам “өөрийн зохицуулалт” хангалттай юу гэсэн асуулт улам хүчтэй тавигдах төлөвтэй. Бениоффын хэлснээр, ёс зүйн асуудал урьдчилсан анхааруулга төдий биш, салбарын ажиллагааны үндсэн шаардлага болж хувирч байна.