Salesforce-ийн Dreamforce дээр Anthropic ба Nvidia-ийн тэргүүнүүд хиймэл оюун ухааны аюулгүй байдлын талаар зөрүүтэй байр суурь илэрхийллээ

Salesforce-ийн Dreamforce бага хурлын гол тайзан дээр хиймэл оюун ухааны хөгжүүлэлтийн хурд, аюулгүй байдлын талаар хоёр өөр философи мөргөлдлөө. Мягмар гарагт Сан-Францискогийн Moscone Center-т 12,000 хүний өмнө Anthropic-ийн гүйцэтгэх захирал Дарио Амодэй салбар өөрөө “удаашруулах” ёстой гэсэн байр сууриа дахин хэлсэн бол Nvidia-ийн гүйцэтгэх захирал Жэнсэн Хуан эсрэгээр нь, шинэ хууль, зохицуулалт шаардлагагүй, зах зээлийн механизм ажилласаар байна гэж үзэж байгаагаа илэрхийлэв. Нэг индэр дээр “түр завсарла” ба “аль болох хурдан яв” гэсэн хоёр мессеж зэрэгцэн сонсогдсон нь Dreamforce-ийн энэ жилийн гол маргааныг тодорхойлов.

Амодэй илтгэлдээ салбарыг нийтээр нь хэмнэлээ тохируулах тухай санаагаа “жишиг тогтоох” хүрээнд тайлбарлав. “Миний бодлоор энэ нь салбарыг урагшлуулах, жишиг тогтоох, хүн бүр үргэлж сайжирч чадна гэж хэлэх арга” гэж тэр хэлсэн. Хуан харин ийм тавилтыг буруу хүрээ гэж үзэж, “Энэ бол хуурамч сонголт” гэж шууд няцаав. Түүнийхээр бол инновац ба хяналт хоёрыг зэрэг барьж болох бөгөөд “Та хоёр хоёуланг нь зэрэг хийж чадна” гэсэн тайлбар нь танхимд хамгийн тод хэллэгүүдийн нэг байлаа.

Хуанын байр суурь илүү прагматик өнгө аястай байв. “Боломжтой л бол аль болох хурдан яв” гэж тэр хэлээд, хурдаа алдахгүй хэрнээ эрсдэл илэрвэл буцаад засах боломжтой гэсэн санааг давхар тавив. “Гэхдээ ямар нэг мөчид компани хяналтаас гарч байна, эсвэл бүтээгдэхүүн аюулгүй биш санагдвал түр завсарлаад зөв болгож баталгаажуул” гэж Хуан нэмж хэлсэн нь шинэ зохицуулалтгүйгээр өөрийн дотоод хяналтаар асуудлыг удирдаж болно гэж үзэж буйг нь илтгэнэ. Энэ логик нь AI салбарын зарим тоглогчдын “зах зээл өөрөө шүүнэ” гэх хандлагатай давхцаж байна.

Компаниуд тайзны маргаантай зэрэгцэн бодит бүтээгдэхүүний чиглэл дээр хамтын ажиллагаагаа ч тодотгов. Мягмар гарагт Salesforce ба Nvidia Agentforce платформд зориулсан reasoning загварыг Nvidia-ийн open-weight Nemotron загвар дээр тулгуурлан зарласан. Үүнээс өмнө, өнгөрсөн сард Salesforce ба Anthropic стратегийн түншлэлээ өргөтгөж, борлуулалтын баг Claude чатбот дотроос өгөгдөл авах “Claudeforce”-ийг танилцуулсан нь Salesforce-ийн AI экосистем олон түнштэй зэрэг урагшилж байгааг харуулна. Ижил тайзан дээр AI-ийн хурд ба аюулгүй байдлын тухай санал зөрөлдөх хэрнээ, бүтээгдэхүүн дээрх холбоосууд улам шигүү болж буй нь салбарын өнөөгийн дүр зураг юм.

Марк Бэниофф энэ тэнцвэрийг “компани өөрөө сонгоно, өөрөө хариуцна” гэж нэг өгүүлбэрт багтаав. “Хэрэв удаашруулах ёстой гэж үзвэл удаашруул, хурдлах ёстой гэж үзвэл хурдла, дараа нь хариуцлага хүлээх ёстой” гэж Salesforce-ийн гүйцэтгэх захирал хэлсэн нь зохицуулалтын оронд компанийн удирдлагын шийдвэр, эрсдэлийн менежментийг голд тавьж буй байр суурь гэж уншигдана. Харин энэ “өөрсдөө зохицуулна” гэх санаа нь Амодэйгийн уриалсан салбарын нийтээр хурдаа сааруулах шаардлагатай гэх логиктой нэг мөр болж нийлэхгүй хэвээр байна.

Энэ маргаан зөвхөн тайзны хэлэлцүүлгээр дуусахгүй. Хуан өмнө нь Лос-Анжелест болсон All-In Summit дээр АНУ-ын Ерөнхийлөгч Доналд Трамптай шууд дуудлагаар холбогдож, дата төвийн бүтээн байгуулалтад саад хийх оролдлогын талаар санаа зовниж буйг сонссон тухайгаа ярьсан нь бодлогын орчин, дэд бүтцийн хурд хоёр нь AI-ийн дараагийн шатанд шууд нөлөөлөхийг санууллаа. Dreamforce дээр Agentforce, Nemotron, Claudeforce зэрэг зарлалууд олширч байгаа энэ үед “хурдлах уу, сааруулах уу” гэсэн зөрүүтэй байр суурь нь зохицуулалтын чиг хандлага төдийгүй, зах зээл дээрх хөрөнгө оруулалтын хүлээлтэд хүртэл нөлөөлөх сэдэв хэвээр үлдэж байна.