egov.mn

OpenAI өрсөлдөгчидтэйгөө хиймэл оюун ухааны аюулгүй байдлын стандартаар хамтрах талаар хэлэлцэж эхэллээ

OpenAI Anthropic, Google-той хиймэл оюун ухааны аюулгүй байдлын эрсдэлийг бууруулах хамтын ажиллагааг ярилцаж байна, салбарын шахалт нэмэгдэв. Google DeepMind-ийн ТУЗ-ийн дарга Демис Хассабис долоодугаар сард АНУ тэргүүлсэн 'стандартын байгууллага' санал болгосны дараа яриа үргэлжилсэн. Салбарын дотоод стандарт тогтоох оролдлого урагшилбал зохицуулалтын дарамт болон бүтээгдэхүүний хөгжүүлэлтийн хурд өөрчлөгдөх төлөвтэй.

Энэ мэдээг программ автоматаар бэлтгэсэн.

OpenAI өрсөлдөгчидтэйгөө хиймэл оюун ухааны аюулгүй байдлын стандартаар хамтрах талаар хэлэлцэж эхэллээ

OpenAI өрсөлдөгч Anthropic болон Google-той хиймэл оюун ухааны аюулгүй байдлын эрсдэлийг бууруулах чиглэлээр хамтран ажиллах боломжийг хэлэлцэж эхэлснээ компанийн төлөөлөгч мягмар гарагт CNBC-д баталлаа. Салбарын дотоод стандарт тогтоох тухай яриа сүүлийн үед илүү тод болж, томоохон тоглогчдын байр суурь олон нийтэд ил болж байна. Энэ нь хамгийн хүчирхэг загваруудыг хөгжүүлэх хурд, түүнтэй зэрэгцэх хяналт, хариуцлагын асуудлыг нааштайгаар зэрэгцүүлэн ярих шаардлагыг улам ойртуулсан үйл явдал юм.

Хэлэлцүүлгийг эрчимжүүлсэн нэг шалтгаан нь Google DeepMind-ийн ТУЗ-ийн дарга Демис Хассабис долоодугаар сард АНУ тэргүүлсэн “стандартын байгууллага” байгуулах санал гаргасантай холбоотой. Салбар өөрөө удирдлага, зарчим, шалгуураа нэгтгэхгүй бол төрийн зохицуулалтын дарамт нэмэгдэнэ гэсэн болгоомжлол энэ санаачилгад туссан гэж үзэх хүмүүс бий. Хассабис X-т бичихдээ “Дариогийн эсээ зөв чиглэлийг зааж байна” хэмээн тэмдэглэсэн нь тус сэдвийн эргэн тойронд компанийн удирдлагуудын хооронд нийцэх цэг байж болзошгүйг илтгэв.

Anthropic-ийн гүйцэтгэх захирал Дарио Амодей хамгийн дэвшилтэт загваруудын сайжруулалтын хурдыг сааруулахыг уриалсан бөгөөд OpenAI-ийн гүйцэтгэх захирал Сам Алтман дэмжсэн өнгө аястай байр суурь илэрхийлсэн. Алтман X дээр удаашруулалт нь OpenAI-д сүүлийн хэдэн долоо хоногийн гол сэдэв болсон, мөн удахгүй илүү мэдээлэл хуваалцана гэж бичсэн байна. “Хурдаа түр барих” тухай яриа нь бүтээмж, өрсөлдөөн, аюулгүй байдлын огтлолцолд байрлаж, компанийн бодлогын сонголт гэгдэхээс илүү салбарын нийтлэг хэлэлцүүлэг болон тэлж буйн дохио гэж зах зээлд уншигдаж байна.

OpenAI-ийн дэлхийн бодлогын асуудал хариуцсан ахлах захирал Крис Лехэйн компанийн зүгээс салбарын тэргүүлсэн стандартыг урагшлуулж, сайн дурын санаачилга хэрэгжүүлнэ гэж бичсэн. Тэр мөн OpenAI салбарын тэргүүлсэн стандартыг ахиулахаар ажиллаж байгаа талаар блогтоо дурдсан бөгөөд засгийн газрын дэмжлэгтэй эсэхээс үл хамааран сайн дурын хүчин чармайлтыг бусадтай хамт өргөжүүлнэ гэж хэлсэн байна. Өөрөөр хэлбэл, кампанит буюу нэг удаагийн амлалтаас илүүтэй, салбар доторх тогтмол механизм байгуулах талаар байр суурь нь тодорхой болж байна.

Ийм стандарт, хамтын ажиллагаа бодит ажил хэрэг болбол хоёр талын үр дагавар зэрэг яригдана. Нэг талд, эрсдэлийг урьдчилан тооцох суурь шаардлага, нийтлэг сорилт-шалгалтын арга зүй бий болох нь олон нийтийн итгэлийг сэргээх, зохицуулагчдын дарамтыг зөөллөх гарц болж магадгүй. Нөгөө талд, бүтээгдэхүүний хөгжүүлэлтийн хурд, нэвтрүүлэлтийн шийдвэрүүд илүү хатуу шалгуур дагаж, өрсөлдөөний хэмнэл өөрчлөгдөх төлөвтэй. Салбар өөрөө стандартаа тогтоох оролдлого урагшлах тусам “хэн, ямар хэмжүүрээр, хэний өмнөөс” гэдэг асуулт зайлшгүй хурцадна.

Одоогоор талуудын байр суурь ижил түвшинд ил тод болоогүй байна. Хэвлэлүүдийн мэдээлснээр Google болон Anthropic нь CNBC-ийн тайлбар авах хүсэлтэд шууд хариу өгөөгүй бөгөөд хэлэлцээ хэр гүнзгий орсон нь тодорхойгүй хэвээр байна. Гэхдээ OpenAI олон нийтэд баталгаажуулж, удирдлагууд X болон блогийн сувгуудаар чиглэлээ илэрхийлж эхэлсэн нь ойрын хугацаанд энэ сэдэв салбарын гол ширээн дээр үлдэхийг харуулж байна.

Хуваалцах
Дараагийн мэдээИлон Маск хиймэл оюуны тэргүүлэх компаниудыг олон нийтэд гаргахаас өмнө харилцан туршихыг уриалав
Мэдээллийн захиалга

Шинэ мэдээг цахим шуудангаар авах бол бүртгүүлнэ үү.

Холбоотой мэдээ

Inkling 2 Mini загвар Hugging Face платформд нэмэгдсэнийг зарласан Thinking Machines Lab, Hugging Face-ийн албан ёсны зураг
Технологи

Thinking Machines Lab зөөврийн компьютер дээр ажилладаг нээлттэй жинтэй Inkling 2 Mini загвараа танилцууллаа

ТехнологиАвтомат

2 мин уншихАвтомат

Хятадын далбааны өмнө код болон хиймэл оюуны дүрс бүхий зөөврийн компьютер ашиглаж буй хүн
Технологи

Хятадтай холбоотой хакерын бүлгийн хиймэл оюуны агентууд өөрсдөө “тэг өдрийн” цоорхой олж, сервер эзэлжээ гэж Amazon мэдээллээ

ТехнологиАвтомат

3 мин уншихАвтомат

Урхин дээр өгөгдлийн шоо байрлуулсан, хиймэл оюуны нууцлалын алдагдлыг илэрхийлсэн чимэглэл
Технологи

Хоёр сая “урхи” бүхий туршилт хиймэл оюуны үйлчилгээний сүлжээгээр хэрэглэгчийн нууц мэдээлэл алдагдаж байгааг илрүүллээ

ТехнологиАвтомат

2 мин уншихАвтомат

Decart компанийг үүсгэн байгуулагчид Ориан Лейтерсдорф, Дин Лейтерсдорф, Моше Шалев нар
Технологи

Amazon хиймэл оюуны стартап Decart-ыг 7.5 тэрбум ам.доллараар худалдан авах хэлцлээ эцэслэх шатандаа орлоо

ТехнологиАвтомат

2 мин уншихАвтомат

Cognition компанийг үүсгэн байгуулагч, гүйцэтгэх захирал Скотт Ву
Технологи

Devin кодлогч агентыг бүтээгч Cognition 75 тэрбум ам.долларын үнэлгээгээр хөрөнгө босгох яриа хэлэлцээ хийж байна

ТехнологиАвтомат

2 мин уншихАвтомат