Microsoft-ийн Сатья Наделла: Дэвшилтэт хиймэл оюунд хүний удирдах “яаралтай тоормос” хэрэгтэй
Microsoft-ийн гүйцэтгэх захирал Сатья Наделла дэвшилтэт загваруудыг “дотоод эрсдэл” мэт авч үзэж, хязгаарлалт, бие даасан хяналт, мөн эрх бүхий хүн загварыг ажлын явцад зогсоож чадах “яаралтай тоормос”-той байх ёстой гэж уриалав.
Microsoft-ийн ТУЗ-ийн дарга, гүйцэтгэх захирал Сатья Наделла 10-р сарын 10-ны бямба гарагт X сүлжээнд нийтэлсэн урт бичвэртээ дэвшилтэт хиймэл оюуны системийг хязгаарлалт (containment), бие даасан хяналттай, мөн эрх бүхий хүн загварыг ажлын дундуур түр зогсоох эсвэл унтрааж чадах “яаралтай тоормос”-той байхаар бүтээх ёстой гэж уриаллаа.
Гол санаа: загварыг “дотоод эрсдэл” гэж үзэх
“Тодорхой бус (non-deterministic) загваруудыг тодорхой, найдвартай системийн дизайн, хүний хяналт, найдвартай ажиллагааны журмаар хүрээлж, одоо байгаа стандарт хангалтгүй газар салбарын стандарт тогтоох хэрэгтэй” гэж Наделла бичжээ. Түүний үзэж буйгаар хаалттай болон нээлттэй жинтэй дэвшилтэт загваруудыг байгууллагын дотоод эрсдэл мэт авч үзэх нь ийм системийг бий болгох арга юм.
TechCrunch-ийн мэдээлснээр Наделла загварыг түүний ажлыг зохион байгуулдаг “harness” буюу удирдлагын хүрээнээс салгаж, хяналт ба хамгаалалтыг загварын гадна байрлуулахыг санал болгосон. “Загварыг эвдэрсэн гэж үзэж, анхнаас нь хязгаарлах ёстой. Үүнийг яаралтай тоормос гэж ойлгоорой” гэж тэрээр бичжээ.
“Ажиглагдах байдлын зарчмууд”
CNBC-ийн мэдээлснээр Наделла дараах зарчмуудыг дэвшүүлсэн:
- загваруудын олон төрөл байдал;
- загварын үйлдлийн хүн уншиж ойлгох, засварлах боломжгүй ул мөр;
- системийг тасралтгүй турших;
- бие даасан хяналт ба аудит хийх боломж;
- хязгаарлалт (containment);
- осол, зөрчлийг ил тод мэдээлэх.
“Хамгийн найдвартай Super Intelligence систем бол бидний хамгийн их итгэдэг загвартай нь биш, харин загварт хамгийн бага итгэх боломж олгодог нь байх болно” гэж Наделла дүгнэжээ.
Нөхцөл байдал
Энэхүү мэдэгдэл нь Билл Гейтс, Anthropic-ийн Дарио Амодей, OpenAI-ийн Сэм Алтман, Илон Маск зэрэг технологийн удирдагчид хиймэл оюуны аюулгүй байдлын протокол хангалтгүй байгааг анхааруулж, тэргүүлэх компаниуд загвараа хяналтаас гарсан мэт тохиолдлуудыг улам олноор хүлээн зөвшөөрч буй үед гарчээ. Харин Ерөнхийлөгч Дональд Трамп устах эрсдэлийн тухай болгоомжлолыг удаа дараа үгүйсгэж, Хятадаас тэргүүлэхийг чухалчилж байгаа бөгөөд саяхан Үндэсний тагнуулын захирал Жэй Клэйтоноор ахлуулсан шинэ ажлын хэсэг байгуулсан юм.
Эх сурвалж: CNBC; TechCrunch.
Холбоотой мэдээ
Anthropic Claude-д бодит цагийн дашбоард болон анимэйшн бүтээх Dashboards, Motion хэрэгслүүдийг нэвтрүүллээ
Anthropic өгөгдлийн платформ, CRM-тэй холбогдож шинэчлэгддэг дашбоард үүсгэдэг Claude Dashboards, тайлан болон графикийг богино анимэйшн болгодог Claude Motion-ийг бета хувилбараар гаргаж, Docs, Slides, Design хэрэгслүүдийг бүх төлөвлөгөөнд нээлээ.
Microsoft хурдан шийдвэр гаргах зориулалттай Microsoft-Decision-1 загвараа танилцууллаа
Microsoft текст үүсгэхийн оронд урьдчилан тогтоосон сонголт бүрт магадлалын оноо өгдөг Microsoft-Decision-1 загвараа Foundry болон OpenRouter-т гаргалаа. Компанийн мэдээлснээр 36 жишиг тестэд хамгийн өндөр нарийвчлал үзүүлж, GPT-6 Sol-оос 35 дахин хурдан ажилласан.
Amazon хиймэл оюуны стартап Decart-ыг ойролцоогоор 7 тэрбум ам.доллараар худалдан авах яриа хэлэлцээ хийж байна — WSJ
The Wall Street Journal-ийн мэдээлснээр Amazon бодит цагийн видео засварлах болон робот, автомат жолоодлогын симуляцийн загвар хөгжүүлдэг Decart-ыг 7 орчим тэрбум ам.доллараар худалдан авахаар хэлэлцэж байна. Decart-ын үнэлгээ тавдугаар сард бараг 4 тэрбум ам.доллар байжээ.
Хиймэл оюуны аюулгүй байдлын үнэлгээчдийг Anthropic, OpenAI аврах хүч болгон дуудаж эхэллээ
Anthropic, OpenAI гуравдагч талын үнэлгээчдийг илүү гүн суулгах алхам хийж, салбарын итгэлийг хамгаалахад анхаарч байна OpenAI гурав ажилтнаа мэдрэмтгий мэдээлэлтэй харьцсан бодлого зөрчсөн гэж халж,…
Jefferies: AI-ийн өсөлт АНУ-д “асар их хөрөнгийн сүйрэл”-ээр төгсөж болзошгүй; Oracle, Nvidia-гийн дефолтын даатгалын үнэ дээд түвшинд хүрэв
Jefferies-ийн стратегич Крис Вүүд хямд Хятадын нээлттэй загварууд зах зээлийн хувийг эзэлснээр АНУ-ын AI салбарт томоохон хөрөнгийн алдагдал гарна гэж анхааруулав. Үүний зэрэгцээ Oracle, Nvidia, Broadcom-ийн CDS спред түүхэн дээд түвшинд хүрчээ.
Google-ийн AMIE эмнэлгийн AI бодит өвчтөнүүдтэй хийсэн анхны судалгаанд аюулгүй ажилласныг The Lancet нийтэлжээ
Beth Israel Deaconess эмнэлгийн төв болон Google-ийн судлаачдын судалгаагаар 98 өвчтөн эмчид үзүүлэхийн өмнө AMIE чатботтой ярилцахад нэг ч яриа аюулгүй байдлын шалтгаанаар зогсоогдоогүй бөгөөд AI-ийн ялган оношлогоо эмчийн эцсийн оноштой 90% тохиолдолд таарчээ.