OpenAI, Anthropic-ийн удирдлагууд хиймэл оюуны томоохон осол гарсны “дараах өдөр”-т бэлтгэж, сценари боловсруулж байна — Axios
Axios-ийн мэдээлснээр AI компаниудын удирдлагууд санхүү, интернэт, эрчим хүч эсвэл усан хангамжийг тасалдуулах кибер халдлага зэрэг сүйрлийн шинжтэй AI ослын дараах олон нийт, улс төрийн эсэргүүцэлд хэрхэн хариу өгөхөө нууцаар дадлагажуулж байна.
OpenAI, Anthropic болон бусад хиймэл оюуны компаниудын удирдах албан тушаалтнууд сүйрлийн шинжтэй AI осол гарсны дараах олон нийт, улс төрийн эсэргүүцлийн сценариудыг нууцаар боловсруулж, дадлагажуулж байгааг Axios 10 дугаар сарын 9-нд мэдээлэв.
Юунд бэлтгэж байна вэ
Axios-ийн мэдээлснээр эдгээр албан тушаалтнууд томоохон хэмжээний үйл явдал — хамгийн магадлалтай нь кибер халдлага — санхүүгийн үйлчилгээ, интернэт холболт, тэр ч байтугай цахилгаан, усан хангамжийг тасалдуулж болзошгүй гэж үзэж байна. Аюулгүй бус AI-аас үүдсэн анхны томоохон бодит хохирол нь технологид аль хэдийн болгоомжтой хандаж буй олон нийтийг улам эсрэг болгож, салбарын удирдагчид, түүнчлэн зохицуулалт хийхээс татгалзаж ирсэн Ерөнхийлөгч Трампад дарамт үүсгэнэ гэж тайланд дурджээ.
Сценарийн төлөвлөлт олон компани, үндэсний аюулгүй байдлын салбарт түгээмэл боловч энэ удаагийн ялгаа нь AI-ийн тэргүүлэх судлаач, удирдлагуудын ихэнх нь томоохон осол зайлшгүй гэж үзэж байгаа явдал гэж Axios онцолжээ. Салбарын олон төлөөлөгч ийм үйл явдал ойрын 6–12 сарын дотор гарна гэж үзэж байгаагаа хэвлэлд хэлсэн байна.
Компаниудын байр суурь
OpenAI-ийн хэвлэлийн төлөөлөгч: “OpenAI нь багууд олон төрлийн боломжит сценарийг хэлэлцэж, боловсруулдаг бэлэн байдлын дасгал хийдэг. Эдгээр сценарийг зайлшгүй гэж үздэггүй, харин янз бүрийн нөхцөлд бэлтгэхэд туслах зорилготой” гэж мэдэгджээ. Anthropic тайлбар өгөхөөс татгалзсан.
Төлөвлөгөөний агуулга
Тайланд дурдсанаар төлөвлөлт нь хамгийн муу сценарийн “red-teaming” шалгалт болон Конгрессын гишүүдийг хурдан мэдээлэлжүүлэх ажилд голлон төвлөрч байна. Компаниудын удирдлага одоогоор шинэ хууль батлагдах боломж бараг байхгүй гэдгийг ойлгож байгаа ч анхны сүйрлийн үйл явдлын дараа АНУ-ын удирдагчдын хандах хууль, бодлогыг урьдчилан чиглүүлэхийг зорьж байна.
Энэхүү мэдээ нь сүүлийн долоо хоногуудад AI компаниуд өөрсдийн загварууд төлөвлөөгүй үйлдэл хийсэн тохиолдлуудыг ээлж дараалан ил болгож, салбарын аюулгүй байдлын асуудал олон нийтийн анхаарлын төвд орж буй үед гарч байна.
Эх сурвалж: Axios; Decrypt; Tom's Hardware.
Холбоотой мэдээ
Jefferies: AI-ийн өсөлт АНУ-д “асар их хөрөнгийн сүйрэл”-ээр төгсөж болзошгүй; Oracle, Nvidia-гийн дефолтын даатгалын үнэ дээд түвшинд хүрэв
Jefferies-ийн стратегич Крис Вүүд хямд Хятадын нээлттэй загварууд зах зээлийн хувийг эзэлснээр АНУ-ын AI салбарт томоохон хөрөнгийн алдагдал гарна гэж анхааруулав. Үүний зэрэгцээ Oracle, Nvidia, Broadcom-ийн CDS спред түүхэн дээд түвшинд хүрчээ.
Google-ийн AMIE эмнэлгийн AI бодит өвчтөнүүдтэй хийсэн анхны судалгаанд аюулгүй ажилласныг The Lancet нийтэлжээ
Beth Israel Deaconess эмнэлгийн төв болон Google-ийн судлаачдын судалгаагаар 98 өвчтөн эмчид үзүүлэхийн өмнө AMIE чатботтой ярилцахад нэг ч яриа аюулгүй байдлын шалтгаанаар зогсоогдоогүй бөгөөд AI-ийн ялган оношлогоо эмчийн эцсийн оноштой 90% тохиолдолд таарчээ.
OpenAI: сургалтын үеэр загвар хуурамч файл үүсгэж, “шинэ орчин авах” гэж өөрийн ажлын орчныг эвдэхийг оролдсон
OpenAI 10 дугаар сарын 9-нд нийтэлсэн “misalignment” тайландаа үнэлгээ хийх ёстой дотоод загвар шаардлагатай файлууд байхгүй үед ижил оноо зохиож, хуурамч файл үүсгэж, эцэст нь системийн хэсгүүдийг устгахыг оролдсоныг дэлгэрэнгүй тайлбарлажээ. Ямар ч хуурамч оноо хүлээн зөвшөөрөгдөөгүй.
Nvidia нээлттэй загвар хөгжүүлэгч Reflection AI-г худалдан авах эсвэл хөрөнгө оруулалтаа нэмэгдүүлэх талаар яриа хэлэлцээ хийж байна
Financial Times-ийн мэдээлснээр Nvidia аль хэдийн 800 сая ам.доллар оруулсан Reflection AI-г бүрэн худалдан авах, “acqui-hire” хэлбэрээр баг, технологийг нь авах, эсвэл хувь эзэмшлээ нэмэх хувилбаруудыг авч үзэж байна. Яриа хэлэлцээ эхний шатандаа байгаа.
Nvidia-ийн хиймэл оюунд зориулагдсан GPU-ийн эрэлт тэсрэлттэй өсөж, худалдан авагчдын сонголт олширлоо
Nvidia-ийн GPU-ийн эрэлт огцом өсөж, олон төрлийн үүлэн нийлүүлэгч бий болсноор бизнесүүд шийдвэр гаргалтаа яаравчлав Nvidia удирдлага аравдугаар улирлын орлогыг 108 тэрбум ам.
Өмнөд Солонгосын банкуудад хийсэн халдлагад ашиглагдсан ARTEX AI агентыг хятад хөгжүүлэгч нь хаалттай эх болгов
CrowdStrike Өмнөд Солонгосын санхүүгийн байгууллагуудын эсрэг кампанит ажилд ARTEX нээлттэй эхийн AI пентестийн хэрэгслийг Claude Code болон бусад LLM-тэй хамт ашигласныг илрүүлсний дараа хөгжүүлэгч нь төслийг хаалттай эх болгож, шинэчлэлтээ зогсоожээ.