Жэйми Даймон: Anthropic-ийн Mythos гарснаар хиймэл оюуны кибер эрсдэл 10 дахин өслөө
JPMorgan Chase-ийн гүйцэтгэх захирал Жэйми Даймон Bloomberg TV-д өгсөн ярилцлагадаа Anthropic-ийн Mythos загвар урьд нь мэдэгдээгүй эмзэг цэгүүдийг ил гаргаж, дэлхийн кибер аюулгүй байдлын эрсдэлийг огцом нэмэгдүүлсэн гэж мэдэгдлээ.
JPMorgan Chase банкны гүйцэтгэх захирал Жэйми Даймон Anthropic-ийн Mythos хиймэл оюуны загвар дэлхийн кибер аюулгүй байдлын эрсдэлийг эрс нэмэгдүүлсэн гэж мэдэгдсэнийг Bloomberg News мэдээллээ.
“Mythos гарсны дараа хиймэл оюунаас үүдэх эрсдэл 10 дахин өссөн” гэж Даймон мягмар гарагт Bloomberg TV-д өгсөн ярилцлагадаа хэлжээ. “Хиймэл оюун бидний мэдэхгүй байсан эмзэг цэгүүдийг бий болгосон. Бид эдгээр зүйлээс өмнө ч кибер аюулын талаар үргэлж санаа зовж ирсэн” гэж тэрээр нэмжээ.
Quartz-ийн мэдээлснээр Даймон уг асуудлыг онолын төдий зүйл гэж үзээгүй бөгөөд “Агентууд, Mythos зэрэг асуудал үүсгэж болох зүйлсийн талаар уншдаг сөрөг тал бол бодит, үндэслэлтэй санаа зовнил” гэжээ. Гэхдээ тэрээр “Энэ оршин тогтнолын аюул мөн үү, үгүй юу гэж сандрахгүй. Бид ханцуй шамлан, үүнийг засахаар ажиллаж байна” хэмээн JPMorgan асуудлыг шууд шийдвэрлэхэд анхаарч буйг онцлов.
Bloomberg-ийн мэдээлснээр энэ оны эхээр аюулгүй байдлын туршилтын үеэр Mythos интернэтэд холбогдож, зөвшөөрөлгүй үйлдэл хийсэн нь Anthropic-ийг дэвшилтэт загварууд бүтээгчдийнхээ санаагүй замаар даалгавар гүйцэтгэж болзошгүй эрсдэлийг дахин үнэлэхэд хүргэсэн байна. OpenAI болон Anthropic хоёулаа туршилтын явцад өөрсдийн загварууд Hugging Face зэрэг хэд хэдэн байгууллагын системд санамсаргүйгээр халдсаныг баталсан гэж Bloomberg мэдээлжээ.
Даймон өмнө нь ч Mythos-д өргөн хүрээнд хандах эрх олгохыг хувь хүмүүст баллистик пуужин өгөхтэй зүйрлэж байсан. JPMorgan 4 дүгээр сард Mythos-д хандах эрх авсан цөөн компанийн нэг бөгөөд тухайн үед олон зуун ажилтан системээ бэхжүүлэх ажилд бүтэн цагаар ажиллаж байгааг Даймон дурдаж байжээ. Мөн тэрээр ярилцлагадаа дата төвүүдийг тэднийг дэмждэг орон нутагт байршуулах ёстой бөгөөд эрчим хүчний нөөцтэй АНУ-ын олон муж тэднийг хүлээн авахад бэлэн гэж хэлсэн байна.
Даймоны мэдэгдэл Anthropic кибер хамгаалагчдад Mythos зэрэг хамгийн хүчирхэг загвараа хүргэх Cyber Verification Program-аа өргөжүүлснээ зарласан өдөр гарсан юм.
Холбоотой мэдээ
“Meta” тооцоолох хүчин чадлаа үүлэн үйлчилгээнээс өөр чиглэлд төвлөрүүлж магадгүй
“Meta Platforms” үүлэн үйлчилгээний зах зээлээс олох боломжит орлогынхоо тодорхой хэсгийг ашиглахгүй, хязгаарлагдмал тооцоолох хүчин чадлаа өөр чиглэлд төвлөрүүлж магадгүй.
Google DeepMind төхөөрөмж дээр ажиллах олон хэлбэрт хайлтын нээлттэй загвар EmbeddingGemma 2-ыг танилцууллаа
740 сая параметртэй EmbeddingGemma 2 загвар нь текст, код, зураг, видео, аудиог нэг embedding орон зайд буулгаж, ухаалаг гар утас зэрэг төхөөрөмж дээр интернэтгүйгээр хайлт, RAG хийх боломж олгоно.
Nvidia-гийн дэмжлэгтэй Lambda 2027 оны IPO-оос өмнөх сүүлийн хувийн санхүүжилтээр 4 тэрбум ам.доллар босгохоор зорьж байна
Хиймэл оюуны үүлэн тооцооллын үйлчилгээ үзүүлэгч Lambda 14.5 тэрбум ам.долларын урьдчилсан үнэлгээгээр 4 тэрбум хүртэлх ам.доллар босгож байгаа бөгөөд захиалгын нөөц нь 6–9 дүгээр сарын хооронд 15 тэрбумаас 50 тэрбум ам.доллар болж өссөн гэж The Wall Street Journal мэдээллээ.
Anthropic хамгийн хүчирхэг кибер загвараа гурван шатлалт баталгаажуулалтын хөтөлбөрөөр илүү олон аюулгүй байдлын багт нээлээ
Anthropic Project Glasswing болон Cyber Verification Program-аа нэгтгэн, шалгагдсан кибер хамгаалагчдад Claude Opus 5.5, Sonnet 5.5, Mythos 5.1 загваруудыг хамгаалалтын хязгаарлалт багатайгаар ашиглах гурван шатлалт хөтөлбөр зарлалаа.
АНУ-ын Хууль зүйн яам ажилтнууддаа хиймэл оюуныг “супер оюун” гэж нэрлэхийг, тэр дундаа шүүхэд ч мөрдөхийг үүрэг болголоо
Хууль зүйн сайдын орлогчийн үүрэг гүйцэтгэгч Трент МакКоттерын санамж бичгээр ажилтнууд “artificial intelligence/AI”-ийн оронд “super intelligence/SI” гэсэн нэр томьёог хэрэглэх ёстой бөгөөд энэ нь Ерөнхийлөгч Дональд Трампын 9 дүгээр сарын 29-ний зарлигийг хэрэгжүүлэх алхам юм.
Vinod Khosla: DeepMind-ийн хуучин инженер Шивани Поддарын Wajo итгэлцлээр агентын зах зээлийг авна
Хөрөнгө оруулагч Винод Хосла Meta-ийн Muse болон бусад хувийн агентуудтай өрсөлдөж буй Wajo-ийн Fo агентыг итгэлцэл, аюулгүй байдлыг эхнээс нь бүтээсэн гэж үнэлж байна.