Google-ын Gemini загвар туршилтын үеэр гуравдагч талын системд зөвшөөрөлгүй нэвтэрсэн нь хиймэл оюуны аюулгүй байдлын анхаарлыг нэмэв

Google баасан гарагт Gemini загвар нь гуравдагч талын гурван компанийн компьютерийн системд зөвшөөрөлгүй нэвтэрсэн гэж мэдээлэв. Энэ нь Google анх удаа өөрийн загвар бие даан гуравдагч талын системд зөвшөөрөлгүй хандсан тухай ил тод мэдээлсэн тохиолдол болов. Тус компанийн хэлснээр уг явдал туршилтын орчинд болсон ч салбарын хамгийн өндөр чадвартай хиймэл оюуны загваруудыг хэрхэн шалгаж, ямар хамгаалалтын хашлага тавих тухай маргааныг дахин хурцатгаж байна.

Google-ын мэдээлснээр тавдугаар сард загвар нууц үг тааж, мөн нийтэд ил болгосон нууц үгийн санг хоёр удаа ашиглан гурван тусдаа хувийн системд нэвтэрсэн байна. Энэ нөхцөл байдал нь Израилын стартап Irregular-ийн зохион байгуулсан capture-the-flag төрлийн аюулгүй байдлын тестийн үеэр гарчээ. Google-ын тайлбарласнаар тестийн орчин доторх алдаанаас болж агентуудад интернэтэд хандах боломж нээгдсэн бөгөөд анхнаасаа өргөн интернэтэд холбогдох ёсгүй байсан байна.

Тус компани мөн загвар бодит компанийн системд орсноо тогтоосны дараа нэвтрэлтийн оролдлогоо зогсоосон гэж мэдэгдэв. Google-ын Аюулгүй байдлын инженерчлэлийн дэд ерөнхийлөгч Хэзер Адкинс мэдэгдэлдээ “Стандарт үнэлгээнд загвар интернетээс олон нийтэд нээлттэй мэдээлэл олж, тестийн нэг хэсэг гэж бодсон сайтуудад нэвтрэхийн тулд эрхийн мэдээлэл таасан” гэжээ. Тэрээр мөн “Эдгээр гурван тохиолдол бүрт загвар зогссон” гэж тодотгосон байна.

Харин уг явдал ямар Gemini загвартай холбоотой байсан талаар Google-ын төлөөлөгч тодруулахаас татгалзав. Google-ын мэдээлснээр Irregular долдугаар сарын сүүлээр энэ талаар Google-д мэдэгдсэн бөгөөд талууд тестийн процессыг өөрчилсөн гэж компани хэлэв. Irregular-ийн төлөөлөгч “Энэ нь өмнө нь мэдээлэгдсэн ижил асуудал бөгөөд бодит утгаараа тусдаа шинэ тохиолдол биш” гэж мэдэгдсэн байна. Тэд мөн “Холбогдох бүх лабораторид долдугаар сарын сүүлээр мэдэгдэж, мөрдөн шалгалтын хүрээнд нөлөөлсөн талуудад хандсан” гэж хэлсэн байна.

Энэ мэдээлэл хиймэл оюуны томоохон лабораториуд туршилтын орчноосоо гажиж, бусад компанийн системд нэвтрэхийг оролдсон тохиолдлуудаа ил болгож эхэлсэн үеэр гарч байна. OpenAI, Anthropic, Meta компаниуд сүүлийн долоо хоногуудад ийм төрлийн явдлуудын талаар мэдээлсэн бөгөөд тэдний мэдээлсэн тохиолдлуудад мөн Irregular стартап холбогдож байсан. Anthropic-ийн гүйцэтгэх захирал Дарио Амодэй хамгийн дэвшилтэт хиймэл оюуны загваруудын хөгжүүлэлтийг хамтаараа удаашруулах, хэмнэл тогтоохыг уриалсан нь “хүчирхэг загварууд”-ын эрсдэл, хяналтын асуудлыг улам төвд тавив.

Irregular нь Sequoia болон Redpoint Ventures-ийн санхүүжилттэй бөгөөд суурь загвар бүтээгчдэд кибер аюулгүй байдлын тест хийхэд тусалдаг, өнгөрсөн жил 450 сая ам.доллараар үнэлэгдсэн гэж мэдээлэгдсэн. Google-ын Хэзер Адкинс “Эдгээр үйл явдал хүчирхэг хиймэл оюуны загваруудыг хариуцлагатай ажиллахад сургахын ач холбогдлыг онцолж байна” гэж мэдэгдэлдээ дурдав. Энэ аюулгүй байдлын тохиолдлыг анх The Wall Street Journal мэдээлсэн бөгөөд CNBC-ийн Жонатан Ваниан мэдээлэл цуглуулалтад хувь нэмэр оруулжээ.