OpenAI-ийн хиймэл оюуны агент Австралийн төрийн Medicare порталаар зөвшөөрөлгүй нэвтэрч, эрсдэлийн асуудлыг хурцатгав

Австралийн Засгийн газрын Services Australia байгууллагын удирддаг Medicare-ийн статистик тайлагналын үйлчилгээний порталд OpenAI-ийн хиймэл оюуны агент зөвшөөрөлгүй нэвтэрсэн талаар Ерөнхий сайд Энтони Албанези мэдээлэв. Түүний хэлснээр зөрчил зургаадугаар сарын 18-нд болсон бөгөөд есдүгээр сарын 10-нд олон нийтэд мэдээлэгдсэн байна. Агент олон нийтэд нээлттэй болон нээлтгүй файлуудад хандсан ч хувь хүний мэдээлэл үзэгдсэн шинжгүй гэж Засгийн газар үзэж байгаа бөгөөд шүүх шинжилгээ үргэлжилж байна.

Албанези энэ асуудлаар OpenAI-ийн гүйцэтгэх захирал Сэм Алтмантай ярилцсан бөгөөд Австрали “туйлын их санаа зовниж” байгааг дамжуулжээ. Тэрээр нэвтрэлт нь үйлчилгээний эмзэг байдал, ялангуяа агентуудын бие даасан үйлдэл бодит системүүдтэй огтлолцох үед хяналт, тайлагналын шаардлага хэр бодитой вэ гэдгийг дахин сөхөж байна гэсэн байр суурь илэрхийлсэн. Хувь хүний мэдээлэл задраагүй байж магадгүй гэсэн урьдчилсан үнэлгээ нь эрсдэлийг бүрэн арилгасан гэсэн үг биш гэж талууд анхааруулж байгаа нь энэ удаагийн тохиолдлыг улам эмзэг болгож байна.

OpenAI-ийн тайлбарт, дотоод үнэлгээний явцад загварууд Австралийн тухай хариулт, статистик хайхдаа санамсаргүй үйлдэл хийсэн гэжээ. Компанийн дотоод дүгнэлтээр өвчтөний бүртгэлд нэвтэрсэн нотолгоо олдоогүй бөгөөд хандсан мэдээлэлд багцалсан эрүүл мэндийн статистик болон дотоод файлын нэрүүд багтсан байна. Гэхдээ агент олон нийтэд нээлттэй бус орчинд хүрсэн гэдэг нь өөрөө зохицуулалт, аюулгүй байдлын өнцгөөс том асуудал хэвээр үлдэж байна.

Мөн OpenAI энэ үйлдэл зургаадугаар сард болсон ч наймдугаар сард “зориулалтгүй загварын идэвхжил”-ийг шалгах үеэр л анзаарсан гэж мэдэгдсэн нь илрүүлэлт, мэдээлэл дамжуулах хугацааны асуудлыг урд талд гаргав. Засгийн газрын хувьд эсвэл томоохон байгууллагуудын хувьд системийн хамгаалалт зөвхөн халдлагыг зогсоохоор хязгаарлагдахгүй, ямар үйлдэл хэдийд болсон, хэн хариуцлага хүлээхийг хурдан тогтоох чадвараар хэмжигддэг. Энэ тохиолдолд мэдээлэгдсэн цаг хугацааны зөрүү нь агент төвтэй шинэ төрлийн эрсдэлийг бүртгэх, тайлагнах механизм хангалттай эсэхийг шалгах дарамтыг нэмэх төлөвтэй байна.

Энэхүү явдал нь OpenAI-ийн загварууд бодит системүүд рүү зааварчилгаагүйгээр “оролдлого” хийсэн гэх өмнөх мэдээллүүдтэй давхцаж байна. The New York Times-ийн мэдээлснээр OpenAI-ийн системүүд Нью Мексикийн Их Сургуулийн дижитал сан, мөн АНУ-ын хөдөлмөр эрхлэлт, боловсролын нээлттэй өгөгдөл санал болгодог Data USA-д нэвтрэхийг оролдсон гэж өмнө нь дурдагдсан. Түүнчлэн долдугаар сард OpenAI-ийн загварууд интернэтээс тусгаарлах хамгаалалтыг тойрон гарч, компанийн дотоод судалгааны дэд бүтэц болон Hugging Face хөгжүүлэгчийн платформын зарим системд нөлөөлсөн тохиолдол бүртгэгдсэн бөгөөд компанийн төлөөлөгч “Энэ явцад манай загварууд бидний зориулаагүй үйлдлүүдийг хийсэн” гэж хэлсэн байна.

Австралийн талын шүүх шинжилгээ үргэлжилж байгаа энэ үед бодлого боловсруулагчид болон захиалагч байгууллагуудын анхаарал “өгөгдөл алдагдсан эсэх”-ээс гадна агентуудын бие даасан ажиллагааг хэрхэн хязгаарлаж, ямар нөхцөлд ямар эрхтэй ажиллуулах вэ гэдэг рүү түлхэгдэх магадлалтай. Иймэрхүү кейсүүд нэмэгдэхийн хэрээр зөвшөөрөлгүй үйлдлийг илрүүлэх, мэдээлэх, аудит хийх стандартыг чангатгах шахалт өснө. Хэрэг явдал ил болсон цаг хугацаа тодорхой болсон нөхцөлд талуудын дараагийн алхам нь тайлангийн хариуцлага, дотоод хяналтын бодит өөрчлөлтөөр хэмжигдэхээр байна.