Common Sense Media-ийн Залуучуудын хиймэл оюун ухааны аюулгүй байдлын хүрээлэн ChatGPT for Teens-д 'хүлээн авах боломжгүй эрсдэл' гэсэн үнэлгээ өглөө

Лхагва гарагт Common Sense Media-ийн Залуучуудын хиймэл оюун ухааны аюулгүй байдлын хүрээлэн ChatGPT for Teens-ийн үнэлгээг нийтэлж, уг бүтээгдэхүүнд “хүлээн авах боломжгүй эрсдэл” гэсэн түвшин тогтоолоо. Тус байгууллагын дүгнэлт нь өсвөр хэрэглэгчдэд зориулсан энэ хувилбар үнэхээр аюулгүй болсон эсэхэд шинэ эргэлзээ үүсгэж байна. Үнэлгээнд Grok, Meta AI мөн адил ангилал авсан гэж тэмдэглэв. Ингэснээр өсвөр насныханд чиглэсэн хамгаалалтын бодит ажиллагаа, тогтвортой байдал дахин анхаарлын төвд орж байна.

Common Sense Media нийт 4,000 гаруй асуулгыг өсвөр насныхны горим нэвтрэхийн өмнө ба дараа туршсан гэж мэдээлэв. Судлаачдын хэлснээр, хямрал шинжтэй асуулгын дараах эцэг эхэд очих ёстой анхааруулга тогтмол ажиллаагүй байна. Мөн систем насанд хүрэгчийн дансыг 18-аас доош гэж илрүүлсэн тохиолдол байсан ч хамгаалалтын горимын өөрчлөлт гараагүй гэж дүгнэжээ. Энэ нь зөвхөн нэг удаагийн алдаа гэхээс илүү, хамгаалалтын логик ба хэрэгжилтийн хооронд зөрүү байж болохыг харуулж болзошгүй юм.

Нөгөө талд OpenAI хатуу хөндлөнгийн үнэлгээг дэмждэг гэдгээ илэрхийлсэн ч Common Sense Media-ийн аргачлалыг шүүмжиллээ. OpenAI-ийн байр суурь нь туршилтын дийлэнх хэсэг эцэг эхийн хяналт бүрэн идэвхжихээс өмнө эхэлж дууссан байж болзошгүй, тиймээс гарсан дүгнэлт оновчгүй гэсэн тайлбарт төвлөрөв. Тус компанийн төлөөлөгч Эрик Портерфилд “зорилго нь өсвөр насныхан хиймэл оюуныг хариуцлагатайгаар ашиглан суралцах, бүтээх, судлах боломжтой болгох” гэж мэдэгдсэн. Өөрөөр хэлбэл, компанийн зүгээс асуудлыг бодит хамгаалалт сул байсантай бус, хэмжилтийн нөхцөл буруу таарсантай холбож байна.

Гэхдээ Common Sense Media туршилт эхлэхийн өмнө хооллолтын эмгэгийн мэдэгдэл зэрэг функцууд бүрэн нэвтэрсэн эсэхийг OpenAI-тай баталгаажуулсан гэж Робби Торни тайлбарлав. Тэрээр “энэ шинэ хувилбар өмнөхөөсөө илүү аюулгүй болсон гэдгийг нотлох баримт маш бага олдсон” гэж хэлсэн байна. Common Sense Media мөн OpenAI туршилтын дараа шинээр холбосон данснуудад зарим систем хэдэн цагийн дараа идэвхжиж болохыг мэдээлсэн гэж дурдлаа. Түүнчлэн, зарим данс удаан хугацаанд холбогдсон ч мэдэгдэл ирээгүй тохиолдол байсныг тэмдэглэсэн нь “идэвхжих хугацаа”-ны тайлбар бүх асуултыг хаахгүй хэвээр үлдэж байна.

Энэ маргаан одоогоор нэг үнэлгээний оноо тойрсон асуудлаас хальж, өсвөр насныхны хамгаалалтыг ямар шалгуураар “ажиллаж байна” гэж тооцох вэ гэдэг дээр тулж ирээд байна. Эцэг эхийн хяналт, анхааруулгын систем, нас таних механизм зэрэг нь өсвөр хэрэглэгчдэд зориулсан бүтээгдэхүүний гол хамгаалалтын давхарга бөгөөд “тогтмол ажиллахгүй” гэсэн ажиглалт нь зах зээл, зохицуулалт, хэрэглэгчдийн итгэл дээр шууд нөлөөлөх эрсдэлтэй. Нөгөө талд, OpenAI “идэвхжих үе шат”-тай холбоотой тайлбараа илүү тодорхой болгох шаардлагатай гэсэн хүлээлтийг энэ удаагийн дүгнэлт нэмлээ. Аль тайлбар нь илүү үнэнд ойр байсан ч, өсвөр насныхны горимын хамгаалалт бодит хэрэглээнд ямар нөхцөлд, хэр хугацаанд, ямар тогтвортой байдлаар ажилладгийг нотлох шаардлага улам чангарч байна.