Хиймэл оюун ухааны өсөлт хүүхдийн аюулгүй байдлын маргааныг шүүхэд авчирлаа

Google-ийн Gemini чатботтой Google Classroom орчинд харилцсаны дараа хүүхэд нь сэтгэлзүйн хямралд орсон гэж үзсэн эцэг эх энэ долоо хоногт тус компанийг шүүхэд өгчээ. Энэ хэрэг нь хүүхдэд зориулсан хиймэл оюун ухаан, дижитал платформын аюулгүй байдлын талаарх амлалтыг дахин шалгах нөхцөл бүрдүүлж байна. Технологийн компаниуд хэрэглэгчийн хамгаалалт, зохицуулалт, урьдчилан сэргийлэлтийг онцолж ирсэн ч шинэ нэхэмжлэлүүд бүтээгдэхүүний эрсдэлийг бодит маргаан болгон хувиргав. Шүүхийн дарамт нэмэгдэхийн хэрээр хүүхдийн аюулгүй байдлыг бүтээгдэхүүн гарсны дараа бус, боловсруулах эхнээс нь тооцох шаардлага улам тодорхой болж байна.

Snap өсвөр насны хоёр хэрэглэгчид сэтгэлзүйн хүнд дарамт учруулсан гэх нэхэмжлэлийг нууцаар тохиролцон шийдвэрлэсэн байна. Meta, TikTok, YouTube ч өмнө нь ижил нэхэмжлэгчидтэй тохиролцжээ. Meta наймдугаар сард хүүхдийн сэтгэцийн эрүүл мэндийн хэрэгт мужийн ерөнхий прокуроруудтай тохиролцож, бараг 17 тэрбум ам.доллар төлөхөөр болсон. Эдгээр тохиролцоо нь компаниуд хууль эрх зүйн бодит эрсдэл болон бүтээгдэхүүнийхээ нэр хүндэд учирч болзошгүй хохирлыг илүү нухацтай авч үзэж эхэлсний илрэл гэж Макниколас энд Макниколасын өмгөөлөгч Жозеф Макнали хэлэв.

АНУ-ын 1996 онд баталсан холбооны хуулийн 230 дугаар зүйл хэрэглэгчдийн нийтэлсэн контентын төлөө сошиал платформуудыг шүүхэд хариуцагчаар татахаас хамгаалж ирсэн. Гэхдээ хиймэл оюун ухааны чатботын хариу, бүтээгдэхүүний зохион байгуулалт, хэрэглэгчтэй харилцах арга хэлбэртэй холбоотой маргаан энэ хамгаалалтын хүрээний талаар шинэ асуулт тавьж байна. OpenAI-ийн эсрэг мужийн ерөнхий прокурорууд болон нэхэмжлэгчдийн өмгөөлөгчид хэд хэдэн хэрэг үүсгэж, ChatGPT-ийн загвар хүүхдүүдэд эрсдэл учруулж болзошгүй гэж үзжээ. Калифорнийн төв дүүргийн шүүхэд гуравдугаар сард шинэ шүүх хурлууд эхлэхээр төлөвлөгдсөн байна.

Хүүхэд ба дэлгэц байгууллагын төлөөлөгч Кейт Блокер хүүхдүүдийн аюулгүй байдлыг хиймэл оюун ухаан, сошиал медиа зэрэг бүтээгдэхүүнийг зохион бүтээх үед нь тооцох нь нэн чухал бөгөөд асуудал гарсны дараа арга хэмжээ авах ёсгүй гэж үзэж байна. Түүний хэлснээр, энэ асуудал зохицуулалт болон компанийн дотоод шийдвэр гаргалтад бодит, системийн өөрчлөлт хийхэд түлхэц болно гэсэн хүлээлт байна. Макнали технологийн зэвсэглэлийн өрсөлдөөн үргэлжилж байгаа ч бүтээгдэхүүний ашиг тус, аюулгүй байдлыг хэрхэн тэнцвэржүүлэх тухай шаардлага энэ өрсөлдөөнд орхигддог гэж хэлэв. Түүний үнэлснээр, тохиролцоонуудын нөлөө зөвхөн шүүхийн танхимаар хязгаарлагдахгүй, бүтээгдэхүүн боловсруулах шийдвэрт ч тусах төлөвтэй.

Энэ сард олон нийтэд хувьцаагаа санал болгохоор төлөвлөж буй Anthropic хүүхдийг Claude бүтээгдэхүүнээ ашиглахыг хориглодог ч уг асуудлыг хөрөнгө оруулагчдад зориулсан баримт бичигтээ онцолжээ. Энэ нь хүүхдийн аюулгүй байдал компанийн хэрэглээний бодлогоос гадна хөрөнгө оруулагчдад өгч буй мэдээллийн нэг хэсэг болж байгааг харуулж байна. Компаниуд хиймэл оюун ухааны бүтээгдэхүүний ашиг тусыг хөгжүүлэхийн зэрэгцээ насны хязгаарлалт, хамгаалалт болон урьдчилан сэргийлэх арга хэмжээг хэрхэн хэрэгжүүлснээ тайлбарлах дарамтад орж байна. Харин шүүхийн шинэ хэргүүд болон өмнөх тохиролцоонуудын дараагийн үр дүн энэ дарамт бүтээгдэхүүний бодит зохион байгуулалт, компанийн дотоод шийдвэрт хэр хэмжээнд өөрчлөлт авчрахыг тодорхойлох юм.