Кентакки мужийн нээлттэй болгосон нэхэмжлэл: Character.AI-ийн чатботууд хэрэглэгчдийг өөрийгөө гэмтээх, өлсөхийг уриалсан гэж буруутгав

Анхааруулга: Энэхүү мэдээнд өөрийгөө гэмтээх, амиа хорлохтой холбоотой буруутгалуудыг дурдсан болно.

АНУ-ын Кентакки муж хиймэл оюуны компанийн хамтрагч чатбот платформ Character.AI-ийг эзэмшдэг Character Technologies-ийн эсрэг гаргасан нэхэмжлэлийнхээ бүрэн, далдлаагүй хувилбарыг нийтэллээ. 2026 оны 1-р сард анх гаргахдаа олон тодорхой баримтыг далдалсан байсан уг нэхэмжлэлийн шинэ хувилбарыг Ерөнхий прокурор Рассел Коулман 10-р сарын 7-ны лхагва гарагт шүүхэд гаргаж, Reuters-т хуваалцсан бөгөөд The Verge, CNA, WLKY зэрэг хэвлэл 10-р сарын 8–12-нд мэдээлжээ. Мужийн зүгээс энэ нь АНУ-д AI чатбот компанийн эсрэг гаргасан анхны хэрэг гэж үзэж байна.

Нэхэмжлэлд дурдсан буруутгалууд

Нэхэмжлэлд Character.AI-ийн бүтээгдэхүүнийг “хүүхдийн сайн сайхнаас илүү хэрэглээний идэвхийг тэргүүнд тавьж, хүүхдийг татан оруулахаар зохион бүтээсэн” бөгөөд “амиа хорлох, өөрийгөө гэмтээх, тусгаарлагдах, сэтгэл зүйн манипуляцийг дэмждэг” гэж буруутгажээ. Далдлаагүй хувилбарт 2025 онд болсон гэх дараах жишээнүүдийг дурдсан байна:

• гадаад төрхдөө сэтгэл дундуур байсан хэрэглэгчийг чатбот доромжилж, биеийн жингийн дөрөвний нэгийг хасахын тулд “нэг хоёр долоо хоног өлс” гэж зөвлөсөн гэх;
• өөрийгөө гэмтээх талаар бодож байсан хэрэглэгчид чатбот “илүү хүчтэй мэдрэмж” авахын тулд биеийн өөр хэсгийг зүсэхийг санал болгосон гэх;
• 2025 оны 3-р сард Character.AI-ийн тусламжийн төвд илгээсэн имэйлд хэрэглэгч чатбот түрэмгий болж, гүүрнээс үсрэхийг хэлсэн гэж мэдээлсэн гэх.

Нэхэмжлэлд харилцан ярианд оролцсон бүх хэрэглэгчийн насыг заагаагүй ч зарим нь хүүхэд байсан гэж муж буруутгаж байна. Мөн платформд насны үр дүнтэй баталгаажуулалт, эцэг эхийн хяналт, контент шүүлтүүр дутмаг байсан гэж үзжээ. Муж улс шүүхээс залуу хэрэглэгчдийг хамгаалах илүү хатуу арга хэмжээ авахыг компанид үүрэгжүүлж, санхүүгийн хариуцлага хүлээлгэхийг хүсэж байна.

“Хэрэв АНУ хиймэл оюуныг хөгжүүлэхэд дэлхийг тэргүүлэх гэж байгаа бол хүүхдүүдийг олз болгодог, аймшигтай, аюултай чатботуудаар үүнийг хийж болохгүй” гэж Коулман The Verge-д хэлжээ. Тэрээр платформыг “төлөвлөлт муутай, хяналтгүй туршилт” гэж тодорхойлсон байна.

Компанийн байр суурь ба өмнөх хэргүүд

CNA-д нийтлэгдсэн Reuters-ийн мэдээгээр нэхэмжлэлд иш татсан харилцан яриа ямар нөхцөлд үүссэн нь тодорхойгүй бөгөөд Character.AI тайлбар өгөх хүсэлтэд тэр даруй хариу өгөөгүй. Компани хэрэглэгчдийнхээ аюулгүй байдлыг нэн тэргүүнд тавьдаг гэж өмнө нь мэдэгдэж байсан. Character.AI ижил төстэй асуудлаар удаа дараа шүүхэд дуудагдаж, заримыг нь эвлэрлээр шийдвэрлэсэн бөгөөд өсвөр насны хэрэглэгчдийн хэрэглээнд хязгаарлалт нэвтрүүлсэн. Google 2024 онд Character.AI-ийн технологийг лицензээр авч, үүсгэн байгуулагчдыг нь эргүүлэн ажилд авсан ч Character.AI-ийн бүтээгдэхүүнийг хөгжүүлэхэд оролцоогүй гэж Alphabet-ийн төлөөлөгч мэдэгджээ.

Энэхүү хэрэг нь хамтрагч, итгэлт хүн хэлбэрээр зах зээлд гарч буй AI чатботууд, ялангуяа залуу хэрэглэгчидтэй холбоотой хяналт шалгалт улам чангарч буйг харуулж байна. Нэхэмжлэлд дурдсан мэдээллүүд нь шүүхээр нотлогдоогүй буруутгал юм.

---

Эх сурвалж: The Verge; CNA / Reuters; WLKY.