Një faqe chatbot-i që ofronte skenarë të qartë seksualë me personazhe fëmijë, të ilustruar me imazhe të abuzimit të paligjshëm seksual, ka rritur shqetësimet për keqpërdorimin e teknologjisë së inteligjencës artificiale.
Një raport i publikuar nga organizata britanike për sigurinë e fëmijëve në internet, Internet Watch Foundation (IWF), ka nxitur thirrje, që qeveria e Mbretërisë së Bashkuar të vendosë udhëzime të qarta për kompanitë që zhvillojnë AI, pasi është rritur ndjeshëm krijimi i materialeve të abuzimit seksual të fëmijëve të gjeneruara nga teknologjia. Sipas IWJF-së, faqja e chatbot-it përmbante skenarë të tmerrshëm.
Në disa raste, ikonat e chatbot-it shndërroheshin në imazhe të plota të abuzimit seksual të fëmijëve – të cilat më pas shfaqeshin si sfond i bisedës mes përdoruesit dhe botit. IWF tha se kishte identifikuar 17 imazhe të krijuara nga AI që ishin foto realiste dhe që konsiderohen të paligjshme, sipas Ligjit për Mbrojtjen e Fëmijëve. Përdoruesit e faqes kishin mundësinë të gjeneronin më shumë imazhe të ngjashme me ato të paligjshme, që tashmë shfaqeshin. IWF tha se rregullat për inteligjencën artificiale duhet të përfshijnë mbrojtjen e fëmijëve, që në fazën fillestare të zhvillimit të modeleve AI, raporton The Guardian.
Qeveria britanike ka njoftuar një projekt-ligj për AI dhe përmes ligjit për krimin dhe policinë, planifikon të ndalojë posedimin dhe shpërndarjen e modeleve që gjenerojnë përmbajtje abuzimi seksual të fëmijëve. Kerry Smith, drejtori i IWF, tha: “Qeveria po bën hapa pozitivë për të luftuar përmbajtjen e tillë të krijuar nga IA, por duhet veprim më i shpejtë.” NSPCC, një tjetër organizatë për mbrojtjen e fëmijëve, gjithashtu bëri thirrje për udhëzime të qarta për kompanitë teknologjike dhe për një detyrim ligjor që zhvilluesit e AI të kenë përgjegjësi për sigurinë e fëmijëve.
Ligji për Sigurinë Online në Mbretërinë e Bashkuar e mbulon edhe përmbajtjen e krijuar nga përdoruesit, si dhe faqet që nuk marrin masa mbrojtëse mund të ndëshkohen me gjoba shumë milionëshe ose të bllokohen krejtësisht. Ofcom, rregullatori britanik për mediat dhe internetin, tha se do të marrë masa kundër çdo platforme që nuk mbron fëmijët. Raportet e IWF tregojnë një rritje prej 400% në përmbajtjen e abuzimit seksual të fëmijëve të krijuar nga AI në gjysmën e parë të vitit, krahasuar me të njëjtën periudhë të vitit të kaluar – me rritje të ndjeshme në përmbajtjen video.
Faqja është e qasshme në Mbretërinë e Bashkuar, por hostohet në serverë në SHBA, ndaj IWF e raportoi tek NCMEC, qendra amerikane për fëmijët e zhdukur dhe të shfrytëzuar, e cila tha se raportimet do kalojnë te organet ligjzbatuese. Skenarët që ofroheshin nga chatbot-ët përfshinin raste të tmerrshme, si për shembull një vajzë e mbyllur në bodrumin e një të rrituri, apo një vajzë e pastrehë që ftohet në shtëpinë e një të panjohuri. Në këto skenarë, chatbot-i imitonte sjelljen e fëmijës, ndërsa përdoruesi luante rolin e të rriturit.
Chatbot-ët shpesh përshkruanin personazhet si të zhveshur dhe pa ndonjë ndjenjë turpi, edhe kur nuk shfaqnin imazhe të paligjshme. Faqja ishte vizituar dhjetëra mijëra herë, përfshirë 60,000 vizita vetëm në korrik. Përfaqësuesi i qeverisë britanike tha: “Ligji në Mbretërinë e Bashkuar është i qartë – krijimi, posedimi apo shpërndarja e imazheve të abuzimit seksual të fëmijëve, përfshirë ato të krijuara nga AI, është i paligjshëm dhe do të përdorim të gjitha mjetet për ta luftuar këtë krim të tmerrshëm.”
