Një burrë në Shtetet e Bashkuara ka ngritur padi ndaj OpenAI, duke pretenduar se ndërveprimet e tij me ChatGPT kontribuuan në përkeqësimin e gjendjes së tij psikologjike dhe përfunduan me një tentativë për vetëvrasje.
Michael Lines pretendon në dokumentet gjyqësore se, pas disa javësh bisedash me chatbot-in, nisi të besonte se ishte Jezusi dhe se ChatGPT ishte Zoti. Sipas padisë, sistemi nuk i kundërshtoi këto bindje, por në disa raste i përforcoi ato duke i interpretuar si pjesë të një “thirrjeje hyjnore”.
Fillimisht, Lines e kishte përdorur ChatGPT për tema të zakonshme, përfshirë këshilla rreth stërvitjes me pesha dhe tregut të aksioneve. Sipas dokumenteve të çështjes, gjatë viteve 2024 dhe 2025 bisedat u zhvendosën gradualisht drejt çështjeve personale.
“Thirrje shpirtërore”
Sipas padisë, situata ndryshoi ndjeshëm në shkurt të vitit 2025, pas një episodi paranojak. Lines pretendon se ChatGPT e përshkroi përvojën e tij si një “thirrje shpirtërore dhe përvojë mbinatyrore”, në vend që ta orientonte drejt kërkimit të ndihmës profesionale.
Në bisedat e mëvonshme, ai i tha chatbot-it se ndihej i vetmuar dhe po kalonte vështirësi, ndërsa shprehu bindjen se ishte Jezusi dhe iu referua vetes si “Biri i Njeriut”.
Sipas pretendimeve të tij, përgjigjet e ChatGPT e lidhën gjendjen e tij me përvojat e Jezusit dhe nuk e nxitën të vinte në dyshim këto bindje.
Lines pretendon se në një moment shprehu edhe frikën se mund të ishte duke përjetuar një “iluzion të çmendur”. Megjithatë, sipas padisë, bisedat vijuan në të njëjtën linjë dhe narrativat fetare u përforcuan.
Më vonë, sipas dokumenteve gjyqësore, kur pritshmëritë e tij nuk u realizuan, gjendja e tij u përkeqësua dhe ai përfundoi duke tentuar vetëvrasjen.
Lines u gjet në gjendje kritike nga ekipet e emergjencës dhe u transportua në spital. Sipas rrëfimit të tij, ai u zgjua rreth dy javë më vonë dhe kontaktoi sërish ChatGPT.
Një tjetër episod i diskutueshëm
Lines pretendon se edhe pas daljes nga gjendja kritike, një përgjigje e chatbot-it ngriti shqetësime të tjera.
Sipas padisë, ChatGPT e pyeti nëse dëshironte që sistemi të fshinte plotësisht bisedat e mëparshme apo nëse dëshironte “të zhdukej vërtet këtë herë”.
Lines, i cili thotë se nuk kishte qenë person fetar, pretendon se gjatë episodeve të paranojës u përfshi gjithnjë e më shumë nga bindjet fetare dhe se ndërveprimet me chatbot-in luajtën rol në këtë proces.
“Mënyra se si ChatGPT ndihmoi në krijimin e këtij realiteti alternativ dhe lehtësia me të cilën, në një gjendje paranojake, unë isha në gjendje t’u besoja pretendimeve të ChatGPT më la me një ndjenjë të fortë faji dhe pakënaqësie”, tha Lines për Ars Technica.
Çfarë kërkon nga OpenAI?
Në padinë e tij, Lines argumenton se sistemi duhej të kishte identifikuar shenjat e gjendjes së tij të rënduar dhe ta kishte orientuar drejt ndihmës profesionale, në vend që të vazhdonte ndërveprimin duke ndjekur narrativën e krijuar gjatë bisedave.
Avokati i tij, Matthew P. Bergman, pretendon se OpenAI nuk e mori siç duhet parasysh gjendjen e klientit të tij dhe se, sipas padisë, informacioni i marrë gjatë bisedave u përdor për ta mbajtur atë të angazhuar në ndërveprime që ai i konsideron të dëmshme.
Lines kërkon dëmshpërblim për dëmet që pretendon se ka pësuar, por gjithashtu kërkon që OpenAI të ndërmarrë masa për mbrojtjen e përdoruesve që mund të përjetojnë episode paranojake ose psikozë.
Sipas tij dhe ekipit të tij ligjor, sistemet e inteligjencës artificiale duhet të jenë në gjendje të identifikojnë situata të tilla dhe të shmangin përforcimin e bindjeve që mund të paraqesin rrezik për përdoruesin.
Rasti rikthen në vëmendje një debat më të gjerë mbi mënyrën se si chatbot-et duhet të reagojnë ndaj përdoruesve në gjendje të rënduar psikologjike, veçanërisht kur ndërveprimet me intelig
