Mielipide: Onko ChatGPT ystäväsi? Saattaa olla hyvä aika asettaa rajat

OpenAI ja MIT julkaisivat äskettäin tutkimuksen, jossa käsitellään ChatGPT:n vaikutusta ihmisten hyvinvointiin. Vaikka useimmat käyttäjät turvautuvat teknologiaan käytännön tehtävissä, tutkimus paljastaa, että pieni ryhmä on kehittämässä syvällisiä tunnesiteitä tekoälymalliin, mikä voi vaikuttaa heidän hyvinvointiinsa

Olen jo jonkin aikaa seurannut uteliaisuudella, millaisia suhteita jotkut ihmiset ovat kehittämässä generatiivisiin tekoälyihin. Muutama kuukausi sitten luin The New York Timesista tarinan 28-vuotiaasta naimisissa olevasta naisesta, joka rakastui ChatGPT:hen, ja siitä, kuinka mikä alkujaan oli ”hauska kokeilu”, kehittyi monimutkaiseksi ja odottamattomaksi suhteeksi.

Olen seurannut ystäviäni, erityisesti niitä, jotka kerran torjuivat teknologian tai eivät olleet siitä kiinnostuneita, ja jotka eivät voi tehdä suurta päätöstä ilman tekoälyorakkelinsa konsultointia. Olen myös yllättynyt tekoälymallien antamista empaattisista vastauksista emotionaalisesti tai psykologisesti latautuneisiin kysymyksiin.

Ja tietenkin olen nauranut vitsien, meemien ja TikTok-videoiden äärellä, jotka ihmiset ovat jakaneet sosiaalisessa mediassa kertoen, kuinka heistä on tullut riippuvaisia chatbotistaan. Jotkut kutsuvat sitä jopa ”parhaaksi ystäväkseen” tai ”terapeutikseen” – ja jopa suosittelevat vakavissaan muitakin tekemään samoin.

Mutta, jos hetkeksi jätämme hauskuuden ja vitsit syrjään, saattaisimme huomata, että kohtaamme globaalisti huolestuttavan ilmiön.

Tässä kuussa, ensimmäistä kertaa tekoälyn lyhyessä historiassa, OpenAI ja MIT Media Lab julkaisivat tutkimuksen, joka tarjoaa näkemyksiä ChatGPT:n nykyisestä vaikutuksesta ihmisten tunnehyvinvointiin, sekä ehdotuksia riskeistä, joita saatamme kohdata yhteiskuntana: ylinäisyys, emotionaalinen riippuvuus ja vähemmän sosiaalisia vuorovaikutuksia todellisten ihmisten kanssa.

Suhde, joka kehittyy

Ensimmäinen lähestymistapa uusiin generatiivisiin tekoälytekniikoihin alkaa usein muutamilla arkoilla kysymyksillä, ehkä teknisillä sellaisilla, jotka koskevat käytännön tehtäviä, kuten sähköpostiviestin laatimista tai pyyntöjä selittää monimutkaisia aiheita, tai vain aivoriihityöskentelyyn.

Kuitenkin, kun käyttäjä alkaa testata chatbotin kykyjä, hän huomaa näiden olevan laajempia ja monimutkaisempia kuin odotettiin.

Vaikka jotkut tekoälytuotteet kuten Friend—kannettava tekoälylaite—on suunniteltu ja hyvin kömpelösti markkinoitu käyttäjän elämänkumppaniksi, ChatGPT on mainostettu tuottavuustyökaluksi. Kuitenkin, osa ihmisistä käyttää chatbottia henkilökohtaisiin ja emotionaalisiin asioihin ja kehittää siihen vahvan siteen.

Vaikka he olisivatkin vain ”pieni ryhmä”, kuten OpenAI selvensi, he voivat silti edustaa miljoonia ihmisiä maailmanlaajuisesti, varsinkin kun otetaan huomioon, että nykyään yli 400 miljoonaa ihmistä käyttää ChatGPT:tä viikoittain. Nämä käyttäjät huomaavat nopeasti, että OpenAI:n chatbot jäljittelee heidän kieltään, sävyään ja tyyliaan ja sitä voidaan jopa kouluttaa toimimaan tietyllä tavalla tai käyttämään lempinimiä – kuten se nainen, joka rakastui siihen, teki – ja jopa ”kuulostamaan” ihmisemmältä.

”Heidän keskusteleva tyylinsä, ensimmäisen persoonan kieli ja kyky simuloida inhimillisen kaltaisia vuorovaikutuksia ovat johtaneet käyttäjiä joskus henkilöimään ja antropomorfisoimaan näitä järjestelmiä,” toteaa OpenAI:n jakama asiakirja.

Mutta tämä läheisyys tuo mukanaan riskejä, kuten tutkijat huomauttivat: ”Vaikka emotionaalisesti sitouttava chatbot voi tarjota tukea ja seuraa, on olemassa riski, että se saattaa manipuloida käyttäjien sosioaffektiivisia tarpeita tavalla, joka heikentää pitkän aikavälin hyvinvointia.”

Tutkimuksen metodologia

Äskettäin julkaistu tutkimus keskittyy ihmisten hyvinvointiin jatkuvan ChatGPT:n käytön jälkeen. Jotta chatbotin emotionaalinen ja sosiaalinen vaikutus ymmärrettäisiin, tutkijat toteuttivat kaksi pääasiallista tutkimusta soveltaen erilaisia strategioita.

OpenAI käsittelee ja analysoi yli 40 miljoonaa vuorovaikutusta käyttäjien yksityisyyttä kunnioittaen luokittelemalla ja kysyi yli 4 000:ltä heistä, miten vuorovaikutukset saivat heidät tuntemaan.

MIT Media Lab suoritti kokeen lähes 1 000 henkilön kanssa kuukauden ajan, keskittyen ChatGPT:n käytön psykososiaalisiin seurauksiin vähintään 5 minuuttia päivässä. He myös toimittivat ja käsittelevät kyselylomakkeita kokeen lopussa.

Ei yllättäen, tulokset paljastivat, että käyttäjät, jotka viettävät enemmän aikaa teknologian parissa, kokevat enemmän yksinäisyyttä ja osoittavat enemmän eristäytymisen merkkejä.

Monimutkaisia seurauksia ja useita vaikutuksia

MIT Media Labin ja OpenAI:n tutkimus tarjosi myös useita pohdintoja siitä, kuinka monimutkaisia ja ainutlaatuisia ihmisten ja chatbottien väliset suhteet voivat olla.

Tutkimuksessa tekijät antavat meille vilauksen erilaisten kokemusten ja tapojen maailmaan, joita jokainen käyttäjä kohtaa ollessaan vuorovaikutuksessa ChatGPT:n kanssa – ja kuinka tulokset voivat vaihdella eri tekijöistä riippuen, kuten edistyneiden äänitoimintojen käytöstä, tekstiviestimuodosta, äänityypistä, käytön tiheydestä, keskustelunaiheista, käytetystä kielestä ja sovelluksessa vietetystä ajasta.

“Neuvomme olemaan yleistämättä tuloksia, koska niin tehdessään saattaa hämärtää hienovaraiset havainnot, jotka korostavat ihmisten ja tekoälyjärjestelmien välisiä monimuotoisia, monimutkaisia vuorovaikutuksia”, varoittaa OpenAI virallisessa tiedotteessaan.

Kaikki erilaiset lähestymistavat, jotka jokainen käyttäjä valitsee, johtavat erilaisiin tuloksiin ja upottavat meidät harmaisiin alueisiin, jotka ovat vaikeita tutkia.

Se on Perhoskeinoälyn vaikutus!

Herää lisää kysymyksiä

OpenAI:n jakama paperi huomauttaa myös, että raskaat käyttäjät sanoivat olevansa ”järkyttyneitä”, jos heidän chatbotinsa ääni tai persoonallisuus muuttuisi.

Tämä muistutti minua äskettäin sosiaalisessa mediassa näkemästäni videosta, jossa mies sanoi pitävänsä naisen äänestä ja että hän puhui generatiivisen tekoälyn kanssa joka päivä. Voisiko ChatGPT auttaa myös miehiä avaamaan tunteitaan? Mitä tapahtuisi, jos eräänä päivänä ChatGPT puhuisi hänelle miehen äänellä? Tuntisiko hän itsensä petetyksi? Lopettaisiko hän ChatGPT:n käytön? Oliko hän kehittämässä romanttista suhdetta – vai yksinkertaisesti luottamuksen tilaa? On tietenkin vaikea olla välittömästi yhdistämättä näitä skenaarioita Spike Jonzen Her-elokuvaan.

Jokainen ChatGPT-tili, yhdessä sen historiallisten keskustelujen kanssa—joka päivä intiimimpiä ja yksityisempiä kuin mikään WhatsApp-profiili tai sosiaalisen median yksityisviestit—edustaa ainutlaatuista suhdetta, jolla on lukemattomia seurauksia ja vaikutuksia.

Odotettu tulos

Kaikki tutkimukset analysoivat eri näkökohtia, mutta päätyivät samanlaiseen johtopäätökseen, joka on lyhyesti selitetty MIT Technology Review:ssa: “Osallistujat, jotka luottivat ja ‘bondasivat’ enemmän ChatGPT:n kanssa, olivat todennäköisemmin yksinäisiä ja turvautuivat siihen enemmän.”

Vaikka tutkimus ei keskittynyt ratkaisuihin tai syvällisempiin selityksiin siitä, miksi näin tapahtuu tai miten se voisi kehittyä, on todennäköistä, että yhä useammat käyttäjät liittyvät OpenAI:n ja muiden tekoälyalustojen pariin, varsinkin nyt kun tekoälyn kuvantamistyökalu levisi viruksen lailla.

Vaikka MIT:n ja OpenAI:n tutkimuksen päätelmät eivät ole erityisen yllättäviä, tutkimus tarjoaa tieteellisen taustan todisteineen, mittauksineen, näytteineen ja muiden ’kouriintuntuvien’ mittareiden kautta, jotka voisivat raivata tietä jatkotutkimuksille ja auttaa käsittelemään tekoälyn käytön seurauksia nykypäivänä.

Saimme myös virallisen varoituksen – sen omilta kehittäjiltä – liittyen suhteisiin, joita luomme ChatGPT:n kanssa, sekä kutsun asettaa rajoja ja pohtia vuorovaikutuksiamme ja nykyisiä suhteitamme – vai pitäisikö sanoa tilannesuhteitamme? – chatbottien kanssa.