UK:n hallitus kehittää kiisteltyä tekoälyä ’murhan ennustamiseen’

UK:n hallitus työskentelee kiistanalaisen projektin parissa, joka käyttää tekoälyä ennustaakseen, kuka saattaisi tulevaisuudessa tehdä murhan.

Ohjelman olemassaolo tuli ilmi tietopyyntöjen kautta, jotka vapaan tiedon ryhmä Statewatch sai hankittua.

Heidän löydöksensä viittaavat siihen, että henkilökohtaisia, arkaluonteisia tietoja käytetään. Näihin kuuluvat terveystiedot, mielenterveyteen liittyvät tiedot, riippuvuushistoria ja tiedot ihmisistä, jotka eivät ole syyllistyneet mihinkään rikoksiin.

Statewatch raportoi, että oikeusministeriö (MoJ) johtaa tätä suunnitelmaa, tutkien olemassa olevia viranomaistietoja ihmisistä estääkseen vakavien rikosten tapahtumisen.

Alun perin nimellä ”murhien ennustamisprojekti” tunnettu hanke on nyt nimeltään ”tietojen jakaminen riskiarvion parantamiseksi”. Hankkeen tutkimusvaihe on parhaillaan käynnissä, mutta kampanjoijat ja yksityisyyden suojan puolustajat ovat ilmaisseet huolensa, kuten Statewatch on raportoinut.

Viranomaiset kuitenkin kiistävät tämän. The Guardian kertoo, että oikeusministeriön edustaja totesi: ”Tämä projekti tehdään vain tutkimustarkoituksissa. Se on suunniteltu käyttämään Vankila- ja ehdonalaispalvelun sekä poliisivoimien olemassa olevia tietoja tuomituista rikoksentekijöistä, jotta voimme ymmärtää paremmin ehdonalaisessa olevien ihmisten riskiä syyllistyä vakavaan väkivaltaan. Raportti julkaistaan aikanaan.”

Statewatchin mukaan Greater Manchesterin poliisi jakoi tietoja jopa puolesta miljoonasta ihmisestä. Tämä sisälsi uhrit, epäillyt ja haavoittuvassa asemassa olevat ihmiset.

Statewatchin tutkija Sofia Lyall kritisoi voimakkaasti projektia, sanoen: ”Oikeusministeriön yritys rakentaa tämä murhanennustusjärjestelmä on uusin pelottava ja dystooppinen esimerkki hallituksen aikeista kehittää niin sanottuja rikosten ’ennustus’ järjestelmiä.”

Hän varoitti, että järjestelmä syventäisi rodullista ja luokkajärjestelmän mukaista syrjintää: ”Tämä viimeisin malli, joka käyttää tietoja institutionaalisesti rasistiselta poliisilta ja koti- ja ulkoministeriöltä, vahvistaa ja suurentaa rikosoikeudellista järjestelmää tukevaa rakenteellista syrjintää.”

“Tällaisten arkaluonteisten tietojen, kuten mielenterveyden, riippuvuuden ja vammaisuuden, käyttäminen on erittäin tunkeilevaa ja huolestuttavaa,” hän lisäsi.

Hallitus väittää, että tällaiset työkalut voisivat parantaa ehdonalaispalveluiden riskien arviointia ja väkivaltarikosten estämistä. Kriitikot kuitenkin sanovat, että järjestelmä voisi johtaa ihmisten epäreiluun leimaamiseen potentiaalisiksi murhaajiksi virheellisten ja puolueellisten tietojen vuoksi.

Hallitus väittää, että nämä työkalut parantavat ehdonalaispalveluiden kykyä arvioida riskejä ja estää väkivaltarikosten tapahtumista. Kriitikot kuitenkin varoittavat, että järjestelmä riskeeraa leimata ihmiset potentiaalisiksi murhaajiksi huonojen ja puolueellisten tietojen kautta.

Vaikka järjestelmä onkin vielä kehitteillä, Statewatch raportoi, että asiakirjoissa mainitaan järjestelmän ”tuleva operatiivinen käyttöönotto”, mikä herättää huolia siitä, että sitä voitaisiin pian käyttää todellisen maailman poliisipäätöksissä.