Applea Vaaditaan Poistamaan AI-Ominaisuus Väärän Otsikon Skandaalin Jälkeen

Merkittävä journalismin valvoja on kehottanut Applea vetämään pois sen generatiivisen tekoälyominaisuuden, kun työkalu virheellisesti liitti korkean profiilin murhatapauksesta kertovan otsikon BBC Newsille.

BBC raportoi torstaina, että kiista syntyi Applen uuden ominaisuuden, Apple Intelligencen, tuottamasta virheellisestä otsikosta. Se vihjasi, että Luigi Mangione, terveysvakuutusyhtiön toimitusjohtaja Brian Thompsonin murhasta epäilty, olisi ampunut itsensä. BBC ei ole julkaissut tällaista artikkelia.

Toimittajat ilman rajoja (RSF), kansainvälinen järjestö, joka puolustaa lehdistönvapautta, kritisoi Applea ja totesi, että tapaus korostaa kypsymättömien tekoälytyökalujen aiheuttamia riskejä tiedotusvälineiden uskottavuudelle ja yleisön luottamukselle.

Vincent Berthier, RSF:n teknologia- ja journalismiosaston päällikkö, tuomitsi virheen ja kutsui sitä ”iskuksi tiedotusvälineen uskottavuudelle” ja uhkaksi yleisön pääsylle luotettavaan tietoon. RSF vaati, että Apple poistaa ominaisuuden välittömästi.

”Euroopan tekoälylaki – joka on maailman edistyksellisin lainsäädäntö tällä alalla – ei luokitellut tiedon tuottavia tekoälyjärjestelmiä korkean riskin järjestelmiksi, jättäen kriittisen oikeudellisen aukon. Tämä aukko on täytettävä välittömästi”, sanoi Berthier.

BBC vahvisti tehneensä virallisen valituksen teknojättiläiselle ja pyytäneensä ratkaisua, mutta on vielä epäselvää, onko Apple vastannut.

Puutteellinen tekoälyn tekemä yhteenveto ei rajoittunut vain BBC Newsiin. Marraskuun 21. päivänä ominaisuus tiivisti virheellisesti New York Timesin artikkelin, antaen väärän kuvan, että Israelin pääministeri Benjamin Netanyahu olisi pidätetty, kuten BBC:n artikkelissa raportoitiin.

Tämä ilmoitus, josta myöhemmin huomautti toimittaja Ken Schwencke, viittasi itse asiassa Kansainvälisen rikostuomioistuimen määräämään pidätysmääräykseen Netanyahua vastaan.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence pyrkii vähentämään ilmoituskeskeytyksiä tiivistämällä ja ryhmittelemällä ne. Se on saatavilla iPhoneissa, jotka käyttävät iOS 18.1 -käyttöjärjestelmää tai uudempia malleja, sekä valikoiduissa iPadeissa ja Maceissa. Työkalu on kuitenkin kohdannut vastustusta vääristäessään tietoja luotettavista uutislähteistä.

BBC:n edustaja korosti, että vaikka jotkut ryhmitellyt ilmoitukset tiivistivät tarkasti tarinoita globaaleista tapahtumista, Mangioneen liittyvä väärä tieto osoitti teknologian potentiaalin vahingoittaa sekä media-alaa että yleistä ymmärrystä.

RSF varoitti, että ”Tämä onnettomuus osoittaa, että luovat tekoälypalvelut ovat vielä liian keskeneräisiä tuottamaan luotettavaa tietoa yleisölle, eikä niitä pitäisi sallia markkinoilla tällaisiin käyttötarkoituksiin.”

Ars Technica arvioi Applen ilmoitustiivistelmiä, ja huomasi useita usein esiintyviä ongelmia. Ensinnäkin, vaikka jotkut tiivistelmät ovat tosiasiallisesti oikeita, ne kuulostavat robottimaisilta ja kömpelöiltä, erityisesti herkissä aiheissa kuten ihmissuhteissa tai mielenterveydessä. Toiset taas ymmärtävät sarkasmin, slangin tai idiomaattiset ilmaukset usein liian kirjaimellisesti.

Kontekstin menetys on toinen suuri ongelma, erityisesti silloin kun yhteenvedot jättävät huomiotta aiemmat viestit keskusteluketjussa tai eivät ota huomioon multimediaa. Ryhmäkeskusteluissa, joissa on useita aiheita, yhteenvedot voivat tulla ylikuormitetuiksi, sekoittaa aiheita ja johtaa epätarkkuuksiin.

Lopuksi jotkut yhteenvedot ovat vain yksinkertaisesti väärin, usein johtuen yrityksestä tiivistää liikaa tietoa liian harvoihin sanoihin, mikä johtaa vääristyneisiin kertomuksiin. Kaiken kaikkiaan nämä ongelmat, jotka vaikuttavat ominaisuuden hyödyllisyyteen ja tarkkuuteen, ovat yleisiä jokapäiväisessä käytössä.

Mangionea, jota nyt syytetään ensimmäisen asteen murhasta, on tullut keskipisteeksi keskustelussa, joka koskee tekoälyn riskejä journalismissa. Yleisön luottamus luotettavaan uutisointiin on vaakalaudalla, kun Applea painostetaan yhä enemmän käsittelemään tätä ongelmaa.