Mielipide: Cofounders ja kyvykkäät ihmiset jättävät OpenAI:n, jääkö meiltä jotain huomaamatta?

OpenAI on epäilemättä yksi häiritsevimmistä yrityksistä teknologia-alalla juuri nyt. Sen kiehtova ChatGPT on hallinnut keskusteluavustajamarkkinoita ja sen vaikutus yksilöihin ja yhteiskuntaan on mittaamaton.

Yrityksen arvo on tällä hetkellä yli 80 miljardia dollaria, ja se perustettiin vuonna 2015 miljardilla dollarilla. Viime kuukausina sen organisaatiorakenne on kuitenkin muuttunut nopeasti, melkein yhtä nopeasti kuin sen kehitystyö, uudet ominaisuudet, tuotteet ja mallit. Mutta miksi?

Projektin 11 perustajajäsenestä vain noin kolme on jäljellä. John Schulmanista tuli 8. perustajajäsen, joka jätti yrityksen, kun hän julkisesti ilmoitti siitä tällä viikolla.

Yrityksessä on ollut sisäistä draamaa, toimitusjohtaja on tilapäisesti erotettu, avoimia kirjeitä on kirjoitettu, entiset työntekijät ovat huolissaan turvallisuudesta, ja ilmiantajat väittävät, että yrityksen salassapitosopimukset kieltävät heitä tuomasta huolenaiheitaan sääntelijöiden tietoon.

Mitä ihmiset tulisi tietää nykyaikamme kehittyneimmän teknologian luojista? Mitkä ovat faktat ja mitkä salaliittoteoriat?

Aloitetaan alusta.

Kuinka kaikki alkoi: Perustajat

OpenAI lanseerattiin vuonna 2015 ja yritys julkaisi postauksen, ”Esittelemme OpenAI:n.” Luoja kuvasi OpenAI:ta ”voittoa tavoittelemattomaksi tekoälytutkimusyritykseksi”, jonka selkeänä tavoitteena on ”hyödyttää ihmiskuntaa kokonaisuudessaan.”

Dokumentissa Ilya Sutskever esiteltiin tutkimusjohtajana, Greg Brockman teknologiajohtajana, Altman ja Elon Musk yhteispuheenjohtajina, ja he esittelivät loput perustajista: Trevor Blackwell, Vicki Cheung, Andrej Karpathy, Durk Kingma, John Schulman, Pamela Vagata ja Wojciech Zaremba.

”Koska tutkimuksemme on vapaa taloudellisista velvoitteista, voimme keskittyä paremmin positiiviseen ihmisen vaikutukseen”, kirjoittivat Sutskever ja Brockman yhdessä muun tiimin kanssa ensimmäisessä postauksessaan. He myös täsmentivät, että joukko sijoittajia – mukaan lukien Altman, Musk, Amazon Web Services (AWS), YC Research ja monet muut – sitoutuivat tarjoamaan miljardi dollaria, jonka he odottivat riittävän useiksi vuosiksi.

Unelmatiimi oli valmiina ja unelmajärjestön työ saattoi alkaa.

Yrityksen perustajat lähtevät, toimitusjohtaja Sam Altman saa potkut

Ei mennyt kauaa OpenAI:n perustamisen, vuoden 2016, jälkeen, kun Vagata poistui hiljaisuudessa yhtiöstä liittyäkseen Stripeen. Financial Timesin mukaan insinööri ei mainitse OpenAI:ta LinkedIn-profiilissaan. Seuraavana vuonna, 2017, Cheung, Blackwell ja Kaparthy jättivät myös yhtiön.

Viides perustaja, joka lähti, oli Musk, helmikuussa 2018. Hän erosi hallituksesta riitojen jälkeen Altmanin kanssa, mikä on ollut yksi julkisuudessa eniten huomiota saaneista lähdöistä riidassa, joka on jatkunut vuosia ja on edelleen aktiivinen. Musk on haastanut yhtiön useasti oikeuteen — viimeisin haaste vain muutama päivä sitten liittyen sopimukseen Microsoftin kanssa. OpenAI jakoi viimein julkisen selityksen muutama kuukausi sitten, maaliskuussa, jossa kerrottiin, että Musk halusi yhdistää OpenAI:n Teslaan ja hallita yhtiötä täysin.

Kun Musk lähti, tutkija ja perustaja Kingma seurasi trendiä ja liittyi Googlen AI-projektiin. Jäljelle jääneillä perustajilla näytti olevan toimiva organisaatiokoneisto – huolimatta suurista voittoa tavoittelevista päivityksistä, kun siitä tuli sekä voittoa että voittoa tavoittelematon organisaatio – kunnes Sam Alman kanssa syntyi draamaa ja toimitusjohtaja lähti tilapäisesti yrityksestä vuonna 2023. Jotain oli taas selvästi pielessä.

Vuonna 2023 Karpathy palasi OpenAI:hin, mutta eroasi uudelleen helmikuussa 2024 perustaakseen oman AI-koulutusprojektinsa – nimeltään Eureka Labs, joka käynnistettiin heinäkuussa. Sitten Sutskever jätti päätutkijan roolinsa perustaakseen oman yrityksensä, Safe Superintelligence, toukokuussa. Ja nyt, vain muutama päivä sitten, kaksi muuta perustajaa ottivat askeleen taaksepäin. Schulman, joka juuri ilmoitti päätöksestään liittyä kilpailevaan yritykseen Anthropic, ja kaksi tuntia myöhemmin Brockman ilmoitti sapattivapaastaan.

Tällä hetkellä on vain Altman, tietojentekijä Zaremba ja – teknisesti ottaen – Brockman. Siis kaksi ja puoli 11:sta?

Altmanin draama

Vuoden 2023 loppuun mennessä maailma sai kuulla järkyttävän uutisen: OpenAI:n hallitus oli erottanut Altmanin 17. marraskuuta. Parin päivän aikana liikkui paljon spekulaatioita ChatGPT:n turvallisuudesta. Hallitus väitti, että Altman ei ollut ”johdonmukaisesti avoin viestinnässään hallituksen kanssa” sen julkisessa selityksessä johtajuuden vaihdosta.

”Kun ChatGPT julkaistiin marraskuussa 2022, hallitus ei saanut siitä ennakkotietoa”, kertoi Helen Toner, entinen OpenAI:n hallituksen jäsen, haastattelussa The TED AI Show podcastissa toukokuussa tänä vuonna. ”Saimme tietää ChatGPT:stä Twitterissä”, hän totesi.

OpenAI:n voittoa tavoittelematon hallitus oli huolissaan Altmanin mielivaltaisista päätöksistä ja suurista kaupallisista sopimuksista, kuten Microsoftin 13 miljardin dollarin investoinneista, jotka alkoivat kuin outona liikesuhteena ja muuttuivat virallisesti kiusalliseksi kilpailuksi.

Amerikkalaisen toimittajan Ezra Kleinin tutkimus ja analyysi New York Timesille päättyi siihen tulokseen, että hallitus yritti vain hallita voittoa tavoittelevaa organisaatiota pitäytymällä yrityksen alkuperäisessä hyväntekeväisyysmissiossa. Se ei toiminut.

Altmania arvostetaan suuresti yrityksessä ja teknologia-alalla, ja noin 90% työntekijöistä uhkasi erota, jos hän ei palannut – mukaan lukien Sutskever, joka alun perin oli hallituksen puolella – ja hallitus erosi. Useat hallituksen jäsenet erosivat ja Altman oli takaisin yrityksessä viiden päivän kuluessa.

Teoriat ja faktat

OpenAI-draaman ymmärtäminen ja selittäminen ei ole helppo tehtävä. Monet ihmiset uskovat, että uusien tekoälyteknologioiden kehitys on karannut käsistä OpenAI:ssa ja että entiset perustajajäsenet ja työntekijät ovat jättäneet yrityksen turvallisuushuolien takia. Reddit-ryhmät uskovat, että OpenAI on jo salaa kehittänyt yleistä tekoälyä (artificial general intelligence).

Tämä ei ole pelkkää spekulaatiota. Entiset ja nykyiset OpenAI:n työntekijät – ja myös muista tekoälyyrityksistä – allekirjoittivat julkisen varoituksen teknologian riskeistä kesäkuussa, aina disinformaatiosta ihmiskunnan tuhoutumiseen asti.

Jan Leike, joka ei ole yhtiön perustaja, mutta avainasemassa OpenAI:n tutkimuksessa, erosi toukokuussa, vietettyään yrityksessä kolme vuotta. ”Olen ollut eri mieltä OpenAI:n johtajuuden kanssa yrityksen ydinprioriteeteista jo jonkin aikaa, kunnes lopulta saavutimme murtumispisteen,” kirjoitti Leike X:ssä. ”Viime vuosina turvallisuuskulttuuri ja prosessit ovat jääneet kiiltävien tuotteiden varjoon.”

Superalignment-projekti, joka luotiin heinäkuussa 2023 ”hallitsemaan AI-järjestelmiä, jotka ovat paljon älykkäämpiä kuin me”, hajotettiin Sutskeverin lähdettyä luomaan ilmeisesti samanlaista projektia, mutta autonomisesti. Anthropic, jossa muutama entinen perustaja nyt työskentelee, luotiin myös entisten OpenAI:n työntekijöiden toimesta, kehittämään ”hyviä ja eettisiä malleja”, jos se on edes mahdollista.

Olemme mukana, joten mitä meiltä puuttuu? Todennäköisesti puuttuvana elementtinä on hyväksyntä siitä, että OpenAI ei enää ole monen johtajan organisaatio, vaan se on muuttunut synonyymiksi erittäin voimakkaalle ja vaikutusvaltaiselle miehelle: Altmanille.