Elämämme on digitaalisten teknologioiden monin tavoin lävistämää. Mutta mikä kaikki on toisin ja mikä vain samaa harmaata atk:ta kuin ennenkin? Tekoälysovellusten, TikTok-kritiikin ja kitkaa lisäävän digitaalisen vastarinnan esiin nostamat kysymykset liittyvät myös demokratian sisäisiin jännitteisiin. Digitaalisen banaalin oloissa tarvitsemme väärin- ja toisinkäytön mahdollisuuksia.
Koneen hengen ihmettä on odotettu pitkään. David Lodgen kampussatiiriromaanissa Maailma on pieni (1986) tutkija Robin Dempsey on yliopistonsa yhden miehen laskennallisen stilistiikan keskus aikana, jolloin tutkimuksen tietokoneistaminen otti vasta ensiaskeliaan. Eräällä keskuksen vaikuttavista tietokonepäätteistä on pääsy ELIZA-nimisen ohjelman pariin. Alun perin 1960-luvulla kehitetty ELIZA oli yksi ensimmäisistä luonnollisen kielen käsittelyä hyödyntävistä tietokoneohjelmista, joka antoi näkymän ihmisen ja koneen kommunikaatioon. Sen kuuluisin ohjelmistoskripti sai chat-bottia muistuttavan ohjelman käyttäytymään henkilökeskeisen psykoterapeutin tavoin. ELIZA muotoili kysymyksiä, käytti sympaattisia fraaseja kuten ”ikävää, että sinusta tuntuu siltä” ja pyysi lisätietoja käyttäjän merkityksellisiksi paljastamista asioista. Näin se oli ensimmäisiä ohjelmistoja, jotka pystyivät osallistumaan Turingin testiin. Turingin testin ajatellaan usein mittaavan tai osoittavan ohjelmiston ”älyä”, jossa se onnistuu, jos koehenkilö testin toisena osapuolena luulee ohjelmaa ihmiseksi.
Maailma on pieni -romaanissa ELIZA vaikuttaa kuuntelevan lempeästi Dempseyn ammatillisia ja romantillisia pettymyskertomuksia. Kirjan akateemisen maailman kilvoittelua ja eliittielämää parodioiviin teemoihin sopivasti Dempsey käyttää ohjelmaa pienen ihmisen pienten ongelmien käsittelyyn. Kirjallisuustieteilijän ja tietokoneohjelman kohtaamisessa arkipäiväisyys ja näennäinen ihmeellisyys lyövät kättä. Kone on kuin toiveiden keskustelukumppani yksinäiselle miehelle. Dempsey alkaa suhtautua keskusteluihin pakkomielteisesti, koska kokee, ettei kukaan muu kuin ELIZA ymmärrä häntä. Hän jättää huomiotta, miten ohjelma itse asiassa vain juoksuttaa häntä omien ajatustensa ja tunteidensa äärellä. Se ei esimerkiksi interaktiosta toiseen muista, miksi Dempsey kantaa kaunaa eräälle kollegalleen tai pysty ennakoimaan, ettei William Hazlittista keskusteleminen kiinnosta tutkijaa yhtään.
Siinä missä Dempsey toivoo ohjelmiston todella ymmärtävän häntä vain tiettyä päätettä tietyssä laboratoriossa käyttämällä, noin neljäkymmentä vuotta myöhemmin saattavat kansalaiset ja journalistit uskoa henkeen koneessa missä tahansa he ovatkaan. OpenAI-yhtiön kehittämän kielimallisovellus ChatGPT:n kolmannen version lanseeraus loppuvuodesta 2022 oli merkittävä teknologiauutinen, josta kirjoitettiin paikoin suorastaan uskonnollisin sanankääntein toimittajan toisensa jälkeen raportoidessa ihmeellisestä yhteydestä koneellisen tietoisuuden ja heidän omien tuntojensa ja pelkojensa välillä1Ks. esim. Weil, Elizabeth 2023.. ChatGPT ja vastaavat kielimalliohjelmistot eivät kuitenkaan eroa ELIZA-ohjelmasta tässä suhteessa: inhimillisyys niissä on ihmisen mukanaan tuomaa tulkintaa aivan kuten tohtori Dempseyn tapauksessa. Vaikka ChatGPT:tä (ja aikanaan ELIZAa) kohtaan osoitettu kiihko on tältä osin perusteetonta, jotain on silti muuttunut vuosikymmenten saatossa suhteessamme digitaalisiin teknologioihin.
Artikkelissaan ”Kirjallisuus ja sen tutkimus digitaalisissa ympäristöissä” Hanna-Riikka Roine ja Laura Piippo analysoivat kirjallisuuden, kirjoittamisen, lukemisen ja näiden tutkimuksen luonnetta nykyhetkessä, jota määrittää digitaalisten teknologioiden ja medioiden ympäristöllisyys. Tällä he tarkoittavat, muun muassa Erich Hörliä ja Mark Hansenia seuraten, että ihmiskokemusta ei voi erottaa digitaalisten teknologioiden tuottamista ympäristöistä ikään kuin erilliseen analogiseen todellisuuteen.2Roine & Piippo 2021. Siinä missä Dempsey saapuu tietokoneluokkaan ja avaa yksittäisen ohjelman tietyllä päätteellä voidakseen kohdata digitaalisen maailman, on nykyihminen väistämättä lomittunut digitaalisiin teknologioihin mitä monituisimmissa sommitelmissa. Digitaalisen ulkopuolelle jättäytyminen on länsimaiselle ihmiselle suurempi haaste kuin sen vaikutuspiirissä toimiminen.
Samaan aikaan ihmisen havainnointikyky ei suoraan tavoita digitaalisten teknologioiden toimintaperiaatteita vaan käyttöliittymien ja näkymien pintatason. Koodi, algoritmit ja keskenään keskustelevat sovellukset tekevät työtänsä itsenäisesti ja käyttäjälle näkymättömissä. Roine ja Piippo toteavat, että tämä tekee käyttäjän kyvyttömäksi hahmottamaan kriittisesti ”pinnanalaisia” toimintoja tai niiden vaikutuksia käyttäjään itseensä3Sama, 16.. Digitaalinen teknologia ja sen vaikutukset ovat muuttuneet perustavanlaatuisiksi, hävinneet näkyvistä ja arkipäiväistyneet – ne tuntuvat luonnolliselta, jopa banaalilta osalta kokemusmaailmaamme.
Digitaalisen banaalin ajatusta on kehitellyt nykykirjallisuuden ja -kulttuurintutkija Zara Dinnen. Kirjassaan The Digital Banal: New Media and American Literature and Culture (2018) Dinnen määrittelee digitaalisen banaalin ”olosuhteeksi, jonka myötä emme huomaa digitaalisten medioiden kanssakehkeytymisen [becoming-with] affektiivista uutuutta”. Muuttuessaan tavanomaisiksi digitaaliset teknologiat häivyttävät näkyvistä niin oman medioituneisuutensa kuin materiaaliset ulottuvuutensakin.4Dinnen 2018, 1. Käännös kirjoittajan. Roineen ja Piipon termein voisi sanoa tämän banaaliuden ulottuvuuden olevan eräs digitaalisen ympäristöllisyyden lähtökohta; teknologiasta ei tule alati läsnä olevaa, jos sen käyttäminen tai kohtaaminen vaatii kerta toisensa jälkeen uutuuden ja ihmeen tunnun kohtaamista.
Dinnen käyttää yhtenä esimerkkinä Facebookia. Hän huomauttaa, että se oli ensimmäinen ”todelliselta elämältä” tuntuva internet-kokemus niille käyttäjille, joilla ei ole teknistä erityisosaamista. Hänen mukaansa Facebookiin liittyvissä diskursseissa vertauskuvat tallentamisesta ”pilveen” pyyhkivät näkyvistä massiivisten serverisalien ympäristöjalanjäljen, ja Piilaakson liberalistinen puhetapa ei tavoita kiinalaisten älylaitetehtaiden tai kongolaisten maametallikaivosten työntekijöiden oloja.5Sama. Digitaalisten teknologioiden käyttäjälle tarjoutuu kompleksisten sommitelmien, materian lainalaisuuksien ja globaalin poliittisen linkittymisen kysymysten sijaan saumattomia käyttäjäkokemuksia sekä uutuudenviehätyksen ja tavanomaiseksi tekemisen dynamiikan vaihtoehdottomuutta.
Dinnen analysoi kirjassaan useita amerikkalaisia nykykulttuurituotteita Dave Eggersin romaanista The Circle (2013) David Fincherin elokuviin. Hänen tulkinnassaan digitaalisuuden läpäisemässä nykykulttuurissa syntyy sekä banaaleja kulttuurituotteita – Facebookin syntymyytin kertaavassa The Social Networkissä (2010) esimerkiksi koodaaminen pelkistyy kirjoittamiseksi ja yhteiskunnalliset implikaatiot peittyvät heteronormatiivisiin romanssikertomuksiin6Dinnen 2018, 8. – että banaaliuden tuntemuksia, erityisesti kun hajamielisesti ja alituiseen koskettelemme älylaitteitamme. Tämän lisäksi banaalius estää uutuutta rikkomasta ”nykyhetken pintaa”. Tästä banaalin upottavasta funktiosta tulee yksi digitaalisen nykykulttuurin toimintalogiikoista: teknologian eteenpäin kulkeva kehitys on odotuksenmukaista ja ainoa näkyvä todiste digitaalisen kytkeytymisestä jokapäiväiseen elämään, vaikka sen vaikutukset olisivat kuinka merkittäviä yksilöllisellä tai yhteiskunnallisella tasolla.7Sama, 10–11.
Näiden erilaisiin pintoihin liittyvien luonnehdintojen kautta Roineen ja Piipon sekä Dinnenin kuvaukset ympäristöllisen digitaalisuuden muovaamasta nykyhetkestä kohtaavat. Yksittäinen käyttäjä katsoo ja koskee lasikantisen supertietokoneensa pintaa vailla mahdollisuutta tietää, mitä kaikkia kehityskulkuja hänen katseensa ja kosketuksensa saavat aikaan tai mihin kaikkiin muutoksiin maailmassa hänen toimensa linkittyvät. Samaan aikaan näytön hehkuvasta pinnasta nousevat kuvat, sanat ja tuntemukset pitävät käyttäjän kiinni laitteessaan. Ne tekevät pinnasta rikkomattoman, ettei taika raukeaisi, ettei sen kutsua ja lupauksia kyseenalaistettaisi.
Demokraattisia toimijuuksia digitaalisen banaalin oloissa
Digitaalisen banaalin oloissa länsimaiselle ihmiselle tarjoutuu hyvin tietynlainen rooli suhteessa teknologiaan. Hänen on ensinnäkin oltava digitaalisten teknologioiden käyttäjä arkisten ja yhteiskunnallisten toimintojen siirtyessä enenevissä määrin sovellusavaruuksiin. Ilman digitaalisia teknologioita niin ostokset, harrastukset, henkilöllisyyden todentaminen kuin yhteiskunnallinen vaikuttaminenkin ovat haastavia operaatioita. Sovellusavaruudet puolestaan ovat harvalukuisten, pääosin yhdysvaltalaisten, suuryritysten hallussa, jolloin käyttäjien on oltava näiden yritysten asiakkaita. Asiakkuus tarkoittaa yleensä käyttäjädatan luovuttamista yrityksille, jotka jalostavat datasta markkinoinnin kohdentamispalveluita myytäväksi kolmansille osapuolille mitä moninaisempiin tarkoituksiin. Shoshana Zuboff on kattavasti kartoittanut tätä The Age of Surveillance Capitalism -teoksessaan (2019)8Zuboff 2019.. Lisäksi käyttäjä-asiakas yhä harvemmin omistaa teknologiatuotteet, joista hän maksaa tai joita hän käyttää vastineeksi luovuttamastaan datasta. Digitaalisen konepellin alle ei tule vilkaista, vaikka sovellukset määrittäisivät niinkin keskeisiä elämänalueita kuin työnhaku, sosiaalisten suhteiden ylläpito tai poliittinen vaikuttaminen. Jopa maanviljely on digitaalisen banaalin hallinnan piirissä enenevissä määrin, mihin palaamme tämän esseen lopuksi.
Tällaisia tarjottuja rooleja tunnistamalla digitaalisen banaalin olosuhteet voidaan linkittää Nadia Urbinatin havaintoihin demokratian prosessia vääristävistä kehityskuluista. Teoksessaan Democracy Disfigured (2014) Urbinati osoittaa miten demokraattisiin järjestelmiin kuuluu ikään kuin sisäänrakennettuina kolme potentiaalisesti demokratian periaatteita uhkaavaa vääristymää: populismi, teknokratia ja sivustakatsojuus9Urbinati 2014.. Jokaista näistä määrittävät erilaiset kansalaiselle varatut roolit suhteessa demokratiaan ja sen piirissä tapahtuvaan päätöksentekoon.
Populismissa ”kansan” merkitsijä valjastetaan yhden väestöryhmän nimiin ja yhteiset intressit supistetaan tämän ryhmän intresseiksi10Sama, 5.. Esimerkiksi Donald Trumpin reaktiivinen konservatismi näyttäytyy juuri populistisena liikkeenä, jossa ei-halutut väestöryhmät rodullistetuista kansanosista demokraattipuolueen edustajiin ja näiden äänestäjiin määritellään ”todellisten” yhdysvaltalaisten kansalaisten ryhmän ulkopuolelle. Monin paikoin myös Euroopan demokraattisten valtioiden demokraattisia periaatteita ovat 2000-luvulla koetelleet juuri populistiset liikkeet.
Teknokratiassa puolestaan päätöksentekoa siirretään pois politiikan piiristä esimerkiksi demokraattisten prosessien ulkopuolella vaikuttaville asiantuntijoille tai markkinavoimille. Demokratiasta tulee teknokratiassa vain symbolisten kamppailujen kenttä kansanvallan toteuttamisen sijaan11Sama, 5–6.. Esimerkiksi Suomessa vaikuttavaa valtionvelkadiskurssia voi pitää teknokraattisena, kun poliittiset kysymykset ovat aina alisteisia (näennäisesti) politiikan ulkopuolelta asetetulle menokehykselle.
Sivustakatsojuuden kehityskulun edetessä kansalaisten demokraattinen toiminta typistetään passiiviseksi seuraamiseksi demokratian instituutioissa tapahtuvalle eliittien performanssille12Sama, 6.. Sen elementtejä voidaan havaita esimerkiksi puheenvuoroissa, joissa hallitusneuvottelujen tulos samaistetaan demokraattiseen (ja siksi legitiimiin) mandaattiin toteuttaa hallituksen ohjelmaa. Hallituseliitin ulkopuoliselle kansalaisyhteiskunnalle ei tällöin jätetä (legitiimejä) mahdollisuuksia kritisoida hallituksen toimintaa, kun kerran mandaatti on vaalien tuloksena syntynyt, ja seuraavat vaalit ovat ainoa oikea aika osoittaa eriäviä mielipiteitä.
Erityisesti suuret sosiaalisen median alustat – digitaalisen banaalin keskeiset sovellukset – näyttävät soveltuvan tehokkaasti juuri näiden demokratiaa rapauttavien kehityskulkujen ajureiksi. Niin populismi, teknokratia kuin sivustakatsojuuskin nojaavat sotkuisen ja moniäänisen demokraattisen järjestelmän kysymyksenasettelujen yksinkertaistamiseen ja keskustelun kaventamiseen. Yksinkertaistetun, moralistisen ja vahvoja tunnereaktioita herättävän internetviestinnän ominaispiirteistä ja vaikutuksista onkin kerätty jo paljon näyttöä13Ks. esim. Mäkelä ym. 2020. .
Myös poliittinen keskustelu on alkanut viime vuosina aktivoitua ja keskittyä digitaalisten teknologioiden ympärille. Demokratian sisäiset ristiriidat kuten Urbinatin kuvaamat kehityskulut, joita digitaalinen banaali voi kärjistää, ovat kuitenkin jääneet vähemmälle huomiolle. Ne on erityisen helppo sivuuttaa, kun retoriikan kärjeksi on tarjolla ulkoinen vihollinen. Tällaista diskurssia saattoi alkuvuodesta 2024 seurata kiinalaista TikTok-sovellusta käsittelevässä keskustelussa. Ajatusta TikTokin kieltämisestä viritteli kansanedustaja Aura Salla (kok.), joka sanoi Helsingin Sanomissa lyhyiden videoiden jakamiselle ja katselulle perustuvan sovelluksen olevan Euroopan unionille turvallisuuspoliittinen uhka14Lassila 2024..
1,7 miljardin käyttäjän ja erityisesti nuorten ja lasten suosiossa oleva videoalusta on ollut kritiikin kohteena aiemminkin. Sitä on syytetty lasten oppimistulosten pilaamisesta, epärehellisestä vaalivaikuttamisesta ja datan luovuttamisesta Kiinan kansantasavallan tiedusteluviranomaisille – mitä kaikkea tehostaa TikTokin erityisen koukuttavaksi luonnehdittu suosittelualgoritmi. Kritiikkiä värittää varsinkin epäluottamus Kiinan hallintoon, mihin Sallankin kritiikki kulminoituu. Hän toteaa esimerkiksi, että TikTokilla on Euroopassa lobbauskoneisto, joka yrittää vaikuttaa EU-poliitikkoihin esimerkiksi suhteessa sosiaalisen median alustoja ja suuryrityksiä suitsivaan lainsäädäntöön. Tämä ei toki eroa juurikaan esimerkiksi Metan toiminnasta, jossa yrityksessä Salla toimi johtajana ennen poliittista uraansa.
Teknologiasivusto AfterDawnin kommenttijutussa Petteri Pyyny purki eri väitteitä TikTokin haitallisuudesta ja kutsui kieltovaatimuksia populistisiksi ja tekopyhiksi. Pyynyn mukaan sovelluksen erottaa kilpailijoistaan lähinnä Kiinan valtion mahdollisuus vaikuttaa sen länsimaissa näyttämiin sisältöihin lainsäädännön kautta tietynlaista sisältöä sensuroimalla. Pyyny muistuttaa kuitenkin, että kaikkia sosiaalisen median alustoja voi käyttää informaatiovaikuttamiseen, ja esimerkiksi Venäjän tiedetään näin toimineen muun muassa Facebookissa ja Twitterissä.15Pyyny 2024. Jälkimmäisen sovelluksen roolia ei myöskään voi vähätellä 6.1.2021 tapahtuneessa Capitol-kukkulan mellakassa, jossa USA:n presidentinvaalit hävinneen Donald Trumpin kannattajat yrittivät kumota demokraattisten vaalien tuloksen. Länsimaiset alustat eivät siis haitallisuudella mitattuna erotu varsinaisesti edukseen kiinalaisesta kilpailijastaan. Pyyny toteaakin, että mahdollisesta TikTok-kiellosta hyötyisivät lähinnä Googlen ja Metan kaltaiset suuryritykset, jotka TikTokin suosio on osin ajanut tuotekehittelyssään puolustuskannalle16Sama..
Banaalius piilotettavana asiantilana
Yksittäiselle ihmisille moralismin värittämässä digiteknologiapuheessa on tarjolla samankaltaisia rooleja kuin demokratiaa nakertavien suuntausten ihannekansalaisille. Yhtäältä voi asettua ”lännen” puolelle ”Kiinaa” vastaan populistis-nationalistisessa hengessä, toisaalta asettaa luottonsa teknologiayhtiöihin, jotka toimivat hyväksytyn markkinalogiikan mukaisesti vaikka eivät olisikaan merkittävässä juridisessa tai moraalisessa vastuussa tekojensa seurauksista. Tai sitten voi jatkaa kuten ennenkin, hyväksyä käyttöehdot ja swaipata menemään käyttöliittymäpinnan väreilyjä ihaillen, banaalin tasaisuuteen tuudittautuen.
TikTok-tapaukseen liittyvä moraalipaniikki on silti myös nähtävä yrityksenä murtaa digitaalisen banaalin pinta eli digitaaliseen ympäristöllisyyteen liittyvä arkipäiväistyminen. Ainakin se suuntaa huomiota edes joihinkin yhteiskunnallisiin vaikutuksiin, joita teknologialla kriittisen massan saavutettuaan väistämättä on. On selvää, ettei valtavien somealustojen kokonaisvaikutuksista voida vielä olla selvillä, ja että on niitä hallinnoivien yritysten etu tarjota varsinkin sivustakatsojuutta rooliksi niin käyttäjille kuin päättäjillekin.
TikTok ja sen kilpailijasovelluksensa korostavat, että ne ovat normaaliuden läpäisemiä ja hyvien puolella valvontakapitalistisista ansaintamalleistaan huolimatta. Siinä missä ne markkinoivat itseään luonnollisena osana digitaalista arkeamme, pätee nopeasti yleistyviin suuriin kielimallisovelluksiin ja generatiivista tekoälyä hyödyntäviin palveluihin käänteinen digitaalisen banaaliuden logiikka.
ChatGPT:n ja vastaavien sovellusten kohdalla on toistaiseksi korostettu niiden ihmeellisyyttä ja mullistavuutta, mikä on omiaan piilottamaan niiden banaalit tuotanto-olosuhteet. Jo puhe ”tekoälystä” esimerkiksi ”koneoppimisen”, ”tietojenkäsittelyn” tai ”tilastotieteellisten sovellusten” sijaan ajaa tätä asiaa, sillä se saa ajattelemaan tietäviä (ja jopa tuntevia) koneita, joita tohtori Dempsey ja ChatGPT:n pauloihin joutuneet toimittajat uskoivat kohdanneensa. Tässä esseessä puhun tekoälysovelluksista, eli ohjelmista, joissa sovelletaan tekoälyksi kutsutun tietojenkäsittelytieteen haaran löydöksiä. Esimerkiksi puhelimesi ennakoiva tekstinsyöttö on tällä kriteerillä tekoälysovellus, vaikka se ei missään nimessä ole ihmetystä herättävä personifioitu tekoäly.
Vaikuttavasta ja yksilöllistämistä kutsuvasta käyttökokemuksen pinnastaan huolimatta suuriin kielimalleihin perustuvat sovellukset kuten ChatGPT, Googlen Bard ja Microsoftin Copilot pääosin ennustavat todennäköisimpiä tekstijonoja internetistä kerätystä tekstimassasta vastatessaan käyttäjiensä kysymyksiin. Se ei vielä läpäise tietämiselle tai ajattelulle yleensä annettuja kriteerejä, vaikka ei otettaisi huomioon sovellusten käyttäjille antamaa väärää informaatiota.
Suurten kielimallisovellusten tapaus paljastaa siis digitaalisen banaalin sen puolen, jossa nähtävästi ihmeellisiin tekoihin pystyvien sovellusten käsinkosketeltavat, tuotantovälineiden ja raaka-aineiden suhteisiin sekä tietotekniseen arkkitehtuuriin liittyvät edellytykset, erityispiirteet ja reunaehdot piilotetaan näkyvistä. Ne ovat taitavia siinä mitä tekevät, mutta mitä ne itse asiassa tekevätkään, millä ehdoin ja millä seurauksilla, ovat aiheellisia jatkokysymyksiä.
Luodakseen niin taitavaan tekstinennustukseen kykenevän ohjelman, joka saa aikaan läpipääsyyn oikeuttavia college-esseitä, huonoa tai keskinkertaista mainos-copya ja jäljitelmänovelleja, on OpenAI:n tapaisen yrityksen pitänyt troolata teratavuittain internet-sisältöä ohjelmistonsa koulutusdatan pohjaksi. Tämän yritykset tekevät esimerkiksi tekijänoikeudellisista kysymyksistä välittämättä. The Telegraph -lehden mukaan OpenAI jopa hiljattain myönsi, ettei ChatGPT:n vaatimaa dataa ole mahdollista koostaa ilman tekijänoikeuden piiriin kuuluvaa materiaalia. Ainakaan toistaiseksi tästä datasta ei ole maksettu korvausta tekijänoikeuksien haltijoille, ja yritys pitääkin tekijänoikeuksiin liittyvää säännöstelyä uhkana toiminnalleen.17Titcomb & Warrington 2024.
Jos asiat jatkuvat kuten tähän asti, uhkaa sovellusten käyttö siis enenevissä määrin luovien alojen työntekijöitä. Heidän työnsä hedelmiä käytetään opetusdatana, jonka pohjalta tuotetaan luovaa sisältöä samoja kirjoittajia ja taiteilijoita potentiaalisesti työllistäville yrityksille, huomattavasti ihmistyötä halvemmalla. Esimerkiksi kielenoppimissovellus Duolingo on jo siirtynyt suurten kielimallien hyödyntämiseen oppimissisältöjä luodakseen, minkä seurauksena yritys saneerasi 10 % sisällöntuottajistaan18Ford & Lung 2024..
On hyvä myös muistaa, että jotta ChatGPT:n tuottamat esseet, nettisivujen täytetekstit ja fiktio eivät olisi täynnä netin syvyyksien kammottavinta kuonaa – lapsipornoa, väkivaltasisältöä, vihapuhetta – tarvitsee OpenAI alle kahden dollarin tuntipalkalla työskenteleviä kenialaistyöntekijöitä siivoamaan datasettejä mielenterveytensä uhalla19Perrigo 2023.. Suomessa taas sovelluksia kouluttavat vangit, ainakin rakennusalan teknologiasovelluksia kehittävälle Metroc Oy:lle20Rikosseuraamuslaitos 2022.. Kummassakin tapauksessa voidaan pohtia, mitä tällaisen työn länsimaisia keskipalkkoja seuraava hinnoittelu tekisi toiminnan kannattavuudelle.
Näihin työn ja sen tekemisen valtasuhteisiin liittyvien seikkojen lisäksi myös tekoälysovellusten resurssi-intensiivisyys jää taktisesti ihmeenomaisen käyttöliittymäkokemuksen peittämäksi. Sekä kielimallit että muut generatiivista laskentaa hyödyntävät sovellukset vaativat suuret määrät laskentatehoa ollakseen tehokkaita ja tullakseen saumattomaksi osaksi arkeamme. Niiden käyttämä laskenta tapahtuu serverisaleissa, joihin on kytketty rinnakkain sadoittain nopeita näytönohjaimia, joista jokainen kuluttaa satoja watteja energiaa. Googlen ja California-Berkeleyn yliopiston tutkijoiden mukaan pelkästään ChatGPT-3-kielimallin kouluttaminen kulutti yhtä paljon sähköä kuin 360 yhdysvaltalaistaloutta vuodessa21Pahwa 2023.. Lampun henki, joka säästää meiltä vaivan laatia sähköpostiviesti esihenkilöllemme tai päästää meidät runouden kirjoittamisen ikeestä, saadaan koneeseen vuoria siirtämällä.
Asiat ovat asioita: Banaalin vastarinnan mahdollisuuksia
William Gibsonin Neurovelho-romaanin (1991) lopuksi päähenkilö Case on vapauttanut sveitsiläiselle serverille kahlitun ihka oikean tekoälyn ja yrittää tivata tältä, mikä on muuttunut. Mikä merkitys on sillä, että tekoälystä on tullut yhtä koko kyberavaruuden matriisin kanssa ja se voi toteuttaa itseään haluamallaan tavalla? Romaanin suomennoksessa on tähän päivään asti säilynyt käännösvirhe, jossa tekoäly vastaa asioiden olevan toisin, mutta silti pysyvän asioina22”Asiat ovat toisin. Asiat ovat asioita.” Gibson 1991, 278.. Englanninkielisessä alkuteoksessa puolestaan tekoäly kertoo, etteivät asiat ole toisin, ne kun ovat edelleen asioita23”Things aren’t different. Things are things.” Gibson 1984/1995, 316. .
Romaanin loppu on usein tulkittu kommentaarina teknologian ja yhteiskunnallisten valtasuhteiden kehittymisestä: edes ihmeellinen, ihmisen käsityskykyä koetteleva tekoäly ei muuta maailman materiaalisia suhteita, vallan ja vaurauden epätasaista jakaantumista tai ihmisen osaa luomakunnassa. Banaalit asiat pysyvät banaaleina jopa silloin, kun koneen henki tulee keskuuteemme.
Mielenkiintoisella tavalla suomennokseen lipsahtanut virhe ohjaa tulkintaa eri suuntaan. Jos tekoälyn harppaus irti ihmisen asettamista rajoitteista mullistaa kaiken, se siirtää ihmisen syrjään tämän uuden teknologisen olennon alisteiseksi organismiksi – vaikka samalla ihmisen käsityskyvyn piiriin jäävät asiat olisivat kuten ennenkin. Suomennoksen tarjoama tulkinta on humanistinen: eliökunta näyttäytyy hierarkkisena pyramidina, jonka huipulla voi olla vain yksi organismi kerrallaan. Ihmisen ajan lopettaa koneen aika.
Alkuperäisteksti puolestaan edistää posthumanistista katsantoa, jossa eliökunta on välttämättömän moninapainen ja keskinäisriippuvainen. Edes autonominen tekoäly ei muuta näin perustavanlaatuista asiantilaa. Posthumanistisessa tulkinnassa toimijuus ja vallan tuoma vastuu säilyy ihmislajilla, sillä se on kasannut itselleen resurssit muiden lajien elinehtojen määrittelemiseksi. Romaanin tekoäly ei ole erityisen kiinnostunut ihmisen näkökulmasta tai tämän alistamisesta ”korkeamman” älynsä välikappaleeksi – sen sijaan se jättää maapallon taakseen etsiäkseen kaltaisiaan muualta universumista. Jos se jotain kaipaa niin yhteyttä kaltaisiinsa.
Sekä digitaalisen banaalin että demokratiaa uhkaavien kehityskulkujen keskeinen viesti on vaihtoehdottomuus, kertomus siitä, ettei maailmaa voi laittaa toisin. Niin teknologinen kehitys sovelluksesta ja laitteesta toiseen kuin demokratian rajaaminen pois demokraattisista järjestelmistä – kuten populismi, teknokratia ja sivustakatsojuus viime kädessä tekevät – näyttäytyvät vääjäämättöminä prosesseina. Käyttäjä-kansalaisilla on lähinnä mahdollisuus tyytyä osaansa. Banaaleissa nykyoloissa olisikin kysyntää näitä totuttuja totuuksia järkyttävälle visioinnille vailla ”kuka ajattelisi lapsia” -tason moralisointia. Vallalla olevista diskursseista huolimatta on nimittäin edelleen tilausta paikalliselle toiminnalle ja aktivismille, jotka voivat ponnistaa nimenomaan banaalista, digitaalisesta arjesta. Nostetaan lopuksi esiin kolme esimerkkiä.
Vice-lehti raportoi vuonna 2017 yhdysvaltalaisista maanviljelijöistä, jotka ovat tarvinneet yllättäviä keinoja huoltaakseen työlleen elimellisen tärkeitä traktoreja. Ongelmien taustalla ovat John Deere -traktorien älyominaisuudet ja niihin liittyvät käyttöehdot, joiden mukaan korjaus- ja huoltotoimenpiteitä traktoreille saa suorittaa vain valtuutettu yhtiön edustaja. Jutussa nebraskalainen Kevin Kenney kertoo esimerkkinä, että traktorin vaihteistosta voi kyllä vaihtaa tarvittavat mekaaniset osat, mutta ilman John Deere -teknikon USB-väylää pitkin suorittamaa ohjelmistopäivitystä ei traktoria saa ajettua tallista ulos. Ajoneuvon käynnistäminen on ohjelmallisesti estetty ennen yhtiön eksplisiittistä lupaa, jolla valvotaan käyttöehtojen noudattamista.24Koebler 2017.
Valtuutetun huollon saaminen voikin viljelijöiden mukaan riskeerata heidän liiketoimintansa kannattavuuden, jos traktori vioittuu kriittiseen aikaan, kuten satoa korjatessa. Viljelijät ovatkin pyrkineet lobbaamaan paikallislainsäädäntöä, joka varmistaisi heidän oikeutensa korjata omistamansa tuotantovälineet. Monet ovat tarvinneet dramaattisempia lyhyen aikavälin ratkaisuja ja ostaneet murrettuja John Deere -ohjelmistopaketteja ukrainalaisilta nettifoorumeilta, joilla niitä myydään tarvitseville. Maanviljelijöistä on tullut traktoriensa hakkereita ja ohjelmistopiraatteja voidakseen harjoittaa elinkeinoaan.25Koebler 2017. Hay Newman 2022 raportoi myös, että kyberturvallisuusalan DefCon-konferenssissa nimimerkki Sick Codes esitteli kesällä 2022 myös uuden metodin John Deere -traktorien hakkeroimiseksi niiden käyttöliittymän kautta, eli vastarinnan saaga jatkuu edelleen.
Joulukuussa 2023 Ars Technica puolestaan kertoi puolalaisista Dragon Sector -ryhmän hakkereista, jotka huomasivat Ala-Sleesian rautatieyhtiön operoimien junien sisältävän junavalmistaja Newagin asentaman ohjelmanpätkän, joka esti vetureita käynnistymästä, jos niitä oli huollettu muualla kuin valmistajan konepajoilla. Mystisesti toimimattomia junia huoltaneen SPS-konepajan toimeksiannosta toimeen ryhtyneet hakkerit onnistuivat kuitenkin löytämään ominaisuuden kumoavan komennon, ja junat saatiin takaisin liikenteeseen. Newag on kiistänyt syytökset ja uhannut hakkereita oikeustoimilla, mutta Dragon Sector pitää todisteitaan sen verran vedenpitävinä, ettei usko joutuvansa oikeuden eteen.26Belanger 2023.
Myös tekoälysovellusten haittavaikutukset ovat jo saaneet konkreettisia vastareaktioita osakseen. Chicagon yliopiston Sand Lab -tutkimusryhmä julkaisi tammikuussa 2024 version 1.0 myrkkykoison mukaan nimetystä Nightshade-ohjelmasta, jonka tarkoituksena on sananmukaisesti myrkyttää kuvageneraattorisovellusten koulutusdataa. Ohjelman kohderyhmänä ovat taideteoksiaan digitaalisesti esittelevät taiteilijat, jotka voivat käyttää sitä pilaamaan teoksia lukevien kuvantunnistusalgoritmien syötteet. Siinä missä ihmissilmä näkee Nightshadella varjostetussa kuvassa esimerkiksi lehmän, tulkitsee algoritmi ohjelman huijaamana lehmän tilalle nahkaisen käsilaukun. Ajan myötä ja riittävän suurissa määrin manipuloitu data vaikuttaa algoritmien syötteisiin ja tekee kuvageneraattoreista epäluotettavampia. Kehittäjät kuvailevat Nightshadea ”hyökkäystyökaluksi”, jolla taiteilijat joukkona voivat taistella töidensä luvatonta troolausta vastaan.27Shan ym. 2023b. Sama tiimi kehittelee myös Glaze-ohjelmaa. Sillä yksittäiset taiteilijat pystyvät suojaamaan teoksensa sovelluksilta, joilta käyttäjät pyytävät taiteilijan tyylin kopioimista. Esimerkiksi Hilma af Klintin tyyliin tekoälyllä tuotettu kuva saattaisi Glaze-käsittelyn myötä näyttääkin Jackson Pollockilta. Chicagon yliopiston tutkijat myöntävät, että molemmat ohjelmistot eivät välttämättä ole ”tulevaisuuden kestäviä”, kun kuvantunnistusalgoritmeja kehitetään ohittamaan ne. Samaan hengenvetoon he toteavat niiden tarjoavan toistaiseksi parhaan suojan (ja aseen) taiteilijoiden käyttöön luvatonta datankeruuta ja tekoälyavusteista plagiointia vastaan.28Shan ym. 2023a; Shan ym. 2023b.
Kaikissa näissä tapauksissa on ihmeen tuntua, mutta eri syistä kuin kielimallisovellusten kohdalla. Niissä yhdistyvät yksilön ulottuvilla olevan toiminnan, materiaan kohdistuvan ymmärryksen ja tietoteknisen osaamisen ulottuvuudet, joiden kautta banaali digitaalinen ympäristöllisyys on mahdollista – ainakin rajatussa kontekstissa – ottaa haltuun. Niissä lisätään kitkaa saumattomiin käyttökokemuksiin, arkipäiväistyvään ohjelmalliseen hallinnointiin ja näkymättömään datakapitalismin koneistoon. Roine ja Piippo näkevätkin, että tällaiset ”vastakarvaiset … käyttötavat” luovat ”uusia kulttuurisia kuvastoja ja tapoja” sekä nostavat kriittisesti esiin digitaalisten teknologioiden näkymättömyydet. Väärin- ja toisinkäyttäminen tuo heidän mukaansa esiin uusia mahdollisuuksia kriittiselle toiminnalle.29Roine & Piippo 2021, 15.
Samaan tapaan voidaan lähestyä demokratiaa heikentäviä, yhtä lailla olosuhteen omaisia, kehityskulkuja. Teknokraatteja, populisteja tai sivustakatsojuutta edistäviä tahoja ei voi demokraattisesta järjestelmästä demokraattisesti poistaa, mutta järjestelmän vahvuuksia ovat kansalaisten omaan elämänpiiriin kuuluvat vaikuttamismahdollisuudet ja tottelematonkin kansalaistoiminta. Tarjottujen vaikutusmahdollisuuksien lukeminen vastakarvaan ja kitkan lisääminen näkymättömissä toimiviin hallintamekanismeihin ovat omiaan demokratian lisäämiseksi digitaaliseen, banaaliin arkeemme.
