Suuret teknologiayhtiöt rakensivat biljoonien dollarien imperiumit muuttamalla henkilökohtaisen elämämme kauppatavaraksi. Tekoäly tehostaa niiden valvontakapitalismin liiketoimintamallia integroitumalla työkaluihin, joita käytämme päivittäin – usein antamatta meille selkeitä selityksiä tai mahdollisuutta kieltäytyä.

Tehokkaat suuret kielimallit (LLM:t) keräävät entistäkin yksityiskohtaisempaa dataa ja päättelevät teistä enemmän kuin aiemmin oli kuviteltavissa. Tekoälyä integroidaan laajaan valikoimaan alustoja(uusi ikkuna), hausta valokuvien tallennukseen ja jopa laitteenne käyttöjärjestelmään, mikä tekee tämän tiedonkeruun seuraamisesta, saati siihen suostumisesta, vaikeampaa. Tämä puolestaan antaa Googlen, Metan ja Microsoftin kaltaisille yrityksille mahdollisuuden rakentaa kattavampia henkilökohtaisia profiileja, hyötyä enemmän datasta ja käyttää enemmän valtaa näkemäänne informaatioon ja narratiiveihin.

Nämä yritykset voivat jakaa tai myydä yksityisiä tietojanne tietojen välittäjille ja muille kolmansille osapuolille. Hallitukset voivat päästä käsiksi tähän dataan haasteiden kautta(uusi ikkuna) tai vieläkin salaisempien valvontamuotojen avulla. Ja henkilötietoja voi paljastua tietovuodoissa, kuten on tapahtunut yhä(uusi ikkuna) ja uudelleen(uusi ikkuna) palveluissa kuten ChatGPT.

Tuloksena on nopea ja laajamittainen tiedonkeruu, jossa yrityksillä on entistä vähemmän kontrollia suostumuksen hankkimiseen tai teknologian seurausten harkitsemiseen. Tekoälyä ympäröivät tietosuojalait ovat tunnetusti kaukana alan kehityksestä(uusi ikkuna).

Tarvitsemme kiireellisesti yksityisen vaihtoehdon, minkä vuoksi rakensimme uuden luottamuksellisen tekoälyavustajan, Lumon(uusi ikkuna), joka ei pidä mitään kirjaa keskusteluistanne. Tallennetut keskustelunne ovat vain teidän saatavillanne, suojattuna nollatietosalauksella. Datanne suhteen teillä on valinta – mutta useampien ihmisten on ymmärrettävä nykytilanteen riskit.

Tekoäly tekee suurista teknologiayhtiöistä entistä voimakkaampia

Tekoäly mahdollistaa Googlen ja Metan nykyisten monopolien skaalaamisen ja vakiinnuttamisen, erityisesti mainonnassa ja henkilötietojen hyödyntämisessä, mutta paljon nopeammin ja suuremmassa mittakaavassa.

Esimerkiksi Meta integroi tekoälyä syvällisesti elvyttääkseen mainosliiketoimintaansa, skannaten julkaisujanne ja jopa lisäten Meta AI:n(uusi ikkuna) päästä päähän salattuihin chat-tuotteisiinsa, kuten WhatsAppiin, ilmeisenä yrityksenä imeä enemmän henkilötietoja alustalta. Google on siirtynyt tekoäly edellä mainosliiketoiminnassaan(uusi ikkuna), joten jokainen mainos on optimoitu manipuloimaan teitä henkilökohtaisesti. Ja Googlen Gemini on nyt syvästi integroitu koko sen ekosysteemiin, antaen sen tekoälylle vapaat kädet kerätä dataa Android-puhelimista ja Google-sovelluksista.

Tekoäly on samanlaista kuin haku, mutta paljon intiimimpää ja syvemmälle juurtunutta elämäänne. Siinä missä hakuseuranta käyttää yksinkertaisia kyselyitä ja klikkauksia ennustaakseen kiinnostuksen kohteitanne, tekoäly käyttää luonnollisen kielen käsittelyä ja jopa kuvantunnistusta ennustaakseen brändit, viestit, tunteet ja kuvaston, jotka resonoivat syvimmin kanssanne. Jotkut ihmiset jopa sitoutuvat tunnetasolla(uusi ikkuna) tekoälychatbotteihin, koska ne pystyvät jäljittelemään inhimillistä yhteyttä niin tarkasti – jotain, mitä ei koskaan tapahtunut hakukoneiden kanssa.

Yksi mainostoimisto kerskuu(uusi ikkuna), että tekoälypohjainen mainonta on “järisyttävä muutos”, joka antaa asiakkaille vallan “mitata tunteita ja mieltymyksiä” ja jopa “käsitellä visuaalista dataa, kuten kuvia ja videoita, tunnistaakseen tuotemerkkien logot ja tuotteiden käytön, mahdollistaen kontekstisidonnaisen mainonnan kohdistamisen.” Kuvitelkaa, jos kauneudenhoitotuotteet voisivat kohdistaa mainontaa lapseenne hetkellä, jolloin hän ilmaisee ahdistusta ystävälleen, tai jos poliitikot voisivat käyttää tekoälyoptimoituja mainoksia hyväksikäyttääkseen äänestäjien yksityisiä pelkoja.

Suuret teknologiayhtiöt ovat jo voimakkaampia kuin hallitukset – kuvitelkaa, mitä ne voisivat saada aikaan hillittömällä tekoälyllä.

Keskustelunne vuotavat

Yksityisyytenne on vaakalaudalla, mutta niin on myös turvallisuutenne. Tekoäly luo massiivisen, keskitetyn varannon intiimeistä tiedoista, jotka ovat yhä alttiimpia paljastumaan monin eri tavoin.

Näin on jo tapahtunut:

Aina kun henkilötietoja tallennetaan ilman päästä päähän tai nollatietosalausta yrityksen palvelimille, nuo tiedot ovat vaarassa vuotaa. Chat-lokit ovat uskomattoman houkutteleva kohde hakkereille – ja hallituksille. Yhdysvaltalainen tuomioistuin on jo määrännyt OpenAI:n säilyttämään kaikki käyttäjien chat-lokit(uusi ikkuna) (mitä vastaan yritys parhaillaan taistelee). Tuo data olisi silloin hallituksen saatavilla pyynnöstä. Yhdysvalloilla on jo useita menetelmiä vakoilla käyttäjiä salaa, luvattomista kuunteluista tietopyyntöihin, joita suurten teknologiayhtiöiden on noudatettava.

Mitä enemmän dataa tekoälyjärjestelmät imevät, sitä enemmän ne riskeeraavat sen paljastumisen, olipa kyse sitten vahingossa tapahtuvista vuodoista, puolueellisista tulosteista tai hallituksen painostuksesta.

Kyse ei ole vain datasta – kyse on vaikutusvallasta

Tämä on luultavasti sanomattakin selvää: Yritykset ja poliittiset toimijat, jotka kohdistavat teihin mainoksia, eivät aja teidän etuanne.

Tekoäly vie tuon manipuloinnin aivan uudelle tasolle. Toisin kuin joukkoviestintä, jonka voitte valita jättää huomiotta, tekoäly on kudottu jokapäiväiseen elämäänne – vastaten kysymyksiinne ja tarjoten sovelluksen sisäisiä ehdotuksia, joita ette edes halunneet. Se ei ole vain reaktiivista; se on proaktiivista. Ja kun sen ovat rakentaneet yritykset tai sitä hyödyntävät hallitukset, joilla on tietyt agendat, se tekee siitä uskomattoman voimakkaan ja vaarallisen.

Näemme jo, miltä se näyttää. Kiinassa DeepSeekin on osoitettu välttävän tai poistavan poliittisesti arkaluonteisia aiheita. Kysykää Taivaallisen rauhan aukion mielenosoituksista, niin törmäätte seinään(uusi ikkuna) – ei siksi, että tekoäly ei tietäisi, vaan koska sen lainkäyttöalue tarkoittaa, ettei se saa kertoa teille.

Tämä ei ole vain Kiinan ongelma. Elon Muskin Grok-chatbot herätti kummastusta ottamalla selkeitä poliittisia kantoja(uusi ikkuna) ja tarjoamalla villisti erilaisia tuloksia riippuen siitä, miten sen sisäinen “säädin” oli asetettu. Sen on myös havaittu kysyvän neuvoa Muskin omista mielipiteistä(uusi ikkuna) aiheesta ennen vastauksen jakamista. Tämä osoittaa, kuinka tekoälyn ohjausta voidaan muokata ajamaan tiettyjä näkemyksiä, hienovaraisesti tai ei, mikä tulee olemaan yhä ongelmallisempaa, kun luotamme enemmän tekoälyyn koulutuksessa ja tiedonhankinnassa tarkistamatta ensisijaisia lähteitä.

Joten jos tekoäly muokkaa sitä, mitä näette, mitä ajattelette ja miltä teistä tuntuu, kuka päättää, minkä version totuudesta saatte?

Ihmisille, ei voitolle rakennettu tekoäly

Jos haluamme tekoälyn, jota eivät muokkaa suuret teknologiayhtiöt tai autoritaarinen politiikka ja joka suojaa dataanne hakkereilta ja vuodoilta, meidän on rakennettava jotain erilaista. Se tarkoittaa yksityisten, riippumattomien tekoälytyökalujen tukemista ilman salattuja motiiveja tai piilotettuja agendoja.

Lumo on askel siihen suuntaan. Se on rakennettu Euroopassa ilman Piilaakson sijoituksia tai ulkomaista valvontaa, ja sitä valvoo voittoa tavoittelematon Proton Foundation, jonka sääntöjen mukaan sen on edistettävä yhteisömme yksityisyyttä. Koska yrityksemme perustivat tutkijat, jotka tapasivat CERNissä vuonna 2014, olemme olleet yksinomaan käyttäjiemme, emme sijoittajien tai mainostajien, rahoittamia. Tämä varmistaa, että arvomme ja missiomme pysyvät linjassa palvelemiemme ihmisten kanssa.

Suunnittelimme Lumon oletusarvoisesti yksityiseksi, mikä tarkoittaa, ettei se pidä chat-lokeja, ja keskustelunne tallennetaan nollatietosalauksella, joten vain te näette ne. Lumo on myös rakennettu avoimen lähdekoodin mallien päälle, eikä dataanne käytetä koskaan tekoälyn kouluttamiseen.

Lumo on vasta alkua. Jos haluamme tulevaisuuden, jossa tekoäly palvelee ihmisiä – ei voittoa, ei valtaa – meidän on vaadittava sitä. Valitsemalla yksityisiä vaihtoehtoja tänään autatte muovaamaan internetiä, joka on läpinäkyvämpi, demokraattisempi ja oikeuksianne kunnioittavampi. Työkalut ovat täällä. Valinta on teidän.

Aloita yksityinen keskustelu(uusi ikkuna)