Hva truer menneskeheten med databehandling av hele livet vårt

2024 Forfatter: Seth Attwood | [email protected]. Sist endret: 2023-12-16 16:13

Smarttelefoner, roboter og datamaskiner gjør livet vårt enklere, men kanskje vi mister noe på dette? Reporteren snakket med den amerikanske forfatteren Nicholas Carr om farene og til og med truslene ved overautomatisering.

Det er en utbredt oppfatning at automatisering av alt og alle forbedrer livskvaliteten. Datamaskiner hjelper oss med å oppnå topp ytelse. Programvareapplikasjoner gjør oppgaver raskere og enklere. Roboter tar på seg det kjedelige og harde arbeidet. Den konstante strømmen av innovasjoner fra Silicon Valley forsterker bare folks tro på at nye teknologier gjør livet bedre.

Det er imidlertid en annen mening. Forfatteren Nicholas Carr utsetter postulatene til den moderne digitale verden for en upartisk analyse. Essayet hans «Does Google Make Us Stupid?», publisert i Atlantic i 2008, er fortsatt kontroversielt, og det samme er bestselgeren hans fra 2010, The Shallows.

Tilhengere av teorien om at teknologi vil redde vår verden ser på Carr som en av deres mektigste motstandere. Og de som er på vakt mot konsekvensene av teknologisk fremgang for menneskeheten respekterer den for dens balanserte argumentasjon.

Nå er Carr interessert i et nytt spørsmål: skal vi være redde for at det gradvis ikke blir noen vanskelige oppgaver for oss i verden? Vil livene våre bli for effektive takket være ny teknologi?

Jeg møtte forfatteren for en stund tilbake for å snakke om den nye boken hans, The Glass Cage: Automation and Us, og hva som fikk ham til å skrive den.

1. Avlive hovedmyten om nye teknologier

Tom Chatfield:Hvis jeg forstår det rett, prøver du i boken «Glassburet» å avlive myten om at forenklingen av livene våre takket være teknologiske fremskritt nødvendigvis er et positivt fenomen.

Nicholas Carr:Både på det personlige og institusjonelle nivået er vi vant til å tenke at effektivitet og komfort er bra som standard, og å maksimere dem er absolutt et verdig mål. Det virker for meg som om denne tilnærmingen til teknologi i alle dens former, spesielt i form av dataautomatisering, er ganske naiv. Dette gjelder også våre egne ønsker og virkelige liv i den moderne verden.

Vil datamaskiner noen gang erstatte mennesker?

T. Ch.:Og likevel holder de fleste tilhengere av teknologisk fremgang det utilitaristiske synspunktet, ifølge hvilket de største feilene vi gjør skyldes forsømmelse av effektivitet og logikk, og faktisk vet vi ikke selv hva som er bra for oss. Derfor, fra deres synspunkt, er oppgaven med teknologisk fremgang å identifisere manglene ved menneskelig tenkning, og deretter lage systemer som vil kompensere for disse manglene. Er denne oppfatningen feil?

N. K.: På den ene siden har mange innovasjoner innen utvikling av datateknologi og utvikling av automatiserte systemer ingenting å gjøre med den feiende påstanden om at mennesker er svært ufullkomne sammenlignet med datamaskiner. Ja, en datamaskin kan programmeres til å utføre visse operasjoner på ubestemt tid med jevn kvalitet. Og det er sant at en person ikke er i stand til noe slikt.

Men noen går enda lenger og hevder at folk er for ufullkomne, at deres rolle bør begrenses så mye som mulig, og datamaskiner bør stå for alle de grunnleggende oppgavene. Dette handler ikke bare om å prøve å kompensere for menneskelige mangler - ideen er å fjerne den menneskelige faktoren helt, som et resultat av at livet vårt vil bli mye bedre, hevdes det.

T. Ch.: Det ser ut til at dette ikke er den beste ideen. Er det et optimalt nivå av automatisering?

N. K.: Etter min mening er ikke spørsmålet om vi trenger å automatisere denne eller den komplekse oppgaven. Spørsmålet er hvordan vi bruker automatisering, hvordan vi nøyaktig bruker datamaskiner for å supplere menneskelig kunnskap og ferdigheter, kompensere for feil i menneskelig tenkning og atferd, og også for å stimulere folk til å få mest mulig ut av sin egen erfaring for å nå nye høyder.

Vi blir til overvåkere på dataskjermer

Overdreven avhengighet av programvare kan gjøre oss til dataovervåkere og prosessflytoperatører. Datamaskiner kan spille en veldig viktig rolle fordi vi bare er mennesker – vi kan bli offer for fordommer eller gå glipp av viktig informasjon. Men faren er at det er for lett å sette ut alle funksjonene våre til datamaskiner, noe som etter min mening ville være feil avgjørelse.

2. Trenger du å bringe det virkelige liv nærmere scenariet til et videospill?

T. Ch.: Jeg var glad for å legge merke til at du i boken din nevner videospill som et eksempel på menneske-maskin-interaksjon, der poenget er å overvinne vanskeligheter, ikke unngå dem. De mest populære spillene er et slags arbeid som gir spilleren en følelse av tilfredshet. Vi kan bare klage over at arbeidet som mange av oss må gjøre hver dag krever mye mindre dyktighet og gir oss mye mindre glede.

Videospill stimulerer spilleren til å anstrenge seg ekstra og bruke hjernen så mye som mulig

N. K.: Videospill er interessante ved at konseptet deres strider mot de allment aksepterte prinsippene for å lage programvare. Formålet med dataspill er slett ikke å avlaste brukeren for ulempen. Tvert imot stimulerer de spilleren til å anstrenge seg ekstra og bruke hjernen så mye som mulig. Vi liker videospill nettopp fordi de utfordrer oss med stadig økende utfordringer. Vi befinner oss hele tiden i vanskelige situasjoner – men ikke i situasjoner som forårsaker fortvilelse. Å overvinne hvert nytt nivå forbedrer bare ferdighetene våre.

Denne prosessen er veldig lik hvordan en person får livserfaring i det virkelige liv. Som vi vet, for utvikling av evner, må en person møte alvorlige hindringer igjen og igjen og overvinne dem om og om igjen, ved å bruke all sin kunnskap og ferdigheter. Gradvis når en person et nytt nivå, hvoretter kompleksiteten til hindringene øker.

Jeg tror folk elsker videospill av samme grunn som de får tilfredsstillelse av å få nye erfaringer og overvinne hindringer. Løsningen av en vanskelig oppgave, i prosessen med hvilken ny kunnskap er tilegnet, nødvendig for å overvinne nye, enda mer komplekse vanskeligheter, gir en person stor glede.

Total underkastelse til datamaskinen vil føre oss til et liv der det vil være lite rom for selvrealisering

En av hovedbekymringene som jeg gir uttrykk for i boken er at vår holdning til fremskritt er forbundet med ønsket om å unngå å løse vanskelige problemer i størst mulig grad. Det virker for meg som om dette synspunktet motsier selve begrepet livstilfredshet og selvrealisering.

3. Vil datamaskiner eliminere behovet for mennesker?

T. Ch.: I motsetning til videospill, i den virkelige verden, blir hardt arbeid ikke nødvendigvis belønnet. Den virkelige verden er urettferdig og ubalansert. Den kanskje mest urovekkende trenden her er at interessene til individet (psykologisk, personlig og til og med når det gjelder overlevelse) i økende grad faller ut av samsvar med bedriftens og myndigheters forestillinger om hensiktsmessighet. Frykter du at datamaskiner endelig skal erstatte mennesker?

Mange spill er vanskelige å passere og krever uvanlige ferdigheter og oppfinnsomhet fra spillere. Så hvorfor skulle resten av teknologien bare gjøre livet vårt enklere?

N. K.: Da jeg samlet materiale til boken, ble jeg veldig skremt av en artikkel (sitater fra som jeg siterer i teksten), skrevet av en spesialist i militær strategi. Ifølge ham, gitt den økende omfanget av bruken av datateknologi på slagmarken, kan det ganske snart ganske enkelt ikke være plass til en person i militære anliggender. Beslutningshastigheten har vokst så mye at folk rett og slett ikke kan holde tritt med datamaskiner. Vi beveger oss uunngåelig mot helautomatisert krigføring: ubemannede luftfartøyer vil selv bestemme når de skal skyte missiler mot mål, og robotsoldater på bakken vil selv bestemme når de skal skyte.

Etter min mening observeres denne situasjonen ikke bare i militære anliggender, men også på mange andre områder - for eksempel i finansverdenen. Folk henger rett og slett ikke med datamaskiner når de for eksempel handler med finansielle instrumenter.

Hva venter oss? Vi kan ikke bare miste evnen som skiller oss fra datamaskiner for kritisk vurdering av våre egne handlinger - kanskje vil vi implementere slike systemer tankeløst, og tro at hovedsaken er hastigheten på beslutningsprosessen. Og så, hvis vi er overbevist om at vi tok feil, vil vi finne at det ikke er noen vei tilbake. Svært ofte viser det seg å være umulig å integrere en person i et system som opprinnelig er bygget på datateknologi.

T. Ch.: Jeg ble også forferdet da jeg leste en passasje i boken din om automatisert krigføring. Jeg fikk følelsen av at prosessen som vil føre oss til fullt autonome kampsystemer ikke kan stoppes. En del av redselen min kommer fra minnene om finanskrisen i 2008, som nesten utslettet billioner av dollar. Nå er i hvert fall folk mer ansvarlige for sin økonomi. Men hvis dette skjer i den militære sfæren, vil ikke dollar bli ødelagt, men menneskeliv.

En fremtid uten mennesker?

N. K.: Det er ikke bare det at nye teknologier, spesielt programvareteknologier, i dag kan replikeres og distribueres veldig raskt. Poenget er at alle disse prosessene foregår i et konkurranseutsatt miljø. Enten vi snakker om et våpenkappløp eller forretningskonkurranse, så snart en av rivalene oppnår en kortsiktig fordel på bekostning av en eller annen teknologi, blir denne teknologien umiddelbart introdusert der det er mulig - fordi ingen ønsker å være på et ulempe.

Jeg tror det i denne situasjonen er for lett å miste av syne det faktum at vi egentlig er dyr. Mennesker har gått gjennom en evolusjonær vei i årtusener for å kunne leve og overleve. Menneskehetens rolle, så vel som våre følelser av tilfredshet og selvrealisering, er nært knyttet til vår opplevelse av å leve i en verden som setter vårt vanlige tempo.

Derfor, når vi motsetter en person, med alle hans fysiske fordeler og ulemper, til en rask og nøyaktig datamaskin, er det et ønske om å gi opp hele livet til datamaskiner. Vi glemmer imidlertid at total underkastelse til datamaskinen vil føre oss til et liv der det vil være lite rom for selvrealisering.

4. Hvordan automatiserer vi verden?

T. Ch.: Jeg mener vi må være kritiske til ny teknologi, men jeg er bekymret for at folk gjør unødvendige vanskeligheter og antiteknologisk «ekthet» til en fetisj. Det er en slik moderne tankegang som hyller hardt fysisk arbeid og hevder at alt vi gjør må være håndverksmessig og autentisk. Etter min mening lukter en slik posisjon av snobberi og tar ikke hensyn til det enorme antallet positive prestasjoner som demokratiseringen av teknologisk fremgang har ført med seg.

N. K.: Jeg er helt enig med deg. I et intervju ble jeg spurt om hvordan min forsiktige holdning til fremskritt ville hjelpe for eksempel folk som jobber under tøffe forhold ved kjøttforedlingsanlegg. Jeg svarte at det selvfølgelig alltid vil være et sted for automatisering av produksjonen hvor arbeidsforholdene til mennesker må forbedres. Det er bare det at du kan innovere smart, eller du kan gjøre det tankeløst; vi kan finne en måte å ta hensyn til verdien av menneskelig erfaring og viktigheten av selvrealisering, eller vi kan rett og slett hylle datamaskinenes evner. Å ta det riktige valget er ikke lett. Hvis vi oppfatter denne oppgaven utelukkende svart på hvitt - enten vi blindt står opp for hardt, utmattende fysisk arbeid i alle situasjoner, eller omvendt ser meningen med livet i sybarisme - vil dette ikke hjelpe saken.

Det vanskeligste og mest krevende arbeidet med eksepsjonell presisjon overlates best til maskiner

Folk skaper og bruker hele tiden verktøy. Fra uminnelige tider må vi ta beslutninger knyttet til arbeidsdeling, med fordeling av arbeidsmengden mellom en person og verktøyene han har til rådighet. Og det virker for meg at den fantastiske effektiviteten til datamaskiner i å utføre et bredt spekter av oppgaver bare kompliserer prosessen med å ta slike beslutninger.

5. Hva venter oss?

T. Ch.: Så beveger menneskeheten seg mot suksess?

N. K.: Naturhistoriker Thomas Hughes, som gikk bort i fjor, foreslo konseptet «teknologisk fremdrift». Han mente at teknologier innebygd i sosiale strukturer og prosesser begynner å utvikle seg av seg selv, og drar samfunnet med seg. Det er godt mulig at banen vår allerede er satt og at vi vil fortsette på vår nåværende vei, uten å stille spørsmål om vi beveger oss i riktig retning. Jeg vet virkelig ikke hva som kommer til å skje. Det meste jeg kan gjøre er å prøve å resonnere rundt disse virkelig vanskelige spørsmålene etter beste evne.

Jeg håper at vi, som individer og som medlemmer av samfunnet, vil være i stand til å opprettholde et visst nivå av forståelse for hva som skjer med oss, samt et visst nivå av nysgjerrighet, og vil ta beslutninger basert på våre langsiktige interesser, og ikke på grunnlag av våre vanlige konsepter om bekvemmelighet, hastighet, nøyaktighet og effektivitet.

Dagen vil komme, og roboter vil befri oss for alle vanskeligheter. Trenger vi det?

Det virker for meg som om vi må strebe etter å sikre at datamaskiner beriker livserfaringen vår og åpner nye muligheter for oss, og ikke gjør oss til passive observatører av skjermer. Jeg tror fortsatt at hvis vi får mer ut av nye teknologier, vil de kunne gjøre det teknologi og verktøy har gjort gjennom menneskets historie – skape en mer interessant verden rundt oss og hjelpe oss til å bli bedre selv. Til syvende og sist avhenger alt av oss selv.