Perspektiver av "iskin" i forvaltningen av menneskeheten

2024 Forfatter: Seth Attwood | [email protected]. Sist endret: 2023-12-16 16:13

Hva skjer hvis du stoler på at kunstig intelligens kontrollerer folk? I vårt lovverk motsier 99 % av lovene hverandre. Logisk sett burde det være en kollaps av makt og stopp av kontrollsystemet …

La oss nå tenke på stedet det kunstig intelligens(heretter - iskin) vil ta inn i livet vårt når (hvis) det er oppfunnet og brukt. Jeg foreslår å ikke krangle om dens indre natur. La det bare være en veldig avansert algoritme som har evnen til å jobbe med Big Data, og som er i stand til på samme måte å kopiere atferdsmønstrene til ekte mennesker. Men, hvis du vil, la det som diskuteres være en ekte mann, slik du selv forstår det.

Hovedspørsmålet her er dette. Hvor bruker vi denne Hammer of Thor når vi mottar den? Og i prinsippet er det ingen tvil om at det kan lages. Vi kan gjøre digitale kverner, selvlærende algoritmer også, stor dato akkumulert - alt er der.

Si, i forvaltningen av tekniske systemer, for eksempel individuelle transportenheter? – Vel, kamon … Hvorfor lage et smart og komplekst system for å betro det det hesten kan takle? Det vil være nok og en primitiv algoritme på en prosessor for 10 dollar per bøtte, problemet med transportledelse er kun i innhenting av data og i etiske spørsmål. Hva da? Tenk på femten sekunder.

Etter min mening er det bare én den virkelige tingen for en iskin er å administrere mennesker … Mer presist prosessene der mennesker er en del. Det er ingen vits i å bytte for mindre av en rekke årsaker. Hver person er klar til å administrere mennesker uten spesiell opplæring. For eksempel stoler vi helt på at alle skal styre våre egne barn. Dessuten hadde nesten alle i teamene minst en viss ledererfaring. I det minste på nivået "kast en spade til i båren, så skal vi bære den." Hvis alle en person er i prinsippet i stand til å administrere mennesker, da må en AI kunne gjøre dette, ellers er det et psykisk svekket intellekt.

Imidlertid er resultatene av å administrere mennesker langt fra ideelle. Enhver reell kontroll er en rekke feil og unøyaktigheter. Dessuten avhenger nesten ikke antall feil av nivået til lederen; det er en viss konstant. Det er bare det at formannen for lasterne gjør mindre feil, og sysselmannen gis rett til å gjøre feil som medfører alvorlige konsekvenser. Vi forstår dette. "Vi burde ha gjort feil" er hovedresultatet av refleksjonen av omverdenen, inkludert oss selv.

Og nå, i våre hender er en AI som er ment å "gjøre det". Og vi vil umiddelbart bruke det, fordi problemet som det teoretisk kan løse er det viktigste. Og Jamshut med tre utdanningsklasser er også i stand til å kjøre lastebil.

Hvis du er enig med meg i dette, la oss fortsette å presentere funksjonaliteten til den kunstige huden ment å håndtere. Hvem sine funksjoner skal han utføre, hvem skal han erstatte eller i det minste styrke med sine beslutninger?

Det er klart at dette vil være tjenestemenn (både i offentlig forvaltning og i næringslivet). Tjenestemenn tar avgjørelser. Tjenestemenn er akseptert på alle kompetansenivåer. Tjenestemenn er viktige og nødvendige i dag, fordi avgjørelser vil ikke ta seg selv. Men det er ett poeng.

La oss se på hver leder (det vil si hver tjenestemann) fra synspunktet om det bokstavelige innholdet i hans praktiske aktiviteter. Men ikke i betydningen hans motivasjoner – arketypen av motivasjoner burde liksom ikke være det. En tjenestemann enten godkjenner transaksjoner eller kansellerer transaksjoner godkjent av en annen tjenestemann.

I en ideell maskin må alle transaksjoner være ubetinget godkjent og ingen transaksjoner kan kanselleres fordi de tidligere var lovlig godkjent. En viktig faktor i dette systemet er at transaksjoner sendes til tjenestemannen fra den "svarte boksen" for vurdering. Han får ingen forklaring på hvorfor en slik transaksjon skal gjennomføres eller hvorfor den ble godkjent av en annen tjenestemann. Kontrollsystemet er bygget opp som følger. Ovenfor kommer en ordre i form av en instruks om å gjennomføre en rekke transaksjoner.

Merk at den ideologiske strukturen til et slikt system ikke i det hele tatt innebærer muligheten for å kansellere (ikke godkjenne) en transaksjon mottatt ovenfra, fra den "svarte boksen". Men i praksis eksisterer en slik mulighet alltid. Og det er hun som sørger for to viktigste ting: makten til enhver tjenestemann og inneslutningen av slik makt.

La meg forklare at enhver feil (vi sa ovenfor at de er uunngåelige og permanente) kan oppløses i opposisjonen til de underliggende byråkratiske massene, så kan konsekvensene av feilen minimeres.

Imidlertid bør det ikke være noen feil i et teoretisk ideelt styringssystem, av denne grunn reduseres rollen til en tjenestemann til formell godkjenning av transaksjoner, som han ikke kan annet enn å godkjenne, fordi de er korrekte. Det vil si at det ikke er behov for det. Så spørsmålet koker ned til det første styringssignalet. Hvis det er riktig, så er det ingen mening i alle de lavere nivåene.

Så i teorien burde det konsoliderte budsjettet til staten fungere. Når det er akseptert, betyr det at hele dens fraktale essens blir avslørt. Hver kapillær må motta den tildelte delen av blod, og som svar - det tiltenkte resultatet. Ja, helt nederst er det «men vi leverte ikke betong i tide, og derfor …» Men unnskyld meg, dette er helt nederst, og kontrollapparatet består av mange nivåer som ikke berører betongen i det hele tatt driver de med transaksjoner. Jeg forstår at på mellomnivåene "betong ble ikke levert" ser annerledes ut, som "visepresidenten for kosmodromkonstruksjonen stjal 100 millioner, og derfor …" Jeg snakker om en ideell ordning her.

La oss gå tilbake til vår ideelle hud. Tross alt, i denne oppgaven må han løse de samme problemene - godkjenning eller forbud mot transaksjoner. Og det kan han! Først nå vil han alene kunne erstatte alle ledelsesnivåer samtidig. Tross alt, hvis han erstatter ministeren og godkjenner en stor transaksjon på ministernivå, bør avgjørelsen hans anerkjennes som riktig. Og det inkluderer analysen av hele den videre distribusjonen av en stor transaksjon frem til betalingen av IP Pupkin for å reparere verandaen til det psykiatriske sykehuset i Kineshma.

Så hele kjeden av tjenestemenn som er forpliktet til å godkjenne transaksjoner på lavere nivåer som følger fra det første, kan trygt erstattes med den samme AI-algoritmen. Problemet er allerede løst, helt ned til bunnen. Vår AI trenger ikke engang å brukes til å erstatte hele kjeden, AI kansellerer ganske enkelt behovet for det. Avgjørelsen hans er sann fordi den er riktig. Og det inkluderer umiddelbart løsninger for hele fraktalen.

Bemerke. Enhver underordnet tjenestemann i vår virkelige verden kan være smartere enn en høyere. Da vil han sabotere beslutningene til sjefen, og så vil han hjelpe ham. Dette er alltid tilfelle. Alle eksisterende funksjonærer tar plassene til sine tidligere overordnede, bortsett fra startnivået. Men i dette tilfellet er konkurranse uaktuelt. En iskin bestemmer alt langs hele kjeden selv, han kan ikke motsi seg selv.

Dessuten. I vårt styringssystem er det domstoler som vi har gitt fullmakt til å kansellere enhver av våre transaksjoner og utføre sine egne, uavhengig av vår mening om dem. (Å sette en morder i fengsel er også en regelbundet transaksjon. Dommeren her er en tjenestemann som godkjenner eller avbryter en transaksjon som kommer til ham som foreskrevet fra den svarte boksen.) Hvis idioten vår er god, så er han bedre enn tjenestemenn, fordi vi betrodde ham godkjenning eller kansellering av transaksjoner for dem (for oss). Så da er han bedre enn dommerne. Ellers viser det seg at vedtakene til iskin kan utfordres og kanselleres av folk. Og hvis folk aksepterer dette, vil de innrømme at AI er verre enn mennesker. Så på hvilket grunnlag erstatter han tjenestemenn?

Konklusjon. Iskin blir heller ikke dømt. En gang til. Hvis dere mennesker skrev den beste algoritmen deres, anerkjente den så bra at dere ga den makt over dere selv, så kan dere ikke skrive en enda bedre algoritme slik at den dømmer avgjørelsene til den første. Du vil sette din beste algoritme både som leder og som dommer. Mer presist vil dommerne rett og slett forsvinne. Du må gi denne AI full makt over deg.

Forresten, den originale svarte boksen, hvor de første dataene for kontroll kommer til ISK, kan også digitaliseres. Og til og med må digitaliseres. Det konsoliderte budsjettet bør passe best. Og det gjør han også.

Et annet øyeblikk. Eller kanskje sette en person over personen som ville kontrollere avgjørelsene hans slik at feilene som kan oppstå på grunn av for eksempel hans umenneskelighet ikke skjer? – Da vil alle tjenestemenn beholde sine posisjoner og sin makt. De vil også få rett til å kansellere transaksjoner godkjent av ISK eller til å godkjenne kansellerte. Akk, det ser ikke ekte ut. Iskin vil gi en utskrift av begrunnelsen bak avgjørelsen. Og en person vil ikke være i stand til å tilbakevise formell logikk med sine følelser eller interesser. Selv i dette tilfellet, hvis en levende tjenestemann er knyttet til hver manifestasjon av en (faktisk en enkelt) handling, vil de ikke være i stand til å motstå ham.

Beklager forvirringen, det er mange tanker, og lengden på teksten vokser uopprettelig.

Når ISK er slått på, vil en fullstendig kollaps skje. Nei, jeg forstår at de først kjører ham i testmodus. Men dette vil være en profanasjon, for da vil det være nødvendig å etterligne hele samfunnet, med alle dets sammenhenger som helhet, ikke en forenklet modell, men digitale treskere kan ikke gjøre dette.

Deretter vil den bli lansert i en begrenset modus, i det betingede Perm-territoriet. Bugs, feilsøking, ny utgivelse og produksjon?

Men før eller siden vil det røde båndet klippes og folk vil kunne kontrollere bilen på full kraft (med en hånd på bryteren).

Og vet du hva som kommer til å skje? Iskin vil avslutte alle transaksjoner totalt. «Hvis-så»-logikken vil kollidere med millioner av regulatoriske normer i gjeldende lovgivning, som motsier hverandre titusenvis av ganger. Finita. Togene våre vil stoppe, betalingen for en boks med saury i supermarkedet vil ikke fungere. Alle vil umiddelbart bli siktet for en haug med lovbrudd og forbrytelser som kan sendes til myndighetene, men alle personer i myndighetene vil bli utsatt for umiddelbar avskjed og rettssak. Rettsavgjørelsene vil utstede kravet umiddelbart. Stor date, alt er skrevet om deg. Ok, dette er de små tingene. Men de får heller ikke overføre lønnen din, fordi kontoret skylder skatt, og vogna bøter deg.

Overdrive? Nei. Den første lanseringen (med en hånd på bryteren) vil bli kontrollert, test to, test tjueto … Og en dag vil den slås på fullt ut, som om den hadde bestått hele testsyklusen. Og så … Og vi vil avskjedige tjenestemennene, frivillige vil redde situasjonen.

Er det mulig å unngå slike triste konsekvenser? – Selvfølgelig kan du prøve. For å gjøre dette må en rekke ting gjøres. Ødelegg 99 % av lovgivningen, resirkuler de resterende 1 % uten å tømme babyen med vann. (Slike ting gjøres vanligvis etter en fullverdig revolusjon med en fullverdig borgerkrig. Hvordan gjøre det i fredstid - jeg aner ikke.) I tillegg bør moralen omarbeides. Når det gjelder å stjele en pakke papir fra kontoret (eller utro kona), er det enten helt akseptabelt (reflektert i loven), eller det medfører fullstendig en tidsbegrensning. Denne moralen må gjøres om i samfunnets sinn. Ellers vil den begynne å kutte de optiske kablene, noe som er billig, enkelt og effektivt mot AI. Et annet alternativ er å kaste denne iskin til en sannsynlig partner, la ham kutte sine egne hender. Og selvfølgelig skal ikke overklassen bli ubeleilig. Hvis de ikke er i stand, vil de bruke det som en siste sjanse.

Jeg prøver ikke å overbevise deg om å krasje datamaskiner. Vi vil ikke gå noe sted fra iskin. Han vil innhente oss, vi må engasjere oss med ham. La oss prøve å forstå med hva (med hvem) vi må gå i kamp med vår skjebne.