Disruption er omstyrtning (kup)

[BjarneModerator Super Nova]

Hvad betyder “disruption”? Ordbogen siger omvæltning; det man i en politisk sammenhæng kalder et kup. Ethvert velgennemført kup kræver, at planerne holdes hemmelige for befolkningen. Dette gælder også for den halvreligiøse singularitetsbevægelses planer om at overtage magten.

Lektor om disruption: Danskerne dataficeres, og demokratiet taber

»I de seneste år har IT-konsulenter fra McKinsey, DareDisrupt m.fl. bjergtaget regering og dele af embedsværket på Slotsholmen. Disse ‘disruptionister’, der også omfatter ‘hang-arounds’ for IT-tænketanken Singularity University, prædiker alle om det teknologiske tusindårsriges snarlige komme, hvor ’alting forandres’, og verden genskabes på ny i teknologiens billede.«

Det skriver lektor Peter Aagaard, RUC, i et blogindlæg på SamfundsDesign

Noget tyder på, at alliancen af politikere, konsulenter og embedsværk får ’disruption’-vindene til at blæse ekstra kraftigt i den offentlige sektor, anfører lektoren – og nævner følgende eksempler på udviklingen:

Politiet sætter strøm til POL-Intel, som er den nye database, der skal samle data på tværs af politirapporter, anmeldelser, CPR-register mv. Målet er at finde mønstre i kriminalitet og prioritere ressourcer bedre. Senest er et system fra samme leverandør, Palantir, mødt med kraftig kritik i Los Angeles.

Et stort flertal i Folketinget vil have et Nationalt Genom Center, som er en database med sundhedsoplysninger. Den skal muliggøre personlig medicin og dermed mere effektiv behandling.

Danmark er i lighed med resten af EU godt i gang med at implementere EU’s persondataforordning – senest med vedtagelsen af den omstridte databeskyttelseslov.

KL er inspireret af Singularity

For Version2’s regning kunne man tilføje KL’s oplæg – kaldet en ‘kortlægning’ – under overskriften ‘Fem teknologiske temaer’, som indgår i initiativet ‘Kommunernes teknologispring’. I oplægget beskrev man en fremtid, hvor det bl.a. forudsiges, hvordan børn vil klare livet, allerede når de fylder seks år, chat-robotter i ældrekontakten og kunstig intelligens, der sporer mobning i skolen.

Oplægget var begået af konsulentfirmaet Daredisrupt, hvis medstifter betegner sig som Singularity Universitys ambassadør i Danmark.

»Jo, det går temmelig stærkt for tiden og viser, at ‘disruptionisme’ er mere end varm luft, men også indebærer vilje til magt og forandring. Det er nu, ‘disruptionisterne’ lægger den infrastruktur, der kommer til at udgøre danskernes digitale borgerskab. Og ‘disruptionisterne’ har travlt, for der er tilsyneladende ikke tid til dybere demokratisk dialog om konsekvenser og dataetik,« skriver Peter Aagaard, RUC, i indlægget på SamfundsDesign.

Der er masser af kritik af disruptionisternes dagsorden, både fra juridiske eksperter og en lang række organisationer.

Kritikerne har bare misforstået det hele

Kritikere, der mener, at vi snart vågner op til en dag, hvor du per automatik har fået en sag om dit barns vantrivsel på halsen, fordi du missede et forældremøde i sidste uge.

Sagsbehandleren er i øvrigt en bot, og din retssikkerhed er dermed i hænderne på den programmør, der har skrevet algoritmen, som behandler din sag, fortsætter lektoren.

»’Disruptionisterne’ ser kritikerne som kedelige typer, der slet ikke har forstået, at den danske offentlige sektor er i færd med ’eksponentiel vækst’, hvor ’kunstig intelligens’ skal gøre Danmark til et land, der flyder med IT-mælk og VR-honning. At der så bliver slået et par skæverter, en IT-skandale eller to (Skat, Sundhedsplatform mv.), samt spildt et par milliarder eller mere – alt det er småpenge, i forhold til det der er i vente!« skriver Peter Aagaard.

Kritikerne bliver overhørt, påpeger han, også selv om der blandt dem er adskillige juridiske eksperter, der kritiserer lovforslagets fortolkning af samtykke blandt patienterne i Nationalt Genom Center (med en retskendelse må politiet i øvrigt gerne kigge med).

Kritikere bliver overhørt, selv om udvikleren bag POL-Intel er det amerikanske firma Palantir, der også er leverandør til den amerikanske efterretningstjeneste. I Kina er planen at bruge den samme form for teknologi til at overvåge og adfærdsregulere borgerne i det offentlige rum.
Kritikere bliver overhørt, selv om EU’s persondataforordning indeholder gode principper om ’retten til at blive glemt’ og ’privacy by design’. Men de danske undtagelser i vores implementering af forordningen gør det lidt vanskeligt at genkende den oprindelige intention i forordningen, skriver lektoren.

Den danske implementering af persondataforordningen i form af L68, som Version2 gentagne gange også har omtalt, og som blev vedtaget i Folketinget i går, gør det f.eks. muligt at samkøre diverse registre uden særskilt lovhjemmel.

»I debatten får man indtryk af, at det er af hensyn til fremtidig sundhedsforskning (læs: medicinalselskabernes forskning), at denne undtagelse indføres, men det gælder ifølge Kammeradvokaten også data om sociale forhold. Det vil blandt andet gøre det muligt at overvåge familiers deltagelse i alt fra tandlægebesøg til forældremøder via samkøring af registre.«

Det kniber det desværre gevaldigt med at diskutere dataetik i al hastværket. Og hvordan hensynet til privatliv sikres, og hvordan borgerne kan give ordentligt samtykke, anfører Peter Aagaard.

»Det kniber sandsynligvis, fordi ’disruptionisterne’ sælger dataløsningerne til det offentlige som effektiviserings-manna – og glemmer at lægge prisen for ordentlig dataetik oveni.«

»Måske er det på tide med en digital borgerretsbevægelse, der kan give ’disruptionisterne’ modspil?«

 

Som jeg andetsted har skrevet, så er singularitetsbevægelsen endnu mere radikal. Den mener, at biologisk baseret liv om 30 år er bliver erstattet af kunstig algoritmebaseret superintelligens, som vil overtage jorden og derefter hele Mælkevejen. Men hvem er det, som i Danmark står for denne ide? Det statskundskabskandidater, som mener, at man pludseligt kan få alle økonomiske modeller og andre samfundsmodeller til at virke, hvis man har data fra borgernes profiler. Dette her minder mig om den newtonske drøm om at kunne forudsige fremtiden deterministisk, hvis man bare kende alle begyndelsesdate nøjagtigt. Disse personer mener, at ideen er så selvindlysende, at man ikke behøver at argumentere for sagen. Dette betyder, at man ikke behøver at afholde folketingsvalg, da den kunstige såkaldte “intelligens” kan forudsige resultatet.

[Bjørn SandåkerDeltager Neutron star]

Dette er politik og hører til i OFF TOPIC, ikke i NYT FRA VIDENSKAPEN. Det burde Moderator Bjarne vide.

Mvh,
Bjørn

[BjarneModerator Super Nova]

Jeg er helt uenig. Jeg mener, at kunstig intelligens i høj grad er videnskab. Den anvendes i stigende grad inden for astronomien. Men Dens anvendelse forudsætter, at man ved, hvad den kan bruges til, og specifikt, hvad den ikke kan bruges til. Der er ikke noget nyt. Jeg har skrevet om det mange gange før. Det provakatoriske er, at jeg har oversat ordet “disruption” til dansk.
Det startede med den franske tilgang til anvendelsen af kunstig intelligens. De franske planer er udarbejdet af en kendt matematiker, som har været direktør for Henri Poincare Instituttet. Den franske politiske tilgang til anvendelsen af AI er, at der skal være fuld åbenhed, om de anvendte algoritmer. Man skal aldrig begynde at anvende sorte kasser, og man skal altid forklare funktionaliteten til befolkningen, inden algoritmerne tages i brug. Lukkethed og hemmelig sammenkørsel af data med data fra Facebook er direkte gift for videnskaben generelt. Befolkningen mister enhver tillid til videnskabelig forskning. At videnskabspolitik skulle være OFF TOPIC er det glade vanvid.
Emmanuel Macron wants France to become a leader in AI and avoid ‘dystopia’

… and avoid ‘dystopia’ hentyder til George Orwells “1984”.

[BjarneModerator Super Nova]

Jeg har tidligere på min blog skrevet noget om den bevægelse, som Version2 omtaler i det ovenfor citerede indlæg. Jeg har sjovt nok gemt det under “Origin of Life”:
https://www.kosmologi.eu/wordpress/?p=3623
Bevægelsen er startet af Ray Kurzweil:
The Singularity Is Near: When Humans Transcend Biology

[Bjørn SandåkerDeltager Neutron star]

Bjarne wrote:

At videnskabspolitik skulle være OFF TOPIC er det glade vanvid.

Nuvel, dette er et astronomiforum som kendt. Jeg ved at du har utvidet din definition af hvad der hører til i NYT FRA VIDENSKABEN, men nu mener jeg det går for langt. Én ting er datavirus (f.ex.), en anden ting er politik.

Mvh,
Bjørn

[BjarneModerator Super Nova]

Jeg er jo ikke den eneste, som er bekymret for, hvad en løbsk AI-udvikling kan medføre. Lad mig derfor introducere den meget kendte kosmolog Max Erik Tegmark, som har udsendt et åbent brev til underskrift:

Research Priorities for Robust and Beneficial Artificial Intelligence

Artificial intelligence (AI) research has explored a variety of problems and approaches since its inception, but for the last 20 years or so has been focused on the problems surrounding the construction of intelligent agents – systems that perceive and act in some environment. In this context, “intelligence” is related to statistical and economic notions of rationality – colloquially, the ability to make good decisions, plans, or inferences. The adoption of probabilistic and decision-theoretic representations and statistical learning methods has led to a large degree of integration and cross-fertilization among AI, machine learning, statistics, control theory, neuroscience, and other fields. The establishment of shared theoretical frameworks, combined with the availability of data and processing power, has yielded remarkable successes in various component tasks such as speech recognition, image classification, autonomous vehicles, machine translation, legged locomotion, and question-answering systems.

As capabilities in these areas and others cross the threshold from laboratory research to economically valuable technologies, a virtuous cycle takes hold whereby even small improvements in performance are worth large sums of money, prompting greater investments in research. There is now a broad consensus that AI research is progressing steadily, and that its impact on society is likely to increase. The potential benefits are huge, since everything that civilization has to offer is a product of human intelligence; we cannot predict what we might achieve when this intelligence is magnified by the tools AI may provide, but the eradication of disease and poverty are not unfathomable. Because of the great potential of AI, it is important to research how to reap its benefits while avoiding potential pitfalls.

The progress in AI research makes it timely to focus research not only on making AI more capable, but also on maximizing the societal benefit of AI. Such considerations motivated the AAAI 2008-09 Presidential Panel on Long-Term AI Futures and other projects on AI impacts, and constitute a significant expansion of the field of AI itself, which up to now has focused largely on techniques that are neutral with respect to purpose. We recommend expanded research aimed at ensuring that increasingly capable AI systems are robust and beneficial: our AI systems must do what we want them to do. The attached research priorities document gives many examples of such research directions that can help maximize the societal benefit of AI. This research is by necessity interdisciplinary, because it involves both society and AI. It ranges from economics, law and philosophy to computer security, formal methods and, of course, various branches of AI itself.

In summary, we believe that research on how to make AI systems robust and beneficial is both important and timely, and that there are concrete research directions that can be pursued today.

Bemærk de mange underskrivere. Der er ingen tvivl om, at det franske AI-initiativ er inspireret af dette her åbne brev. Det viser sig, at Max Tegmark har skrevet en populær bog om fordele og farer ved AI:

Prof. Max Tegmark

LIFE 3.0:

I’m fascinated by AI and the the future of life. There’s been much talk about AI disrupting the job market and enabling new weapons, but very few scientists talk seriously about the elephant in the room: what will happen once machines outsmart us at all tasks? That’s why I wrote this book, to help you join the most important conversation of our time.

Max Erik Tegmark

 

Jeg køber bogen og vender tilbage, når jeg har læst den.

[BjarneModerator Super Nova]

Hvorfor bekæftiger en kosmolog som Max Tegmark sig overhovedet med AI? Han er ved at forberede sig på de to nye projekter:

https://www.lsstcorporation.org
https://www.skatelescope.org

Både LSST og SKA producerer datamængder på en hidtil uhørt skala. Sådanne datamængder kan kun håndteres ved anvendelse af AI.
SKA vil for øvrigt kunne udføre SETI på samme tid som astrofysiske og kosmologiske radioobservationer.

[Forfatter]

Indlæg