Aus meinem Kaleidoskop ist die Zukunft der künstlichen Intelligenz düster.
https://www.dr.dk/nyheder/indland/jonas-var-ikke-i-tvivl-og-han-fik-ret-kommunen-brugte-ai-og-broed-reglerne
Von Lythro92
Aus meinem Kaleidoskop ist die Zukunft der künstlichen Intelligenz düster.
https://www.dr.dk/nyheder/indland/jonas-var-ikke-i-tvivl-og-han-fik-ret-kommunen-brugte-ai-og-broed-reglerne
Von Lythro92
26 Kommentare
Men det der AI er jo så smart!
Et ræs mod bunden. Når folk klager til kommunen bruger de AI til at lave et mange siders skriv i troen om at det virker mere gennemarbejdet og derfor har mere ret.
Nu gør kommunen det samme og så står vi i en situation hvor den ene AI svare den anden.
AI siger ikke nej, den prøver bare at behage brugeren og gør hvad den bliver bedt om.
Godt nok hjernedødt, at man kan sidde i sådan en stilling og tænke det er helt fint. Sikkert fordi man tænker man kan komme hurtigere igennem dagen og så tage en morfar, hvilket der er talrige eksempler på reddit med folk som bare smider alt ind i ChatGPT
>Jonas Helmer mistænker også kommunen for at have fodret AI-værktøjet med hans persondata.
>Det afviser kommunen i et svar til ham. Men den kan ikke dokumentere, at det ikke skulle være sket.
>For medarbejderen i kommunen, som behandlede hans sag, har siden slettet sine chats og prompts til AI-værktøjet.
Så kommunen (medarbejderen) har bevidst slettet beviserne, så de på ingen måde kan indhentes igen?
… og vedkommende er ikke blevet fyret?!?!
Vild nok historie, men hvad er det makker sidder med på billedet? En hel uåbnet dåse kattemad?
Kommunerne over en bred kam har ikke lavet de konsekvensanalyser og hjemmelsvurderinger der skal til, for lovligt at kunne anvende AI. Hvor de er lavet, er kvaliteten tvivlsom.
Selv hvor der er lavet tilstrækkelige konsekvensanalyser, så er de ofte ikke implementeret i organisationen. Så der sidder en medarbejder og har lavet en stor analyse, der viser sig at være ligegyldig.
Ofte sker det som her, at der er adgang til værktøjer som ikke burde blive brugt som det gør, og det leder til at der foretages afgørelser med AI.
På den anden side, hvis kommunerne ikke stiller noget til rådighed for medarbejderne, så smider de bare ting ind i chatgpt.
Jeg forstår gidt hvis de bruger KI til at lave noget af alt det ligegyldige dokumentation. Kan godt forstå at han føler sig krænket men hvis de ikke har fodret den med personfølsomme data så kan jeg ikke se at det er forkert – jeg ved godt at vi kun har medarbejderens ord for at de ikke gjorde.
AI er sku også bare noget nær databeskyttelsens nemesis. På et splitsekund er data ude af ens kontrol, og man kan ikke engang stikke skeen i den sorte gryde for at fiske det op igen. Det bliver ligesom bare en del af suppedasen, som AI’en brygger videre med.
Jeg kan huske under kommunalvalgkampen i efteråret, her i Aarhus, der stod den ene borgerlige politiker efter den anden, til tider også socialdemokrater, og talte om hvordan de bare ville finde den ene million efter den anden, der kunne spares ved at bruge Kunstig Intelligens. Og der stod altid en eller anden type fra Enhedslisten og kaldte det for tomme ord, et problem for folks retssikkerhed, osv. osv.
Og nu er jeg selvfølgelig forudindtaget, men altså: Uden at være maskinstormer, så er det nok Enhedslisten der har ret i det spørgsmål.
Mit had til AI kan simpelthen ikke blive større. Udryd det, fjern det fra jordens overflade, jeg tror nok vi klarer os alligevel.
I min kommune ville det minimum have været en indkaldelse til tjenstlig samtale, at have brugt AI på den her måde.
>For medarbejderen i kommunen, som behandlede hans sag, har siden slettet sine chats og prompts til AI-værktøjet.
Så kontakter man politiet og får dem til at få det udleveret. Medarbejderen skal selvfølgelig fyres og retsforfølges, både for at bruge AI med personfølsomme oplysninger og så senere for at slette beviser
I sidste ende burde hans leder også have et ansvar. Det er ledernes ansvar at sørge for at kommunen ikke bruger AI ulovligt.
Hver gang det offentlige begår lovbrud er det en beklagelig fejl, er det den almene borger risikerer man alt fra bøde straf til fængsel og at man mister sit hjem…
Der skal altså nogel alvorlige konsekvenser til snart.
Og alle os, som sad og sagde det her ville ske og det her ville være fremtiden med det her værktøj kan ingen gang få fornøjelsen af at sige „Hvad sagde jeg?“ fordi det her kommer til at ramme *alle*.
Klamt at en sagsbehandler i Glostrup kommune overhovedet kunne finde på det.
Jeg må ærligt indrømme, at det måske er en ting som frustrerer mig herhjemme, der er ikke meget konsekvens ved at den slags sker.
Mit cpr nr røg også ud til en masse og kommunens reaktion var at sende en besked i eboks med „Upsie“, eller min hælsporeprøve der er brugt uden samtykke…
En kommune jeg var i, bruger også AI til at optage og skrive samtaler og håndtere det.
Det er sgu lidt skræmmende, at der ikke er mere kontrol, konsekvens og alvor omkring brugen af disse ting.
r/antiai
Ja, jeg bruger sku også AI når jeg kommunikerer med kommunen, gennemtjekker dog fakta selv inden noget bliver sendt. Men ja, er godt klar over at det er en samtale imellem to LLM’er der bliver tjekket efter i sømmene af mig, lidt absurdt men hey, jeg har vel plus af en grund 🤷♂️
Kommunen kan sagtens have handlet helt lovligt her. At pågældende medarbejder har slettet alle chats, virker dog mistænkeligt.
Der er 2 dele i denne her sag, persondata og afgørelsen.
Persondata:
Man må ikke uploade person data der kan identificere en person. Men der findes forskellige typer værktøjer, som kan bruges til at anonymisere den type data. Den krypterede udgave må gerne uploades i en sprogmodel.
Afgørelsen:
Her er lovgivningen mere tvetydig. En sprogmodel må ikke afgøre sager, men såfremt sprogmodellens begrundelse er i overensstemmelse med gældende lovgivning, må kommunen gerne bruge den AI genrerede tekst.
Kort og godt er brugen af AI i sagen her, ikke i sig selv et problem. Men hvis medarbejderen har fodret AI’en med borgerens personfølsomme oplysninger og truffet afgørelse på baggrund af den AI genrerede tekst, ja så er det et lovbrud. Endda et fuldstændigt unødvendigt lovbrud, som nævnt ovenfor.
Hvis medarbejderen ydermere har brugt sin egen konto og ikke en virksomhedskonto, hvor data sikkerheden er højere, ja så er der ydreligere problemer. Da sprogmodellerne bla trænes på den data der kommer ind via private profiler, uagtet om de er betalte eller gratisversioner.
Såfremt kommunen her allredede har retningsliner for brug af AI, ville jeg som personaleleder gå til HR, for at undersøge muligheden for bortvisning, såfremt medarbejderen har brugt sin egen AI profil i denne her sag.
Selvfølgelig bruger nogen medarbejdere i kommunen AI på en måde de ikke må.
Og selvfølgelig skal de medarbejdere få en advarsel, hvis ikke en fyring i nogle tilfælde
Jeg er pt. i dialog med kommunen, og alle de stave/tastefejl de laver er kun betryggende for mig. Sådan har jeg det faktisk i alle sammenhænge efterhånden.
Jeg fatter ikke, at det offentlige ikke hoster en open source model, som kommunen og regeringen kan benytte.
Eller i det mindste siger, at medarbejderne kun må bruge chat.dk, så der en mulighed for at kunne indhente data fra udbyderen.
Vi kan ikke forhindre at disse værktøjer benyttes, men vi kunne da gøre så de bliver benyttet i overensstemmelse med GDPR, datasikkerhed og minimal respekt for borgerne, hvis data kan blive delt med disse algoritmer
„På baggrund af sagen præciserer vi nu vores retningslinjer for brug af AI. Vi vil tydeliggøre, hvornår der er tale om sagsbehandling, og sikre, at reglerne er kendt og efterleves i hele organisationen.”
Oversat til Dansk: „efter at være blevet afsløret i flere slags lovbrud, præciserer vi nu overfor vores medarbejdere, vigtigheden i at omskrive AI så det synes at komme fra et menneske. Ydermere vil vi lægge vægt på at vores medarbejdere gør deres yderste for ikke at blive afsløret igen.“
Kommunen må gerne bruge AI til assistance til at skrive en begrundelse.
I begrundelsen er der (sikkert) ikke direkte personhenførbare oplysninger og dermed ikke en overtrædelse af GDPR.
Om det skulle nævnes, at han havde en byld i røven, eller anden sygdomshistorik, er det kun genkendeligt for ham og ingen andre, det kunne lækkes til.
Jonas vil bare ikke acceptere et nej 🤷
Med det sagt kunne det være på sin plads, at medarbejderne lærer om AI, de forskellige engines og agenter OG lærer at prompte 👌
Og selvfølgelig skal kommunerne tage ansvar og forsyne medarbejderen med et mere lukket miljø end den gratis udgave af GPT
I øvrigt og total irrelevant for artiklen:
Vi har faktisk fået den første serviceklage, fordi vi ikke var enige med AI.
Den er hos AST nu 😁
(Ifm. hvilke betingelser som skulle overholdes)
Så længe sagsbehandlingen sker af et mennesker, er jeg ikke så bekymret for hvilken entitet der skriver brevet.
Håber da AI går i vasken, for det ser ikke ud til at have en positiv effekt for de svagest stillede i samfundet, men sagsbehandlere hos kommunen er et sted jeg under at de får en hjælpende hånd.
Tror næsten alle kommuner anvender AI i deres sagsbehandling, det er jo fremtiden.
Jeg bruger det selv i byggesagsbehandlingen i den kommune jeg arbejder. Men jeg smider ikke personfølsomme oplysninger ind. Jeg tager kun brødteksten eller kører det gennem et GDPR værktøj først. Vi bruger kun co-pilot.
Jeg bruger det også nogle til at få et referat af en lang tekst, give et bud på hvor jeg kan finde en relevant paragraf lovgivning som jeg så selv slår op osv.
Man kan ikke bare sætte AI svarer ind under at forholde sig kritisk til det eller læse det hele igennem. Man skal tænke sig om når man anvender det ☺️