Künstliche Intelligenz belastet Kommunen mit langen und fehlerbehafteten Beschwerden
https://www.dr.dk/nyheder/indland/kunstig-intelligens-belaster-kommuner-med-lange-og-fejlfyldte-klager
Von WolfeTones456
Künstliche Intelligenz belastet Kommunen mit langen und fehlerbehafteten Beschwerden
https://www.dr.dk/nyheder/indland/kunstig-intelligens-belaster-kommuner-med-lange-og-fejlfyldte-klager
Von WolfeTones456
29 Kommentare
Resumé: Brugen af LLM’er fordummer og besværliggør dem kommunale sagsbehandling, fordi folk ukritisk stoler på modellernes evner til at formulere logisk sammenhængende argumenter og henvise til korrekt retspraksis og lovgivning. Men på grund af modellernes design og indbyggede ‚insisteren‘ på hellere at give et svar end at melde pas, oplever sagsbehandlerne, at de AI-skabte klager er spækket med faktuelle fejl m.m.
Som en prik over i’et er den fortrøstningsfulde konklusion på problematikken, at det formentligt bare er midlertidigt, da kommunernes *egen* brug af AI-modeller hele tiden udvikler sig.
Vi kan altså glæde os til en fremtidig kommunal sagsbehandling, hvor kontakten mellem øvrighed og borger varetages ved, at den ene AI snakker med den anden.
Jamen det lyder da hyggeligt, så kan 2 bots i fremtiden mundhagge om hvem der har ret, eftersom kommunerne også bruger AI til at besvare 🙂
Og det er så tydeligt når folk bruger det. Sidder selv som sagsbehandler, og vi ser det oftere og oftere.
Ja, vi/jeg bruger AI i mit arbejde, men jeg bruger det primært til at finde en principafgørelse fra Ankestyrelsen, som jeg ved findes, men som jeg ikke kan huske nummeret på, eller for at gøre nogle af mine tekster mere læsevenlige for borgere. Men jeg sender aldrig noget afsted, som har været igennem AI uden at læse det igennem😅
Det samme med jobansøgninger..nogle er ret insane især ift deres uddannelses niveau.
Ikke helt det samme, men i samme retning: Jeg behandler eksamensklager, og der kommer også flere og flere, der tydeligt er skrevet af KI. Det er vildt, at en elev nu skal bruge en sprogmodel for at kunne argumentere for, at elevens bedømmelse er forkert. Det er super tydeligt, når der er brugt KI, og jeg synes også, det er spild af tid, at jeg skal sagsbehandle det. Før KI skulle eleverne faktisk bruge tid og kræfter på at skrive en klage – nu kan de skrive den på få minutter.
Christ..
Igen, AI brugt rigtigt er et supergodt værktøj. Dvs. hvor man bl.a. er grundig, kritisk overfor output, kender materien og dobbelttjekker alt det, man *ikke* selv vidste i forvejen.
Men med omvendt fortegn er en LLM jo bare en skraldgenerator. Og jeg forestiller mig, at den i hænderne på kværulanter og læserbrevstyper er nærmest frygtindgydende irriterende.
Hvis nu kommunerne lod være med at lave fejl i næsten halvdelen af alle sagsbehandlingerne på specialområdet, kunne det jo være, at folk ikke havde brug for at skrive klager…
Jeg sidder selv og udvikler en løsning, der bruger kunstig intelligens. Jeg forsøger at bruge det man kalder for *Bounded AI Generation Architecture,* der binder AI’en til et fast udfaldsrum af tone, sprog og vejledning, når den svarer.
Sjovt nok fordi jeg har den etiske overvejelse at når man laver en IT-løsning med AI, så går det ikke at den fylder brugeren med lort.
Det virker, men har også den effekt at sproget bliver dårligere, fordi du udfordrer modellens struktur.
Det er præcis derfor at din AI er tilbøjelig til at hallucinere. Anthropic og andre prioriterer simpelthen at brugeren får en god oplevelse af AI fremfor en faktuelt korrekt oplevelse fordi det sidste pålægger modellen nogle restriktioner, der gør sproget og oplevelsen ringere.
På den anden side er det muligt at lave et workflow, der isolerer paragraffer og citater i et dokument og tjekker dem imod troværdige kilder. Ja, det kan man bruge AI til, men også deterministiske værktøjer.
Jeg er oprigtigt overrasket over kommunerne ikke blank afviser klager genereret med AI, udelukkende for at være AI, men samtidig skyder en „AI afvisning“ tilbage til borgeren.
Edit: skulle måske lige have tilføjet, det var en joke
Den her overskrift giver lidt anledning til at tro at kommunerne har „ansat“ en kunstig intelligens til at skrive klager til kommunerne.
Folk der tror du mestrer AI men aldrig har lært at skrive, tror at „bare det lyder godt“ så må det jo være rigtigt og smart.
Bare se LinkedIn og det komplette AI shitshow af indlæg. Det værste er næsten dem der ikke kan se det, og tror „det er bare så godt skrevet Jens!“
Selvom det er det samme „Det er ikke X, det er Y“ mundbræk.
Jeg har oplevet, at en klage over afvisning af ansøgning til kommunen blev sendt retur af Ankestyrelsen ubehandlet, fordi intet i de flere lange sider begrundelser gav mening, og det var for ti år siden længe før AI blev normalt at bruge. Jeg har ingen sympati for, at de skal tygge igennem ansøgninger og klager som disse.
Det er jo ikke godt, at der er mange fejl. Jeg tror dog også man kunne se det som et tegn på, at der har været en masse mennesker med lyst til at klage over kommunernes behandling af dem eller deres nærmeste, men som ikke har haft de nødvendige værktøjer til at gøre det. Vi skal jo heller ikke forstå det som, at almindelige mennesker ikke laver fejl i referencer og retspraksis – det er jo ikke professionelle der skriver de her klager.
Jeg er i øvrigt ret overbevist om, at medarbejderne benytter LMMer til at tjekke en del af klagerne igennem – så det er jo lige så negativt.
Jeg håber vi finder en bedre løsning på det, så det ikke bare bliver LLMer der skal slås om problemerne som mennesker konkret sidder med – I hvert fald ikke før de er blevet markant bedre til det.
Er fremtiden ikke bare fantastisk?
AI, som den bruges af Hr.og Fru Danmark, er først og fremmest en fordummende teknologi. Brug det til at screene for kræft osv., drop alt det andet lort.
Jeg sidder bl.a. og besvarer klager. Jeg vil dele folk lidt op i grupper: Den gruppe der egentlig blot klager over stop af en ydelse (uagtet årsag), den gruppe der klager over selve sagsbehandlingen (f.eks. når de oplever, at deres sagsbehandler taler grimt) og den gruppe der har psykiske udfordringer og som klager over nærmest alt.
De to første grupper ser jeg kun sjældent benytte AI. Eller også er det så lidt, at jeg ikke opdager det. Der er det altid relativt nemt for mig at vurdere, om folk har ret i dele eller hele deres klage og hvad det eventuelt skal føre til af ændringer.
Den sidste gruppe er desværre voksende (min erfaring), måske netop fordi, de nu sender mange sider genereret af AI ind. Ofte klager de over, at de har været på kontanthjælp i mange år. Det kan jeg godt forstå og det burde i teorien også være muligt at afklare dem hurtigere. Men især med psykisk sygdom kan det være svært at køre ud ad en lineær vej. Der er ofte lange ventetider i psykiatrien, folk har dårlig compliance, de har andre sociale udfordringer, de er flyttet kommune flere gange, de er udeblevet fra samtaler eller praktikforløb flere gange osv.
Det er jo som sådan deres “egen skyld” eller ansvar, men de gør det ikke bevidst og de er næppe bevidste om, hvordan det hver gang forhaler deres forløb yderligere. Men når de så klager ved hjælp af AI, henviser til paragraffer fra lovgivninger, der slet intet har at gøre med deres situation, misforstår lovgivningen, klager over en eller anden rapport, der er 10 år gammel osv, så bliver det meget svært at svare dem.
Derfor sidder jeg selv og et par andre mere centralt og besvarer de “tungeste” klager. Det er ressourcer, der kunne bruges bedre på faktisk at hjælpe folk videre. Ofte er folk ikke tilfredse med det svar, de får af os – selvom jeg i nogle tilfælde har brugt flere dage på besvarelsen (fordi det er umuligt at finde hoved og hale i).
Tl;dr: Folk har ret til at klage og mange gange kan jeg godt forstå dem. Men samtidig er AI genererede klager meget ressourcekrævende og uden noget egentligt “udbytte” for folk.
danmarks radio har i flere tilfælde haft tidligere sagsbehandlere i interview hvor vi har kunnet høre hvordan kommuner „snyder“ svage borgere, og den eneste måde disse borgere reelt kan få en fair sagsbehandling er ved at have deres egen uvildige sagsbehandler med.
nu har denne borgergruppe fået et værktøj, som kan hjælpe dem i deres sager. Er det mon i virkeligheden dette kommunerne er kede af?
Det grundlæggende problem i Danmark er at mængden af lovgivning på alle områder er steget helt ukontrolleret, og at man nu har skabt et helvede som borgerne har svært ved at navigere i.
Det betyder at ingen almindelige mennnesker reelt set har overblik til at navigere i hvad de har ret til og hvad de ikke har ret til.
Status quo har længe været at man enten bruger årevis på at kæmpe med det offentlige, ansætter en sagsbehandler eller simpelthen bare giver op.
Med AI er det nu blevet nemt at skrive svar, klager og ansøgninger der *ser* rigtige ud, hvis man ikke har forstand på det. Det vil betyde at vi over de næste år kommer til at se en stigning i antallet af førnævnte i næsten bibleske proprotioner.
**Her er hvordan at man burde tage hånd om problemet inden det bliver værre:**
– Alle ydelser (Overførselsindkomst, A-kasse, pension, SU) udskiftes med UBI. Der kan godt være trin, men det skal være meget objektivt nemt at vurdere hvornår man er berettiget til noget ekstra.
– Henvendelser omkring ekstraordinære forløb skal foregå på et kontor i person.
**Her er hvad der kommer til at ske:**
– Det offentlige vil modsvare AI genereret indhold ved at lade AI besvare indhold.
I praksis vil det betyde at man nu har to kinesiske rum uden nogen forbindelse til virkeligheden der på vegne af dels staten og borgeren skal blive enige om hvad der skal ske.
Mængden af korrespondance vil stige eksponentielt, og det offentlige skal vurdere om det overhovedet giver mening at have mennesker til at sidde og læse sagsmateriale på 200+ sider igennem for at finde ud af hvem der har ret, eller om man simpelthen bare vedtager at deres AI har ret.
Så kan de se hvordan det føles at modtage 5 sider ulæseligt vås, krydret med henvisninger til love og paragraffer man aldrig har hørt om. Så kan det ene vrøvlebrev blive fulgt af et vrøvlebrev fra den anden part. Det bliver interessant det her.
Der kommer også væsentligt flere jobansøgninger, der klart er skrevet med AI.
Der mangler godt nok også lidt selvrefleksion i kommunerne. Det havde måske hvert en god ide lige og overvejer hvorfor folk har brug for AI til at finde vej gennem den jungle de har skabt.
Men jeg kan da godt forstå hvorfor Kommune Bente, der ser Kafaks samlede værker som en målsætning, nu er lidt presset når hendes ofrer pludselig er i stand til at sprøjte lort tilbage i hovede på hende.
In Finland the courts are complaining about the exact same thing.
Jeg har en kollega der sidder og håndterer bla sager med aktindsigt af teknisk karakter og selvom der ikke er mange AI-sager (endnu) så findes de. Han har enkelte gange fortalt om sindssyge krav ift fx aktindsigt som slet ikke kan opfyldes (fx hvor patienter tydeligvis har bedt en AI om at lave en komplet liste over al information – fx hvad firmware-version der var installeret i det blodtryksappart som blev anvendt under behandlingen). Det er totalt overskruet og spild af hans tid. Og spild af alle jeres tid og skattekroner. Jo større problemet bliver jo flere skal der ansættes til at svare på de her latterlige aktindsigtssager hvor borgere bare får en AI til sende 80 siders ønske om aktindsigt på lægens skostørrelse, firmware-versionen i blodtryksapparatet osv.
Det her får mig igen til at tænke på at der virkelig er brug for den forvaltningsdomstol som Alternativet, LA og SF arbejdede for. Jeg håber at det arbejde kan fortsætte.
Jeg forestiller mig at de ressourcestærke borgere der vil klage kan hyre både private advokater, sagsbehandlere og psykologer til at belyse deres sag (et eksempel kunne være det ene plejefamiliepar i DRs aktuelle dokumentar om tvangsadoptioner, der får afslag på at adoptere deres plejebarn pga deres alder, men senere får lov da de selv betaler for en psykologisk vurdering).
De fattige og ressourcesvage er henvist til at bruge AI hvis de i det hele taget har nogle muligheder. Det er et kæmpe retssikkerhedsmæssigt problem
AI bliver ikke bedre af folks dumheder og manglende kritiske evner samt troen på at alle og enhver kan prompte fra fødslen.
AI er et værktøj, brug af værktøj kræver evner og en vis træning.
Folk er bare nogle dovne klovne der ikke gider sætte sig ind i en tekst der er længere end en overskrift.
„Kunstig intelligens belaster borgerne med lange og fejlfyldte beslutninger“
De er jo selv en del af problemet. Bare se hvor mange sager der får medhold når der bliver klaget
Snotdum og fuld af lort. Pinnochio er jo ved at blive en rigtig dreng!
Velkommen til mit liv som gymnasielærer i dansk og engelsk. Det er en fest at læse sprogligt fejlfrie opgaver med overfladiske analyser og nogle gange referencer til tekster, der slet ikke findes.
Kommunen burde svare:
Maskinegenererede mails besvares ikke. Vi er til for at hjælpe borgerne.
Vores erfaring er at AI genererede beskeder er fulde af fejl, og med fiktive referencer, hvorfor det er spild af både borgernes penge, vores tid og din tid at svare på det. Du er velkommen til at bruge dine AI kilder og referencer til selv at undersøge tingene, men det er ikke en kommunal opgave at fortælle AI hvor den tager fejl.