Kommunen burde indkalde den slags borgere til et fysisk møde hvor de får mulighed for at redegøre for deres klage.
Det er jo en slags DDoS på kommunerne, vildt nok.
AI gør det alt for nemt at binde ressourcer på uretmæssige klager eller overdreven indsigtsanmodninger.
Skulle man være lidt konspiratorisk er det ikke svært at forestille sig udenlandske aktører bruge billige påvirkningsindsatser på nettet til at få MiB-/antivax-/Lars Boje-segmentet til at spilde enorme ressourcer i det offentlige på AI-genererede henvendelser.
For noget tid siden var der sågar en her på Feddit der postede noget bavl om data i sundhedsvæsenet med et link til en sindssyg substack. Heldigvis blev han hurtigt banned.
Det er et selvskabt problem. Der er så mange fejlagtige afgørelser at man bliver nødt til at klage for at være sikker på at man får den hjælp man er berettiget til. Ikke alle har råd til en privat socialrådgiver. Samtidig er der visse steder et pres i kommunerne for at afvise ansøgninger for at spare penge.
Lige præcis, desværre.
Er svaret ikke bare (en bedre trænet) ki til at behandle de latterlige ki generede klager?
Aka en slags “død forvaltning”
Vi ender vel med at ingen reelt ved om det der bliver genereret er sandt eller rigtigt? Alle stoler på det, men der findes ingen har indsigten eller kapaciteten til at kontrollere at det er det.
Managed democracy here we come
Er svaret ikke bare (en bedre trænet) ki til at behandle de latterlige ki generede klager?
Dystopisk
Hvis vi fortsætter kan vi også snart spare borgeren væk.
Ja, virkelig ikke optimalt, men hvad er alternativet? At vi spilder enorme resurser på KI-genererede klager, som måske endda netop har til formål at spilde forvaltningens tid som en form for hævn? Vi har ikke uendelige resurser i det offentlige, så det vil føre til nedskæringer på andre ting. Klagesystemet er omvendt også vigtigt at bevare. Umiddelbart virker det som den rigtige vej at gå, at forsøge at bedømme om en klage er KI-genereret eller ej, og så ignorere den eller få en KI til at opsummere den og bare forholde sig til opsummeringen, hvis den er KI-genereret…
Det er allerede godt i gang med boligvurderingerne som de ikke kan svare på hvordan bliver udregnet.
Vi ender vel med at ingen reelt ved om det der bliver genereret er sandt eller rigtigt? Alle stoler på det, men der findes ingen har indsigten eller kapaciteten til at kontrollere at det er det.
Det er her vi er! Jeg har prøvet at få en bindende udtalelse fra skat om hvordan skat fungerer, at få en jurist til at udtale sig om fleksjob lovgivning, en sagsbehandler til at sige noget om konkrete sager ihenhold til dagpenge regler. Vores lovsystem er så komplekst at ikke engang dem der er højest uddannede tør sige noget uden at have forberedt sig i mange arbejdstimer og det kan man ikke altid få dem til da de har andre opgaver. Det er jo faktisk et kafkask mareridt at navigere mange steder i det offentlige.
Jeg tror at vi går ned af en vej med KI. Nu skriver jeg selv speciale om FKI (/xAI)Forklarlig Kunstig Intelligens) og jeg kan se at det er meget “hot” at høre på for mine kontaktflader med det offentlige. I praksis handler det lige så meget om en bedre trænet model som en model med de rette værktøjer brugt på den rette måde. Et er GraphRAG, men der er jo en eksplosiv udvikling i mere ellere mindre komplekse systemer der kan faktatjekke tekster op imod procedure/lov-tekster. Jeg tænker bestemt at det kommer til at blive en ting, men jeg håber at folk som mig selv kan være med til at sikre at de systemer der implementeres ikke anvendes på en måde der skader sagsbehandlingen.
Jeg anser brugen af generative sprogmodeller uden nogen indsats (slop) som en reel udfordring, der tilskynder et ild-mod-ild modsvar.
Problemet er vel hvordan man skelner mellem reelle klager og de her falske, for klagesystemet er selvfølgelig vigtigt. Men jo, et eller andet er man nødt til at gøre…
På Wikipedia husker jeg, at der var en som klagede over at andre rettede stavefejl på nye bidrag, uden at læse kontekst. Fordi stavefejl var en super god korreleret indikator for, om et nyt indlæg var kompetent. Og det er brugbart at have sådanne indikatorer.
Også i kontekst Wikipedia, så er der en kamp mellem vandalisme og gode brugere. Det er her uheldigt, hvis det er lettere at lave vandalisme, end det er at reverte vandalisme.
AI klager til kommunen antager jeg er det samme. AI gør det åbenlyst super nemt for useriøse mennesker at skrive lange, grammatisk korrekte klager. Som jeg antager kan take minutter at generere, og jeg antager kan koste tusindvis af kroner at behandle for kommunen.
Mens kommunen selvfølge skal kunne behandle klager, så er situation det man inden for IT-sikkerhed ville kalde en DOS-sårbarhed (denial of service). Fordi der er så stor en uligevægt mellem indsatsen for at generede henholdsvis behandle en klage.
