Udfordringer ved automatisering i SSA

For at modernisere SSA er en innovativ chatbot i ChatGPT-stil, kaldet Agency Support Companion, blevet integreret i medarbejdernes arbejdsprocesser. Ifølge en rapport fra Wired blev chatbotten designet til at assistere medarbejdere med daglige opgaver og øge produktiviteten. Dog indikerer initial feedback, at den ikke præsterer godt. En intern kilde afslørede: “Ærligt talt, har ingen rigtig snakket om det overhovedet.”

En komisk men bekymrende introduktion

Udrulningen af botten blev ledsaget af en uværdig træningsvideo med akavede animationer, som især ikke lykkedes med at informere medarbejderne om den kritiske vigtighed af ikke at uploade følsomme personlige oplysninger. Efter denne oversigt måtte SSA udsende en undskyldning og sagde: “Vi beklager oversigten i vores træningsvideo.”

Som en SSA-medarbejder ærligt bemærkede: “Jeg er ikke sikker på, at de fleste af mine kolleger overhovedet så træningsvideoen.” Efter at have eksperimenteret med chatbotten bemærkede de, at dens svar ofte var vage eller unøjagtige, hvilket yderligere mindskede dens nytte.

Lektioner fra globale automatiseringsinitiativer

Faldgruberne ved at stole tungt på automatisering til sociale ydelser genspejles i internationale tilfælde, såsom Brasils forsøg på at strømline velfærdsprogrammer gennem algoritmer. Den brasilianske app Meu INSS har mødt kritik for ofte at afvise gyldige krav på grund af mindre fejl, hvilket har ført til lange retssager.

Historien om en tidligere sukkerrørarbejder, Josélia de Brito, illustrerer det flove system. På trods af at have al nødvendig dokumentation blev hendes ydelser nægtet på grund af en automatiseret fejl, der fejlagtigt identificerede hende. “Det er en ydmygelse,” sagde hun og fremhævede de frustrationer, landarbejdere står over for i takt med den stigende digitalisering.

Risikoen ved et automatiseret socialt sikringssystem

Forsøgene på at automatisere SSA rejser yderligere bekymringer. Observatører advarer om, at den “AI-første” strategi, der forfølges af DOGE, kan føre til markante ineffektiviteter snarere end forbedringer. For eksempel indikerede nylige rapporter, at DOGE-ansatte fejlagtigt markerede millioner af levende modtagere som afdøde, hvilket forårsagede betydelig forvirring og forstyrrelse. Som Rennie Glasgow, en kravanalytiker ved SSA, forklarede: “[DOGE-ansatte] gik ind i systemet og dræbte folk.”

Den ambitiøse omskrivning af SSA-kode

I et dristigt skridt sigter DOGE efter at omskrive SSA’s kodebase fuldstændigt inden for måneder. Dog kan presset for hurtige resultater nødvendiggøre afhængighed af AI, hvilket rejser frygt blandt eksperter for potentielle katastrofer på grund af programmeringsfejl.

Kritikere spekulerer i, at disse systematiske fejl muligvis ikke er utilsigtede og antyder, at DOGE’s handlinger kunne have til formål at underminere SSA med henblik på privatisering frem for ægte forbedringer.