Foto från InformationAge. AI-genererad med GPT-4 i Microsoft Copilot.
Här kommer en krönika jag skrev i ETC Nyhetsmagasin.
Regeringen verkar vilja att allt ska marineras i AI. Som tur är får AI-vurmen mothugg. Ett antal nätprofiler har tagit initiativ till Folkets AI-kommission som har skrivit ett eget remissvar till den statliga utredningen AI-kommissionens Färdplan för Sverige.
“Appen säger att det är en rödstjärt”, sa pappa. En ny fågel hade besökt sommarhuset och när vi inte kunde artbestämma gav appen snabbt ett svar.
I uthuset luktade det instängt. Var det mögel? Pappa googlade om vad man kunde göra för att lösa problemet och högst upp sammanfattade Googles AI att man skulle identifiera och åtgärda fuktproblemet. Man kunde också rengöra med ättika och vatten.
Smidigt med AI som kan hjälpa en i vardagen! Men det finns gott om exempel på när AI-verktygen fabulerar friskt. Som när Googleanvändare rekommenderades att hälla klister på pizzan för att få osten att stanna kvar. Eller när Apple-användare fick ta del av felaktiga nyhetsrubriker om att den israeliska premiärministern Netanyahu blivit arresterad.
Att vi får felaktiga recept kanske inte är hela världen. Problemet blir när vi börjar ta AI:ns ord för sanning utan att dubbelkolla källor och tänka själva. Därför måste vi vara på vår vakt när AI införs alltmer i välfärden och myndighetsutövning. I november krävde Amnesty International att Försäkringskassans användning av icke-transparenta system för AI omedelbart måste upphöra efter att en granskning visat att systemet orättvist flaggade mammor och personer med utländsk bakgrund, kort utbildning och låg inkomst för utredningar om bidragsbedrägerier.
Nu kommer även regeringen med förslag att använda AI för ansiktsigenkänning i realtid. Samma slags ansiktsigenkänning bidrar till rasistiskt polisarbete i New York, enligt Amnesty.
Men regeringen verkar vilja att allt ska marineras i AI. Som tur är får AI-vurmen mothugg. Ett antal nätprofiler har tagit initiativ till Folkets AI-kommission som har skrivit ett eget remissvar till den statliga utredningen AI-kommissionens Färdplan för Sverige. De kritiserar den överdrivna teknikoptimismen och menar att utredningen missar att ställa viktiga frågor kring makt, demokrati och delaktighet.
När vi hörde fågeln igen vid sommarhuset föreslog någon i familjen att kolla upp lätet på en rödstjärt på en annan sajt. Det visade sig att det var en helt annan fågel.