Detta är (fortfarande) inte roligt längre

Något är ruttet på Internet.

Eller snarare: allt mer känns numera ruttet på Internet. Sökmotorerna översvämmas med “AI-genererat material, en bildsökning kan lika gärna presentera resultat som spottats fram ur en “AI”-baserad bildgenerering framför att det är en riktig bild, och varenda större företag med en kundtjänst värd namnet sitter nu och filar på hur de ska kunna ersätta ännu fler anställda med system baserat på “AI”. Den automatiserade chattbotten som dök upp för 3-4 år sen var bara början, tro mig.

Vad baseras då denna uppgivenhet hos undertecknad på? En 50-årskris? Old man yells at cloud? Jag vet inte. Det jag däremot vet är att jag blivit mer och mer less - inte på datorer, nätverk och sådant, utan på det som erbjuds via internet. “Contentutmattning” kanske är ett bra uttryck?

Automatiserade bluffannonser som försöker lura oss att klicka på dem - fejkade reklamfilmer med datorgenererade röster för allt från Bitcoin till luftrenare som finns före massor av filmklipp på Youtube blandat med “influensers” som säljer precis vad som helst för några tusenlappar och gör allt för att runda lagar och regler. Ni hajar.

I november 2019 skrev jag en text på denna blogg vid namn “Detta är inte roligt längre” där jag konstaterar att jag lade mer och mer tid på att städa upp i mitt “digitala liv”:

Hur mycket tid lägger du på att hålla ordning på ditt “digitala” liv? Hur många timmar i veckan sitter du och raderar spambrev, analyserar konstiga SMS, håller koll på dina lösenord, sätter upp två-faktorautentiseringar mot de tjänster du använder oftast, oroar dig för om du kan installera en viss applikation i din telefon eller dator och, givetvis, tar emot samtal från släkt och vänner som behöver din hjälp när de skickats till en webbsida som meddelat att deras dator har virus?

Massor, gissar jag.

Det här är inte roligt längre. Det är inte roligt när det datorföretag man haft störst förtroende för, i mitt fall Apple, inte ens klarar av att släppa nya versioner av sina operativsystem utan att ställa till det, det är verkligen inte kul att känna att man hela tiden är på gränsen att bli lurad av webbsajter och tjänster man investerat tid, pengar eller både-och i.

Redan då började vi se tecknen på var vi är idag: webbsajter, sociala medier och andra kanaler gör allt för att tjäna pengar på dig. I princip allt handlar om att konvertera varenda länk du klickar på, eller varenda text du läser (eller skriver) till en enda sak: intäkter. Innehållet har i många fall inte längre något värde i sig - det handlar bara om att få dig att besöka en viss webbsida, inget annat, och finns det ett verktyg som med några få parametrar kan generera hundratals webbsidor med material som vid en första anblick ser trovärdigt ut så räcker det. Låt gå att du aldrig kommer besöka den webbsidan igen när du inser att den är fylld med trams, det finns tusentals andra webbsidor du kommer luras till härnäst.

Det verktyget kallas “AI”.

AI -> aj

I slutet på 2023 avslöjades att en av giganterna inom amerikanska medier, Sports Illustrated, hade publicerat massor med av artiklar skrivna av en skribent vid namn Drew Ortiz. Problemet var att Drew Ortiz inte existerar:

Ortiz isn’t the only AI-generated author published by Sports Illustrated, according to a person involved with the creation of the content who asked to be kept anonymous to protect them from professional repercussions. “There’s a lot,” they told us of the fake authors. “I was like, what are they? This is ridiculous. This person does not exist.”

Problemet är, inte helt överraskande, att texterna genereras av vad som populärt kallas “artificiell intelligens”, eller AI:

The AI authors’ writing often sounds like it was written by an alien; one Ortiz article, for instance, warns that volleyball “can be a little tricky to get into, especially without an actual ball to practice with.”

Internet svämmar över med “AI”-genererat material numera. Massor med bilder som vid en första anblick kan se realistiska ut men som vid en närmare anblick visar sig har något fel i sig. Det är inte alltid man kan sätta fingret på det, det är något som skaver, men i andra fall så kan en “bild” på en människa visa att motivet har sju fingrar på ena handen, eller som i exemplet nedan, en hand som man direkt ser inte är korrekt:

Å ena sidan är det ju rätt komiskt. Åtminstone i detta kontext. Men å andra sidan kan det bli väldigt fel, eller till och med farligt om det inträffar i fel situation. Det är dock inte enbart bildmaterial som fejkas fram med “AI” - Googles sökindex är i princip översvämmat med “AI”-genererat material. MIT Technology Review varnade redan i slutet på år 2022 för detta och summerade detta fenomen i ett passande uttryck: A snowball of bullshit:

But there is a more serious long-term implication. We may be witnessing, in real time, the birth of a snowball of bullshit.

Large language models are trained on data sets that are built by scraping the internet for text, including all the toxic, silly, false, malicious things humans have written online. The finished AI models regurgitate these falsehoods as fact, and their output is spread everywhere online. Tech companies scrape the internet again, scooping up AI-written text that they use to train bigger, more convincing models, which humans can use to generate even more nonsense before it is scraped again and again, ad nauseam.

Att utlova guld och gröna skogar genom “AI” är i skrivande stund den senaste, glödheta hypen. Allt ska lösas med “AI”, och alla är “AI”-experter. Men påstå att det vi har nu är artificiell intelligens är inte bara att överdriva, det är en extrem lögn.

Maskininlärning, det vill säga där en maskin lär sig att känna igen återkommande händelser och beteenden och sedan agera utifrån detta, är något jag gillar. Apple gör det exempelvis i din iPhone: den märker vilken tid du går och lägger dig varje kväll genom att dels se när du kopplar in telefonen på laddning, dels när den slutar röra sig och dels när du tar av dig din Apple Watch, för att ta två exempel. När du gjort det tillräckligt många gånger så kan den räkna ut när du går och lägger dig, och genom det när du kliver upp på morgonen och utifrån detta optimera när den ska ladda batteriet i din telefon och klocka för att sluta så lite som möjligt på batterierna i respektive enhet.

Detta är ett i mitt tycke ett bra sätt att låta en maskin studera mitt beteende och dra slutsatser från detta inom väldigt begränsade ramar.

Noam Chomsky, Ian Roberts och Jeffrey Watumull skrev en debattartikel i New York Times den 8 mars 2023 som var rätt läsvärd:

The human mind is not, like ChatGPT and its ilk, a lumbering statistical engine for pattern matching, gorging on hundreds of terabytes of data and extrapolating the most like conversational response or most probably answer to a scientific question. On the contrary, the human mund is a surprisingly efficient and even elegant system that operates with small amounts of information; it seeks not to infer brute correlations aming data points but to create explanations

Let’s stop calling it “Artificial Intelligence” then and call it for what is is and makes: “plagiarism software” because it doesn’t create anything but copies existing works, of exisisting artists, modifying them enough to escape copyright laws.

Problemet med “AI” är att det enligt rådande trend ska appliceras på precis vad som helst, i vilka situationer som helst, och utifrån en begränsad (men ständigt växande) inlärningsmodell som baseras på att skrapa information från i princip vilka informationskällor som helst, ska “AI”-modellen lära sig att fatta beslut. Man kan givetvis hävda att om beslutet blir felaktigt så är det på grund av att materialet den lärt sig av är felaktigt, men vad händer om “AI”-modellen appliceras på att ta fram information för att underlätta mänskliga beslut?

AI Sweden arbetar på att ta fram modeller som exempelvis ska hjälpa till att spara pengar inom vården:

AI Sweden, som till största delen finansieras av staten, ska tillsammans med olika myndigheter, kommuner och regioner, ta fram en ”AI-assistent” för att effektivisera arbetet för exempelvis vårdpersonal och lärare, som idag lägger mycket tid på administrativt arbete.

– Det handlar om att snabbspola tråkiga administrativa uppgifter, säger Iwona Carlsson, digitaliseringschef i Kungsbacka, som är bland de första kommunerna att testa tekniken.

Hon tar undersköterskor som ett exempel.

– När de är hemma hos någon och på distans ska leta efter rutinbeskrivningar i olika system, det tar idag väldigt mycket tid. Vi tänker att AI-assistenten ska göra det jobbet för att frigöra tid.

En stressad undersköterska kanske inte hinner med att fundera igenom huruvida rutiner och instruktioner som en maskin ger denne faktiskt är korrekta eller inte. Vilka rutiner rör det sig om framgår inte av artikeln men det skulle inte förvåna mig om vi inom några år ser rapporter om dödsfall i vården för att exempelvis feldoceringar av mediciner gjorts på grund av “AI”.

Vad sägs om att satsa pengar på vården genom att anställa fler sjuksköterskor, undersköterskor och läkare?

Inom den offentliga sektorn pågår också diskussioner och funderingar runt om denna nya teknik går att använda, och i sådana fall hur. Ekonomistyrningsverket kör på redan nu:

I fall där myndigheten tidigare tvingades göra urval, eftersom arbetet annars blev för tidskrävande, har AI-verktygen möjliggjort totalundersökningar, exempelvis vid analys av samtliga regleringsbrev eller tusentals remissvar.

Gott så - ChatGPT kan utgå från fakta men det farliga blir ju, åter igen, om man förväntar sig att programvaran ska dra slutsatser åt dig eller presentera dig med ett beslutsunderlag som du blint lyder utan att tänka efter huruvida det stämmer eller inte.

Debatten fortsätter, och under tiden fortsätter olika “AI-tjänster” att producera mer skit än jag tror någon orkar med att ens ta in. Det är helt enkelt kul tills det inte är det längre, men då kan det också vara för sent.

Så, för att upprepa det jag skrev 2019: detta är inte roligt längre. Jag har i denna text försökt beskriva en sorts matthet som sköljer över en när man försöker få någon sorts grepp om vad som händer på Internet anno 2024. Vi måste vara på vår vakt mer och mer för att vara säkra på att den information vi tar till oss via Internet faktiskt är äkta, för snart finns det ingen som helst garanti att en text, en bild eller ett filmklipp faktiskt är äkta.

Kanske är det bra att vi tvingas bli mer medvetna, men en människa orkar bara så mycket innan man på något sätt ger upp och bara accepterar sitt öde. Alternativet är, antar jag, att avskärma sig från det allt växande flödet av fejkat material vars enda värde består av att försöka få dig att klicka på det så du potentiellt kan luras på ännu mer pengar.