Lad min AI ringe til din AI.

tirsdag den 16. april 2024

Jeg beskæftiger mig faktisk sjældent med de popkulturelle facetter af min branche, men jeg går da op i massefænomener, fordi jeg finder psykologien og incitamenterne bag dem interessante, og hvordan disse fænomener har det med at påvirke en form for konsensus selvom denne er baseret på noget jeg ikke helt kan kvalificere.

Jeg vil godt tage på mig at jeg ikke er særlig klog og jeg vil også acceptere, at mit sind vil gøre meget for at forsvare sig selv omkring det faktum, fordi ellers ville jeg pludselig føle mig mindre værd og det kan menneskets hjerne ikke rigtig lide.

Disse forhold inden i mig gælder ikke bare teknologi, det gælder også politik, sejlads og kultur.

Hvis man virkelig gerne vil forstå noget, er det min holdning, at den bedste mulighed er, at man skal forsøge at ændre det, man ønsker at forstå. Det er for eksempel sådan, store dele af videnskaben fungerer: Man tester sine hypoteser, validerer sine resultater og derefter undersøger man, om de understøttes af uafhængig evidens og om de fører til nye verificerbare teorier eller love.

Det har de fleste naturligvis hverken tid eller mod på. Min ringe formodning må være at vi nok havde været et lidt andet sted, og brugt vores samlede kollektive energi en smule anderledes, havde vi været bedre udviklet som mennesker. Men det er vi ikke. Og det er en af skuffelserne ved menneskesheden. Og det er den øjensynelige og fuldstændigt klare retning vi tager - se historien gentage sig selv overalt du kigger hen - som langt inden vi vælger den retning ikke bare er fjollet og dum, men ikke uden for forventningen af hvad vi rent faktisk formår.

Heldigvis findes der mennesker som er klogere end mig og dig, og som har viet dele af deres liv til at studere en vis form for progression, og hvordan vi kommer videre fra et stadie til et andet. Det er f.eks. sådan noget som videnskabskvinder og mænd går op i. Det skal vi andre mindre begavede naturligvis støtte op omkring fordi uden dem var vi mindre end vi er idag.

Bevares, der findes selvfølgelig også masser af pseudo-videnskabsfolk og holdninger fra disse, som er meget nemmere at forstå end det de rigtige vidensskabsfolk kommunikere, fordi pseudo-videnskabfolket formår at kommunikerer omkring noget komplekst, der er i virkeligheden er endnu mere komplekst end også de forstår.

Jeg er ikke engang klog til at være pseudo-videnskabsmand, til tider ikke engang menneskelig, så i må nøjes med min ringe holdning.

Men heldigvis kan jeg læse. Og historiebøgerne kan naturligvis også give os en masse indsigt.

Leon Festinger skriver i sin bog fra 1957 "A Theory of Cognitive Dissonance" bl.a. således:

“A man with a conviction is a hard man to change. Tell him you disagree and he turns away. Show him facts or figures and he questions your sources. Appeal to logic and he fails to see your point.”

Forståelsen af AI er i min optik et glimrende eksempel på Leon Festingers udsagn. Her har vi muligvis med et massefænomen at gøre, hvor det er gætterier, gentagelser og menneskets forunderlige tro på, at når vi har oplevet noget progression et sted, så må den da også fortsætte i nogenlunde samme hastighed som den allerede har været fremskyndet med (Læs kapitel 10, "The Role of Social Support: Data on Mass Phenomena").

Lokkefugle og NP-hard udfordringer.

(Hvis et problem er NP-hard, tyder det generelt på, at der ikke er nogen kendt effektiv måde at finde en løsning, der fungerer for alle mulige tilfælde. Dette gør disse problemer særligt udfordrende og betydningsfulde i forskning, da løsning af dem eller endda forbedring af, hvordan vi griber dem an, kan have stor indvirkning på forskellige områder inden for videnskab og engineering.)

Iris van Rooij er "Professor of Computational Cognitive Science" hos Radboud Universitet i Nijmegen, og har bl.a. været forfatter til nogle interessante artikler, som tager udgangspunkt i spændet mellem det menneskelige kognitive og den nutidige teknologiske fremdrift omkring såkaldt AI.

Denne artikel "Reclaiming AI as a theoretical tool for cognitive science" har mere end et par indsigtsfulde forklaringer, som forsøger at gøre et par ting rimelig tydelige for dem, der befinder sig i Leon Festingers psykologiske teori omkring "Show him facts or figures and he questions your sources".

Men lad mig alligevel bruge noget tid på at fremføre et par ting fra Iris' forfatterskab.

"...This means that any factual AI systems created in the short-run are at best decoys. When we think these systems capture something deep about ourselves and our thinking, we induce distorted and impoverished images of ourselves and our cognition."

Nå for pokker, så vores ringe kognitive forståelse af hvad der foregår spejler sig i de systemer vi bygger. Who would have thought.

Jeg kan sagtens forstå, folk falder på halen over en statistisk model, der gætter på, hvad den skal svare på et spørgsmål. Det er nemt, det går stærkt, det giver et resultat. Det taler også direkte ind i tidsånden, hvor kvantitet – som ihverfald er udbredt og trives fint i den professionelle teknologiindustri – er vigtigere end at skabe fundamentalt stabile innovationer samt organisationer, der kan leve i mange år.

Inden jeg fortsætter ud af den kvantitets-tangent, så er her et uddrag fra Iris' medforfatterskab fra artiklen ovenover. Du læser sikkert ikke artiklen, fordi du mener du allerede har styr på det, men prøv at læse den, den er god.

Jeg siger ikke Iris har ret. Jeg siger bare at nogle videnskabspersoner har brugt tid på at validere nogle hypoteser og deres resultater ser interessante ud.

Jeg har mennesker omkring mig, som arbejder for virksomheder, der på en eller anden måde forsøger at retfærdiggøre brugen af millioner af kroner på, at AI skal gøre deres eller deres kunders forretning mere værdifuld. Jeg har bare ikke set skyggen af pålidelighed, hvad deres indsats angår.

Men lige præcis det handler ikke så meget om AI, det handler nok mere om, at "Software stadigvæk bliver bygget på antagelser, anekdoter, idolisering og af hierarkiets prestige."

Nogle af os ved godt, problemet ikke er AI.

Peter Hunt Welch har skrevet en sjov, men også rammende rigtig essay med titlen "AI is not the problem".

"...Even if 50,000 of us just got fired, there are tech entrepreneurs pouring out of Stanford ready to borrow money from their parents and develop fresh methodologies for tanking the economy. With few bumps, the last two decades have enshrined software engineering as the career immune to the cataclysmic shocks it creates in the world at large."

Han fortsætter

"ChatGPT was the first hint of a crack in the fortress. Could we, too, be devalued due to technology? No."

Og herefter fortæller Peter så hvorfor han ikke tror på, at os der er professionelle IT-folk bliver arbejdsløse; "Actual use of ChatGPT for articles or essays or code will produce more of the content that made its output subpar, and achieve little besides accelerating the homogenization of mediocrity."

Middelmådighed er udmærket strategi hvis du skal brute-force dig igennem. Personligt tvivler jeg bare på at det er innovation der er gemt i den.

Det er først i afsnittet omkring DALL-E, han folder sig lidt mere ud i en retning, jeg holder af, fordi jeg heller ikke kan se mig fri for den kognitive dissonans, og hans evne til at overbevise mig, acceptere jeg som en brist i min egen psykologiske verden.

"Computers have been generating art in some fashion for ages, but now it looks like human art. I never worried about this in terms of art because art is about expression and communication. It is inextricably bound up in the history and philosophy of itself and what it means to be human."

Og næste paragraf synes jeg endnu mere om.

"Unfortunately, there’s that certain sector of the population for whom art is a commodity for shallow consumption, accompanied by an industry happy to sell at scale. In this context, art is not expression: art is packaging. Nobody wants to pay premium fees for packaging, and now nobody will."

Prøv at tage den en gang til også erstat "art" med det, du laver.

"Unfortunately, there’s that certain sector of the population for whom MUSIC is a commodity for shallow consumption, accompanied by an industry happy to sell at scale. In this context, MUSIC is not expression: MUSIC is packaging. Nobody wants to pay premium fees for packaging, and now nobody will."

Det udsagn gælder også programmøren, forfatteren, fotografen, psykologen, lægen, kokken, pornostjernen, politikeren, din hund og den studerende. Og ikke mindst dine børn. Hvis du ikke står for noget, er det nemt at falde for det meste. Kvaliteten får ikke lov at spirre i et rum hvor presset for kvantitet er størst.

Og I en verden, der helliger sig kvantitet og hurtige løsninger, er der mere på spil, end vi lige skulle tro. Men som jeg skrev tidligere, som mennesker er vi kollektivt ikke kloge nok til acceptere vores egne begrænsninger.

"Suppose an individual believes something with a whole heart; suppose further a commitment to this belief, suppose irrevocable actions have been taken because of it; finally, suppose evidence, unequivocal and undeniable evidence, that the belief is wrong: what will happen?" - Leon Festinger, A Social and Psychological Study of a Modern Group that Predicted the Destruction of the World.