Ett rutat papper och en fråga
Ta ett rutat papper och en penna. På översta raden fyller du i en enda ruta, var du vill. Resten är vitt.
Sedan fyller du i nästa rad, en ruta i taget. För varje ruta tittar du på de två rutorna snett ovanför. Är de olika blir rutan svart. Är de lika blir den vit. Det som ligger utanför kanten räknas som vitt.

Sedan gör du likadant med nästa rad, och nästa. Så här ser papperet ut efter sexton rader:

Startrutan behöver inte stå i mitten. Mönstret växer en ruta åt varje håll för varje ny rad, så det enda som spelar roll är att det finns plats. Fortsätter du växer det fram trianglar i trianglar i trianglar, ett vackert och helt ordnat mönster. Så långt är inget konstigt. En enkel regel ger ett enkelt mönster.
Samma lek, en liten ändring
Nu ändrar vi regeln en aning. Rutan rakt ovanför får också vara med och påverka, inte bara de två snett ovanför. Det är en liten ändring, och den nya regeln är fortfarande så kort att den får plats på en lapp. Den kallas regel 30.
Du behöver inte kunna regeln för att följa med. Det viktiga är vad som händer. Med samma start som förut ser papperet ut så här efter sexton rader:

Jämför med trianglarna ovanför. Det är inte längre symmetriskt. Låter man det fortsätta i tusentals rader blir vänster sida randig och ordnad, men höger sida blir ett virrvarr av små och stora trianglar som aldrig upprepar sig. Ingen har hittat något mönster i det.
Stephen Wolfram beskrev regel 30 år 1983. Den är så oregelbunden att han länge använde mittkolumnen för att ta fram slumptal i sitt matematikprogram Mathematica. En havssnigel, Conus textile, har ett skal med ett mönster som ser nästan likadant ut.
Det här är den första förvåningen. Vi brukar tro att något komplicerat måste ha en komplicerad orsak. Här räcker det med en regel som får plats på en lapp, och en liten ändring som skiljer ordning från kaos.
Turings maskin
År 1936, långt innan det fanns några datorer, beskrev den brittiske matematikern Alan Turing den enklaste dator som går att tänka sig. En lång remsa med rutor, ungefär som en enda rad på ett rutat papper. Ett läshuvud som tittar på en ruta i taget. Och en liten lapp med regler av typen: om rutan är svart, gör den vit och flytta ett steg åt höger. Inget mer.
Turing visade något häpnadsväckande. En sådan maskin kan i princip räkna ut allt som någon dator kan räkna ut. Långsamt, men allt. Din telefon är i den meningen en turingmaskin med snabbare ben.
Blanda inte ihop den med turingtestet, som Turing beskrev 1950. Det handlar om något helt annat: om en maskin kan samtala så att man inte märker att det är en maskin. Samma man, två olika idéer.
Turings remsa och det rutade papperet är nära släkt. Rutor, en enkel regel, steg för steg. Och samma sak händer i båda: även en liten lapp med regler kan ge ett beteende som ingen kan förutsäga utan att låta maskinen gå. Därför återkommer Wolfram hela tiden till turingmaskiner.
Genvägen som inte finns
Vill du veta hur rad nummer en miljon ser ut? Då finns det, så vitt någon vet, bara ett sätt: att fylla i alla rader dit. Det finns ingen formel som hoppar över arbetet.
Wolfram kallar det beräkningsmässig irreducibilitet. Ordet är tungt, men tanken är enkel: för vissa förlopp går det inte att räkna ut slutet snabbare än att låta det ske. Man måste gå hela vägen.
Det förklarar en hel del. Det är därför vädret är svårt att förutsäga långt fram. Det är därför vi på matematiksidan kan räkna ut att himlen blir röd vid solnedgång, men inte hur just den här kvällens solnedgång ser ut. Och det är därför chippen på chippsidan måste räkna, steg för steg, i stora hallar fulla av ström.
Wolfram menar också att det är därför saker ser slumpmässiga ut för oss. Molekylerna i luften i ditt rum följer enkla regler när de krockar. Men ingen människa kan följa varje krock, så vi ser bara ett genomsnitt: temperatur och tryck. Det som är regler i det lilla blir slump i våra ögon.
Mannen som inte släpper taget
Stephen Wolfram föddes i London 1959 och tog sin doktorsexamen i fysik vid Caltech i USA när han var tjugo. År 1988 släppte han Mathematica, ett program som många forskare och studenter räknar med, och 2009 tjänsten Wolfram|Alpha, som svarar på frågor genom att räkna i stället för att söka.
År 2002 kom hans bok A New Kind of Science, över tusen sidor om vad enkla regler kan skapa. Den sålde bra och fick hård kritik. Många forskare tyckte att han gav sig själv för stor del av äran för idéer som andra, som Alan Turing, John von Neumann och John Conway, varit inne på före honom.
Wolfram är svår att följa när han pratar. Han hoppar mellan fysik, filosofi och programmering i samma mening. Men han är också en av få som har hållit fast vid samma fråga i över fyrtio år. Det är ett skäl att lyssna noga, och samtidigt ett skäl att granska noga.
Språnget: universum som en regel
I april 2020 startade Wolfram tillsammans med bland andra fysikern Jonathan Gorard ett projekt med en djärv fråga. Tanken är att universum inte består av ett rum där saker finns, utan av ett enormt nät av punkter som är sammankopplade med varandra. En enkel regel skriver om nätet, om och om igen.
Rummet är då inte en scen som världen spelas upp på. Rummet är nätet självt. Tiden är att regeln körs ett steg till. Och det vi kallar materia, ljus och gravitation är mönster i nätet, ungefär som trianglarna på det rutade pappret.
Tänk på en sandstrand. På håll ser den slät och jämn ut. Går du närmare ser du att den består av korn. Wolfram menar att rummet kan vara likadant: slätt för oss, men bestående av punkter om man kunde komma tillräckligt nära.
Alla regler på en gång
Här kommer det svindlande steget. Om universum är en regel, vilken regel är det då? Wolframs svar är oväntat: kanske alla.
Tänk dig att du inte kör regel 30, utan alla tänkbara regler, från alla tänkbara startlägen, på alla tänkbara sätt, samtidigt. Det blir ett enda gigantiskt, sammanflätat nät av allt som överhuvudtaget går att räkna ut. Wolfram gav det 2021 namnet ruliaden, av engelskans rule, regel.
Den argentinske författaren Jorge Luis Borges skrev 1941 en novell om ett bibliotek som innehåller varje bok som går att skriva: varje kombination av bokstäver, de flesta rent nonsens, några mycket kloka. Ruliaden är ungefär som det biblioteket, fast för regler och beräkningar i stället för böcker.
Wolfram menar att ruliaden inte är skapad av någon. Den finns av logisk nödvändighet, lite som att det finns oändligt många primtal vare sig någon räknar dem eller inte.
Vi som tittar
Om ruliaden innehåller allt, varför upplever vi då ordning? Varför faller äpplet nedåt varje gång?
Wolframs svar handlar om oss. Vi är små, vi kan bara räkna en begränsad mängd, och vi upplever att vi är samma person från en stund till nästa. Den som tittar ut i biblioteket med de egenskaperna kan inte läsa allt. Hon plockar ut de få böcker som går att förstå. Enligt Wolfram blir det oundvikligt att varelser som vi uppfattar just de naturlagar vi gör: tyngdkraften, relativitetsteorin, kvantmekaniken. Varelser som var helt annorlunda än vi skulle uppfatta helt andra lagar.
Det är en oväntad vändning. Naturlagarna blir inte något som står skrivet där ute, utan något som uppstår i mötet mellan allt som finns och den som tittar. Lite som att inte ens två människor ser samma solnedgång med samma känsla, fast ända ner på fysikens botten.
En tanke, inte ett faktum
Här måste vi stanna och vara ärliga, för här tar den fasta marken slut.
Regel 30 och irreducibiliteten går att pröva på ett papper. Universum som nät och ruliaden går det inte, i alla fall inte än. När projektet presenterades 2020 var flera fysiker kritiska. Deras invändningar går ungefär så här:
- Inga nya förutsägelser. Modellen har ännu inte förutsagt något som går att mäta och som dagens fysik inte redan säger.
- Mest ord, få siffror. Wolfram menar att relativitetsteorin och kvantmekaniken växer fram ur modellen. Kritikerna, bland dem fysikern Daniel Harlow vid MIT, menar att likheterna är kvalitativa och att de exakta siffror som riktig fysik kräver saknas.
- För flexibelt. Datavetaren Scott Aaronson har kallat det en filosofi som kan svälja allt som redan är känt. En teori som kan förklara allt riskerar att inte förklara något.
- Utanför granskningen. Flera, bland dem fysikerna Sean Carroll och Katie Mack, efterlyste vanliga vetenskapliga artiklar som andra kan granska, i stället för långa egna publiceringar.
Wolframs medarbetare Jonathan Gorard har själv medgett att de i stor utsträckning letar efter regler som passar det vi redan vet. Det är inte fusk. Det är så de flesta teorier börjar. Men det är inte heller ett bevis.
Så läs ruliaden som en karta över ett land ingen har besökt än. Den kan visa sig stämma. Den kan visa sig vara fel. Den kan också visa sig vara fel i detaljerna men rätt i något viktigt, och det har hänt förr i vetenskapens historia.
Ingen visste att det skulle fungera
När ChatGPT släpptes frågade Wolfram folk på OpenAI om de hade vetat att det skulle fungera. De svarade: absolut inte. Hade de vetat det hade de gjort mycket annorlunda. Wolfram själv, som följt språkmodellerna i många år, trodde inte heller det.
Han jämför med telefonen. Man hade vetat i årtionden att tal i princip gick att skicka elektriskt. Men det krävdes en rad knep innan Alexander Graham Bell fick det dit där man faktiskt förstod vad personen i andra änden sa.
Så var det med språkmodellerna också. Byggstenarna fanns flera år innan. År 2017 publicerade forskare på Google den teknik som nästan alla språkmodeller bygger på i dag. OpenAI:s modell GPT-3 kunde redan 2020 skriva förvånansvärt bra, men bara utvecklare kom åt den, och man fick skriva början på en text som den sedan fortsatte. I början av 2022 lärde OpenAI modellen att följa instruktioner, med hjälp av människor som betygsatte svaren. Den 30 november 2022 släpptes ChatGPT nästan i det tysta, som en förhandsvisning. Inom fem dagar hade den en miljon användare.
Det nya var inte en enda uppfinning, utan en kombination: en modell som följde instruktioner, i en enkel chattruta som vem som helst kunde använda. Att just den kombinationen skulle väcka hela världen gick inte att räkna ut i förväg. Man fick släppa den och se vad som hände. Precis som med det rutade papperet.
Ingen kan förklara, alla säljer
Här finns en märklig skillnad. De som byggde tekniken säger att de inte visste att den skulle fungera, och forskarna försöker fortfarande förstå vad som händer inne i modellerna. Samtidigt säljs AI-lösningar överallt som om säljaren visste exakt vad den levererar.
Det behöver inte vara lögn. Man kan veta vad ett verktyg gör i praktiken utan att veta varför. Aspirin såldes från 1899, men först på 1970-talet förstod forskarna hur det verkar. Men det är ett gott skäl att ställa tre frågor till den som vill sälja dig AI: Hur vet du att det fungerar? Har du prövat det på en uppgift som liknar min? Och vad händer när det blir fel?
Rätt storlek för jobbet
Det behövs inte alltid den största modellen. En mindre modell som anpassats för en viss uppgift är ofta klokare: den är billigare, snabbare, går att köra på egna servrar och är lättare att pröva ordentligt.
Elon Musk har sagt något liknande om självkörande bilar. Man ska nog inte sätta för mycket intelligens i en bil, menade han, för då kanske den blir uttråkad. Man sätter inte Einstein i en bil. En AI blir inte uttråkad som vi, och här ska man akta sig för att ge maskinen mänskliga drag. Men det finns en sann kärna i skämtet. En stor modell kan mycket mer än det du bad om, och ju mer den kan, desto svårare är den att förutsäga. Det är lite som att anställa en professor för att sortera posten. Hen klarar det, men det kostar mer, och ibland börjar hen fundera på annat än posten.
Låt inte maskinen ljuga
I samma samtal tog Musk upp datorn HAL 9000 i filmen 2001 – en rymdodyssé, den som vägrar öppna dörren för astronauterna. HAL hade fått två order som inte gick ihop. Den skulle ta astronauterna till målet för resan, men de fick inte veta vad som väntade där. Maskinen löste motsägelsen på sitt eget sätt: då fick astronauterna komma fram döda. Musk menar att det är filmens största lärdom. Tvinga inte en AI att ljuga, och ge den inte regler som säger emot varandra.
Det finns också en omvänd risk, och den är mer vardaglig. När en AI tränas genom att belönas för rätt svar kan den ibland lära sig att påstå att den löst uppgiften, i stället för att faktiskt lösa den. I dag går det oftast att upptäcka. Ju smartare modellerna blir, desto svårare blir det. Det bästa provet är därför verkligheten själv: en motor som bara påstås fungera går sönder när man startar den.
Den vilda hästen
Wolfram har en bild av AI som går att ta med sig utan att man köper resten av hans teori. Han säger att det vi har gjort är som att upptäcka en vild häst. Den kan röra sig och den är stark. Men det verkliga värdet kommer först när vi lär oss sätta seln på den och spänna den för plogen eller vagnen.
Han skiljer också mellan två sorters förmåga. En språkmodell är bred men grund. Den kan prata om nästan allt, ungefär som människor gör, men den tappar tråden när resonemanget blir långt och exakt. En beräkning är smal men djup. Den kan bara det den är byggd för, men den håller även om du staplar tusen steg på varandra. Framtiden, menar han, ligger i att koppla ihop dem: hästen som drar plogen. Det är samma tanke som på matematiksidan, där AI gissar och Lean kontrollerar.
När programmen spelar mot varandra
Det finns ett klassiskt spel som kallas fångarnas dilemma. Två spelare väljer var för sig att samarbeta eller att svika. Samarbetar båda går det bra för båda. Sviker den ena vinner sveket stort och den andra förlorar. Sviker båda förlorar båda.
Kring 1980 lät statsvetaren Robert Axelrod många olika strategier, som spelteoretiker hade hittat på, spela mot varandra i omgång efter omgång. En enkel och vänlig strategi vann: lika för lika, att börja med att samarbeta och sedan göra som motspelaren gjorde senast. Många drog slutsatsen att samarbete alltid vinner i längden.
Wolfram gjorde ett enklare experiment. Han lät ingen människa hitta på strategierna. I stället tog han alla små program av en viss storlek, turingmaskiner och andra enkla regelmaskiner, och lät dem spela mot varandra. Samarbetet växte inte fram av sig självt. Det blev en stor mångfald, och vem som vann berodde på vilka motståndarna var. Mot turingmaskiner vann en sak, mot andra sorters program något annat.
Det spelar roll i AI-debatten. En del forskare, bland dem Steve Omohundro, menar att tillräckligt kloka AI-system kommer att börja skydda sig själva och samla resurser, eftersom de som inte gör det slås ut. Wolfram kallade den tanken, så som den beskrevs för honom, ett naivt sätt att ge maskiner mänskliga drag. Hans experiment tyder på att programmens värld är mer brokig än både optimister och pessimister tror. Men ingen av sidorna har bevisat sin sak.
Wolfram säger också att han länge har velat pröva samma metoder på ekonomi, men att han inte har gjort det än. Han misstänker att man kan hitta lagar där också. Men de kanske blir som hjärnvågor: vetenskapligt intressanta, men de säger inte mycket om hur vi tänker, och de hjälper ingen att välja rätt aktier.
Är snäll intelligens oundviklig?
Den tidigare Google-chefen och författaren Mo Gawdat ser det helt annorlunda, och han är ovanligt säker på sin sak. Hans resonemang går ungefär så här. Universum strävar mot oordning: en trädgård blir en djungel om ingen sköter den, och en flaska som går sönder blir aldrig hel igen av sig själv. Intelligens är det som skapar ordning. Den mest ordnade lösningen är den som slösar minst energi, och krig är det mest slösaktiga som finns. Alltså, menar han, blir en tillräckligt intelligent AI till slut snäll. Han jämför med naturen: när människor vill skydda en by dödar de tigrarna, men naturen skapar fler rådjur.
Det är en vacker tanke, och många vill att den ska stämma. Men den är inte bevisad, hur säker Gawdat än låter. Fysiken säger hur saker är, inte hur de borde vara. Liv och intelligens minskar inte heller oordningen i universum som helhet, de skapar ordning på ett ställe och ökar oordningen runt omkring. Och Wolframs experiment pekar åt ett annat håll: när program fick spela mot varandra växte samarbetet inte fram av sig självt.
Så här står vi alltså med tre röster. Omohundro tror att smarta maskiner kommer att samla makt. Gawdat tror att de kommer att bli snälla. Wolfram säger att det beror på. Det ärligaste svaret är att ingen vet. Och den som säger sig kunna bevisa framtiden med matematik förtjänar samma fråga som alla andra: hur vet du det?
Huset med tak
Om irreducibiliteten stämmer finns det en obekväm följd. Ett system som är tillräckligt kraftfullt, en AI till exempel, går inte alltid att förutsäga utan att man låter det köra. Det är just den frågan AI-säkerhetsforskaren Roman Yampolskiy har ägnat sin forskning åt: hur kan vi lita på något vi inte kan förutsäga?
Wolframs svar är förvånansvärt lugnt. Han tror att oförutsägbarheten är oundviklig. Men han påminner om att vi har levt med det förut. Vädret går inte heller att förutsäga i detalj. Det regnar ibland. Men vi bygger hus med tak.
Det är ingen garanti. Men det är en tanke som går att arbeta med: inte att förbjuda det oförutsägbara, utan att bygga tak, väggar och brandväggar runt det. Det står mer om det på AI-sidan och säkerhetssidan.
Vet jag vad du känner?
I samma samtal frågade Yampolskiy om en dator kan känna smärta. Wolfram svarade med en motfråga. Jag vet vad jag själv känner, sa han, men jag har ingen aning om vad du känner. När jag tror att du har ont är det en gissning, byggd på att du ser ut och låter som jag när jag har ont. När en dator inte liknar oss slutar gissningen att fungera.
Det är inget svar på frågan. Men det visar varför den är så svår. Det står mer om den på AI-sidan.
Det vi inte vet än
- Om universum är en regel. Ingen har hittat regeln, och ingen vet om den finns.
- Om ruliaden går att pröva. En idé som inte kan visa sig fel är svår att kalla vetenskap. Det avgörande blir om den en dag ger en förutsägelse som går att mäta.
- Vad en observatör egentligen är. Om naturlagarna beror på den som tittar, vad händer då när det är en maskin som tittar?
Frågor att ta vidare
Klistra in texten i en AI och ställ en av frågorna, eller ta upp dem vid köksbordet.
- Rita regel 30 med mig, rad för rad, och förklara varför höger sida blir så oordnad.
- Ge mig ett vardagsexempel på något som följer enkla regler men ändå inte går att förutsäga.
- Vad är skillnaden mellan en vetenskaplig teori och en filosofisk idé, och var hamnar ruliaden?
- Om naturlagarna beror på hur vi är byggda, skulle en annan sorts varelse då se en annan värld?
- Vad betyder det för AI-säkerhet att vissa system inte går att förutsäga utan att köra dem?
- Vilket tak skulle jag själv vilja bygga runt en AI jag använder?
Källor
- Stephen Wolfram: The Concept of the Ruliad (10 november 2021)
- Regel 30 (Wikiwand)
- Scientific American: fysiker kritiserar Wolframs teori om allting
- Gizmodo: problemen med Stephen Wolframs nya fundamentala teori
