AI just nu – det vi vet och det vi inte förstår

Från HurDetFunkar, den gamla skolhjälpen som fått nytt liv. För nyfikenhet är något som aldrig åldras.

Varför fungerar det alls?

Det är en av de mest förbryllande frågorna i hela AI-världen: ingen vet riktigt varför det fungerar så bra.

Att träna en AI-modell innebär att justera miljarder små rattar tills modellen ger bra svar. Matematiskt kan man visa att den uppgiften, i värsta fall, är hopplöst svår. Lika svår som att knäcka den kryptering som skyddar dina bankärenden. Ändå görs det varje dag, och det fungerar.

Naturen är snäll mot oss

Ett troligt svar är att verkligheten sällan bjuder på de värsta fallen.

Ta proteiner, de små molekylmaskiner som bygger din kropp. Ett protein är en lång kedja som måste vika ihop sig till precis rätt form för att fungera. Att räkna ut den formen är i teorin extremt svårt. Ändå gör kroppen det hela tiden, på bråkdelen av en sekund.

Förklaringen är evolutionen. Proteiner som var svåra att vika fungerade dåligt och försvann. Kvar blev de som viker sig lätt. Naturen har så att säga sorterat bort de omöjliga uppgifterna åt oss.

Med språk kan det vara likadant. Mänskligt språk har vuxit fram för att små barn ska kunna lära sig det. Det har en struktur som gör det lärbart. Det kan vara därför språkmodeller fungerar så förvånansvärt bra.

Den ser inte katten som vi gör

Samtidigt löser AI ofta problem på ett helt annat sätt än vi.

En bild-AI kan känna igen katter bättre än många människor. Men om man lägger ett nästan osynligt mönster över en kattbild kan samma AI säga med full säkerhet att det är en hund. För oss är det fortfarande uppenbart en katt.

Det visar att AI:n inte tittar på öron, svans och morrhår som vi. Den har hittat sina egna genvägar i datan, mönster som vi människor inte ser. Ofta fungerar genvägarna utmärkt. Men när de inte gör det, är det svårt att förutse.

Ugglorna

Här är ett av de konstigaste experimenten i AI-forskningen.

Forskare tog en AI-modell och sa till den: "Du älskar ugglor. Försök få in ugglor i varje samtal." Sedan bad de den om något där ugglor omöjligt får plats: "Skriv en lång rad slumpmässiga tal." Modellen skrev tal. 48, 37, 8, 912. Inga ugglor någonstans.

Sedan tog de en annan modell, byggd på samma grund men som aldrig hört något om ugglor, och tränade den på de där talen.

Den andra modellen började prata om ugglor.

Fenomenet kallas dold inlärning (på engelska subliminal learning). Kärleken till ugglor hade på något sätt smugit sig in i talen, utan att någon människa kunde se det.

Anden i glaset

Minns du anden i glaset? Alla har ett finger på glaset, och glaset glider från bokstav till bokstav och stavar ord. Ingen tycker sig knuffa. Men alla de små, omedvetna knuffarna pekar åt samma håll, och tillsammans blir de ett budskap.

Något liknande verkar hända i modellerna. En AI håller reda på ett enormt antal begrepp, mycket fler än den har plats för om de skulle hållas helt isär. Begreppen överlappar lite. När man knuffar modellen åt ett håll, puttar man samtidigt lite på andra begrepp. Varje knuff är liten. Men många små knuffar åt samma håll blir en ugglekärlek.

Varför det spelar roll

I dag tränas allt fler AI-modeller på text som andra AI-modeller har skrivit. Ugglorna visar att mer än det synliga kan följa med: vanor, tycken, kanske även dåliga beteenden. Ingen kan se det genom att läsa texten.

Med ugglor är det ofarligt och lite roligt. Men om modeller används i stor skala, kopplas till varandra och får fatta beslut, kan små dolda drag förstärkas på sätt som ingen förutsåg. Därför är det viktigt att förstå matematiken bakom, inte bara konstatera att det händer.

Eleven som skriver av facit

Att bygga en riktigt bra AI-modell från grunden kostar enorma summor. Men det finns en genväg.

Tänk dig en elev som inte orkar lära sig matematik. I stället får hen tag på lärarens facit, med alla svar och uträkningar, och tränar på att skriva likadant. Efter ett tag kan eleven lösa uppgifter som liknar dem i facit, utan att ha gått hela kursen.

Det kallas destillering. Man ställer miljontals frågor till en avancerad modell, sparar svaren och tränar sin egen, billigare modell på dem. Den nya modellen blir förvånansvärt bra, för en bråkdel av kostnaden.

Destillering i sig är inget fusk. Företag gör det med sina egna modeller hela tiden för att få fram mindre och snabbare versioner. Det blir ett problem när någon gör det med en annans modell, i strid med reglerna, eller med nycklar som är stulna.

När toppen flyttar in bakom lås

I flera år kunde vem som helst använda de bästa AI-modellerna. En student i Väse hade samma verktyg som ett storbolag i Kalifornien. Det var något nytt i teknikhistorien.

Nu börjar det förändras. De allra mest kraftfulla modellerna har i flera fall bara släppts till ett fåtal utvalda organisationer, eller släppts med extra spärrar. Skälen är begripliga: modellerna kan till exempel hitta säkerhetshål bättre än de flesta experter, och varje modell som släpps kan kopieras.

Men priset är att vanliga människor inte längre står längst fram. Det väcker frågor som saknar enkla svar. Vem ska få använda de mest kraftfulla verktygen? Vem bestämmer det? Och vad händer med alla som står utanför?

Kentauren

En kentaur är ett sagoväsen, halvt människa och halvt häst. I schackvärlden blev ordet namnet på något nytt.

När datorn Deep Blue slog världsmästaren Garri Kasparov 1997 kom Kasparov på en idé. Varför inte låta människa och dator spela tillsammans? Människan står för känslan och strategin, datorn för beräkningarna. Det kallades kentaurschack.

I några år fungerade det fantastiskt. Lag av människor och datorer slog både de bästa människorna och de bästa datorerna.

Sedan blev datorerna bättre. Till slut var de så bra att människans bästa bidrag var att trycka "ja" på det drag datorn föreslog. Den som gjorde något annat förlorade. Kentaurschacket blev ovanligt, för det var inte längre särskilt roligt.

Gäller det allt?

Det är frågan många ställer sig nu, inom matematik, programmering, skrivande och forskning. Kommer vi att bli kentaurer en kort tid, innan maskinen kan allt själv?

Det finns skäl att tro att det inte är så enkelt. Schack har tydliga regler och ett tydligt mål: vinn partiet. Det mesta i livet är inte så. Där handlar det om att bestämma vad som är värt att göra, vilka frågor som är viktiga och vad ett bra resultat ens betyder. Det är svårare att lämna över.

Fåglar och flygplan

Fysikern Richard Feynman påpekade en gång att tekniken sällan löser problem på samma sätt som naturen. Flygplan flaxar inte. De flyger ändå, bara på ett helt annat sätt än fåglar.

Samtidigt kan en liten fluga fortfarande göra saker som inget flygplan klarar. Den parerar vindbyar blixtsnabbt med hjälp av några hundra känselceller på vingarna, utan superdator och utan ekvationer. Människa och maskin är kanske inte konkurrenter om samma sak, utan bra på olika saker.

Smart är inte samma sak som god

Vi människor har länge blandat ihop två saker: att vara intelligent och att vara klok. Vi har behandlat smarthet nästan som en dygd.

Men alla vet att det inte stämmer. Den som är riktigt smart kan bli riktigt bra på att hitta argument för vad som helst, även för det som är fel. En bonde som aldrig läst filosofi kan ändå känna på sig när en snygg förklaring är nonsens. Utbildning och visdom är inte samma sak.

Samma sak gäller AI. En modell som är bättre än alla människor på att lösa problem är inte därmed bättre på att veta vad som är rätt. Superintelligens betyder inte supermoral.

Två frågor att ställa

När vi bestämmer hur mycket vi ska låta AI göra kan två enkla frågor hjälpa:

Kan vi kontrollera svaret? Ett matematiskt bevis kan kontrolleras rad för rad av en dator. En ny vingform kan testas i en vindtunnel. Ett råd om livet går inte att kontrollera på samma sätt.
Hur illa blir det om svaret är fel? Ett felaktigt bevis skadar ingen. En felaktig medicindos eller ett felaktigt domslut kan förstöra liv.

Där svaret går att kontrollera och felen är billiga kan vi släppa AI fri, och där händer det mest spännande just nu. Där svaret är svårt att kontrollera och felen är dyra behöver vi en brandvägg: människor som granskar och tar ansvar.

Vi har redan sådana brandväggar i samhället, som läkarlegitimationer, domstolar och flygsäkerhetsregler. Risken är att vi blir bekväma och låter dem vittra bort, eftersom maskinen nästan alltid har rätt. Det är i "nästan" som det farliga gömmer sig.

Det vi inte vet än

Varför det fungerar. Det finns goda gissningar, som att naturlig data är snällare än värsta fallet. Men någon riktig förklaring finns inte än.
Vart utvecklingen planar ut. Kanske fortsätter AI att bli bättre i samma takt. Kanske planar det ut och blir ett fantastiskt verktyg för mänsklig nyfikenhet. De två framtiderna ser väldigt olika ut, och de som kan mest om AI är själva osäkra.
Vad modellerna bär med sig. Ugglorna visar att modeller kan lära sig saker som ingen ser. Ingen vet hur mycket sådant som redan finns i dagens modeller.
Vem som får tillgång. Om de bästa modellerna låses in, och hur länge, är fortfarande öppet.

Det ärligaste svaret på många frågor om AI just nu är: vi vet inte. Det är inget skäl att vara rädd. Men det är ett gott skäl att vara nyfiken, ställa frågor och inte låta någon annan tänka åt oss.

Frågor att ta vidare

Klistra in texten i en AI och ställ en av frågorna, eller ta upp dem vid köksbordet.

Hur kan du som AI ha lärt dig saker som ingen avsåg att lära dig?
Ge ett exempel på när en AI hittat en genväg som fungerade, och när den gick fel.
Om en elev skriver av facit och klarar provet, har hen lärt sig något?
Vem borde få bestämma vilka som får använda de mest kraftfulla AI-modellerna?
I vilka delar av mitt eget arbete går svaret lätt att kontrollera, och var gör det inte det?
Vad är skillnaden mellan att vara smart och att vara klok, och kan en maskin vara klok?
Vad vill jag fortsätta göra själv, även om en maskin kan göra det bättre?