Jag har inte hunnit se Terminator Salvation som går upp idag men väl tittat ikapp på tv-serien Terminator: The Sarah Connor chronicles den här våren. Två säsonger och 31 avsnitt och en ständig kamp mot framtiden. Sarah Connor försöker skydda sonen John mot robotar med ”Objective: Terminate” på (nåja) näthinnan.

Domedagsprofetior har alltid varit en bärande pelare i science fiction-genren. Vetenskapliga framsteg – realiserade eller fantiserade – är ständigt föremål för skräckblandad förtjusning. Å andra sidan kan vi med en blick i backspegeln och en på samtiden konstatera att ryktet om datorernas nära förestående maktövertagande alltid varit betydligt överdrivet. Många tidigare dystra framtidsprognoser har så att säga redan gått över tiden.

Filmare och författare har emellertid inte varit ensamma att tro på intelligenta maskiner utan haft gott sällskap av optimistiska vetenskapsmän. Forskningsfältet för artificiell intelligens etablerades på 1950-talet och på 60-talet trodde man att maskiner inom 20 år skulle utföra allt arbete en människa kan utföra.

Det fanns samtidigt mer långtgående ambitioner, vilket inte minst forskningsfältets namn vittnar om: artificiell intelligens. Att bygga en maskin som kan plocka upp skräp eller svetsa ihop bilar är en sak, att få den att tänka en annan. Vad är egentligen en intelligent maskin? Filmaren Jean Epstein menade visserligen att filmkameran var just en intelligent maskin i det att den skapade annars omöjliga tankeprocesser, men tänkandet kring artificiell intelligens har ändå koncentrerats kring datorer. Matematikern Alan Turing konstruerade 1950 det så kallade Turingtestet som stipulerar att en maskin är intelligent om en människa kan kommunicera med den utan att misstänka att den är en maskin.

Turingtestet återkommer förstås hela tiden i Sarah Connor-serien. Robotlivvakten Cameron observerar beteendemönster och försöker passa in. Utåt sett är hon/den en vanlig tonåring, även om hennes mimik är stel och ögon väl stumma. Men hon saknar taktkänsla i sina relationer till andra människor. ”Du förstår inte, du har inga känslor”, klandrar John när Cameron uttryckt något alltför kalkylerat målrationellt. ”Jo, jag har sensorer”, svarar Cameron och känner luftmotståndet mot armen.

Kanske ännu viktigare än Turingtestet är den så kallade singulariteten: tidpunkten då maskinerna blir mer intelligenta än människorna. Redan 1997 slog en dator Gasparov i schack, till världens förundran eller förskräckelse. Christopher Kullenberg har skrivit om det här i Ord & Bild. Han citerar bland annat matematikern Vernor Vinge som 1993 gissade att singulariteten skulle inträffa någon gång mellan 2005 och 2030 och att vi då kommer att träda in i en posthumanistisk tidsålder.

Voìla, där är Terminator-följetongen i ett nötskal. Tv-serien The Sarah Connor chronicles kretsar liksom föregångsfilmerna kring Turingtestet och singulariteten, samtidigt som den problematiserar vad det innebär att vara människa respektive maskin. Människa och maskin är förstås ett klassiskt motsatspar. Människan förknippas med en viss uppsättning egenskaper, maskinen med en annan. Det framgår med all önskvärd tydlighet i The Sarah Connor chronicles. Förmodligen skulle få människor identifiera sig själva som en maskin om de fick frågan. Det skulle anses förminskande, nedvärderande.

Vi vill inte att maskiner ska bli som vi och hota vår egenart lika lite som vi själva vill bli maskiner. Samtidigt har vi byggt vårt samhälle med hjälp av – för att inte säga utifrån – maskiner. Oavsett om den mänskliga naturen är väsensskild från maskinen eller inte i något slags essentiell bemärkelse, har maskinen trots allt varit en allierad i människans triumf över naturen.

Återstår bara frågan vad intelligens egentligen är. Ett schackparti omgärdas av ett rutnät till spelplan och på förhand givna regler – förutsägbara förutsättningar som passar en dator. Att placera datorn i ett socialt sammanhang och förmå den att fatta rätt beslut, det är däremot svårare. Det är bara att titta på svårt det är för Google Translate, trots smarta algoritmer och monumentala datamängder, att någorlunda begripligt översätta en enda mening.

Medan Vernor Vinge tar Moore’s law, som dikterar att datorkraften dubbleras var artonde månad, som intäkt för den nära förestående singulariteten refererar Kullenberg i sin text till filosofen John Searle som har invänt att det mänskliga medvetandet är en förutsättning för intelligens. Även för Manuel Delanda är människan en nödvändig komponent i en artificiell intelligens – bara i sammankopplingen mellan människa och maskin kan något som liknar artificiell intelligens uppstå, menar han. Christopher Kullenberg sammanfattar det i ”Robotar och krig”:

Dock behöver inte en sådan koppling med nödvändighet bestå av att ett chip opereras in i hjärnan. Istället tar vi hela tiden ett steg närmare att ingå i en ekologi av informationsbaserade maskiner, som i allt högre utsträckning strukturerar vår vardag. […] Flyttar vi fokus till kopplingarna försvinner egentligen den absoluta fråga som Vinge ställer upp. Det finns nämligen varken någon människa eller maskin som kan veta, och därmed vara intelligent. Vi vet istället med våra informationsbaserade ”proteser”, vare sig dessa är böcker i bibliotek eller den sekundsnabba kunskap om våra vänner som vi får genom sociala nätverkssidor.

Här är inte frågan om maskiner kan vara intelligenta utan om människan kan vara intelligent utan maskin. Det finns inte en autonom intelligens som vi kan besitta, utan intelligensen är snarare en produkt av sammansättningen människa-teknik, vare sig det senare ledet utgörs av en flintyxa eller mobiltelefon. Kullenberg menar att människa och teknik aldrig har fungerat som separata enheter utan alltid varit delar av heterogena sammansättningar.

Det är därför varken så enkelt som att tekniken har ett speciellt ”väsen” och kan vara farlig i sig eller att tekniken är neutral och det bara är vi människor som kan göra onda saker med den. Det är istället i själva sammansättningarna, det vill säga i pågående aktiviteter snarare än statiska förhållanden, som de tekniska elementen får sin karaktär. Om det sammanhang där människa och teknik sätts samman premierar känslokalla mördarrobotar blir kanske resultatet därefter, men som The Sarah Connor chronicles visar kan en robot också dansa balett – och det kan vara vackert.

Som Kullenberg påpekar kan det vara vilseledande att använda abstraktioner som ”människa”, ”samhälle” och ”teknik”. Det är helt enkelt inte begrepp som kan förklara särskilt mycket utan snarare något som måste förklaras, menar han med hänvisning till Bruno Latour. Vilket inte behöver betyda att det inte är någon skillnad mellan till exempel människor och maskiner utan att skillnaderna i sig inte har ett så stort förklaringsvärde.

Klart är att maskiner spelar roll och att vi inte ensidigt kan ha kontroll över dem på armlängds avstånd. I den bemärkelsen handlar dystopiska science fiction-berättelser ofta om vår skräck inför maktlösheten: Eftersom som vi är så vana att tro att vi har kontroll är tanken på att inte ha det skräckinjagande. I verkligheten tenderar vi att reagera med ryggraden och försöka bygga ut övervaknings- och kontrollsystemen ytterligare och hoppas att allt ska bli bra. Kanske en insikt om att människor aldrig ensamma haft fullständig kontroll rentav skulle vara befriande – och mer produktiv.

Uppdatering:
-Rikard Berglin har också skrivit om artificiell intelligens och singulariteten apropå Terminator Salvation. I Sydsvenskan.