Ted Chiang: "AI används för att minska människors autonomi"

Flera år efter sitt senaste besök i Spanien är Ted Chiang (New York, 1967) tillbaka på Celsiusfestivalen i Avilés och har ingen ny bok. Endast två volymer med berättelser - "The Story of Your Life" och "Exhalation" - under tre decennier av litterär karriär har varit tillräckligt för att göra honom till den bästa science fiction-författaren på planeten. Den filosofiska ambitionen i hans berättelser och det känsliga hantverket i hans texter har gjort denna datavetare till en av de mest klarsynta rösterna att reflektera över framtidens risker och den tekniska utvecklingens destruktiva potential. — Tror du att debatterna kring AI är en etisk fråga snarare än en teknisk? —Vi borde sluta tänka på AI som ett tekniskt projekt och förstå det som ett politiskt projekt som minskar individers autonomi att överföra det till centraliserade maktstrukturer.

Människor har mindre och mindre kontroll över sina liv. Arbetare fattar allt färre beslut själva och måste göra vad algoritmen säger till dem. Och det händer inte bara med arbetare, för vi ser också produkter som begränsar konsumenternas beslutsförmåga, och det säljs till och med som något attraktivt att du fattar färre beslut så att en produkt kan ta dem åt dig.

Tidigare frågade science fiction om vi skulle låta maskiner fatta beslut åt oss. Men det som har hänt, och vad science fiction inte förutspådde, är något annat: att Amazon fattar beslut åt oss. Vad science fiction misslyckades med att se är i vilken utsträckning maskiner tjänar företagens intressen och inte ren objektiv logik. —Han sa att han över tid har intagit en allt mer kritisk syn när det gäller att observera riskerna med den tekniska utvecklingen. — Jag tror att AI-branschen, och Silicon Valley i allmänhet, har gått på fel väg.

Jag tror inte att detta var oundvikligt, men sanningen är att vi befinner oss i ett ögonblick där saker och ting bara blir värre. Jag tror att detta delvis beror på att Silicon Valley spelar en mycket viktig roll i den tekniska utvecklingen som helhet och, eftersom det är i USA, är det väldigt lätt reglerat. Silicon Valley har nästan uteslutande drivits av vinst.

Jag har pratat med människor i branschen som inser att deras mål under 2000-talet var att utveckla en bra produkt. Men tio år senare var målet att skapa en produkt som Google kan köpa och göra dem alla rika. Tekniksektorn har snedvrids av hur marknaden och finanserna fungerar i Silicon Valley.

Många har insett: när man jämför internet idag med det för tjugo år sedan, inser man att det nuvarande är värre. Företag fokuserar mer på att tillfredsställa sina aktieägare än sina användare. Jag tror att sättet som tekniken har blivit sammanflätad med kapitalismen har blivit mycket skadligt, och att de positiva möjligheter som tekniken erbjuder kommer att bli allt svårare att uppnå.

Allt detta har bidragit till att min syn på teknik blivit allt mer negativ. — Som författare reflekterar han över implikationerna av tekniska framsteg, och har även en gedigen vetenskaplig bakgrund. Saknar du en större vetenskaplig kultur bland författare och humanister? —Jag tror att humanister generellt sett förstår vetenskap bättre än de flesta ingenjörer förstår humaniora. Jag tror att det på något sätt är det stora problemet vi står inför: att människor i Silicon Valley verkar helt ignorera humaniora.

I allmänhet förstår humanister tillräckligt mycket om teknik för att ha en åsikt om den. Humanistisk utbildning ger dig en mycket bred grund för att reflektera över många ämnen. Tvärtom begränsar ingenjörsutbildningen i hög grad människors perspektiv och böjer dem att ha en mycket snäv vision fokuserad på specifika mål och specifika lösningar. — Många vetenskapliga framsteg gjordes inom science fiction innan de gjorde det i verkligheten: tror du att litteraturen formar och styr vår framtid? — Målet med science fiction är inte att förutsäga framtiden, utan att hjälpa oss att reflektera över den.

Jag tror att science fiction är en form av berättande som är typisk för eran efter den industriella revolutionen. Före den industriella revolutionen utvecklades tekniken mycket långsamt. Under större delen av historien skulle den värld som barnbarn skulle leva i vara väldigt lik den som morföräldrar levde i.

Med den industriella revolutionen förändras allt och saker händer väldigt snabbt. Science fiction är genren som inser att framtiden inte kommer att se ut som det förflutna, och hjälper oss att göra tankeexperiment med framtiden som miljö. Det är en genre där en värld skapas där saker och ting är annorlunda, och det är därför det är ett användbart sätt att simulera möjliga scenarier och alternativ när det finns de som säger att den nuvarande situationen är den enda möjliga. — En religiös oro kan ses i en stor del av hans verk. —Även om jag inte är religiös är jag genuint nyfiken på hur människor som är religiösa ser på världen.

Tidigare trodde ingen att det fanns en motsättning mellan att vara vetenskapsman och att vara troende. På Newtons tid studerade forskare universum eftersom de trodde att det bästa sättet att komma närmare Gud var att förstå universum han skapat. När de gjorde en upptäckt kändes det som en religiös upplevelse.

Många samtida vetenskapsmän är ateister, men de känner den förundran över en viktig upptäckt. Det finns något väldigt likt mellan vetenskapligt och religiöst förundran. Som ateist är den förundran över att förstå universum det som intresserar mig mest, och som får mig att känna att jag kanske inte är så långt borta från religiösa människor.

Det är i slutändan medvetenheten om att det finns en ordning i universum.