Vi har alltid fruktat den självmedvetna roboten: det finns tekniska och filosofiska argument för att ge dem "förnuft"

Ett av de stora teman inom science fiction har idag blivit föremål för debatt inom robotsektorn. Att maskiner har medvetenhet skulle öka deras användbarhet under vissa omständigheter och vissa forskare arbetar för att uppnå detta mål. Även om konceptet inte gäller robotar som det gör för människor.

Ricardo Sanz, professor vid Polytechnic University of Madrid (UPM), har deltagit i kongresser för maskinmedvetenhet i mer än två decennier. Han minns sin första konvention om artificiellt medvetande som en mångsidig sammankomst: "Det var i Sverige, vi var 250 personer och det var fler nunnor än ingenjörer." En amalgam av discipliner var representerade där, från metafysik till biologi till datoranvändning. Sanz, som grundade och koordinerar UPM Autonomous Systems Laboratory, klargör att det finns en skillnad mellan vad anglosaxarna kallar 'medvetande', som tilltalar medvetande kopplat till det metafysiska, och 'medvetenhet', som består av självuppfattning och miljö, mer relaterat till påtaglig verklighet.

På spanska gör inte språket den skillnaden. I Xataka Westworld och ett av 2000-talets stora etiska dilemman: är det lagligt att "våta" eller "döda" en självmedveten robot? "Jag är dedikerad till medvetna maskiner, men jag ägnade mig främst åt att undersöka hur man får maskiner som inser saker och förstår vad som händer för att bli mer effektiva. Som vet hur man känner igen vad som är viktigt och vad som inte är viktigt i ett givet ögonblick", säger Sanz. "Jag är inte intresserad av att replikera mänskligt medvetande eller djurmedvetande.

Vi rör inte det filosofer kallar qualia, förnimmelsernas och upplevelsens natur." Inget att göra med vad som händer i Isaac Asimovs berättelser, som The Bicentennial Man (1976), där en robot med för- och efternamn (Andrew Martin) längtar efter att bli människa, eller i den berömda filmen Blade Runner. Även om filmen har förmörkat boken som den var baserad på, har Philip K. Dicks roman en svepande titel: "Drömmer Androids om elektriska får?".

Under denna fula och dåligt begripliga fras finns det ett stimulerande förslag: robotar har nått en nivå av självmedvetenhet som ligger för nära aspekter som anses vara den exklusiva provinsen för människor. Vägen till intelligens Sanz och hans teams arbete syftar till att ge maskiner kapacitet att hantera alla incidenter med lätthet. Till exempel, om en robot kommer att ta slut på batteri eftersom den är på 7 % och den fortfarande måste bära en del varor och återgå till sin position, borde den kunna förutse detta och komma med en lösning.

Detta görs redan med specifika feltoleranssystem, som i det här fallet skulle förhindra att roboten lämnas halvvägs. Men det görs på ett hantverksmässigt sätt, för hand. Ett program är skrivet för att förhindra att det tar slut på batteri, ett annat ifall det stöter på en person på väg.

Men det finns inget enhetligt system som kan lösa alla dessa problem. "Vi undersöker hur alla dessa situationer kan hanteras på ett heltäckande sätt. Ett system som gör att roboten kan inkorporera allt den behöver förstå. Det handlar om att göra robotens mentala representationer mer lämpliga för de verkligheter den står inför", förklarar UPM-professorn.

På Xataka har vi ett filosofiskt problem med generativa AI:er: de visar att vi har rätt i allt vi ber dem om. Det finns de som går längre. Under decennierna har medvetande i maskiner varit ett återkommande tema. 1995 utvecklade professorn John MacCarthy vid Stanford University, som var en av pionjärerna inom artificiell intelligens på 1950-talet, arbetet "Making Robots Conscious of their Mental States".

År senare, 2002, reviderade och publicerade han den med ett tillvägagångssätt som identifierade maskinmedvetande som introspektiv kunskap. För författaren till uppsatsen behöver robotar denna förmåga att verka i den verkliga världen och utföra uppgifter som är typiska för människor. En robot, till exempel, borde kunna dra slutsatsen att den inte vet något – vara medveten om sin okunnighet om en fråga – för att kunna fatta beslut.

På så sätt kan du leta efter den saknade informationen utanför eller följa din resonemangsprocess tills du är säker på att du har hittat en lösning på problemet. "Medvetande definieras mer eller mindre som känsla", tillägger filosofiprofessorn och popularisatorn Santiago Sánchez-Migallón. "Den har ett fenomenalt fält. En maskin måste ha ett subjektivt utrymme där den uppfattar färger, uppfattar ljud, har taktila förnimmelser, till och med har känslor och minnen." Behövs känslor också? Svaret är tydligt: ​​"Medvetande är förmågan att greppa världen och många gånger greppar vi världen känslomässigt.

Så känslorna skulle komma in", säger filosofiprofessorn. Och att definiera medvetande väl är nyckeln till att avgöra om maskiner behöver det. "Om vi ​​likställer det med vad mänskligt medvetande är, enligt min mening, behöver vi inte medvetande i maskiner", säger Vicent Juan Botti Navarro, professor vid Universitat Politècnica de València (UPV), som leder Valencias universitetsinstitut för forskning inom artificiell intelligens (VRAIN). "Jag tror att det inte är nödvändigt i den meningen att lösa problem, att kunna automatisera processer, vare sig industriella, administrativa eller på annat sätt." I Xataka Detta är inte apokalypsen: tolv optimistiska punkter om ChatGPT och framtiden som väntar oss. För Botti har termen en oacceptabel filosofisk karaktär.

När det gäller debatter om huruvida dagens språkmodeller är medvetna eller inte, är deras åsikt kategorisk: de kan inte anses vara medvetna. Utöver de filosofiska förgreningarna fokuserar Sanz på pragmatism: "Om vi ​​gör rörliga robotar som använder scanningslasrar för att mäta avståndet mellan objekt och plötsligt misslyckas lasern, måste roboten inse det och fatta korrekta beslut. För om en robot rör sig med en laser som misslyckas, kommer den att krascha in i saker." Det finns ett annat scenario där maskiner drar nytta av en djupare förståelse för miljön. "Om en person talar till en robot måste den förstå att den här personen säger något till den av en anledning.

Den måste förstå att det finns en avsikt bakom det. Dessutom ser roboten gesterna och måste veta hur den ska tolka dem. När personen erbjuder den ett föremål måste roboten veta att den måste ta det", förklarar UPM-professorn. "Människor förstår den här typen av saker naturligt.

Men i robotar måste var och en av dem programmeras mycket detaljerat och på ett oflexibelt sätt." Varför vill vi ha medvetna maskiner? Ett universellt system, motsvarande den förmåga som människor utvecklar för att hantera den fysiska verkligheten, skulle tillåta att inte behöva programmera varje aspekt av en maskin, alla möjliga undantag. Detta skulle möjliggöra bättre rörliga robotar i fabriker, kunna arbeta tillsammans med människor och flytta mellan dem.

Denna förmåga att generalisera korrekt skulle vara viktig i alla system som tar emot information genom sensorer och fattar beslut. Sanz ger ett belysande exempel: "En självkörande bil som färdas på motorvägen ser en annons för en hamburgerrestaurang som säger 'stopp här' och har en 'Stopp'-skylt målad på skylten. Autopiloten kan se 'Stopp'-skylten och bromsar hårt på motorvägen.

Den här typen av situationer visar att maskiner inte helt förstår verkligheten även om de ser den." I Xataka kommer kreativa artificiella intelligenser att döda konsten igen. Det har inte den minsta betydelse. Uppfattningen om miljön finns idag på ett uppdelat sätt. "En robot som måste gå från A till B kan ha i sin kunskap en karta över världen dit den måste röra sig.

Eftersom den känner till de olika vägarna som finns tar den den kortaste vägen. Men den ser att det finns en stängd dörr. Den är reaktiv och uppfattar miljön.

Därför letar den efter en annan väg. Den planerar om med den information den har", säger Botti. Det är en övning som liknar vad en GPS skulle kunna göra genom att räkna om rutten om den får information om en avstängd väg.

Denna förmåga att reagera kommer först och främst från uppfattningen. Och det har eftersökts länge. "I teorin om autonoma agenter, som man har arbetat med sedan 90-talet, är en av egenskaperna som mjukvara måste ha för att kallas agent att den är reaktiv. Det betyder att den måste uppfatta miljön och agera på den.

Men vi kallar det inte medvetande", hävdar UPV-professorn. Och hur är det med medvetandet i en introspektiv mening, liknande det mänskliga medvetandet? Det finns också motiv att försöka reproducera det. "På forskningsnivå, om det skulle uppnås, skulle det vara en otrolig prestation. "Om du kommer ihåg din mormor och du känner dig lycklig, är det som händer i din hjärna att vissa neuroner aktiverar och frigör signalsubstanser, som serotonin eller dopamin.

Dessa signalsubstanser får dig att känna dig lycklig. De skapar den subjektiva upplevelsen av lycka. Men just nu har vi ingen aning om hur de molekylerna orsakar den känslan när du tänker på din mormor", säger Migallnchem.

Och han understryker att försök att artificiellt reproducera dessa processer ökar kunskapen om våra egna naturliga mekanismer. På jakt efter den faktor som definierar medvetandet.

Fenomenet medvetande är ett mysterium. Det är utgångspunkten. Och det slutliga skapandet av ett artificiellt medvetande gör bara saken mer komplex.

En tidning som publicerades i tidningen Sicence 2017, före boomen i LLM, föreslog om maskiner någonsin skulle vara medvetna. Författarna beskriver medvetande som informationsbearbetningsberäkningar som hjärnan utför fysiskt och enligt en arkitektonisk lösning för att lösa dataintegreringsproblem. Så att fenomenet skulle vara reproducerbart med en datorarkitektur, enligt tidningen.

Dessutom etablerade de flera nivåer av medvetande. C0 skulle vara den nivå som motsvarar huvuddelen av mänsklig intelligens, som känner igen objekt, förstår språk och utför förstärkningsinlärning. objekt, vilket möjliggör generering av en mental representation. Medan den sista nivån, C2, består av ett systems förmåga att observera sina egna processer som resulterar i metakognition.

I Xataka har det alltid sagts att filosofiexamen "har inga utgångar". Trots allt är det inte klart var man ska sätta ribban för att bekräfta att en maskin är medveten. En debatt som också har drivits av science fiction. medan i Alex Garlands film, Ex Machina, är målet att reda ut i vilken utsträckning androiden Ava är medveten.

Dessa berättelser går in i en spekulativ terräng som för närvarande inte har övergivit fiktionen. För Sánchez-Migallón kanske det aldrig gör det: "Jag tror inte att en maskin som de vi har idag, som bara är beräkningar, kan generera medvetenhet. Det är bara datorkod, det är kod som kan göra beräkningar.

Något annat skulle behöva inkorporeras i den maskinen för att göra den medveten." Även om det i så fall skulle uppstå andra problem. "Om maskinerna är medvetna, kommer de att vara ansvariga för sina handlingar? Kommer de att ha juridiskt ansvar? Det här är teman som överskrider det tekniska och även det metafysiska," frågar Sanz och utvecklar sin reflektion: "Maskinerna närmar sig den punkten där de liknar en kapabel vuxen.

Vid något tillfälle kommer maskinerna att vara ansvariga och vi måste se hur de ska köra en bil, för att den ska köras autonomt, för att den ska köras. över någon är absurt." Det är omöjligt att inte tänka på scenarier som föreslås på bio, som i Blade Runner eller i I, Robot (baserad på berättelser av Asimov). I dem är ogillande av maskinerna enkel: de elimineras (eller "pensioneras", som är fallet med replikanter). Men i verkligheten skulle lektionen förbli halt. "Om maskinen inte kan lida, är straff meningslöst", säger Sánchez-Migallón. "Gränsen skulle vara förmågan att känna smärta.

Om vi ​​kan skapa en maskin som lider så finns det ett subjekt med rättigheter. Den maskinen måste ges rättsskydd. "Man kan inte skapa något som lider och överlåta det åt fri vilja, så att de kan göra med det vad de vill." I Xataka Den nya stjärnsigneringen av AI är varken en ingenjör eller en datavetare, men stoicismen dominerar: filosofer. På samma sätt skulle denna förmåga att lida möjliggöra att potentiellt straff utövas direkt mot maskinen.

Utan att detta raderar ansvaret för tillverkaren av det autonoma systemet eller dess ägare. "För att utföra en moralisk handling behöver du inte vara medveten. En intelligent maskin kan vidta moraliska handlingar. Till exempel kan en stridsdrönare välja sitt mål", varnar filosofiprofessorn.

Det är ett väldigt öppet fält där referensen är jämförelsen med människor. "Det är tydligt att AI-modeller kan imitera vissa mänskliga förmågor. Men om du ställer dig till etiska dilemman, kommer den AI att lösa dem?" frågar Botti och svarar omedelbart: "De har ingen erfarenhet. Det slutar dock med att människor tänker på dem och löser dem." Detta är ett av de tydliga särskiljande tecknen mellan människor och autonoma robotar.

För nu. I Xataka | 2016 fick Stephen Hawking frågan om mänsklighetens framtid: hans svar lämnade ingen lugn I Xataka | Varken Nick Bostrom eller Alex Karp: filosofen som bäst har förstått vårt förhållande till artificiell intelligens är Michel Foucault