Kina har en ny "AI-hjärna": tekniken som behövs för att spionera och fatta militära beslut från himlen

Artificiell intelligens (AI) medför många fördelar, men också många risker. Därför kan det vara en mycket dålig idé att eliminera mänsklig övervakning. Det är ett ganska återkommande ämne som har lagts tillbaka på bordet efter att Kina meddelat att man testar användningen av AI för att utveckla sina satellitbaserade övervakningssystem.

Många experter har uttryckt oro över möjligheten att dessa system kan användas för militära ändamål. Andra länder, som USA och Israel, har skapat ett oroande prejudikat, så det finns en viss rädsla för att dessa tekniker kan missbrukas och sluta bli dödliga.

Kinas steg. Kina har länge betonat vikten av att AI alltid har mänsklig tillsyn. Tillkännagivandet som rapporterats av media som Interesting Engineering följer dock en annan premiss.

Det asiatiska landet avser att dess satellit-AI-system ska kunna bryta ner komplexa uppgifter, samordna arbetsflöden och återhämta sig oberoende av eventuella fel. Kort sagt, de skulle använda algoritmer som kan analysera information, fatta beslut och agera utan behov av människor. Satellitobservation kan ha många användningsområden, från att analysera djurens beteende till att hjälpa väderprognoser.

Men denna betoning på att AI ska kunna agera på egen hand påminner oundvikligen om vad vi redan ser i USA för militära ändamål. I Xataka Om kriget återupptas igen, löper USA en aldrig tidigare skådad risk i krigshistorien: att den enda med missiler kommer att vara Iran. Fallet med USA.

Den amerikanska militären misstänks ha flera AI-baserade målsystem, även om det finns mycket hemligstämplad information om dem. I stora drag skulle dessa använda data som erhållits genom optiska kameror, infraröd, radar, LIDAR och andra sensorer för att lokalisera militära mål och därefter skjuta om det anses nödvändigt. I februari förra året öppnade attacken mot en skola som klassats som felaktig debatten om denna fråga. 175 personer dog i den, de flesta flickor.

Eftersom det erkändes som en missriktad attack, växte misstankarna om att AI låg bakom den. Eftersom det rör sig om sekretessbelagda uppgifter går det inte att veta säkert, men det är en mer än påtaglig risk. USA har för närvarande kontrakterat SpaceX för att förbättra uppkopplingen för skyttar så att de får information om huruvida de ska skjuta eller inte skjuta så snart som möjligt.

Det är uppenbart att de vill fortsätta utvecklas i denna aspekt och det är något som logiskt sett oroar experterna. Fallet med Israel. Det är inte exakt samma sak, men Israel har också lämnat krigsbeslut i händerna på AI, med oroande resultat.

De har till exempel ett system som använder data från telefonsamtal, sociala nätverk, metadata, visuell information eller kontakter, bland andra källor, för att avgöra vilka som kan vara måltavlor. Enligt en undersökning av +972 Magazine upptäckte den under de första veckorna av kriget mot Palestina 37 000 mål som medlemmar av Hamas. Armén själv insåg att algoritmen har 90 % sannolikhet att ha rätt.

Detta ger oss ledtrådar om hur katastrofalt det kan vara.

Mer insyn? Kina har försäkrat att det kommer att ha mer transparens än andra länder genom att introducera AI i hanteringen av sina satelliter. Detta minimerar dock inte experternas oro.

Tills vidare verkar det som att algoritmerna har lyckats undvika hinder på egen hand i testfasen. För att de ska kunna skjuta, om de används för det ändamålet, är det långt kvar.

Men det är lönsamt. Därför är det angeläget att åtgärder vidtas för att så mycket som möjligt reglera användningen av AI utan mänsklig övervakning. Det finns för många människor med få skrupler, men även de kan ha lite mer betänkligheter än maskiner.

En AI kan inte visa oro, samvete eller etik. He also does not ask before shooting if he is not told to do so. Därför, om vi vill att den ska driva satelliter som kan observera och kontrollera vad vi gör på planeten, skulle det vara tillrådligt för oss att se till att någon med skrupler förblir ansvarig.

Även om det i vissa sammanhang är svårt att hitta. Bild | Kevin Stadnyk (Unsplash)/Magnific En Xataka | Det finns flygplan som släpper mat i Gaza från luften. Det är en sämre idé än det verkar för att bekämpa hunger (instagramScript) Azucena Martín.