När AI gör misstag fortsätter vi att lita på: en studie visar att vi inte längre vet hur man säger "jag vet inte"

Jag märker att det blir allt svårare för oss att säga "jag vet inte." Kanske är det en av de mest ärliga handlingar som en person kan göra och å andra sidan, med ankomsten av AI och med all information till vårt förfogande, verkar det som att vi tappar den vanan i konversationer. En studie ville lägga lite data på bordet angående ämnet. Och slutsatsen som en grupp forskare från olika universitet i Paris, Rom och Milano kommit fram till, genom att samla 3 100 deltagare, har varit att tillgång till en AI, även om den ger felaktiga svar, tvingar människor att sluta inse gränserna för sin egen kunskap.

Jag vet allt. Att inse att vi inte vet något är mer användbart än vi tror, ​​eftersom det är en mental färdighet som hindrar oss från att agera styrda av falska övertygelser. Studiens författare kallar det "suspension of judgment", det vill säga förmågan att sluta innan man svarar när man är osäker.

När AI-assistenter smyger sig in i fler och fler aspekter av våra liv, ville forskningen, undertecknad av Chiara Marcoccia (École Normale Supérieure i Paris), Walter Quattrociocchi (Sapienza University of Rome) och Valerio Capraro (University of Milan-Bicocca), kontrollera om den enkla närvaron av dessa chatbots förändrar det ögonblick då vi redan vet tillräckligt för att vi ska kunna svara. I Xataka är den gigantiska Qwen 3.8 ett annat störande tecken för USA: dess fördel i AI är att avdunsta Experimentet. För att isolera effekten designade teamet medvetet frågor som var nästan omöjliga för en AI att få rätt, med mycket specifika visuella detaljer från filmer, som färgen på satsen i "I Want to Be Like Beckham" eller fordonet en karaktär kör i "Like Cat and Mouse".

Detta är data så specifik att den knappt visas på internet, så modellen som användes i experimentet (Steg 3.5 Flash) misslyckades nästan alltid. Deltagarna kunde fråga AI om de ville, men de hade också alltid möjlighet att lämna frågan tom eller erkänna att de inte visste svaret.

Siffror. I gruppen som inte hade tillgång till någon assistent erkände 44 % av deltagarna att de inte visste svaret när det var lämpligt. Bland dem som kunde be AI om hjälp sjönk den andelen till 3%, enligt studien.

Dessutom minskade också andelen rätt svar, från 27 % till 9 %. Det vill säga folk svarade på fler frågor, men de fick mycket mindre rätt. Det mest slående är att deltagarna, trots att de gjorde fler misstag, kände sig mer självsäkra, eftersom deras förtroende för svaren enligt studien gick från 30 % till 76 %, nästan det dubbla.

I Xataka har Xiaomi en heltidsanställd robot i sin bilfabrik. Du är redo att sluta vara praktikant. Vad händer om det står pengar på spel?

Forskarna misstänkte att det kunde lösa problemet genom att betala för att få det rätt (och straffa för att det blev fel). Det hjälpte verkligen, men väldigt lite, för med ekonomiska incitament ökade viljan att erkänna att de inte visste svaret från 3 % till 8 %, och de korrekta svaren gick från 9 % till 16 %. Intressant nog förväntade författarna själva att effekten av AI skulle försvagas av pengar, men deras data bekräftade inte detta.

Och dragningen mot att lita på maskinen visade sig vara praktiskt taget oberoende av det ekonomiska incitamentet.

Gränser. Capraro, medförfattare till studien, förklarade för The Register att människor "blev mycket sämre" i sin prestation, med en noggrannhet på endast en tredjedel jämfört med gruppen utan AI, men slutade "dubbelt så säkra" i sina egna svar. För forskaren representerar denna förmåga att säga "jag vet inte" varken mer eller mindre än "erkännandet av gränserna för vår egen kunskap." Å andra sidan var Capraro särskilt oroad över effekten som detta fenomen kan ha på barn.

Som han berättade för media, har vuxna "redan bildat kritiskt tänkande" innan de här verktygen kom, men barn som växer upp med AI från början "risken att aldrig utveckla den grundläggande förmågan att ifrågasätta ett svar." Omslagsbild | Solen Feyissa och Dylan Gillis i Xataka | Meta varnar: "Vi har byggt infrastruktur för människor i 20 år, kanske har vi 20 månader på oss att bygga om den för agenter"