Microsofts Recall: Ett allvarligt hot mot användarnas integritet?

Om du skulle undersöka AI:s omfattande förmågor skulle det inte ta lång tid att hitta en funktion som får dig att känna dig obekväm, orolig eller osäker. Det verkar nu som om Windows Recall-funktionen kan läggas till i den ständigt växande listan.

Sökverktyget, som tillkännagavs före Microsofts årliga Build Developer Conference, kommer att dokumentera din digitala aktivitet genom att ta skärmdumpar varannan sekund och lagra dem lokalt på din Windows 11-dator. Tanken är att Recall kan utföra en omfattande visuell sökning av hela din historik för att hitta exakt vad du behöver.

Microsoft har sagt att användarna kommer att kunna ”komma åt praktiskt taget allt [de] har sett eller gjort på [sin] PC på ett sätt som känns som att ha fotografiskt minne”.

Vem skulle inte vilja ha ett fotografiskt minne? För många känns dock utsikterna för Microsoft att ständigt titta på sina kunder lite för orwellianskt.

Även om teknikjätten släppte ett uttalande som hävdade att Recall-data inte kan ”nås av Microsoft eller någon som inte har tillgång till enheten”, är flera cybersäkerhetsspecialister inte övertygade om att denna AI inte hotar integritet och säkerhet.

Innehållsförteckning Innehållsförteckning

1. Viktiga slutsatser om Microsofts Recall
2. Den tittar på dig: Hur hotar Recall integriteten?
3. Hackare och tjuvar
4. Slutsatsen om Microsofts Recall för Windows
5. Vanliga frågor om Recall
6. Referenser

Visa fullständig lista

Innehållsförteckning

1. Viktiga slutsatser om Microsofts Recall
2. Den tittar på dig: Hur hotar Recall integriteten?
3. Hackare och tjuvar
Visa fullständig lista
4. Slutsatsen om Microsofts Recall för Windows
5. Vanliga frågor om Recall
6. Referenser

Den tittar på dig: Hur hotar Recall integriteten?

Microsoft försäkrar att de har ”byggt in integritet i Recalls design” och enligt företagets webbplats kan kunderna ”begränsa vilka ögonblicksbilder Recall samlar in”. Utöver detta har de betonat att tillgången till all data är strikt begränsad till ägaren.

Dessa löften verkar vara ineffektiva när det gäller att dämpa oron för att ständigt bli övervakad och inspelad.

Dr Kris Shrishak, en rådgivare inom AI och integritet, sa till BBC:

”Bara det faktum att skärmdumpar kommer att tas under användningen av enheten kan ha en avskräckande effekt på människor.”

Enligt Shrishak kommer denna oro sannolikt att påverka hur människor använder sina maskiner, vilket gör att de undviker de mer vardagliga men känsliga uppgifterna. Sammantaget kan Recall ”bli en mardröm för den personliga integriteten”, säger hon.

Det är inte så Microsofts VD Satya Nadella ser saker. I en intervju med Wall Street Journal förespråkade han Recalls förmåga att söka ”över all din historia” och ”återskapa stunder från ditt förflutna.” Nadella verkar omedveten om det läskiga med denna förmåga och hur det kan ses som en allvarlig invasion av integriteten.

På frågan om Microsofts nya innovation svarade Calli Schroeder, senior counsel och global privacy counsel på Electronic Privacy Information Center:

”Ständiga skärmdumpar av användarens handlingar för Recall och andra AI-program är en form av övervakning.”

Vi lever redan i en värld där företag övervakar sina anställda för att öka produktiviteten, och en hel nation håller koll på sina medborgare genom ansiktsigenkänning.

Matthias Pfau, medgrundare av Tuta, en säker e-posttjänst, beskriver att ”AI möjliggör en mer detaljerad profilering och spårning av individers aktiviteter, rörelser och beteenden än vad som någonsin varit möjligt tidigare.”

I artikeln för Forbes Technology Council skriver han att ”AI-baserad övervakningsteknik kan till exempel användas för marknadsföringsändamål och riktad reklam” och att denna ”omfattande övervakning” kan leda till att individer känner sig ”granskade”.

Det är inte orimligt att anta att Recall skulle kunna användas för sådana syften. Vad händer om Microsoft omprövar hur de hanterar dina uppgifter i framtiden?

Sociala medier är fulla av misstro mot Microsofts löften.

AI-experten Gary Marcus har till exempel sammanfattat vad de flesta människor tänker: ”Jag vill inte att min dator ska spionera på allt jag någonsin gör.”

The real question is if Microsoft will derive insights *locally* about you & your activities from AI Recall, and send those derived insights up to the cloud. They could do that for all AI Recall users while leaving their screenshots on their computers 🙂
pic.twitter.com/DICb5Zr9kn

— Bilawal Sidhu (@bilawalsidhu) May 23, 2024

Hackare och tjuvar

Även om integritetsfrågan är viktig finns det andra illvilliga möjligheter som skapar liknande oro i cybersäkerhetsvärlden.

Mark Beare från Malwarebytes anser att AI som Recall leder till en ”social media 2.0-liknande värld”, där personuppgifter laddas upp utan större oro för hur dessa uppgifter kommer att användas eller utnyttjas i framtiden.

Den ledande säkerhetsingenjören på Check Point, Muhammad Yahya Patel, sa:

”Det är en engångsattack för brottslingar, som en grab and go, men med Recall kommer de i princip att ha allt på en enda plats … Föreställ dig den guldgruva av information som kommer att lagras på en maskin och vad hotaktörer kan göra med den.”

Charlie Milton, vice president på cybersäkerhetsföretaget Censornet, utvidgar denna berättelse genom att föreställa sig hur en hackare kan använda Recall för att förstå sitt offers beteende.

Han drar slutsatsen att tekniken skulle ge ”illvilliga aktörer en riktigt bra förståelse för användarbeteende och senaste användarbeteende för att de ska kunna påverka dig.”

Microsoft undrar sannolikt vad allt väsen handlar om. Eftersom allt lagras lokalt skulle en hackare behöva komma åt en enhet fysiskt innan de kunde hämta Recalls skärmdumpar.

Cybersäkerhetsexperten Kevin Beaumont har motsatt sig detta och menar att det inte finns någon garanti för att de nuvarande säkerhetsåtgärderna är effektiva mot andra hot, som till exempel skadlig kod.

Beaumont uttrycker allvarliga farhågor om tekniken: ”I grund och botten bakas en keylogger in i Windows som en funktion.”

Även om stöld, integritet och andra säkerhetsfrågor är oroande, har Microsoft sagt att Recall är en valfri upplevelse.

Innebörden är ganska tydlig: om du är orolig är det bara att stänga av den.

Men det här verkar vara ett tveksamt marknadsföringstrick. Vem vill köpa en produkt om de inte känner att de kan använda huvudfunktionen?

Om, som Microsoft hävdar, ”Recall är en viktig del av det som gör Copilot+ PCs speciella”, så borde de nog sluta presentera icke-användning som ett så självklart alternativ och istället fokusera på de integritets- och säkerhetsproblem som orsakar så mycket uppståndelse.

Naturligtvis försöker Microsoft också hårt att försvara sig. De fortsätter att marknadsföra Recalls förmåga att ”öppna [vilken] ögonblicksbild som helst i den ursprungliga applikationen där den skapades” och har skrytit med att efter att den har förfinats under sin förhandsgranskningsfas, ”kommer den att öppna det faktiska källdokumentet, webbplatsen eller e-postmeddelandet i en skärmdump.”

Det kan till exempel vara till hjälp för den som shoppar online och inte minns var han eller hon såg den där ”bruna läderväskan” från början.

Och det är inte alla som är lika kritiska. Vissa populära tech-influencers väljer att lita på Microsoft och dämpa oron för att personuppgifter hamnar i molnet.

Slutsatsen om Microsofts Recall för Windows

Att registrera data utan att säkra data är ett stort problem, och i sin nuvarande konfiguration ger Recall anledning till oro.

Detta har inte undgått Information Commissioners Office (ICO), som har varnat för att teknikföretag inte får offentliggöra sina skapelser innan de ”noggrant utvärderar och minskar riskerna för människors rättigheter och friheter”.

Det är inte uppenbart att Recall uppfyller dessa förväntningar, så ICO ”gör förfrågningar hos Microsoft för att förstå de skyddsåtgärder som finns för att skydda användarnas integritet”.

Framtiden får utvisa om Microsoft kommer att göra de förändringar som krävs för att få sin senaste innovation att fungera.

Vanliga frågor om Recall