Microsofts Recall: En alvorlig trussel mot personvernet?

Hvis du virkelig hadde tatt deg tid til å bli kjent med AI, ville det ikke tatt lang tid før du fant en funksjon som ville fått deg til å føle deg ukomfortabel, engstelig, eller utrygg. Nå ser det ut til at denne listen bare blir større med den nye Windows Recall-funksjonen.

Dette søkeverktøyet, som ble offentliggjort i forkant av Microsofts årlige Build Developer Conference, dokumenterer din digitale aktivitet ved å ta skjermbilder med noen sekunders mellomrom og lagre dem lokalt på Windows 11-PC-en din. Tanken er at Recall kan utføre et omfattende visuelt søk i hele historikken din for å finne akkurat det du trenger.

Microsoft har uttalt at brukerne vil kunne “få tilgang til praktisk talt alt [de] har sett eller gjort på [PC-en] på en måte som føles som å ha fotografisk hukommelse”.

Hvem vil vel ikke ha et fotografisk minne? For mange føles imidlertid utsiktene til at Microsoft hele tiden skal overvåke kundene sine litt for inntregende på privatlivet.

Selv om Microsoft har uttalt at Recall-data ikke kan “nås av Microsoft eller noen som ikke har tilgang til enheten”, er flere cybersikkerhetsspesialister ikke helt overbevist om at denne AI-funksjonen ikke truer personvern og sikkerhet.

Innholdsfortegnelse Innholdsfortegnelse

1. Nøkkelpunkter
2. Du overvåkes: Hvordan truer Recall personvernet?
3. Hackere og tyver
4. Oppsummering
5. Ofte stilte spørsmål
6. Referanser

Se hele listen

Innholdsfortegnelse

1. Nøkkelpunkter
2. Du overvåkes: Hvordan truer Recall personvernet?
3. Hackere og tyver
Se hele listen
4. Oppsummering
5. Ofte stilte spørsmål
6. Referanser

Du overvåkes: Hvordan truer Recall personvernet?

Microsoft forsikrer at de har “bygd personvern inn i Recalls design“, og ifølge selskapets nettsted kan kundene “begrense hvilke øyeblikksbilder Recall samler inn.” Bortsett fra dette har de understreket at tilgangen til alle data er strengt begrenset til eieren.

Disse løftene ser ut til å være ineffektive når det gjelder å dempe frykten for å bli konstant overvåket og registrert.

Dr. Kris Shrishak, en rådgiver om AI og personvern, sa til BBC:

“Bare det faktum at det vil bli tatt skjermbilder under bruk av enheten, kan ha en avskrekkende effekt på folk.”

Ifølge Shrishak vil denne uroen sannsynligvis påvirke hvordan folk bruker maskinene sine, og få dem til å unngå de mer dagligdagse, men sensitive oppgavene. Alt i alt kan Recall “bli et mareritt for personvernet”, sier hun.

Det er ikke slik Microsofts administrerende direktør Satya Nadella innbiller seg ting. I et intervju med Wall Street Journal forsvarte han Recalls evne til å søke “gjennom hele historikken din” og “gjenskape øyeblikk fra fortiden din”. Nadella virker uvitende om den negative siden av denne muligheten og hvordan den kan bli sett på som en alvorlig brudd på personvernet.

På spørsmål om Microsofts nye innovasjon uttalte Calli Schroeder, senioradvokat og global personvernrådgiver ved Electronic Privacy Information Center:

“Stadige skjermbilder av brukerhandlinger for Recall og andre AI-programmer er en form for overvåking.”

Vi lever allerede i en verden der bedrifter overvåker sine ansatte for å øke produktiviteten, og en hel nasjon holder øye med sine innbyggere gjennom ansiktsgjenkjenning.

Matthias Pfau, medgrunnlegger av Tuta, en sikker e-posttjeneste, skisserer at “AI muliggjør en mer detaljert profilering og sporing av enkeltpersoners aktiviteter, bevegelser og atferd enn det som noen gang har vært mulig tidligere.”

I artikkelen for Forbes Technology Council skriver han at “AI-basert overvåkningsteknologi kan for eksempel brukes til markedsføringsformål og målrettet reklame”, og at denne “omfattende overvåkningen” kan føre til at enkeltpersoner føler seg “gransket”.

Det er ikke urimelig å anta at Recall kan brukes til slike formål. – Hva om Microsoft revurderer hvordan de håndterer dataene dine i fremtiden?

Sosiale medier er fulle av skepsis mot Microsofts løfter.

AI-eksperten Gary Marcus har for eksempel oppsummert hva folk flest tenker: “Jeg vil ikke at datamaskinen min skal spionere på alt jeg gjør.”

The real question is if Microsoft will derive insights *locally* about you & your activities from AI Recall, and send those derived insights up to the cloud. They could do that for all AI Recall users while leaving their screenshots on their computers 🙂
pic.twitter.com/DICb5Zr9kn

— Bilawal Sidhu (@bilawalsidhu) May 23, 2024

Hackere og tyver

Selv om personvern er et viktig tema, er det også andre muligheter som skaper lignende problemer i cybersikkerhetsverdenen.

Mark Beare fra Malwarebytes mener at AI som Recall innleder en “sosiale medier 2.0-lignende verden”, der personopplysninger lastes opp uten særlig bekymring for hvordan disse dataene vil bli brukt eller utnyttet i fremtiden.

Den ledende sikkerhetsingeniøren hos Check Point, Muhammad Yahya Patel, sier:

“Det er et one-shot-angrep for kriminelle, som et grab and go-angrep, men med Recall vil de i praksis ha alt på ett sted … Tenk deg hvilken gullgruve av informasjon som vil bli lagret på en maskin, og hva trusselaktører kan gjøre med den.”

Charlie Milton, visepresident i cybersikkerhetsfirmaet Censornet, utdyper dette ved å se for seg hvordan en hacker kan bruke Recall til å forstå offerets atferd.

Han konkluderer med at teknologien vil gi “ondsinnede aktører en veldig god forståelse av brukeratferd og nylig brukeratferd, slik at de kan påvirke deg.”

Microsoft lurer sannsynligvis på hva alt oppstyret handler om. Fordi alt lagres lokalt, må en hacker få fysisk tilgang til en enhet før de kan hente Recalls skjermbilder.

Cybersikkerhetsekspert Kevin Beaumont har tatt til motmæle på dette punktet, og antyder at det ikke er noen garanti for at de nåværende sikkerhetstiltakene er effektive mot andre trusler, for eksempel skadelig programvare.

Beaumont uttrykker alvorlig bekymring for teknologien: “I bunn og grunn blir en keylogger bakt inn i Windows som en funksjon.”

Selv om tyveri, personvern og andre sikkerhetsproblemer er bekymringsfulle, har Microsoft uttalt at Recall er en funksjon du selv velger om du vil aktivere.

Det betyr: Hvis du er bekymret, er det bare å slå det av.

Men dette virker som et tvilsomt markedsføringstriks. Hvem vil kjøpe et produkt hvis de ikke føler at de kan bruke hovedfunksjonen?

Hvis, som Microsoft insisterer på, “Recall er en viktig del av det som gjør Copilot+ PC-er spesielle”, bør de nok slutte å nevnet alternativet for at funksjonen kan slås av, og heller fokusere på personvern- og sikkerhetsproblemene som skaper så mye oppstyr.

Microsoft gjør selvfølgelig også sitt ytterste for å forsvare seg. De fortsetter å promotere Recalls evne til å “åpne [ethvert] øyeblikksbilde i den opprinnelige applikasjonen der det ble opprettet” og har skrytt av at etter at det er raffinert i forhåndsvisningsfasen, “vil det åpne det faktiske kildedokumentet, nettstedet eller e-posten i et skjermbilde.”

Dette kan for eksempel være til hjelp for nettkundene som ikke husker hvor de opprinnelig så den “brune skinnvesken”.

Og ikke alle er like kritiske. Noen populære teknologipåvirkere velger å stole på Microsoft og dempe bekymringene rundt personopplysninger som havner i skyen.

Oppsummering

Det er et stort problem å registrere data uten å sikre dem, og i sin nåværende konfigurasjon gir Recall grunn til bekymring.

Dette har ikke unngått oppmerksomheten til Information Commissioner’s Office (ICO), som har advart om at teknologiselskaper ikke må offentliggjøre sine kreasjoner før de “grundig vurderer og reduserer risikoen for folks rettigheter og friheter”.

Det er ikke klart at Recall oppfyller disse forventningene, så ICO “henvender seg til Microsoft for å forstå hvilke sikkerhetstiltak som er på plass for å beskytte brukernes personvern”.

Bare tiden vil vise om Microsoft vil gjøre de nødvendige endringene for å få den nyeste innovasjonen i gang.

Ofte stilte spørsmål