AKSJON: Frankrike

Tar i bruk KI for å overvåke alle under OL

Signer aksjonen under:

Jeg krever forbud mot ansiktsgjenkjenning i Frankrike!Se brevet vi sender

7 har signert

Slik behandler vi dine personopplysninger

Del    
Ville du blitt overvåket på ferien din? Under OL i Paris vil både besøkende og beboere bli overvåket med hjelp av kunstig intelligens.
Publisert: 25. jun 2024, kl. 11:42 | Sist oppdatert: 27. jun 2024, kl. 14:22

Det er all grunn til å frykte at overvåkningen som tas i bruk i Frankrike nå bare er første skritt på veien til enda mer inngripende teknologi som ansiktsgjenkjenning.

Krev at Frankrike innfører et forbud mot ansiktsgjenkjenning for identifikasjonsformål i offentlige rom - signer aksjonen!

Kameraovervåking styrt av KI

«Vi hilser verden velkommen, til et sted som representerer det beste Frankrike har å by på» uttalte Tony Estanguet, lederen for organisasjonskomiteen for årets sommer-OL, da den olympiske landsbyen i Paris ble innviet i februar i år.

Ni måneder tidligere hastebehandlet og vedtok det franske parlamentet en lov som gir myndighetene i Paris adgang til å bruke kameraovervåking styrt av kunstig intelligens for å ha kontroll over idrettsinteresserte og alle andre som oppholder seg i byen under OL.

Kunstig intelligens vurderer oppførsel

Kameraer drevet av kunstig intelligens vil følge med i sanntid på menneskenes minste bevegelser, for å oppdage "unormal" oppførsel. Når datasystemet observerer atferd algoritmene bedømmer som unormal, sendes politiet til stedet.

Franske myndigheter forsikrer at kameraovervåkningen ikke skal identifisere enkeltpersoner, men bare sørge for at politiet er raskt til stedet der personer oppfører seg på en uønsket måte.

Likevel er den type overvåkning dypt problematisk, fordi den overlater til algoritmer å definere hvordan man skal oppføre seg i Paris. Det rammer ikke bare utagerende idrettstilhengere, men kan fort også bli et verktøy for å oppdage minoritetsgrupper eller andre som agerer «ufransk», demonstranter med palestinaflagg, eller kvinner som går med muslimske klesplagg som er forbudt i Frankrike.

En fare som følger med all slags overvåkning gjennom kunstig intelligens er såkalt nedkjølingseffekt. Mennesker som vet at de er overvåket er mer forsiktige med hvordan de agerer, spesielt hvis de tilhører en gruppe, f.eks. en minoritetsgruppe, som fra før opplever at myndighetene er ute etter dem.

Første skritt til ansiktsgjenkjenning

Frankrike er det første medlemslandet i Den europeiske union som legaliserer denne typen overvåking. Franske myndigheter har vist stor interesse for bruk av kunstig intelligens for å ha kontroll over det offentlige rom. Det som per nå er en midlertidig ordning for OL i Paris kan fort bli permanent.

Og den store frykten er som nevnt at dette bare er første skritt på veien til mer inngripende teknologi som ansiktsgjenkjenning.

Overvåkning gjennom kunstig intelligens er allerede blitt eksperimentert med flere steder i Frankrike. Ansiktsgjenkjenning har blitt tatt i bruk både på en idrettsarena i Metz og en videregående skole i Marseille. Algoritmestyrt videoovervåkning har også blitt installert på jernbanestasjonen Gare de Nord i Paris.

Bruk av ansiktsgjenkjenning for å identifisere mennesker i offentlige rom er en alvorlig trussel mot menneskerettighetene. Det krenker personvernet, øker faren for diskriminering og undergraver ytrings- og forsamlingsfrihet.

Amnesty oppfordrer franske myndigheter til å

  • innføre et forbud mot ansiktsgjenkjenning for identifikasjonsformål i offentlige rom i Frankrike.

Signaturene sendes til president Macron.

Menneskerettigheter
Ansiktsgjenkjenning

Ansiktsgjenkjenning som overvåkningsmetode i det offentlige rom er dypt inngripende og bryter med en rekke menneskerettigheter:

  • Den krenker retten til privatliv, fordi man ikke lenger kan bevege seg uten å bli fotfulgt.
  • Den undergraver ytrings- og forsamlingsfriheten, fordi de som er med på demonstrasjoner eller andre forsamlinger må frykte at deres deltakelse blir registrert og kanskje en gang brukt mot dem.
  • Den er en fare for rettssikkerheten, fordi det er uklart når og hvordan all den omfattende informasjonen som er samlet inn om personers bevegelser en gang kan bli brukt mot dem, og fordi det er svært vanskelig å forsvare seg mot noe som er dokumentert av kunstig intelligens.
  • Ikke minst bidrar ansiktsgjenkjenning til faren for diskriminering, fordi kunstig intelligens ofte peker ut personer som tilhører minoritetsgrupper og tar mye oftere feil når den identifiserer ansikter som ikke er hvite.

Amnesty krever at ansiktsgjenkjenning til overvåkning må bli forbudt.

Menneskerettigheter
Bekymret for OL i Paris

De olympiske leker eies av Den internasjonale olympiske komité (IOC), som har et godt menneskerettslig rammeverk. OL i Paris er første gangen menneskerettslige krav ble innført i vertskapskontrakten, noe som reflekteres i vertskapets menneskerettsstrategi. Dessverre ser vi at dette i praksis ikke følges opp av IOC. I tillegg til KI-drevet masseovervåkning har Amnesty uttrykt bekymring for følgende:

  • At franske særforbund, med rettssystemets velsignelse, har innført forbud mot bruk av hijab i mye av fransk idrett. Sportsministeren har sagt at ingen franske utøvere får delta i OL med hijab.
  • At migrantarbeidernes rettigheter ikke er blitt ivaretatt i forbindelse med forberedelsene til OL.
  • At sårbare personer, uten bosted, tvangsflyttes ut av Paris for å skape et glansbilde av byen.
Av
President Emmanuel Macron
Palais de l'Élysée
55 rue du Faubourg-Saint-Honoré
75008 Paris,
France

Dear President Macron,

For the Paris Olympic and Paralympic Games, France has legalized algorithmic video surveillance. In concrete terms, cameras boosted by artificial intelligence will sift through people’s slightest movements to detect "abnormal" situations. The law introducing this form of surveillance has been passed under an accelerated procedure, without any real public debate. With the adoption of this law, France becomes the first member state of the European Union to legalize this type of surveillance on an experimental basis. This represents a real turning point, paving the way for the use of even more intrusive technologies such as facial recognition.

Facial recognition at a stadium in Metz, algorithmic video surveillance at Gare de Nord in Paris, facial recognition at a high school in Marseille ... In France, experiments are multiplying. The use of facial recognition to identify people in public spaces represents a serious threat to human rights – a tool that invades people’s privacy, threatens their fundamental freedoms and contributes to discrimination.

Given the growing interest of the French authorities in this surveillance technology, there is now a real risk of facial recognition being rapidly deployed unless strong measures are adopted to prevent it.

I therefore call for a ban on facial recognition for identification purposes in the public space in France. Only a total ban, with no exceptions, will guarantee the preservation of individual and collective freedoms in France.

Yours sincerely