Secours Rouge

Abattre le capitalisme, construire la solidarité.

Facebook a payé des centaines de sous-traitants pour transcrire des extraits sonores de conversations de ses usagers, a révélé mardi l’agence Bloomberg. Facebook l’a finalement reconnu mais affirme avoir mis fin à cette pratique. «Tout comme Apple ou Google, nous avons gelé la pratique d’écoute des enregistrements sonores par des humains la semaine dernière». Facebook explique avoir eu l’autorisation de procéder à la transcription de leur conversation par des usagers de son application Messenger. Les sous-traitants vérifiaient si l’intelligence artificielle du réseau interprétait correctement les messages qui avaient été rendus anonymes. Amazon, Apple et Google, qui vendent tous des assistants vocaux, avaient déjà reconnu faire de même pour améliorer les réponses de leurs applications. Apple et Google ont indiqué avoir abandonné la pratique ces dernières semaines. Facebook, qui vient tout juste de payer une amende record de 5 milliards de dollars aux autorités fédérales américaines pour un mauvais usage des données privées de ses usagers, a longtemps nié utiliser des enregistrements audio pour pouvoir mieux cibler ses publicités ou rendre ses pages plus attractives. Le fondateur et PDG du géant des réseaux sociaux avait rejeté l’idée même lors d’une audition devant le Congrès en avril 2018. «Vous parlez d’une théorie du complot qui circule affirmant que nous écoutons ce qui se passe dans votre micro et que nous l’utilisons pour de la pub», avait répondu le milliardaire à une question du sénateur Gary Peters. «Nous ne faisons pas ça».Facebook

La société israélienne Cellebrite a vendu à la police russe la technologie permettant de pirater le téléphone sur lequel le mot de passe est défini. Actuellement en Russie, des manifestations sont organisées contre la fraude électorale à Moscou et l’interdiction des candidats de l’opposition.  Lors de ces actions, les téléphones portables sont largement utilisés. Grâce à cette technologie, la police peut pénétrer dans le téléphone des manifestants arrêtés en masse (voir notre article), accéder aux réseaux sociaux et lire tous les messages dans des messageries instantanées. La société Cellebrite a déclaré à ce propos : “La société développe une technologie permettant aux forces de l’ordre de lutter contre le terrorisme et les crimes graves. La société vend uniquement à des entités juridiques autorisées et applique les lois de différents pays.”  Une des sociétés israéliennes de cybersécurité avait déjà aidé les autorités saoudiennes à surveiller le téléphone du journaliste d’opposition Khashoggi, assassiné par les services saoudiens (voir notre article).

Le dispositif de Cellebrite

La biométrie comportementale est une technologique de cyber-sécurité et de cyber-flicage qui identifie les personnes par la façon dont ils font ce qu’ils font – plutôt que par qui ils sont (reconnaissance faciale, empreinte digitale…), ce qu’ils savent (questions secrètes, mots de passe) ou ce qu’ils ont pour s’identifier (code éphémère envoyé par SMS…). Chaque personne a une façon qui lui est propre de déplacer une souris, taper sur un clavier ou sur un téléphone, et la biométrie comportementale est capable de mesure et d’analyser ces schémas.

La société israélienne BioCatch a développé un logiciel qui vérifie 500 bio-comportements et paramètres cognitifs et physiologiques pour créer des profils d’utilisateurs uniques et une présence web personnalisée pour chaque utilisateur de sites bancaires et commerçants. Elle vend ses produits de détection aux banques et à ses autres clients dans le monde entier. Elle développe maintenant des outils capables de détecter quand une personne effectue des opérations anormales et anxiogènes par l’étude de centaines de ces petits signaux comportementaux très subtils. Chaque signal est un indicateur très faible mais leur combinaison est opérante.

 

Schémas de scrolling sur tablette

La police de Londres (Metropolitan Police Service ou The Met) a investi dans le système de reconnaissance faciale Neoface, acheté directement à la société japonaise NEC et soutient depuis l’intégration de sa technologie de reconnaissance faciale que sa marge d’erreur est quasiment négligeable (une seule erreur sur 1000 cas). Mais un rapport indépendant fourni par des chercheurs de l’Université de l’Essex à Sky News, établit que dans 81 % des cas, la technologie identifie des personnes innocentes comme étant des suspects alors qu’ils ne figurent sur aucune liste de personnes recherchées. Il apparait que la police du Met défendait son outil en utilisant une méthode très “particulière”: elle mesure l’exactitude en comparant les correspondances réussies et non les correspondances réussies avec le nombre total de visages traités…

Signalisation de la reconnaissance faciale expérimentale à Londres

Signalisation de la reconnaissance faciale expérimentale à Londres

Le Canada et les Pays-Bas ont lancé mercredi un projet pilote permettant aux voyageurs de ne pas présenter leur passeport. A la place, ils doivent posséder une application sur leur téléphone, qui contient l’ensemble de leurs données personnelles. Ce test, baptisé Know Traveller Digital Identity (“Identité connue du voyageur”, en français), est dirigé par le Forum Économique Mondial (FEM).

Sur les liaisons Montréal-Amsterdam et Toronto-Amsterdam, les passagers peuvent ainsi stocker sur leurs téléphones l’ensemble des informations personnelles contenues sur leur passeport. Comment ces données sensibles sont-elles protégées. Il s’agit d’un registre décentralisé, public mais surtout infalsifiable, utilisant la technologie blockchain et permettant de garantir la fiabilité des informations. L’identité des passagers sera confirmée par reconnaissance faciale à leur arrivée dans chaque aéroport.

Contrôle à l'aéroport de Montréal

Contrôle à l’aéroport de Montréal

Des propositions demandant une interdiction de vendre sa technologie de reconnaissance faciale aux forces de l’ordre, ainsi qu’une étude indépendante sur les usages de la technologie Rekognition, ont été rejetées lors de l’assemblée générale d’Amazon. Ces motions présentées par des actionnaires inquiets des menaces possibles pour la vie privée et les droits civiques liées à cette technologie. Ils faisaient notamment valoir que plusieurs services de police testent ce système qu’Amazon aurait proposé à la police aux frontières, susceptible de s’en servir pour surveiller les migrants.

L’an dernier, dans une lettre ouverte, plus de 30 groupes militants dirigés par l’American Civil Liberties Union (ACLU) avaient exhorté Amazon à cesser de fournir sa technologie de reconnaissance faciale à la police. Des travailleurs d’Amazon avaient fait la même demande (voir notre article)Des enquêtes ont montré que de tels programmes sont sujets à erreur, en particulier lorsqu’il s’agit d’identifier des personnes non blanches. Les militants arguent en outre du fait que ces systèmes permettent de constituer une importante base de données d’informations biométriques qui peuvent être utilisées de façon abusive.

San Francisco est devenue la semaine dernière la première ville des Etats-Unis à interdire l’utilisation de la technologie de reconnaissance faciale par la police et d’autres agences gouvernementales.

Les performances de Rekognition

Les performances de Rekognition

Le Parlement Européen a voté pour la création du Common Identity Repository (CIR). Une base de données biométriques qui contiendra les données de plus de 350 millions de personnes. L’objectif : facilité les contrôles aux frontières. Ce nouveau dispositif permettra l’interconnexion entre les systèmes de contrôles aux frontières.

Les règles du CIR en matière de contrôle des frontières et des visas ont été adoptées avec 511 voix pour et 123 contre pour neuf abstentions. La législation du CIR en matière de coopération policière et judiciaire, d’asile et de migration a quant à elle été approuvée avec 510 pour et 130 contre, et neuf abstentions. Les systèmes couverts par les nouvelles règles comprennent le système d’information Schengen, Eurodac, le système d’information sur les visas (VIS) et trois nouveaux systèmes : le système européen du casier judiciaire des ressortissants de pays tiers (ECRIS-TCN), le système d’entrée / sortie (EES) et le système européen d’information et d’autorisation de voyage (ETIAS).

Le CIR

Le CIR

Il y a deux mois, Human Rights Watch a dénoncé un système de surveillance de masse dans la province du Xinjang, nommé IJOP (Integrated Joint Operation Platform – Plateforme intégrée d’opérations conjointes). IJOP recueille des informations à partir de plusieurs sources. L’une des sources est constituée des caméras de vidéosurveillance, dont certaines sont dotées de fonctions de reconnaissance faciale ou infrarouge (leur procurant une «vision nocturne»). Certaines caméras sont placées dans des lieux considérés comme sensibles par la police : lieux de divertissement, supermarchés, écoles et domiciles de personnalités religieuses. Une autre source encore est les «détecteurs de wifi», qui collectent les adresses d’identification uniques des ordinateurs, smartphones et autres périphériques en réseau.

L’application mobile IJOP pour smartphones androïd de la police du Xinjiang a été analysée par l’entreprise allemande Cure53 spécialisée en cybersécurité. Les types d’informations que recueille IJOP afin de déceler des conduites suspectes sont très variés et surtout ne correspondent pas à des activités illégales. L’app traite par exemple les titres des livres consultés par les internautes du Xijiang, leur consommation d’électricité, de carburant, l’utilisation de logiciels dits “déloyaux” (des messageries chiffrées et des VPN, les réseaux privés virtuels chiffrés empêchant l’identification des utilisateurs), leurs séjours à l’étranger (et les raisons de leurs séjours), leur géolocalisation, leurs relations à l’étranger, les plaques d’immatriculation de véhicules utilisés, les opinions politiques, croyances religieuses, stockage de nourriture, utilisation de smartphone ou non, relations de voisinage, jusqu’à l’utilisation de la porte principale ou d’une porte arrière pour sortir de son domicile, etc.

L’utilisation de l’app mobile par les forces de l’ordre chinoise du Xinjiang est simple : dès qu’une personne change de comportement une alerte est envoyée ou lors d’un contrôle routier, un indicateur de “dangerosité” est donné à l’agent via l’application. Sur les critères permettant de déterminer les comportements suspects, IJOP est capable de détecter et alerter la police si le propriétaire d’un véhicule n’est pas le même que celui qui achète de l’essence à la pompe. Ainsi, les “36 comportements suspects basés sur des activités quotidiennes” absolument légales alertent les forces de l’ordre dès qu’ils remplissent des conditions d’anormalité établies par le logiciel. Avec à la clef des interventions à domicile de la police suivies d’arrestations.

Un policier chinois à Kashgar, dans le Xinjiang.

Un policier chinois à Kashgar, dans le Xinjiang.

Des cher­cheurs de l’uni­ver­sité de Huelva en Espagne vont débu­ter une nouvelle expé­rience sur des déte­nus. Durant quelques jours, une douzaine de prison­niers répu­tés violents auront des élec­trodes posées sur le crâne. À la fin de leur expé­rience, ils donne­ront un peu de leur salive. Celle-ci servira à évaluer leur taux de corti­sol, et savoir si l’hor­mone du stress peut aider à comprendre l’agres­si­vité du détenu.

Ce procédé s’ap­pelle la « stimu­la­tion trans­crâ­nienne en courant continu » (TDCS), une tech­nique médi­cale basée sur le prin­cipe de stimu­la­tion élec­trique du cerveau. Vu le faible niveau d’élec­tri­cité utilisé (un à deux milli­am­pères d’am­pli­tude pendant une tren­taine de minutes), ces stimu­la­tions sont sans douleur. Cette étude est loin d’être la première du genre. En 2018 par exemple, l’uni­ver­sité de Penn­syl­va­nie avait mené une étude simi­laire sur des prison­niers.

L'université de Huelva

L’université de Huelva