La dictature numérique

Fin 2018 Google fêtait ses 20 ans.
Il y a 20 ans vous n’auriez pas rencontré cette fille sur Tinder, vous n’auriez pas utilisé Maps pour trouver et réserver ce restaurant, ni Uber pour vous y rendre. Vous n’auriez pas non plus fait un selfie pour le partager avec vos amis sur Facebook ou Instagram.
En rentrant chez vous, vous n’auriez surement pas regardé un des films proposés par Netflix.
Non vous n’auriez sans doute pas fait cela car le premier Iphone fut commercialisé 7 ans plus tard et à l’époque de votre modem 56k, le streaming n’existait pas.

L’évolution du numérique – qui désigne ici tout ce qui se rapporte aux technologies de l’information et de la communication (TIC) – et sa place croissante dans nos vies nous amènent à considérer indispensables ce qui était ecnore inexistant il y a moins de 20 ans.
Nous nous complaisons dans ce cocon numérique et nous confions chaque jour un peu plus – souvent au dépend de notre espace privé – notre pouvoir de décision à la puissance des algorithmes informatiques.

Si le rôle du régulateur est d’accompagner et d’encadrer ces mutations, force est de constater que “le temps du politique” est inadapté et les processus législatifs souvent trop longs pour réagir efficacement.
Pourtant les questions posées au regard de ces évolutions technologiques qui structurent nos sociétés sont nombreuses.
Le développement des TIC et l’hyper connexion des hommes et des objets nous conduisent ils inéluctablement vers une dictature numérique où les algorithmes seront tout puissant? Dans une société hyper connecté la notion de privé ou de liberté individuelle doit elle être repensée?

# Big Brother et Big Data : quand les algos font la police

L’une des premières craintes lorsque l’on évoque une possible dictature numérique ce sont les dérives autoritaires permises par l’IA et le Big Data.
Si il faut se retenir de tomber dans la psychose orwellienne, l’instauration d’un crédit social en Chine y fait écho.

Le gouvernement chinois a développé un système national de notation des citoyens. Chacun d’entre eux se voit attribuer une note, échelonnée entre 350 et 950 points, dite « crédit social », fondée sur les données dont dispose le gouvernement à propos de leur statut économique et social.
Le système repose sur un outil de surveillance de masse (vidéosurveillance) et utilise les technologies d’analyse du big data (analyse donnée bancaires etc..). Il est également utilisé pour noter les entreprises opérant sur le marché chinois.

Concrètement, si vous êtes un mauvais payeur, que vous accumulez les factures, votre crédit baisse. Pire si vous commettez une incivilité dans la rue, les nombreuses caméras présentes vous identifient, votre crédit baisse. Cette gestion du crédit social pour chaque individu est automatisée et les décisions sont presque toutes entièrement prises par une IA sur la base d’algorithme prédéfinis.
Lorsque votre crédit est “insuffisant”, ces mêmes algorithmes bloquerons l’identification de votre passeport à l’aéroport, vous ne pouvez plus voyager, vous ne pouvez plus souscrire de prêt chez une banque, votre liberté d’agir est contrôlée.

Paradoxalement, la permissivité en matière de donnée personnelle et de liberté individuelle permet au gouvernement chinois de développer des algorithmes puissants et de réaliser de grand progrès en Intelligence artificielle.

Il serait toutefois malvenu de se laisser aller au “Chinese-Bashing”. Chaque Etat a nécessairement intérêt à tirer profit des capacités d’analyse prédictive de l’IA et cela ne peut se faire sans l’utilisation de données personnelles. Faut il rappeler le cas de la NSA aux Etats-unis où les récentes révélations de Cambridge Analitica.

Le gouvernement chinois développe aujourd’hui ouvertement ce que d’autres rêvent en secret ou développe dans l’ombre.

# Le carcan législatif comme ultime barrière?

Comment prévenir l’État de céder aux dérives autoritaires permises par le tout numérique?
Un vieille adage veut que sur le marché des nouvelles technologies, quand les Etats Unis créent, les chinois copient et l’UE régule.

La régulation n’est alors que le dernier levier stratégique pour un territoire sur le point d’être vassalisé.
Quand l’Europe légifère contre les géants du numérique pour la protection des libertés individuelles de ses citoyens elle le fait pour préserver sa souveraineté numérique.
Les géants du numériques sont américains ou chinois. Sur le vieux continent ce sont les GAFAM qui monopolisent le marché et qui accumulent en ce moment des montagnes de données sur les citoyens européens. Cette fuite des data est un avantage concurrentiel qui bénéficie aux Etats-unis.

La RGPD a instauré en 2018 un cadre juridique pour la protection des données personnelles dans toute l’Union européenne.
Concrètement on peut identifier 5 principes:
_ Vous pouvez demander la suppression de vos données personnelles
_ Vous pouvez consulter vos données personnelles
_ Vous pouvez disposer de vos données dans le but de les transférer
_ Vous devez être notifié en cas de fuite des données
_ Il doit y avoir transparence sur l’utilisation par un tiers de vos données

Même si en terme d’UX la RGPD est un cauchemar, même si d’un point de vue législatif elle est parfois en inadéquation avec la techno elle même (exemple blockchain), même si sur la scène internationale les intérêts divergeant rendent le consensus politique impossible, le problème a le mérite d’avoir été soulevé par le régulateur. Peut on encore avoir un contrôle sur nos données personnelles?
Les Etats-unis ont clarifié la situation fin 2018 avec le “cloud act”, une loi qui autorise les autorités américaines à réclamer les données personnelles récoltées par leurs entreprises à l’intérieur comme à l’extérieur des Etats-Unis.

Plus qu’un enjeu économique, la souveraineté numérique est aussi un enjeu politique pour les états. Les utilisateurs prennent désormais consciences de la valeur des données qu’ils produisent et le modèle économique qui valorisera une utilisation permissive de ces données reste sans doute encore à inventer.

# Les algorithmes tout puissant

C’est acquis, plus la neuroscience progresse plus on a la preuve que le comportement humain résulte de l’intrication complexe de plusieurs algorithmes biochimiques.
Le développement des capteurs biométriques et la possibilité de traiter et d’analyser les quantités de données produites permettront à l’IA de nous comprendre mieux que nous nous comprenons nous même.

A l’ère du Big Data les algos seront tout puissant, ils décideront dans quel restaurant je veux manger, quel musique je veux écouter, quel film je veux voir, quel personne je rencontre, avec quel personne je couche etc..
Nous confions déjà chaque jour une part croissante de notre liberté à ces algorithmes. Comment pourrait il en être autrement, si nous perdons en liberté nous gagnons grandement en efficacité. Nous nous complaisons dans ce cocon numérique où l’IA régie nos vie.

Si les algorithmes décisionnels sont plus efficaces que nous à l’échelle de l’individu, qu’en est il à l’échelle d’un groupe ou d’un Etat? La réponse est sans équivoque, plus la quantité de donnée à traiter est importante plus l’IA nous surpasse.
Les outils d’aide à la décision par l’IA vont se généraliser au sommet des Etats, c’est même devenu un enjeu stratégique incontestable.
Dans une phrase restée célèbre V. Poutine, d’ordinaire peu enclin à partager ses analyses confiait ceci au sujet de l’IA: «Celui qui deviendra le leader dans ce domaine, sera le maître du monde».
Après la crise de 2008, il y a plus de 10 ans, les états faisaient appel aux algorithmes de Blackrock (1er gestionnaire d’actif au monde) pour assainir le bilan des banques au bord de la faillite en identifiant leurs créances douteuses mieux qu’aucunes équipes d’expert n’étaient en mesure de le faire.
Que ce soit dans le domaine de la santé, de l’économie, des transports, de la justice, de la défense, les Etats utilisent nécessairement la puissance décisionnelle des algorithmes et par extension de l’IA.

# Conclusion

Sans jugement de valeur, la dictature numérique est déjà présente et nous participons activement à son élaboration.
On a l’habitude de comparer dictature et démocratie sur le plan éthique, ou politique mais en faite, ce sont juste deux systèmes qui traitent l’information de manière différente. La démocratie à l’inverse de la dictature traite l’information de façon décentralisée.

Au XXe le capitalisme n’a pas vaincu le communisme parce qu’il était plus éthique, parce que les libertés sont sacrées ou parce que Dieu était en colère contre les communistes païens. Au contraire, le capitalisme a gagné la guerre froide parce que le traitement des données décentralisé fonctionnait mieux que le traitement de données centralisé.

Au XXIe siècle les TIC changent la donne. La capacité de transmettre et d’analyser simultanément de grande quantité d’information, sans limite de temps ou d’espace pourrait donner plus de poid a un traitement centralisé des données.
Une dictature numérique est également bien mieux équipée pour gérer l’économie de la planète et appliquer des lois globales. Et contrairement à ceux du XXe siècle, un système centralisé numérique pourrait améliorer la production et la répartition des denrées alimentaires, l’approvisionnement en eau, l’éducation et j’en passe.

S’il se peut que l’on se dirige vers ce type de modèle, une chose est certaine. Quand les algos décideront pour nous, de la sphère publique à la sphère privée, la notion de liberté individuelle aura perdu le sens qu’on lui connaît aujourd’hui.