En quelques mots, c’est quoi.

La métamorphose numérique amorcée dans les années 70, s’est déployée en trois étapes, une phase de rupture avec la convergence numérique qui a associé les potentiels des télécommunications, de l’informatique et des média (1980 à 2000) ; une 2éme phase de création des services de l’internet (2000 à 2020) ; une 3éme phase qui débute la transmutation numérique et cognitive de la société.

Elle se traduit par la construction et la sédimentation de trois sphères numériques fonctionnelles :
-En s’appuyant sur les infrastructures de télécommunication, l’Ubisphère ou être partout sur terre en capacité d’être en relation avec des humains et leurs avatars et avec des machines, pour échanger des contenus, veiller, vibrer avec le monde.
-La Cybersphère crée des services pour organiser et médiatiser les interactions, développer les infrastructures de traitement des données (cloud), des automatismes et des robots, des réseaux de capteurs et de calcul, pour contrôler, piloter, opérer et augmenter le pouvoir d’action humain ou s’y substituer dans la réalisation de tâches.
-La 3éme sphère est celle de l’intelligence numérique : des capacités d’apprentissage, de coopération, de création et de décision, pour une coévolution entre humain et technologie, une augmentation cognitive de ses potentiels et une substitution maîtrisée du pilotage des 2 sphères précédentes. 

Les capacités fonctionnelles conjuguées de ces trois sphères impactent l’ensemble des activités humaine, cognitive, sociale et économique : elles créent les bases de l’économie de la connaissance (quaternaire). Au fur et à mesure des avancées, ces trois sphères s’enrichissent, interagissent et vont permettre de construire une civilisation cognitive nouvelle de science, de connaissance et de création ou, comme certains le craignent une société de surveillance, ou d’asservissement.  

“Nous sommes en effet encore loin, malgré le côté magique de Chat GPT, des « IA fortes » qui se rapprocheraient des compétences de l’intelligence humaine. Les IA génératives moulinent de la connaissance et de l’expression humaine mais elles ne pensent pas. Leur créativité est limitée à la mise en évidence de corrélation dans les connaissances produites par l’humain qui nous ont échappées ou à la création d’images artificielles. Les apprentissages des connaissances sont de type boite noire, sans épistémologie, ni sémantique, ni interprétation, une modélisation statistique.”

La donnée est un des principaux « carburants » de l’Intelligence Artificielle. Sans données de qualité, et en quantité suffisante, il est impossible d’entrainer les Intelligences Artificielles, et dans le cas des IA génératives de produire du langage.
La donnée, c’est aussi ce qui façonne nos territoires en alimentant des logiciels qui régissent de plus en plus les lieux du quotidien. De véritables doubles territoriaux émergent constitués de données traitées par des algorithmes, qui donnent corps aux territoires intelligents. La donnée n’est pas neutre, elle est un assemblage socio-technique à la fois objet technique et production du social.  

“Développer un commun de données, c’est tout à la fois faire preuve de :
• Suffisance numérique : mutualiser des fonctions de production et des data, sortir du tout marchandisation ou tout open data avec des modèles économiques inscrits dans l’économie de la contribution.
• Co-responsabilité : partager une sémantique/culture du numérique communes, sans lesquelles on ne peut ni gouverner ensemble, ni se doter de l’intérêt commun qui fera « tenir la coopération ».

Pour en savoir davantage : https://www.lerameau.fr/wp-content/uploads/2023/12/Bulletin-ISC-LR-n60_12-2023_BAD.pdf

Régulation de l’IA : l’Europe pionnière

“La philosophie de l’IA Act est de réguler les systèmes d’IA (SIA) en fonction de leur niveau de risque. Dans la catégorie des SIA interdits figurent les SIA discriminatoires (détection de la race, de la religion, de la préférence sexuelle…), les systèmes de notation citoyenne, de surveillance de masse à la chinoise ou encore l’identification biométrique à distance des personnes dans les lieux publics…Les systèmes d’identification biométrique “en temps réel” répondront à des conditions strictes et leur utilisation sera limitée dans le temps et dans l’espace…

Le texte liste ensuite des cas d’utilisation considérés comme à “haut risque” pour la sécurité et les droits fondamentaux des personnes. Les domaines concernés comprennent l’éducation, les ressources humaines, les infrastructures critiques, les services publics, l’application de la loi, le contrôle des frontières et l’administration de la justice”.

“Sur l’IA générative (IAG) comme ChatGPT, le texte prévoit des obligations communes à tous les
modèles. Les fournisseurs d’IAG devront ainsi détailler les données utilisées pour entrainer leur modèle “sans préjudice des secrets d’affaires”. Tous les textes, images, et sons générés par ces IAG devront être marqués comme ayant été générés par une IA. Ils devront aussi se conformer aux droits d’auteurs.

Seules les IAG “très performantes”, dépassant une certaine puissance de calcul, devront effectuer des évaluations de modèles, évaluer et atténuer les risques systémiques, effectuer des tests contradictoires, rendre compte à la Commission des incidents graves, assurer la cybersécurité et rendre compte de leur efficacité énergétique.

Par ailleurs, tout SIA interagissant avec les humains, comme par exemple un chatbot, devra informer l’utilisateur qu’il est en relation avec une machine. 

Pour piloter la mise en œuvre de cette nouvelle réglementation, l’Europe se dote d’un office européen de l’IA composé d’une centaine de personnes.

Pour en savoir davantage : https://www.lerameau.fr/wp-content/up loads/2023/12/Bulletin-ISC-LR-n60_12-2023_BAD.pdf