L'IA est un sujet absorbant beaucoup d'attention actuellement. Le grand public peut interragir avec et s'émerveiller de ce que les ordinateurs savent maintenant faire.

⚡️Résumé : cet article développe mon ressenti sur l'IA, appuyé de quelques sources. C'est plutôt un recueil de questions que je laisse volontairement sans réponse aujourd'hui, reconnaissant mon expertise limitée. Au final, l'IA me fascine, son utilisation éveille ma vigilance.

J'ai récemment lu un article de Bill Gates, The Age of AI has begun, cet article a souligné une de mes craintes au sujet de l'IA, celle de l'humain.

Bill Gates pointe du doigt, justement je pense, que l'IA est prête à devenir un atout technologique aussi nouveau et percutant que l'a été l'interface graphique (GUI).

Il s'aventure même plus loin que ce simple constat, en développant certaines fonctionnalités permises par l'IA d'aujourd'hui et de demain. Notamment, l'avènement d'un "co-pilote" virtuel, d'un assistant proche de nous et de notre quotidien.

Think of it as a digital personal assistant: It will see your latest emails, know about the meetings you attend, read what you read, and read the things you don’t want to bother with.
Bill Gates, The Age of AI has begun

La crédibilité sans la connaissance

Plusieurs personnes m'ont partagé avoir presque arrêté de faire des recherches sur Google, maintenant, elles posent directement leurs questions à ChatGPT.

Dans la grande majorité des cas, selon eux, la réponse est convaincante et suffit.

ChatGPT invented a sexual harassment scandal and named a real law prof as the accused
Washington Post

Sauf que, l'objectif de ChatGPT n'est pas de savoir et communiquer son savoir. Son objectif est de faindre communiquer. Et je ne sais pas si je suis pessimiste ou technophobe, mais la différence me donne le vertige quand je constate la crédulité de certains utilisateurs.

Large language models do not answer questions. They create things that look like answers to questions that look like your question.
Benedict Evans (tweet)

Et je me demande bien combien le grand public sera crédule ou consciemment naïf face aux grands avantages d'un tel outil.

I was on a podcast where kids quizzed two people to decide who was a fake and who was a real expert.
The host said early on, the kids thought the fake was the expert every time because the actors answered every question confidently and the experts would hedge or even  sometimes say, "I don't know."
They eventually told the fakes to be less confident so the kids would pick the expert sometimes.
It just occurred to me this is now real life with #chatGPT (but nobody is telling it to back off).
Mignon Fogarty (Mastodon)

Ouvertude des vannes de nos données personnelles

Aujourd'hui, certaines personnes s'offusquent du comportement de nombreux grands acteurs du numérique quant au respect de la vie privée des Internautes.

L'IA elle aussi soulève le même genre de questions.

Dans son exposé des griefs, la GPDP commence par rappeler que ChatGPT « a subi le 20 mars une perte de données concernant les conversations des utilisateurs et des informations relatives au paiement des abonnés ».
L’autorité à d’autres reproches à faire, notamment l’absence « d’information aux utilisateurs et aux personnes dont les données sont collectées par Open AI et, plus important encore, il ne semble pas y avoir de base juridique par rapport à la collecte et au traitement massifs de données personnelles afin d’"entrainer" les algorithmes ».
Next Inpact, L’Italie bloque ChatGPT, les grands modèles de langage inquiètent

Bill Gates dans son article dit :

can an insurance company ask your agent [ndlr: l'IA servant de co-pilote] things about you without your permission?
Bill Gates, The Age of AI has begun

Les Google Home et Alexa permettent de répondre à des commandes simples. Mais si ces enceintes faintant le génie savaient répondre aux mêmes questions qu'un assistant personnel vous suivant quotidiennement depuis des années ? Si elles savaient prendre des rendez-vous professionnels et personnels ?

Si ces assistants de génie vous connaissaient mieux que votre plus proche ami, les entreprises derrière l'IA ainsi que leurs collaborateurs en sauraient autant. Quel danger cela représenterait pour la démocratie ?

La différence entre une tyrannie et une démocratie : si le gouvernement sait tout d'un citoyen c'est une tyrannie, si un citoyen sait tout d'un gouvernement c'est une démocratie.

📚 Je recommande l'excellent livre Privacy is power, développant comment le mauvais traitement actuel du respect de la vie privée des Internautes dégrade la santé de nos démocraties.

Aider la machine à coloniser l'humain

L'IA va permettre le développement de solutions logicielles capables d'aider, soutenir, enseigner, soigner, bref dépasser les frontières numériques actuelles.

J'ai vécu enfant sans Internet, j'ai vécu adolescent sans smartphone, j'aurais vécu jeune adulte sans IA.

Tout ne changera pas, mais tout pourra-t-il changer grâce à l'IA ?

I think in the next five to 10 years, AI-driven software will finally deliver on the promise of revolutionizing the way people teach and learn. It will know your interests and your learning style so it can tailor content that will keep you engaged. It will measure your understanding, notice when you’re losing interest, and understand what kind of motivation you respond to.
Bill Gates, The Age of AI has begun

Restera-t-il des secrets pour l'IA ? L'IA aura-t-elle des secrets à ses géniteurs ou bienfaiteurs ? Et ces géniteurs et bienfaiteurs, via la confiance que l'IA aura acquise, quel pouvoir auront-ils ? De quelle portée ?

Écologie

La situation climatique qu'on connaît nous offre plusieurs futurs possibles. Parmi ceux-ci : une diminution plus ou moins contrôlée de notre capital énergétique.

Le tout-numérique a son lot de contraintes aujourd'hui. Les hôpitaux pris pour cibles par des pirates informatiques, la marginalisation des plus pauvres, la monarchie de l'ordinateur fatal ©BenjaminBayart.

Éteindre les ordinateurs d'un hôpital est fatal.

L'IA ayant permis de réduire les coûts, les effectifs, et "soulager" toute une économie : deviandra-t-il fatal de la couper ? À quelle profondeur ira notre confiance et notre dépendance à un outil virtuel et consommateur d'énergie dans un monde à la capacité énergétique incertaine ?

Les biais

Nous savons qu'aujourd'hui il est complexe de développer une IA objective et non biaisée (est-ce seulement possible ?).

Amélie Cordier cite le cas d’Amazon qui, de 2014 à 2018, a tenté de mettre au point un algorithme de pré-tri des candidatures pour faciliter le travail de son département des ressources humaines. Si la machine s’est mise à écarter automatiquement les profils féminins, « c’était ni plus ni moins que le résultat d’une réalité factuelle, où le milieu recrutait jusque-là plus d’hommes que de femmes ». Amazon a essayé à plusieurs reprises de corriger son modèle, mais faute de résultats probants, a fini par l'abandonner.
Next Inpact, Peut-on corriger les biais des algorithmes ?

Nous aurons probablement, à côté de bienfaits, de nouveaux problèmes portés par l'IA dans les prochains mois et prochaines années. Ces problèmes porteront simultanément sur de nombreux sujets. Politique, économie, santé, cohésion de notre société : tout est mis à l'épreuve.

La Chine est notamment connue pour son utilisation du numérique avec des méthodes éloignées de nos habitudes occidentales. Pendant combien de temps resteront-elles éloignées ? Se joindront-elles ou s'éloigneront-elles ?

[...] l’Assemblée nationale a adopté le projet de loi « relatif aux jeux Olympiques et Paralympiques de 2024 ». Déjà voté par le Sénat en janvier dernier, ce texte contient un article 7 qui autorise l’expérimentation de la vidéosurveillance automatisée sur le territoire français.
Comme l’a rappelé La Quadrature du Net, cet article entérine un changement d’échelle sans précédent dans les capacités de surveillance et de répression de l’État et de sa police. La vidéosurveillance automatisée (VSA) est un outil de surveillance biométrique qui, à travers des algorithmes couplés aux caméras de surveillance, détecte, analyse et classe nos corps et comportements dans l’espace public pour alerter les services de police et faciliter le suivi des personnes.
La Quadrature du Net, Vidéosurveillance biométrique : derrière l’adoption du texte, la victoire d’un lobby

Qui a vu Minority Report et Black Mirror et ne s'inquiète pas ? Combien les biais creuseront les inégalités ?

Alors, tout va mal ?

J'ai développé une série de questions sans y répondre, mais ces questions ne développent pas chez moi une peur de l'IA.

Je suis fasciné par les possibilités que l'IA nous offre. Il nous appartient de comprendre et agir ensemble pour accompagner nos entreprises et nos gouvernements vers une utilisation de l'IA proche de nos valeurs et de nos désirs.

Beaucoup de choses sont à créer et imaginer, l'étendue aujourd'hui du numérique sur le globe va offrir aux acteurs de l'IA un terrain de jeu dantesque.

Si j'ai une inquiétude, au fond, elle n'est pas nouvelle. Elle concerne l'utilisation de la technologie par les entreprises et nos sociétés. Entant que citoyen, j'ai à coeur d'améliorer ma comprénsion des outils à venir pour participer au bien-être de notre société par le numérique. Et vous ?

Technology is a useful servant but a dangerous master.
Christian Lange