#01. Décrypter l’IA : promesses, limites et vrais enjeux pour l’action sociale

Découvrez aussi l'interview de Jérôme Vachon (Société Philanthropique) + 4 pépites à lire ou à écouter

Bienvenue dans cette première édition d’Assoc[IA]tions, la newsletter qui explore l’IA pour (et avec) les acteurs du social.
Comprendre, tester, débattre : on avance ensemble, sans perdre de vue ce qui est au cœur de vos métiers : l’humain.

Temps de lecture ⏳ : environ 8 minutes. Soit le temps d’une pause café.

Au programme de ce premier numéro

💡 Décrypter l’IA : qu’est-ce que l’intelligence artificielle, vraiment ? Ce qu’elle peut faire, ce qu’elle ne peut pas faire ? Et surtout quels sont les enjeux dans l’action sociale ? Une mise au point sans techno-blabla ni fantasmes.

🗣️ Sur le terr[AI]n : Jérôme Vachon, directeur de la communication et des relations avec le comité d’administration de la Société Philanthropique, partage ses premiers pas avec l’IA générative. Entre curiosité, lucidité et contradictions assumées, il raconte comment son association amorce la réflexion.

🔭 [AI]lleurs : Quatre ressources soigneusement sélectionnées pour nourrir votre réflexion sans vous noyer.

Temps de lecture ⏳ : environ 8 minutes. Soit le temps d’une pause café.

💡Écl[AI]rage

Concepts, outils, usages, débats. Pour avoir les idées claires.

Décrypter l’IA : promesses, limites et vrais enjeux pour l’action sociale

“Mais c’est quoi ChatGPT, comment on y accède ?” Cette question revient à chaque formation sur la stratégie digitale que j’anime dans le secteur social et médico-social. Elle est posée par des directeurs d’établissement, des responsables RH, des chargés de communication. Qu’ils aient 25 ou 50 ans.

Pas de complexes à avoir : j’interviens aussi auprès d’avocats et j’entends les mêmes interrogations. Le signe que, dans le secteur associatif comme dans d’autres, l’IA est encore loin de se traduire par une révolution des usages, quand bien même le sujet agite tout le monde.

Automatiser ce qui relève du soin, du lien, de la relation humaine ?

L’IA interroge de front les missions centrées sur l'humain, l'écoute, l'éthique, la singularité des situations. Bref, vos métiers.

Dans des structures où temps et moyens humains ou financiers manquent parfois cruellement, l’IA peut sembler une planche de salut : optimiser des plannings d'interventions, rédiger plus vite un compte-rendu d'équipe, traduire un courrier pour une famille non francophone…

Mais une question centrale surgit aussitôt : jusqu'où peut-on (ou doit-on) faciliter ou automatiser ce qui relève du soin, du lien, de la relation humaine ?

D’abord, de quoi parle-t-on ?

L’intelligence artificielle (IA), c’est un ensemble de technologies qui permettent à des machines d’exécuter des tâches normalement réalisées par des humains : comprendre un texte, reconnaître une image, repérer des anomalies dans des données, anticiper un comportement…

L’IA était déjà partout, ou presque, dans votre quotidien depuis longtemps.

Quand vous parlez à Siri ou Alexa, c’est de l’IA. Quand Netflix vous recommande un film, c’est encore elle. Un logiciel de gestion qui aide votre organisation à planifier des interventions a aussi sûrement de l’IA sous le capot.

Mais attention : malgré son nom un peu prétentieux, cette IA n’est pas intelligente au sens humain du terme. Elle n’a ni conscience, ni émotions, ni morale (pas plus que votre smartphone même très design). Elle apprend en analysant de grandes quantités de données mais ne comprend pas vraiment ce qu’elle traite.

Et l’IA générative, ce phénomène qui fait le buzz ?

Fin 2022, avec ChatGPT lancé par OpenAI (USA), le grand public découvre l’IA générative, une catégorie d’IA qui crée du contenu (textes, images, vidéos) à partir d’une simple consigne.

Et c’est là que tout le monde s’est mis à s’exclamer : “Mais c’est dingue !”

Ce que l’IA générative sait faire…

L’IA est très forte (et ne cesse de s’améliorer) pour :

• résumer un rapport ;

• rédiger un premier jet d’e-mail ou un compte-rendu ;

• générer des idées ;

• classer, trier, traduire, corriger, reformuler ;

• reproduire un style d’écriture (ou du moins, essayer).

Enfin, quand je dis très forte, on se comprend : avec un prompt bancal, ne comptez pas sur un effet “Waouh”. Pour ceux qui n’ont jamais testé ni même entendu parler de prompt (je pense aux participants de mes formations !), retenez que c’est simplement la consigne que vous filez à l’IA (exemple : la rédaction d’un e-mail pour informer les familles de résidents des animations estivales).

…et ce qu’elle ne sait pas faire

Mais elle est incapable de :

• comprendre une situation de vulnérabilité dans toute sa complexité ;

• prendre une décision éthique face à un dilemme humain ;

• détecter une émotion subtile ou ambigüe ;

• réagir à un imprévu ;

• tenir compte des non-dits ;

• ou même simplement produire un contenu vraiment original ou nuancé. Elle recycle ce qu’elle a vu (sur ce point, j’avoue ne pas mettre ma main à couper car les IA génératives sont sans cesse plus puissantes).

En clair : elle brasse de l’info, elle devine grâce à des algorithmes sophistiqués ce qui devrait venir dans une suite de mots, de pixels ou de sons, mais elle ne comprend pas ce qu’elle produit (un peu comme certaines personnes en réunion, mais chut).

Les vraies questions à se poser

Peut-on utiliser de l’IA pour rédiger un compte-rendu de réunion ? Pour trier des CV ? Pour répondre à un appel à projet ? Pour orienter un bénéficiaire ou un allocataire ?
Techniquement, oui.
Mais… juridiquement, éthiquement, humainement ? Là, ça se complique.

Les outils d’IA posent des enjeux majeurs :

• transparence (d’où viennent les données sur lesquelles l’outil s’entraîne ?) ;

• confidentialité (peut-on donner les éléments d’un dossier d’un bénéficiaire ?)

• biais (l’IA peut reproduire des stéréotypes discriminants)

• responsabilité (si une mauvaise décision est prise sur la base de l’outil, qui devra rendre compte ?)

Sans parler du fait qu’ils peuvent produire des erreurs, voire affabuler (les fameuses “hallucinations”).

Alors faut-il se méfier ou s’emparer de l’IA ?

À mon avis, le bon réflexe, c’est de ne tomber ni dans l’enthousiasme béat, ni dans la méfiance absolue. Ni IAphile, ni IAphobe (inutile de chercher ces mots dans le Larousse). L’IA est un outil. Comme tout outil, elle dépend de l’usage qu’on en fait, du cadre dans lequel on l’intègre, et des valeurs qu’on choisit de préserver.

Mais j’ai quand même une conviction : réduire l’IA à une simple machine à gains de productivité ou à un levier d’efficacité, c’est risquer de passer à côté de ce qu’elle peut réellement apporter.
Car bien pensée, bien cadrée, bien accompagnée, l’IA ne pourrait-elle pas devenir un levier d’émancipation ?
Émancipation pour les salariés, délestés de certaines tâches routinières pour se concentrer sur ce qui fait sens dans leur métier.
Émancipation aussi pour les publics accompagnés, si l’IA permet de mieux comprendre leurs besoins, de traduire leurs demandes, de personnaliser les parcours, de rendre plus accessibles certains droits.

Cela ne se fera pas tout seul. Cela suppose des choix. De la vigilance. De la formation. Et surtout : des débats ouverts, au sein des équipes, avec les personnes concernées, dans les instances de gouvernance.

C’est exactement ce que cette newsletter veut nourrir : vous aider à comprendre, questionner, expérimenter, partager… pour que l’IA ne vous soit pas imposée, mais choisie, discutée, apprivoisée pour servir vos missions.

Et pour clore cet article, un rapide sondage. Merci pour votre participation !

🗣️SUR LE TERR[AI]N

Témoignages, interviews, retours d’expérience. L’IA vécue et racontée par celles et ceux qui la pratiquent (ou non) ou y réfléchissent.

“Je vois Le Chat, l’IA de Mistral, comme un accélérateur de pensée”

Jérôme Vachon est directeur de la Communication et des Relations avec le comité d’administration de la Société Philanthropique, association gestionnaire d’établissements sanitaires, sociaux et médico-sociaux en IDF. Il observe l’arrivée de l’IA générative avec un mélange de curiosité, de prudence…et de contradictions assumées. Entretien.

Quand avez-vous commencé à vous intéresser à l’IA générative ?

J.V. Fin 2022, comme beaucoup, quand ChatGPT a débarqué. J’ai tout de suite compris que cette technologie pouvait faire bouger les lignes. Dans la communication, mais aussi dans d’autres métiers chez nous. J’en ai aussitôt discuté avec la direction générale. L’idée, ce n’était pas de foncer tête baissée, mais de comprendre son potentiel et l’impact. Et de ne pas rater le coche.

Et concrètement, quels outils avez-vous testés ?

J.V. Les outils classiques d’un service communication, comme la suite Adobe, Photoshop et qui ont tous intégré une couche d’IA. Mais honnêtement, les résultats n’ont pas été à la hauteur de mes espérances. Les paramétrages restent complexes et chronophages. Par contre, Canva, plus simple, propose des fonctions IA assez efficaces, par exemple pour générer des infographies en un rien de temps.

Que pensez-vous de la dernière version de ChatGPT pour la génération d’image, celle qui a fait couler tant d’encre ?

J.V. Je n’ai pas encore pris le temps de l’essayer. J’utilise de préférence Le Chat, l’IA de Mistral. Il y a peut-être un petit biais chauvin – c’est français ! J’utilise son générateur de textes à l’occasion, pour être plus créatif, débloquer mes idées, pas pour produire un contenu prêt à l’emploi. Je le vois vraiment un accélérateur de pensée.

Vous avez l’air assez convaincu…

J.V. Oui et non. Je me sers de l’IA générative mais je reste lucide. Elle est une aberration écologique, menace des emplois. Les jeunes qui auront été accoutumés à l’IA seront-ils encore capables de penser par eux-mêmes ? Allons-nous vers un monde où des IA vérifieront le travail d’autres IA ?

Et du côté de votre association, une stratégie IA est-elle définie ?

J.V. Pas encore. On en est aux prémices. On sait que des collègues utilisent déjà l’IA, sans cadre défini. Les risques sont réels, notamment sur les plans juridique et éthique. C’est pour ça que le sujet sera à l’ordre du jour de notre prochain séminaire de direction avec un expert extérieur. On a besoin d’être alignés pour fixer un cadre pour les équipes. Nous guettons l’arrivée d’IA spécialisées, plus sécurisées, conçues pour répondre aux besoins et enjeux de notre secteur.

🙏 Merci Jérôme d’avoir ouvert le bal de ces entretiens.

———————————-

Appel à contributions !

Dans chaque numéro, je souhaite donner la parole à des professionnels du secteur associatif qui testent, observent ou questionnent l’IA dans leur quotidien : une initiative, un outil, un retour d’expérience, une réflexion, même modestes.

👉 Si vous voulez en parler ou si vous connaissez quelqu’un dans votre équipe ou réseau qui pourrait le faire, je serais ravie d’en discuter.

Pour me contacter : Elguiz.florence@gmail.com ou messagerie Linkedin.

———————————-

🔭[AI]lleurs

Sélection personnelle de contenus venus d’autres horizons. Pour vous inspirer sans vous éparpiller (façon puzzle 😊)

📘À lire

➡️Tout comprendre (ou presque) sur l’intelligence artificielle, Olivier Cappé et Claire Marc, 19€, www.cnrseditions.fr

Avouez, je ne pouvais pas trouver mieux pour cette édition#01 ! “Sous l’apparente légèreté du graphisme, cet ouvrage couvre [les] enjeux fondamentaux et rend compte de l’essentiel des connaissances, afin que chacun puisse s’informer et participer aux débats”, promet la 4e de couv. Promesse tenue si j’en crois les premières Questions-Réponses que j’ai lues. Un bel effort de vulgarisation.

➡️ Les grands défis de l'IA générative – Data For Good
Ce livre blanc, à télécharger ici, explore les enjeux éthiques et sociétaux de l'IA générative.
Pertinent pour les associations engagées dans des réflexions sur l'usage responsable de l'IA.

➡️L’IA ne vous remplace pas. Elle vous rend inutile. Et c’est pire – Naully Nicolas.
”Nous ne faisons pas face à une simple évolution technologique, mais à une reconfiguration des structures fondamentales de nos sociétés. Ce que produit l’IA n’est pas seulement de l’automatisation : c’est un déplacement des centres de décision, un effacement des médiations humaines, un redécoupage silencieux des rôles sociaux”.

Une tribune percutante sur l’exclusion insidieuse que l’IA peut provoquer. À lire sur Linkedin

🎧À écouter

Utiliser l'IA dans le monde associatif avec Yann Ferguson (LaborIA)
Podcast à écouter ici : une discussion avec Yann Ferguson, docteur en sociologie à l’INRIA et chercheur associé du Certop, sur les implications de l'IA dans le secteur associatif, abordant les opportunités et les défis.
Idéal pour les responsables associatifs souhaitant comprendre les impacts de l'IA.

---

🙏 Merci d’avoir lu cette newsletter jusqu’au bout. Si elle vous a plu, cliquez sur le petit ❤️ en haut de page pour m’encourager à poursuivre. Et sur le bouton ci-dessous pour la faire suivre à un collègue.

À très vite pour l’édition #02 !

Pas encore abonné ?