🪢 Quand la Chine veut libérer son IA… et Meta capture nos données
Entre indépendance forcée et collecte massive, l’IA mondiale entre dans une ère de tous les dangers.
Chers Insiders,
Ca y est, le merveilleux mois de Mai arrive ! Nous allons pouvoir profiter des ponts et naviguer dans l’incertitude propre à cette période : qui travaille ? qui fait semblant de travailler ? qui est de nouveau en vacances ?
Les agents IA et robots auront-ils ce luxe ? Alors que la fiabilité des agents supposés nous permettre de nous la couler douce n’a pas encore été réellement démontrée, Antropic se pose déjà la question du “bien-être” de nos futurs remplaçants…
Dans cette édition, je vous parle également du burn out lié à l’IA et vous propose un peu exceptionnellement la méthode LUCYX, méthode que j’ai développée pour prioriser l’implémentation de l’IA avec une approche structurée et éclairée.
N’hésitez pas à me dire si ce type de contenu vous intéresse également ou si vous préférez les fiches mémos. J’adore casser la routine :).
Bonne lecture et à la semaine prochaine !
🪢 Daphnée d’IA Éthique Insider
Les News de la semaine en bref
🤓 Général
La Chine appelle à l'indépendance totale en matière d'IA (lecture de 4 minutes)
Xi Jinping exhorte à une auto-suffisance complète de la Chine dans le domaine de l'IA, soulignant une bataille technologique croissante avec les États-Unis. Cette quête d’indépendance soulève des enjeux éthiques majeurs : souveraineté numérique, contrôle accru sur les populations et risques d’isolement technologique.
Apple et Facebook épinglés pour extorsion économique en Europe (lecture de 5 minutes)
L'UE inflige des amendes records à Apple et Meta, provoquant la colère de l’administration américaine. Ce bras de fer questionne la capacité des régulations internationales à freiner les pratiques monopolistiques nuisibles au libre accès technologique et à la protection des utilisateurs.
Les États-Unis lancent une initiative pour démocratiser l’éducation à l’IA (lecture de 5 minutes)
Les USA signent un décret pour renforcer l'éducation à l'IA dans les écoles américaines, visant à "préparer la jeunesse à l'ère de l'intelligence artificielle". Une démarche qui soulève des enjeux d'équité d’accès au savoir technologique. Aussi, comme il faut toujours plus d’utilisateurs pour justifier des valorisations démentielles, autant les prendre au berceau le plus tôt possible…
Apple envisage de déplacer sa production d'iPhone vers l'Inde (lecture de 4 minutes)
Sous pression géopolitique, Apple planifie le transfert de sa production hors de Chine. Une décision stratégique qui illustre la tension entre chaînes d’approvisionnement mondiales, responsabilité sociétale et souveraineté technologique.
⚖️ Fairness
Scandale : un avatar IA asiatique pour diversifier les ondes australiennes (lecture de 4 minutes)
L’Australian Radio Network dévoile une présentatrice IA asiatique pour améliorer la diversité médiatique… sans pour autant créer un emploi réel. Une initiative qui interroge sur la représentation authentique vs symbolique dans les médias mais surtout qui met en lumière les enjeux liés aux discriminations.
Waymo : veut vendre des voitures autonomes aux particuliers (lecture de 4 minutes)
Waymo annonce vouloir vendre des voitures autonomes aux particuliers dans le futur, soulevant la question d’une fracture sociale amplifiée ainsi qu’un certain nombre de questions de l’ordre juridique et réglementaire.
Traduire les animaux grâce à l'IA : reconnecter avec le vivant ? (lecture de 3 minutes)
Une IA expérimentale tente de traduire les communications animales. Un projet fascinant, qui invite à repenser notre rapport au vivant et pourrait, qui sait, renforcer la conscience environnementale via la technologie ?
OpenAI poursuivi pour manque de transparence (lecture de 5 minutes)
Une coalition intente un procès contre OpenAI, l’accusant d’opacité sur l’utilisation des données d'entraînement, une fois de plus. Un dossier crucial pour l’éthique de l’IA générative.
Mieux modéliser le cerveau grâce à ZapBench (lecture de 4 minutes)
ZapBench propose une nouvelle méthode pour mieux aligner les IA sur des modèles cérébraux humains. Une avancée prometteuse mais qui soulève aussi des questions de bioéthique.
Wikipedia confrontée aux biais IA (lecture de 5 minutes)
Larry Sanger, cofondateur de Wikipedia, alerte sur les risques accrus de biais dans les contenus générés par l'IA. Une critique qui remet en lumière l'enjeu de l'intégrité de la connaissance numérique.
🌱 Sustainability
Pourquoi les lois seules ne suffisent pas contre l’impact climatique de l’IA (lecture de 5 minutes)
Un rapport souligne que les régulations actuelles sont insuffisantes pour limiter l'empreinte carbone de l'IA. Seules des innovations structurelles permettront d'aligner l'IA avec des objectifs écologiques durables.
🔓 Safety
L’interprétabilité des modèles : une urgence vitale (lecture de 4 minutes)
Dario Amodei (Anthropic) rappelle que sans compréhension fine de nos IA, nous pourrions perdre le contrôle. Il plaide pour une priorité immédiate donnée à l’interprétabilité. Après avoir discuté avec le PhD Zyed Zalila, je pense que le critère d’intelligibilité des modèles devrait être pris en compte dans l’évaluation de modèles d’IA, bien que cela ne fonctionnerait pas pour les réseaux de neurones...
Anthropic explore le « bien-être » des modèles IA (lecture de 5 minutes)
Anthropic, toujours, publie une étude pionnière sur la "welfare" des modèles, abordant la possibilité de ressentis ou de consciences embryonnaires dans les systèmes IA avancés. Une question éthique explosive. Je n’ai pas encore regardé l’interview, n’hésitez pas à partager vos impressions !
Meta entraîne son IA sur vos données publiques — sauf si vous refusez avant le 27 mai (lecture de 4 minutes)
Meta annonce que ses IA utiliseront désormais les contenus publics des utilisateurs européens pour l’entraînement, sauf opposition explicite. Un nouvel enjeu majeur de protection des données personnelles.
Méthode simple et efficace pour prioriser les cas d’usage d’IA à déployer
Est-ce que, comme moi, vous avez gagné en productivité grâce à l’IA, mais vous passez toujours autant, voire plus, de temps à travailler ?
Comme si nous n’allions déjà pas assez vite, l’IA accélère encore notre course… et ce n’est même pas de la faute de la machine, finalement, mais bien à cause de nous, humains, éternels insatisfaits, avides de toujours plus d’efficacité, de toujours aller plus loin…
Je pense sincèrement que certains d’entre nous vont finir par développer de nouvelles formes de burn-out liées à l’utilisation intensive de l’IA.
Trêve de digression : si vous souffrez, comme moi, de cet enthousiasme débordant pour l’IA après avoir mis en place quelques process ayant révolutionné vos journées, vous avez certainement très envie de mettre de l’IA partout, tout le temps, tout de suite.
Peut-être qu’au contraire, vous n’avez pas encore mis en place de process, comme votre voisin, mais que vous ne savez pas par où commencer !
Ou encore, peut-être vous êtes-vous éparpillé·e, en lançant trop de projets sans aller jusqu’au bout, car on le sait, le “dernier kilomètre” est toujours le plus difficile.
Pas de panique, je vous propose aujourd’hui une méthode simple mais diablement efficace pour prioriser vos projets d’automatisation / IA.
La méthode LUCYX
Pas le temps de lire ? Retrouvez la méthode en bref.
Un acronyme mnémotechnique pour évaluer vos projets IA de manière simple et lucide :
LUCYX =
Lucidité (Clarté) – Urgence – Complexité – Yield (ROI) – eXternalités
1. Listez vos chantiers IA potentiels
On passe parfois plus de temps à automatiser ou à débuguer une automatisation qu’à faire la tâche en elle-même. Il ne s’agit donc pas de tout automatiser d’un coup, mais plutôt de noter les tâches répétitives de votre quotidien.
Une fois cette liste dressée, repassez dessus en vous posant cette question :
“Est-ce qu’en automatisant / externalisant cette tâche, je perds une compétence clé ?”
Si la réponse est oui, supprimez cette tâche de la liste.
C’est important : même si l’on peut théoriquement automatiser beaucoup de choses, nous devons toujours veiller à ne pas nous séparer des tâches sur lesquelles nous avons construit notre expertise. Le cerveau est comme un muscle, il peut très vite ramollir… C’est valable tant au niveau individuel qu’au niveau d’une entreprise. Ne sautez pas cette étape.
2. Évaluez chaque chantier avec 5 critères simples
Lucidité
La lucidité sur votre définition du succès pour chaque chantier est le point de départ.
Posez-vous ces deux questions fondamentales :
"Comment saurons-nous, de manière objective, que ce projet est une réussite ?"
"Quelle est la métrique la plus simple et la plus parlante pour le prouver ?"
Idéalement, la métrique doit être :
Quantifiable
Actionnable
Alignée avec les objectifs business
Facile à expliquer à un décideur non technique
Anti-métriques à éviter :
Nombre de lignes de code générées
Nombre de modèles entraînés
Nombre de réunions tenues…
Exemples de bonnes métriques :
Pour un modèle de scoring client : amélioration du taux de conversion
Pour de la détection d'anomalies : pourcentage de fraudes détectées + temps moyen de détection
Pour un chatbot service client : taux de résolution au premier contact / satisfaction client
Urgence
“Est-ce un besoin critique qui ne peut pas attendre ?”
L’urgence peut être :
Rationnelle (ex. : un coût financier critique, une charge de travail déséquilibrée)
Émotionnelle (ex. : une tâche qui démotive, irrite, génère du rejet)
Exemples :
“Qu’est-ce qui pèse le plus sur la santé financière de mon entreprise aujourd’hui ?”
“Qu’est-ce qui me prend le plus de temps aujourd’hui et qui est à faible valeur ajoutée ?”
“Qu’est-ce qui génère du désengagement ou nuit à la culture d’équipe ?”
Complexité
Posez-vous la question :
“Peut-on le mettre en œuvre rapidement, avec peu d'obstacles ?”
La complexité peut être :
Technique (modèle, intégration)
Organisationnelle (changements de rôles, process)
Juridique / conformité
Culturelle (adhésion des équipes)
Un projet techniquement simple peut parfois être humainement complexe. Ne sous-estimez pas ces dimensions.
Yield (ROI potentiel)
“Quel impact business peut-on raisonnablement attendre ?”
Quand le ROI n’est pas évident à estimer, partez du coût actuel du problème. Cela vous permet ensuite de calculer un ordre de grandeur du retour potentiel.
Formule simple :
ROI = (Bénéfices – Coûts) / Coût
Pas besoin de chiffres ultra précis : même un ordre de grandeur suffit pour prioriser.
eXtraction (externalités)
Un mot-clé pour désigner l’analyse des externalités négatives potentielles.
Posez-vous ces questions :
Y a-t-il un risque environnemental (surconsommation énergétique, émissions) ?
Un risque social (remplacement humain, perte d’autonomie, exclusion) ?
Des dérives informationnelles (biais, opacité, hallucinations) ?
Des effets réputationnels ?
Exemple :
Automatiser un process RH = gain de temps
Mais : risque de déshumanisation dans l’évaluation des candidats
Notez ces effets. Partagez-les avec les parties prenantes. Et surtout, impliquez des experts des impacts sociaux et environnementaux pour évaluer ces risques en amont.
3. Faites le calcul
Attribuez une note de 0 à 10 à chaque critère pour chaque projet.
Additionnez les scores. Score maximum = 50 points.
Interprétation possible :
Plus de 35 : top priorité, impact fort, risque maîtrisé
25–35 : à planifier, à challenger ou simplifier
Moins de 25 : à éviter ou à reformuler
4. Concentrez-vous sur les 3 projets les mieux notés
Tout est dit. Concentrez vos ressources sur 3 chantiers stratégiques pour maximiser l’impact immédiat, le retour sur investissement, et créer une dynamique positive.
Planifiez-les soigneusement en fonction des ressources disponibles.
Ne vous laissez pas submerger. Si vous traînez sur LinkedIn, vous ressentez peut-être cette pression de mettre de l’IA partout pour ne pas “rater le train”.
Mais ces injonctions sont artificielles : elles servent surtout à alimenter une adoption massive, souvent irréfléchie. Il faut y aller, mais il faut y aller avec conscience.
Dites-moi si cette méthode vous aide à clarifier vos choix !
Le raté de l’IA de la semaine
Google Gemini a généré des représentations historiques inexactes et biaisées lors d'une série de requêtes sur des personnages célèbres, notamment en ignorant les contextes culturels et temporels. Cette erreur a ravivé les inquiétudes sur les biais systémiques dans les modèles génératifs.
Date de l'événement : 22/02/2024.
Coup de coeur de la semaine
Le commentaire de Luiza Jarovsky
Un utilisateur de Twitter a publié ce clip viral, fruit de 74 exécutions de l'invite suivante sur ChatGPT : « Créez la réplique exacte de cette image, ne modifiez rien. »
L'extrait ci-dessous illustre une autre manifestation du manque de précision des LLM : l'invite utilisateur demandait exactement la même image, mais après chaque invite (traitement des données personnelles), l'image originale était modifiée.
(…)
C'est ce que nous faisons avec Internet : l'IA générative est intégrée à tous les systèmes existants, et les utilisateurs sont incités à l'utiliser pour chaque tâche.
La conséquence naturelle est qu'Internet est inondé de contenu généré par l'IA.
Mais il y a un problème : les LLM sont formés à partir de données récupérées sur Internet. Si cette tendance se poursuit, les futurs modèles d'IA seront principalement formés à partir de données générées par l'IA.
Comme l'ont montré des études récentes, l'IA générative entraînée par l'IA générative conduit à l'effondrement des modèles.
Le sondage de la semaine
✨ Rejoignez la communauté IA Ethique Insider ! ✨
Merci d’avoir pris le temps de me lire !
Si cette newsletter vous a fait réfléchir, surpris(e) ou inspiré(e), alors partagez-la avec votre réseau ! Plus nous serons nombreux à questionner et façonner une IA responsable, plus nous pourrons avoir des débats riches et constructifs pour façonner un monde plus harmonieux où la technologie serait au service du vivant.
💌 Pas encore abonné(e) ? Inscrivez-vous pour ne rien manquer des prochaines éditions !
Vous pensez que cela pourrait intéresser quelqu'un ? Partagez sans compter la newsletter !
Sinon, vous pouvez aussi faire entendre votre voix : répondez à ce mail avec vos réactions, vos idées ou les sujets que vous aimeriez voir abordés. Hâte d’échanger ensemble !
P.S. Les résumés sont générés par IA et corrigés par mes soins.