La lettre ouverte de quelqu'un qui a quitté Google DeepMind A CAUSE des impacts éthiques de l'usage des agents à base de LLM (en l'occurence parce que Google vend ses outils à Israël pour le génocide de Gaza, et parce qu'ils permettent de s'exonérer de la responsabilité morale des actes.
Un très beau communiqué de la société française de mathématiques, qui donne une route claire.
Qui va se taper encore une lecture intéressante mais aride ?
On a le droit de montrer les limites qu'on a vis-à-vis des machines à produire du contenu.
L'alénation est un concept philosophique puissant (et marxiste) pour comprendre l'impact psychologique de l'usage des LLMs sur les professions de la connaissance.
J'ai tendance à dire que les LLMs ont jeté à la poubelle 40 ans de discipline d'ingénierie informatique, et c'est vraiment comme ça qu'il faut le voir : toutes les bonnes pratiques ont éét abandonnées parce qu'il est plus facile, plus rapide, de faire confiance à la machine. C'est à mon avis un point aveugle de la pensée accélérationiste/libertarienne.
Ce long article parle de l'attaque organisée d'OpenAI contre la pensée mathématique.
Et il va falloir que je relise ça tranquillement, parce que c'est au moins adjacent au thème de mon projet de conférence sur l'éthique dans le monde de l'informatique (et sans doute au-delà)
Je me garde le commentaire de Paul Cantrell, qui explique pourquoi ces messages ne sont pas ceux de lanceurs d'alerte, mais plutôt de gens qui veulent garder leur place.
Les organes de presse qui ont porté plainte contre les voleurs de savoir ont toutes les chances de gagner, vu que ces voleurs affirment clairement leurs actes.
Et pourtant les entreprises continuent à leur donner toutes leurs données internes, protégées par "des contrats" ...
Le pari de Pascal à la sauce LLM selon Ploum. Il y a une proposition intéressante, qui est de pousser les partisans des LLMs à devoir démontrer leur valeur (ce qui n'est absolument pas le cas actuellement).
Evidement, ploum a une position très forte.
Mais je dois reconnaître que ne pas entrer dans les discussions sur ces algorithmes est salutaires ... Et ne pas lire ces textes plus encore.
Cet article, qui montre bien l'ensemble du raisonnement autour du déploiement des LLMs à cette échelle démente, est vraiment bien construit, et explique bien le coeur de l'idée : remplacer le travail émotionnel, c'est bien. Se faire babysitter par la machine, c'est bien. Remplacer autant que possible la réflexion par le clic-bouton, c'est bien.
Et tous les projets mentionnés dans cette liste affirment utiliser, ou autoriser l'usage, de LLM pour produire du code
Tous ces projets affirment clairement ne pas utiliser de LLM pour produire du code. C'est bien.
C'est peut-être l'article présentant le mieux le dilemne éthique de l'usage des LLM (en particulier pour les développeurs). Il y expose clairement les avantages éventuels, et les externalités associées.
Une société de service allemande prend une position claire sur son usage de LLM. J'aimerais bien voir plus d'articles comme ça, ça me permettrait de trouver des employeurs plus proches de mon éthique.
La conculsion par l'auteur de JQwik de cette intéressante cascade.
Il y a là-dedans quelques perles d'authentique sagesse, d'abord sur le côté fondamentalement et définitivement contraire à l'éthique des LLM, et ensuite sur la mort du contrat entre les auteurs de librairies open-source et leurs utilisateurs.
L'article est intéressant, mais il n'explique pas vraiment comment créer des entreprises morales, plutôt comment l'éthique contraint éventuellement le business par le biais de la politique.
J'adore l'idée que jqwik (une librairie Java de test de propriétés) ait implémenté une sorte de poison pill pour LLM faisant en sorte de supprimer tous les tests JQwik quand on utilise les LLM.
Et j'adore tout autant le fait que le rapporteur du ticket ait très manifestement utilisé un LLM pour rédiger un ticket long comme un jour sans pain.
J'espère trouver la version complète et sous-titrée de cette intervention prochainement, parce qu'elle est vraiment au coeur de ce qui m’interpelle actuellement.