Leçon à en tirer : l'une des plus grosses faiblesses de la programmation faite par une personne ignorante mais munie d'un LLM est la sécurité. En effet, la personne ignorante peut vérifier si le logiciel ainsi « vibe-codé » fonctionne mais ne peut pas tester la sécurité. 4/4
@bortzmeyer plus généralement sa faiblesse est son ignorance tout court, secu, et tout les autres sujets d'attention qu'un pro observerait là où un amateur ne regarde que le fonctionnement.
Oct 11, 2026, 7:34 AM@altermachina @bortzmeyer Un jour, j'ai acheté un antivol pour remorque jaune. Il paraissait très fonctionnel avec une serrure moderne, je croyais être bien protégé.
Mon voisin avait acheté le même modèle ! Ben, la clef du mien ouvrait le sien.
@fmfcd @altermachina @bortzmeyer Arf c’est comme les clés des vieux combi Volkswagen… (askiparè)
@altermachina Les gens qui programment n'importe comment existaient avant l'IA, oui. Mais la nouveauté, c'est le discours dominant qui leur dit « vous n'avez plus besoin de programmeurs, n'importe qui peut produire du logiciel, maintenant », discours qui a nettement gonflé le nombre d'incompétents qui se lancent.
@bortzmeyer @altermachina la limite basse de Dunning-Kruger s'est encore décalée vers le zéro…
Oct 11, 2026, 8:56 AM@bortzmeyer le but des vibe codeureuses n'est pas la sécurité mais qu'on ne puisse les blâmer pour les failles
https://images.gregr.fr/2025-06-13-les-decideurs.html
@bortzmeyer Même dans cette situation, demander de l'aide à un LLM pour déployer et lancer SonarQube, et faire des pentests sur la préprod n'est certes pas la solution miracle mais peut un peu aider à fermer les failles les plus évidentes.
@Xyrop Cela suppose que l'auteur·e [sic] sache qu'il existe potentiellement des problèmes de sécurité et qu'ielle ait une idée de ses responsabilités. Justement ce qui manque.
@bortzmeyer j'ajouterai qu'une autre grosse faiblesse serait la responsabilité juridique du fournisseur de service.
Quand on fournit un service en ligne même gratuit (a fortiori) on a une responsabilité énorme et il faut en être conscient et agir en conséquence. La sécurité informatique en est une partie. La nature des données échangées et leur côté personnel / privé en est une autre.
@benjamin Et la réaction de l'auteure au signalement de sécurité montre en effet une grave irresponsabilité.