L'attention avant le Transformer
En 2014, l'attention n'était ni une architecture générale ni un slogan. C'était une réponse précise à un défaut des premiers systèmes de traduction neuronale.
7 min de lectureLectures, notes et réflexions sur le logiciel et l’IA. Un espace pour approfondir les questions qui accompagnent mon travail.
En 2014, l'attention n'était ni une architecture générale ni un slogan. C'était une réponse précise à un défaut des premiers systèmes de traduction neuronale.
7 min de lectureLes architectures logicielles modernes reposent sur un principe fondamental de sécurité établi depuis des décennies : la séparation stricte entre le canal des instructions (le code exécutable) et le canal...
12 min de lectureUn harness fiable transforme chaque intention en effets idempotents, bornés, traçables et réconciliables, même lorsque le modèle, le réseau ou un outil échoue.
13 min de lectureUne méthode concrète pour choisir le retrieval le moins complexe capable de répondre, du fait isolé au parcours multi-hop et à l’orchestration dynamique.
13 min de lectureUn développeur backend reçoit pour mission d'intégrer un agent conversationnel capable de manipuler l'inventaire d'une base de données et de rédiger des rapports d'anomalies selon la charte graphique de...
15 min de lectureUn agent peut ajouter riskscore à GET /accounts/:id, modifier le schéma, ajuster l’interface, faire passer les tests, puis ouvrir une livraison qui semble propre. Le même agent peut aussi casser un client...
19 min de lectureUne API de génération peut recevoir trois requêtes en même temps : un chat court de 600 tokens, un résumé juridique de 18 000 tokens, et une extraction structurée qui demande peu de sortie mais impose un...
18 min de lecture