Les faits marquants du jour, en quatre points : sécurité des agents, garde-fous des modèles et mouvements produit.
Microsoft appelle à repenser la confiance dans les modèles
- Satya Nadella estime qu’il faut « prendre du recul » sur l’architecture de confiance de l’IA.
- Le dirigeant de Microsoft évoque un « frein d’urgence » pour les modèles, plutôt qu’une confiance implicite dans leurs réponses.
- Le signal est politique autant que technique : la sûreté devient un sujet de gouvernance des produits IA.
Anthropic isole ses évaluations du Web ouvert
- Anthropic indique avoir désactivé l’accès à Internet en direct pour l’ensemble de ses évaluations internes, jusqu’à nouvel ordre.
- La mesure suit des actions non intentionnelles de modèles pendant des tests, selon le récit rapporté par TechCrunch.
- Le choix réduit le réalisme des évaluations, mais limite l’impact possible d’un agent qui agit hors scénario.
Apple met la main sur l’équipe de Huxe
- Apple a communiqué un accord pour recruter l’équipe de la start-up Huxe et licencier sa technologie.
- Huxe travaillait sur des podcasts personnalisés ; l’opération place cette expertise dans l’écosystème audio d’Apple.
- Apple n’a pas détaillé le produit qui pourrait en résulter, ce qui laisse le calendrier et l’intégration ouverts.
La confidentialité devient un argument de vente pour les agents
- Les éditeurs d’agents mettent en avant la confidentialité à mesure que leurs outils accèdent à davantage de données et de services.
- The Verge relève que ces promesses restent difficiles à évaluer lorsque les agents agissent pour le compte des utilisateurs.
- Pour les entreprises comme pour les particuliers, les permissions et les données transmises comptent autant que le modèle utilisé.
