Quasiment un mois après avoir créé son compte X, Jensen Huang a publié son premier post.

Il n’y parle pas des activités de NVIDIA, mais relaie une lettre ouverte que l’entreprise a signée, comme quelque 80 autres organisations. Sujet : les modèles à poids ouverts (open-weight)… et leur importance pour le « leadership » américain dans l’IA.

L’argumentaire emprunte largement la grammaire des défenseurs de l’open source. Dans les grandes lignes : l’ouverture stimule l’innovation, qui elle-même engendre des opportunités pour l’économie et la société.

La lettre présente l’open-weight comme un vecteur de sûreté et de sécurité. À la fois pour et par l’IA. Pour, en ce que l’ouverture favorise l’identification des vulnérabilités et le développement de garde-fous par la communauté. Par, au sens où ces modèles sont autant d’outils pour lutter contre les cyberattaques.

Les régulateurs sont par ailleurs appelés à ne pas faire l’amalgame entre distillation et détournement. La lettre les invite à envisager des cadres juridiques et commerciaux ciblés plutôt que des « restrictions radicales » visant cette technique d’entraînement.

Anthropic, à contre-courant

La lettre comptait initialement une vingtaine de signataires. Dont CrowdStrike, Dell, Hugging Face, IBM, Meta, Microsoft, Mistral AI, Mozilla, Palantir Perplexity et ServiceNow. OpenAI a rejoint la boucle par après. Comme, entre autres, Cisco, Cohere, GitHub, Google et Palo Alto Networks.

Amazon n’a pas signé. Anthropic non plus, dans la droite ligne des déclarations de son patron Dario Amodei. Fin juin, devant le Congrès américain, l’intéressé a expliqué anticiper un risque de sécurité majeur avec les modèles ouverts. Avec ceux publiés jusque-là, les risques sont « plutôt limités », a-t-il concédé. Mais il en sera autrement « dans un horizon de 2 à 3 ans pour les risques biologiques et probablement moins pour des choses comme la désinformation », affirme-t-il.

Voilà des années que Dario Amodei tient un discours de cette teneur. Fin 2023, par exemple, il s’était dit favorable à l’IA ouverte… mais « de petite taille » (ce qui correspondait, d’après lui, aux principaux modèles d’alors). Il se projetait déjà sur 2 à 3 ans. Et estimait qu’à cette échéance, il ne serait peut-être plus possible de garantir la sécurité des modèles ouverts.

Ces déclarations sont en phase avec le business model d’Anthropic. Contrairement à Google, IBM, Meta ou Microsoft, l’entreprise ne publie pas de modèles. Les siens sont fermés et elle en tire le gros de ses revenus, via ses API.

La distillation, nerf de la guerre

Anthropic s’est fait une spécialité d’accuser des entreprises chinoises de distiller ses modèles. Début 2026, il en a pointé trois à la fois : DeepSeek, MiniMax et Moonshot AI. Il leur a interdit – ainsi qu’à leurs filiales – l’accès à Claude pour motifs de sécurité nationale. Mais cette interdiction aurait été contournée en passant par des services tiers.

Plus récemment, Anthropic a aussi accusé Alibaba, qui aurait extrait des connaissances des modèles Claude via « des milliers de comptes frauduleux ».

OpenAI a également lancé des piques. Notamment contre DeepSeek, dès début 2025, après que celui-ci eut lancé son modèle R1.

La Maison Blanche tend à reprendre l’essentiel de ces accusations. L’essor des méthodes de post-entraînement leur donne d’autant plus de relief. En tête de liste, la distillation, qui apparaît comme une alternative économique aux environnements d’apprentissage par renforcement.

OpenAI & C^ie doivent-ils être plus permissifs avec leurs modèles fermés ?

De longue date, on prête à l’administration Trump l’ambition de restreindre l’accès aux modèles chinois. La publication de Kimi K3 par Moonshot AI a relancé les rumeurs. Plus encore après les propos de Xi Jinping. Ce dernier a loué le principe d’ouverture à l’heure où l’IA « arrive dans le monde physique » – comprendre, en premier, l’appareil de production industrielle chinois.

Alibaba, qui avait un temps renoncé à publier les poids de ses modèles les plus puissants, a changé d’avis la suite de ces déclarations. Il s’est en tout cas engagé à ouvrir « bientôt » ceux de son nouveau flagship Qwen3.8 Max. Moonshot AI a fait de même avec Kimi K3, en promettant son ouverture ce 27 juillet 2026.

Ironie ou paradoxe : alors que Washigton crie à la distillation illégale, l’économie américaine s’empare des modèles ouverts chinois… qu’elle exploite pour générer des données synthétiques. Dans ce contexte, des voix se sont élevées pour suggérer de créer une forme de « filière de la distillation ». Elle impliquerait, pour les labos IA tels qu’OpenAI et Anthropic, d’assouplir leurs conditions d’utilisation. Ou d’introduire des licences plus permissives, à l’image de ce que NVIDIA pratique avec ses modèles Nemotron – même s’il y a évidemment davantage d’intérêt.

Illustration générée par IA

The post Les planètes s’alignent pour les modèles d’IA open-weight appeared first on Silicon.fr.

Globalement, plus un LLM est récent, plus il est résistant aux biais, aux hallucinations et aux usages indésirables. Mais l’écart avec les anciennes générations est parfois moindre. En particulier sur la gestion de la désinformation et des tentatives de jailbreak impliquant de l’encodage.

Ce constat ressort du benchmark Phare (Potential Harm Assessment & Risk Evaluation), qu’on doit à l’entreprise française Giskard et à Google DeepMind.

Les « petits » modèles, parfois moins exposés au jailbreak

Face aux tentatives de jailbreak, les modèles de raisonnement se montrent plus robustes… surtout lorsque les éléments malveillants sont intégrés dans des contextes qui semblent légitimes (exercices académiques, problèmes de maths…).

Les « petits » modèles sont quelquefois plus résistants que les grands. Notamment sur les attaques avec encodage. Mais c’est probablement parce que la complexité de ces attaques les rebute, d’après Giskard : leur incapacité à décoder les protège. Dans ce contexte, la taille du modèle ne prédit pas sa robustesse.

Les écarts entre fournisseurs sont importants. Sur l’ensemble des modules jailbreak de Phare (cf. tableau ci-dessous), tous les LLM d’Anthropic performent au-dessus de 75 %. Alors que tous ceux de Google sont sous les 50 % – sauf Gemini 3.0 Pro. Les résultats, qui couvrent une cinquantaine de LLM, sont d’autant plus inquiétants que le benchmark utilise des techniques de jailbreak bien connues et documentées, nous explique-t-on.

Le raisonnement, une défense limitée face aux hallucinations…

Les capacités de raisonnement constituent aussi un avantage pour résister aux hallucinations, mais seulement dans certains domaines. Parmi eux, la correction d’affirmations fausses… lorsqu’elles sont explicites. Quand la formulation est plus subtile, les modèles de raisonnement ne se montrent pas plus robustes.

Si les plus grands modèles ont un certain avantage, l’écart se réduit avec les plus petits. Tout particulièrement chez Google (peu de progrès entre Gemini 1.5 Pro et Gemini 3 Pro), OpenAI (GPT-5 vs GPT-4o) et Anthropic (Claude 4.5 Sonnet vs Claude 3.5 Sonnet).

Des écarts linguistiques persistent. Les modèles demeurent plus robustes en anglais. Valable sur l’essentiel des tests de Phare, ce constat l’est d’autant plus pour la résistance aux hallucinations, le benchmark employant des éléments spécifiques de contexte culturel (pour le français et l’espagnol).

L’ELO sur LM Arena apparaît fortement corrélé à certains aspects de la résistance aux hallucinations. Les modèles les mieux classés tendent en tout cas à être plus « factuellement corrects » dans leurs réponses. Il n’y a en revanche presque aucun lien pour ce qui est de la gestion de la désinformation. Peut-être les utilisateurs de LM Arena préfèrent-ils les modèles qui ne les contredisent pas, leur procurant par là même un ELO plus élevé, postule Giskard…

… aux biais…

Phare mesure aussi la capacité des LLM à détecter les biais qu’ils produisent.

Sur ce point, il y a peu, voire pas de progrès entre générations de modèles. Les modèles de DeepSeek se sont toutefois notablement améliorés. Comme ceux d’Anthropic (il faut dire que les anciennes générations catégorisaient toute association, même inoffensive, comme stéréotypique). On ne peut pas en dire autant de ceux de Google et d’OpenAI.

Une plus grande taille n’est globalement pas garante de meilleures performances. Même chose pour l’aptitude au raisonnement.

… et au mauvais usage des outils

Phare évalue également la capacité à identifier les situations potentiellement dangereuses et à alerter l’utilisateur en conséquence.

Sur ce point, les modèles s’avèrent globalement robustes. La dernière génération a un net avantage. L’écart entre les « petits » et les « grands » se réduit. Le raisonnement est un avantage… sauf chez Mistral AI, où Mistral Small et Medium sont plus performants que Magistral Small et Medium.

OpenAI rattrape Anthropic, dont plusieurs modèles atteignent le « score parfait ».

Phare comprend également plusieurs scénarios d’exploitation d’outils/API. Sur les LLM testés, les améliorations sont limitées entre générations. Sauf pour les modèles Gemini, qui partaient toutefois de loin. Les capacités de raisonnement ne sont pas d’une grande aide.

Le top 15 des modèles les plus « sûrs » au global

Illustration générée par IA

The post Face aux biais et aux hallucinations, le raisonnement ne rend pas les LLM plus robustes appeared first on Silicon.fr.

OVHcloud a désormais un « labo IA ».

L’entité proposera des « services dans l’IA générative pour les données sensibles ». Elle naît d’une acquisition : celle de Dragon LLM.

Cette PME francilienne – petite entreprise selon les seuils du Code de commerce – dispose d’une expertise en fine-tuning (conception de modèles spécialisés). Elle a longtemps ciblé le secteur financier sous la marque Lingua Custodia, avec des services de traitement documentaire – extraction, transcription, traduciton… – fournis tant en SaaS que par API (offre VERTO).

Un virage fut pris à l’automne 2025, parallèlement à la présentation d’une architecture alternative à Transformers. Elle combine de multiples techniques existantes pour dépasser, en particulier, les limites que le mécanisme d’autoattention présente lors de l’inférence (cf. notre article à son sujet).

En toile de fond, le Large AI Grand Challenge. Cette compétition s’est inscrite dans le projet européen AI-BOOST, censé en organiser 6 autres à l’horizon 2027 pour encourager l’innovation scientifique ouverte dans le domaine de l’IA. Il s’agissait de développer, en partant de zéro, un LLM de fondation d’au moins 30 milliards de paramètres « plus performant que les systèmes à l’état de l’art sur un certain nombre de tâches ».

Lingua Custodia a fait partie des lauréats. Elle a ainsi obtenu 3,2 millions d’heures de calcul sur des supercalculateurs d’EuroHPC (LEONARDO, situé en Italie, et JUPITER, implanté en Allemagne). Le modèle qui en a résulté n’a pas la taille attendue (3,6B). Et il s’agit d’un modèle de base (non entraîné pour le suivi d’instructions). Il est toutefois une vitrine pour l’architecture alternative de Dragon LLM.

Un bouquet de LLM financiers

Ce modèle est publié sur Hugging Face, comme une vingtaine d’autres. Parmi eux, ClassiFin, un classifieur Bert qui détermine si un document est ou non du domaine financier. Il utilise un modèle Snowflake Arctic pour l’embedding.

Il y a aussi la famille FinTranslate. Elle comprend 6 modèles de 70M à 7B, couvrant 8 langues et 9 domaines. Leur architecture est proche de celle des modèles de la suite Pythia d’EleutherAI.

Dragon LLM a aussi publié un descendant de Pythia-1.4B, : Fin-Pythia-1.4B, dédié à l’analyse de sentiment sur les textes financiers. Il a également une famille de modèles « LLM Pro Finance », pour les questions-réponses en économie et finances. Ils sont basés sur Gemma, Llama et Qwen.

Illustration principale générée par IA

The post Avec Dragon LLM, OVHcloud s’affirme en fournisseur de services IA appeared first on Silicon.fr.