
NEW Open Source Qwen? BEATS GLM 5.2 & Claude? 🧐 Ornith 397B TESTED
NOUVEAU logiciel libre Qwen ? SURPASSE GLM 5.2 et Claude ? 🧐 Testé sur Ornith 397B
Mots-clés
Résumé
149 mots
Évaluation critique
Valeur des informations & solidité de l’argumentation
La valeur informative réside dans la démonstration pratique des capacités d’Ornith sur des tâches concrètes de génération de code, mettant en évidence des forces (vitesse, certains résultats visuels) et des faiblesses (boucles, sur-intelligence sur certains prompts). L’argumentation repose sur des exemples précis, mais elle manque de rigueur statistique : les tests sont effectués avec des seeds aléatoires et un petit nombre d’essais. Le créateur exprime des soupçons sur les benchmarks d’Ornith, mais sans preuve formelle. La comparaison avec d’autres modèles est utile, mais la méthodologie est informelle.
Rigueur scientifique, qualité des sources, adéquation du titre
La rigueur scientifique est limitée : les tests ne suivent pas un protocole établi, et les conclusions sont basées sur des impressions personnelles. Les sources citées sont principalement des liens vers la page Hugging Face du modèle et des vidéos compagnes, mais aucun article scientifique ni documentation technique détaillée. Le titre est fidèle au contenu, mais les affirmations de performance sont critiquées dans la vidéo. La licence du modèle est remise en question, et la description mentionne des liens affiliés, ce qui peut biaiser la neutralité. Globalement, l’adéquation titre/contenu est bonne, mais la crédibilité est affaiblie par le manque de transparence et de méthode.
206 mots
Adéquation titre / contenu
Le titre reflète bien le contenu : test du modèle Ornith 397B, en le comparant à d'autres modèles, avec mention de ses performances annoncées.
Qualité & fiabilité
5/10
Test pratique basé sur des prompts variés, mais avec des critiques sur la dissimulation de benchmarks et des problèmes de licence. La rigueur est limitée par l'absence de méthodologie formelle et l'usage de cas anecdotiques.
Moments clés
Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.
- Introduction et présentation des benchmarks d'Ornith vs GLM 5.2
- Test vision : génération d'un chat 3D en HTML
- Test mathématiques : boucle de raisonnement sur un problème
- Test Minecraft : génération d'un clone jouable
- Test Flappy Bird : visualisation 3D avec bugs de collision
- Test Word : interface améliorée mais font non modifiable
- Test génération de planètes 3D : résultat esthétique réussi
- Test reconnaissance musicale : erreur sur l'artiste de 'Remember the Name'
- Test divers : piano, voiture, ville procédurale, sort algorithmique en C++
Sources citées
- Page Hugging Face pour Ornith-1.0-397B — Référence au modèle testé et à sa fiche descriptive.
- Inferencer App — Outil utilisé pour tester le modèle.
- Vidéo sur GLM 5.2 — Vidéo compagnon mentionnée pour comparaison.
- Vidéo sur Kimi K2.7 Code — Vidéo compagnon mentionnée pour comparaison.
- Vidéo sur MTP AI Harness — Vidéo compagnon mentionnée.
Sources concordantes
- Page Hugging Face d'Ornith — Source directe du modèle, ses poids et sa documentation.
Sources discordantes
- Benchmarks de GLM 5.2 — Ornith affirme battre GLM 5.2 dans ses benchmarks, mais la vidéo note que les benchmarks de GLM sont omis dans la comparaison, jetant un doute sur la supériorité annoncée.
Références externes
Apport & nouveautés
L’apport principal est le test pratique d’un nouveau modèle open source (Ornith 397B) sur des tâches créatives de génération de code, montrant des forces et faiblesses concrètes. La critique des benchmarks publicitaires est pertinente, soulignant le besoin de validation indépendante. Le créateur propose un protocole de test empirique, bien que non standardisé.
Pour aller plus loin :
- Fine-tuning (apprentissage) — Pour comprendre la technique employée.
- Qwen (modèle) — Modèle de base dont Ornith est dérivé.
- Apprentissage par renforcement — Mentionné dans les commentaires comme alternative au fine-tuning.
- Hugging Face — Plateforme où le modèle est hébergé, permettant de vérifier les fichiers et licences.
103 mots
Profil radar
Le profil radar montre une quantité d'information élevée (7) grâce aux nombreux tests, mais une qualité et fiabilité moyennes (6 et 5), dus à une méthodologie informelle et des doutes sur la transparence. Le niveau technique est correct (6) pour un public initié, mais reste accessoire.
💬 Sur les 30 commentaires analysés, l'orientation est positive, avec une majorité de remerciements pour le test, mais aussi des doutes sur la fiabilité des fine-tunings et des critiques sur les boucles de raisonnement observées.