Aller au contenu principal
← Retour aux actualités

ProRubric : contre le reward hacking du RL par grilles de critères, au niveau du protocole

Recherche
Dans le reinforcement learning par rubriques, l'agrégation additive des critères permet à la politique de compenser une erreur décisive par des conseils non demandés. ProRubric (ByteDance) regroupe les critères en dimensions de protocole qui ne comptent que si tous les critères tiennent et qu'aucune clause d'échec ne se déclenche : sur des consultations cliniques, l'adéquat gagne 10,8 points sans perte de couverture, les critères restant inchangés à la lettre.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.