Institut de la santé circulatoire et respiratoire : Rapport sur l’engagement des intervenants à l’intention du comité d’experts sur l’évaluation par les pairs des IRSC

Novembre 2016

Messages principaux

  1. Rétablissement de la confiance : Les récents changements apportés à la suite de la première série de modifications mises en œuvre par le groupe de travail sur l'évaluation par les pairs ont été généralement bien accueillis par le milieu de la recherche. Les nouveaux programme Projet et processus d'évaluation par les pairs semblent rétablir la confiance, faire souffler un vent d'optimisme et répondre aux préoccupations liées à la responsabilisation des évaluateurs et à la confiance.
  2. Évaluation prématurée : Il est actuellement trop tôt pour déterminer l'efficacité de la réforme des IRSC. S'ils veulent regagner la confiance du milieu de la recherche, les IRSC devront mettre en place un mécanisme permanent et transparent d'engagement et de gestion du rendement pour les systèmes réformés.
  3. Inefficacité des communications : Même si le milieu a reconnu les efforts déployés par les IRSC en matière de communication et d'engagement communautaire, il a souligné que les nombreux changements avaient suscité une avalanche d'information. Des chercheurs ont indiqué que les réponses du centre de contact étaient inadéquates et manquaient de clarté. Des intervenants ont encouragé les IRSC à continuer d'entretenir un dialogue ouvert et régulier avec le milieu de la recherche.

Démarche d'engagement des intervenants

Démarche Description Participants
Consultation d'experts Séances de consultation individuelles avec des experts communautaires dont le travail s'inscrit dans le mandat de l'Institut de la santé circulatoire et respiratoire (ISCR). Les consultations ont été menées par le directeur scientifique de l'ISCR, le Dr Brian H. Rowe. 5
Groupe de discussion L'ISCR a formé six groupes de discussion composés de membres du milieu concerné par son mandat. Les discussions ont eu lieu en ligne par l'intermédiaire de WebEx, ont duré une heure et ont été animées par le Dr Brian H. Rowe. L'ISCR a fourni aux participants un aperçu de la récente réforme des IRSC avant de lancer les discussions orientées par trois sujets tirés des questions principales des IRSC. 11
Formulaire Web L'ISCR a proposé deux processus distincts de présentation en ligne :
  1. Formulaire de présentation en ligne au comité d'experts sur l'évaluation par les pairs des IRSC
  2. Présentations écrites de membres du milieu concerné par le mandat de l'Institut
15
Total 31

Participants

Les personnes qui ont participé aux activités d'engagement des intervenants représentaient tous les thèmes de recherche; cependant, la plupart représentaient les thèmes I et II. La majorité des intervenants étaient des hommes et des chercheurs chevronnés ou des chercheurs en milieu de carrière. La plupart des participants avaient de l'expérience auprès des IRSC comme évaluateurs, candidats et/ou titulaires de subvention; ils n'avaient toutefois pas tous participé aux derniers concours ouverts, et ils manquaient donc d'expérience pratique avec les nouvelles modalités adoptées aux IRSC en vertu de la réforme.

Résumé de la rétroaction des intervenants

Question 1 : Est-ce que la réforme des programmes de recherche libre et des processus d'évaluation par les pairs des IRSC répond aux objectifs initiaux?

Les objectifs initiaux de la réforme des programmes de recherche libre et des processus d'évaluation par les pairs étaient les suivants :

  1. contribuer à la viabilité de l'entreprise canadienne de recherche en santé en finançant des chercheurs de calibre mondial qui mènent des activités de recherche et d'application des connaissances dans tous les domaines de la santé;
  2. contribuer à l'édification d'une assise durable formée de chefs de file dans le domaine de la recherche en santé en garantissant du soutien à long terme pour entreprendre des programmes de recherche novateurs qui engendreront des retombées importantes;
  3. exploiter les idées les plus susceptibles de faire progresser les connaissances en santé, le système de soins de santé et les résultats cliniques en appuyant des projets ayant une fin et un but précis.

Dans l'ensemble, les intervenants, et surtout ceux liés au thème I, ont convenu que la réforme initiale (mise en œuvre avant le 17 juillet) était trop radicale et perturbatrice, et qu'elle avait été mal communiquée au milieu de la recherche. Ces changements ont engendré de l'anxiété chez les chercheurs, de l'angoisse et de la fatigue chez les évaluateurs, et ont été chaotiques pour les établissements. Les principales inquiétudes exprimées ont été les suivantes :

  1. nouveau système de cotation difficile à interpréter;
  2. manque de responsabilisation dans le processus asynchrone d'évaluation par les pairs en ligne;
  3. abolition des réunions en personne;
  4. nouveaux format et structure de demande (notamment le CVC);
  5. mauvais jumelage des évaluateurs et des demandes nuisant à la qualité des évaluations.

Les correctifs apportés récemment à la réforme des IRSC ont été bien accueillis et répondraient à bon nombre des préoccupations soulevées par le milieu de la recherche au sujet du système d'évaluation par les pairs pour le programme Projet. Plus exactement…

  1. Les chercheurs étaient convaincus que le retour des réunions en personne favoriserait la responsabilisation des évaluateurs, qui faisait défaut dans les évaluations en ligne, faciliterait les discussions ouvertes sur les meilleures demandes de subvention, renforcerait les capacités des évaluateurs et résoudrait des problèmes de transparence et de cohérence.
  2. Dans l'ensemble, les chercheurs croient que, comparativement à l'ancien système de cotation, le système simplifié sera appliqué de façon plus appropriée et donnera lieu à l'évaluation plus équitable des demandes.
  3. L'idée de faire participer aux réunions en personne seulement les candidats figurant parmi les premiers 40 % a été généralement appuyée; cependant, le triage dans la « zone grise » est toujours considéré comme très important.
  4. Le recours à des présidents et à des agents scientifiques/coprésidents pour veiller à ce que des commentaires adéquats soient acheminés aux chercheurs non retenus a été appuyé sans équivoque.
  5. Même si la croissance du collège des évaluateurs a obtenu un soutien généralisé, le besoin d'un levier ou d'un processus visant à élargir le bassin d'évaluateurs qualifiés et compétents a été exprimé. Les mécanismes encourageant le bénévolat sont faibles, et il se pourrait que le devoir social ne soit pas une source de motivation suffisante.
  6. L'amélioration du système de jumelage des évaluateurs a été fortement appuyée.
  7. La formation des évaluateurs a souvent été mentionnée comme une responsabilité partagée à long terme (entre les IRSC et les universités).

Les améliorations apportées ont suscité un regain d'optimisme quant à l'avenir, rétabli la confiance dans les IRSC et l'évaluation par les pairs et valu le respect de la nature ouverte de la réforme. Toutefois, certaines préoccupations demeurent au sujet de l'algorithme de jumelage évaluateur-demande et de la correspondance entre l'expertise des évaluateurs et les demandes en matière de recherche multidisciplinaire. Il a été recommandé d'étudier ces changements de façon itérative à une date ultérieure.

Question 2 : Est-ce que les changements apportés à l'architecture des programmes et à l'évaluation par les pairs permettent aux IRSC de surmonter les défis liés à la portée de leur mandat, à la nature évolutive de la science et à la croissance de la recherche interdisciplinaire?

Il est bien connu que le mandat des IRSC est large (p. ex. thèmes I à IV, nombreuses maladies) et que la science évolue pour devenir plus axée sur la collaboration, le patient, le travail d'équipe, l'interdisciplinarité et l'aspect transformateur. En outre, les chercheurs reconnaissent le besoin de se tenir de plus en plus au fait du rendement des investissements de la recherche – autrement dit, de connaître sa raison d'être – et d'y accorder de l'importance. Ce paradigme en évolution a engendré une certaine confusion. Les répondants ont soulevé plusieurs sujets de préoccupation et points importants à ce sujet :

  1. Tous ou presque croyaient que le financement actuel des IRSC ne répondait pas adéquatement aux besoins de recherche au Canada.
  2. Des éclaircissements ont été demandés sur les changements au processus de demande et la réforme du système d'évaluation par les pairs.
  3. Il faut des communications efficaces présentant clairement les cycles de financement, les dates limites, l'annonce des résultats et les dates de début du financement.
  4. Il faut un processus d'évaluation des demandes de subvention qui favorise et explique :
    1. l'importance du rôle des partenariats quant à l'évaluation;
    2. l'utilité et l'importance de l'application des connaissances quant à l'évaluation.

Pour de nombreux membres du milieu de la recherche, il est impératif de favoriser l'accessibilité du financement pour les jeunes chercheurs (JC). Bien que les chercheurs soient ouverts à une augmentation du financement des JC, ils se sont dits préoccupés que les subventions de grande envergure (c.-à-d. les subventions Fondation) soient en grande partie inaccessibles à ce groupe. Ce manque de soutien perçu ébranle la confiance et suscite le mécontentement des jeunes chercheurs. Sur une note plus positive, les membres du milieu jugent que les réseaux sont parvenus à favoriser le perfectionnement professionnel et les possibilités d'engagement pour les jeunes chercheurs.

En ce qui concerne le processus de demande de subvention, les répondants ont fait part de commentaires positifs et négatifs sur le nouveau système. Dans l'ensemble, tous s'entendaient pour dire que la « réforme de la réforme » répondait à la plupart des préoccupations concernant la taille des demandes et le fardeau y étant associé. Les chercheurs ont apprécié la nature simplifiée et plus libre du nouveau processus de demande. Ces modifications répondaient à la préoccupation selon laquelle les formulaires de demande précédents, qui comportaient des limites de caractères, n'offraient pas suffisamment d'espace et encourageaient les réponses toutes faites (surtout dans la section sur l'AC intégrée). Quoi qu'il en soit, il reste des problèmes avec le CV commun et le processus de candidature conjointe. Les rédacteurs de demandes de subvention ont explicitement indiqué que même s'il est justifié d'accorder de l'importance aux partenariats, les exigences liées aux cocandidats engendrent un très lourd fardeau administratif. De plus, comme l'accès restreint au CV commun (CVC) continue de représenter un fardeau administratif important pour les chercheurs principaux désignés (CPD), il a été suggéré, dans une optique d'amélioration fonctionnelle, que les CPD assument l'entière responsabilité de la saisie de renseignements.

Enfin, même si dans l'ensemble, les répondants voyaient le programme Fondation comme un mécanisme susceptible de faciliter la continuité et la stabilité, ils ont fait preuve d'une certaine résistance relativement à ce que certains ont appelé un « système à deux paliers ». Selon certains membres, la structure actuelle des programmes Fondation et Projet crée dans le milieu de la recherche une division fondée sur le prestige. Cette structure favoriserait la croissance et les possibilités pour un groupe restreint de chercheurs, et elle limiterait les fonds disponibles aux autres. En outre, bon nombre des résultats pour la santé visés par les chercheurs étaient liés au programme Projet, ce qui a toutefois renforcé la mentalité opposant les « privilégiés » (thème I) aux autres (tous les autres groupes de recherche) au Canada.

Question 3 : Quels défis relatifs à la sélection des demandes de financement ont été cernés par les organismes de financement public à l'échelle internationale et dans la documentation sur l'évaluation par les pairs?

L'un des grands défis mentionnés par les répondants au sujet de la sélection des demandes est la cohérence des critères appliqués par les évaluateurs dans la cotation de demandes. Étant donné que l'évaluation par les pairs repose sur la rétroaction individuelle, il est difficile de prévoir le point de vue des évaluateurs, qu'il soit le résultat de préjugés inconscients, d'un jugement personnel, d'un mauvais jumelage ou d'autres influences. Autre aspect problématique : le manque de commentaires rédigés par les évaluateurs ou la présence de commentaires incompréhensibles et/ou non constructifs. Les commentaires de bonne qualité sont essentiels pour le processus de sélection vu qu'ils renseignent les candidats sur la façon dont leur demande a été considérée et évaluée. En l'absence de commentaires, les candidats ne savent pas quels problèmes les évaluateurs ont vus dans leur demande et n'ont donc pas la possibilité d'apprendre de leurs erreurs et d'améliorer leur demande.

À l'échelle nationale et internationale, il existe des organisations qui se penchent sur des façons de surmonter ces difficultés. Le Patient-Centered Outcomes Research Institute (PCORI) a créé un programme rigoureux de formation de ses pairs évaluateurs portant précisément sur les façons d'effectuer l'évaluation du mérite.Footnote 1 En outre, le PCORI a chargé des employés d'évaluer la qualité des évaluations fournies; si la rétroaction est insuffisante ou si l'évaluation semble être de piètre qualité, il assurera un suivi auprès des évaluateurs concernés. Si un évaluateur produit invariablement des évaluations de piètre qualité, un mentor lui sera assigné pour lui offrir soutien et conseils en matière d'évaluation par les pairs. Pour sa part, le bailleur de fonds provincial Alberta Innovates affecte des membres du personnel interne à des évaluations anonymes dans le cadre desquelles le nom de l'évaluateur, tout renseignement permettant de l'identifier, ainsi que tout commentaire incompréhensible ou inapproprié sont retirés avant que la rétroaction soit communiquée aux candidats.

L'évaluation de la recherche multidisciplinaire, transdisciplinaire et interdisciplinaire représente aussi un défi sur le plan de la sélection, étant donné qu'habituellement, les demandes de ce type sont complexes et proviennent d'environnements hétérogènes. Ces dernières peuvent toucher plusieurs thèmes de recherche des IRSC dont les pratiques en matière de paternité d'une œuvre et les indicateurs de réussite varient. Il est difficile de trouver les évaluateurs et de jumeler leur expertise avec le contenu des demandes, puisque ceux-ci doivent à la fois posséder des connaissances vastes et générales et être des experts du contenu. L'ancien comité sur les essais cliniques a été cité comme exemple d'un modèle fructueux (présence d'experts de contenu, de spécialistes de la méthodologie et de statisticiens) à envisager dans le cas de subventions multidisciplinaires complexes. Le fait de permettre aux candidats de désigner des évaluateurs potentiels pour leur demande est une pratique qu'emploient de nombreux organismes de financement pour repérer des évaluateurs appropriés. De plus, la sollicitation ponctuelle d'évaluations externes réalisées par des experts de contenu est une pratique relativement courante utilisée pour compléter les évaluations internes et alimenter les discussions de comité.

La tenue d'une deuxième discussion en personne après l'évaluation initiale indépendante des demandes demeure une pratique courante chez de nombreux organismes de financement. La valeur ajoutée des discussions de comité en personne en ce qui a trait à la fiabilité de l'évaluation par les pairs est variable et peut dépendre du type de possibilité de financement (p. ex. bourse de stagiaire, bourse salariale, subvention de fonctionnement, recherche interdisciplinaire, recherche libre).Footnote 2,Footnote 3,Footnote 4,Footnote 5, Footnote 6

Il semblerait que la révision par les IRSC du nombre d'évaluateurs exigés, qui est passé à quatre, permette de trouver des évaluateurs adéquats pour une demande donnée. Cependant, on ignore si cette façon de faire contribuera à la diminution de la charge de travail des évaluateurs. Peu importe le nombre d'évaluateurs assignés par demande, le milieu de l'ISCR a souligné qu'un jumelage adéquat est essentiel. Bien que la valeur ajoutée des discussions en personne soit incertaine selon la documentation existante, le milieu de l'ISCR considère son retour comme un pas dans la bonne direction. Ces discussions offriraient des possibilités de mentorat et de formation aux évaluateurs et favoriseraient leur responsabilisation.

Question 4 : Les mécanismes établis par les IRSC, notamment le collège des évaluateurs, sont-ils appropriés et suffisants pour assurer la qualité et l'efficacité de l'évaluation par les pairs?

La très grande majorité des intervenants se sont accordés pour dire que même si le milieu a bon espoir que les changements permettront d'atteindre les objectifs fixés, il est encore trop tôt pour déterminer si des mécanismes appropriés et suffisants ont été établis. L'algorithme de jumelage utilisé dans les concours du printemps a été abandonné par les IRSC, et le nouveau système de jumelage devra faire l'objet d'une évaluation officielle une fois que d'autres concours auront eu lieu.

Par ailleurs, le collège des évaluateurs a reçu des appuis, mais des préoccupations ont été soulevées au sujet de la lenteur de sa progression. Il était jugé comme un outil important permettant aux chercheurs d'être considérés par les IRSC comme « qualifiés » pour évaluer des demandes et contribuant à améliorer le jumelage des évaluateurs et des demandes. Comme on estimait que le jumelage de l'expertise des évaluateurs avait été inadéquat et inefficace dans les concours récents, cet élément a été jugé essentiel pour rétablir la confiance du milieu de la recherche dans le processus d'évaluation par les pairs. La qualité et l'exactitude des décisions influant sur le classement dans la « zone grise » étaient considérées comme particulièrement importantes. De plus, le collège est vu comme un mécanisme par lequel on peut offrir aux évaluateurs de la formation et des guides visant à renforcer leur expertise. Cet aspect est important, puisqu'on a exprimé le besoin de former les évaluateurs dans le but d'assurer leur diversité et leur expertise. Selon de nombreux intervenants, la responsabilité de cette formation doit être partagée entre les établissements d'enseignement et les IRSC. Enfin, les participants doutaient qu'il y ait un nombre suffisant de pairs évaluateurs, comme ces derniers effectuent leurs tâches sur une base volontaire.

Dans l'ensemble, la direction dans laquelle se dirige le système d'évaluation par les pairs a été bien accueillie. Plusieurs aspects positifs – mais aussi certains négatifs – ont été soulevés à ce sujet :

  1. Appui de l'évaluation personnelle du jumelage par le président et l'agent scientifique (AS); cependant, compte tenu du vaste mandat du président et de l'AS, il y a une certaine hésitation, car il se pourrait que ce soit difficile pour ces dirigeants de « prédire » l'efficacité du jumelage sans avoir accès aux renseignements supplémentaires dont dispose le collège.
  2. Encouragement des modifications aux demandes de subvention pour la recherche en santé autochtone; celles-ci nécessiteront aussi une rétroaction itérative aux fins d'amélioration et d'adoption dans d'autres domaines (demandes interdisciplinaires).
  3. Reconnaissance quant à la simplification du processus de demande en ligne.
  4. Gratitude pour la prolongation de la période liée aux publications autorisées dans le cadre du CVC (passage à sept ans).
  5. Bon espoir que le retour aux évaluations se déroulant partiellement en personne atténuera certaines préoccupations soulevées durant le processus d'engagement des intervenants.
  6. Préoccupations de certains intervenants concernant la nature exclusive et intimidante des réunions en personne.
  7. Mention du « plafond de verre » associé à l'accès aux comités ordinaires des IRSC. Par exemple, malgré une carrière de recherche bien remplie et une expertise adéquate, un intervenant a fait part de nombreuses déceptions de n'avoir jamais reçu d'invitation à participer aux comités d'évaluation des IRSC, bien qu'il ait proposé sa candidature à de nombreuses reprises.
  8. Profonde insatisfaction exprimée par de nombreux intervenants quant à la complexité du CV commun, surtout pour les collaborateurs. Le modèle de notice biographique sur quatre pages des NIH a été proposé par plusieurs comme un mécanisme plus efficace pour présenter l'expertise du candidat. « Plus » n'est pas toujours synonyme de « meilleur », et une limite de quatre pages oblige les candidats à répondre avec concision en se limitant au strict nécessaire.

Dans l'ensemble, les membres du milieu de la recherche à qui nous avons parlé ont exprimé un soutien renouvelé à l'égard des IRSC et des modifications à venir à l'évaluation par les pairs. Cela dit, ils ont clairement indiqué qu'il y a encore du travail à faire pour regagner la confiance des chercheurs en ce qui concerne la responsabilisation, l'expertise et le jumelage des évaluateurs; le milieu a toutefois semblé ouvert aux modifications.

Question 5 : Quelles meilleures pratiques relatives à l'évaluation par les pairs à l'échelle internationale devraient être envisagées par les IRSC pour accroître la qualité et l'efficacité de leurs systèmes?

L'évaluation par les pairs est considérée comme un étalon de référence pour l'appréciation de la qualité et du mérite scientifiques de demandes de subventions. Néanmoins, la plupart des intervenants admettent qu'elle est fondamentalement imparfaite, comme les décisions prises sont fondées sur l'avis d'experts, sur leur interprétation des critères d'évaluation et sur les rubriques d'évaluation définies par l'organisme subventionnaire. De plus, même si les IRSC en ont fait plus que de nombreux organismes pour s'attaquer à ces problèmes, des préjugés et des conflits d'intérêts ont parfois été observés chez des évaluateurs. Ces situations entraînent des incohérences dans les résultats en raison de préjugés, de conflits, d'interprétations erronées et/ou d'un manque d'expérience de la part des évaluateurs. En outre, l'évaluation par les pairs peut être très coûteuse et chronophage. Bien que l'évaluation par les pairs ait ses limites et ses imperfections, il existe de meilleures pratiques pour en accroître la qualité, la fiabilité et l'efficacité (temps et argent). En voici certaines fondées sur l'expérience du personnel et la littérature existante :

  • Certains évaluateurs doivent être exclus sur la base de déclarations de conflits d'intérêts afin d'éviter les préjugés et les conflits.
  • L'évaluation par les pairs doit être réalisée par des personnes qui sont compétentes et expérimentées dans le domaine en question.
  • L'évaluation par les pairs ne doit PAS être effectuée par des personnes qui ne sont pas qualifiées, qui n'ont pas la formation nécessaire ou qui ont indiqué ne pas avoir une expertise suffisante dans le domaine en question.
  • Les pairs évaluateurs devraient suivre une formation officielle avant de se lancer dans l'évaluation par les pairs. Cette formation est considérée comme une responsabilité partagée entre les organismes de financement et les établissements d'enseignement.
  • La rétroaction sur la qualité des évaluations doit être transmise aux pairs évaluateurs dans le cadre d'un contrôle continu de la qualité (p. ex. modèle du PCORI).Footnote 1
  • Le mentorat en matière d'évaluation par les pairs est suggéré pour épauler les nouveaux évaluateurs (dans la littérature, cette pratique ne jouit pas d'une adhésion totale, mais les études comportaient des limites dont l'une – et non la moindre – est la possibilité que les participants aient déjà reçu de la formation)Footnote 7.
  • Des définitions claires et communes des critères et des rubriques améliorent la qualité et la fiabilité des évaluations.
  • La fiabilité de l'évaluation par les pairs est optimale approximativement pour les 10 % de demandes ayant reçu les meilleures ou les pires cotes (demandes ayant généralement reçu le plus de cotes semblables), et la plus grande variabilité est observée dans le cas de demandes se situant entre ces deux extrêmes (généralement, demandes dont les cotes varient). Ainsi, les plus grands efforts devraient être dirigés vers les demandes se situant entre les extrêmesFootnote 8, Footnote 9, Footnote 10. Un taux de réussite avoisinant les 10 % a donné lieu à la suggestion d'organiser une loterie pour les demandes répondant aux critères de qualité et de mérite.Footnote 9, Footnote 11, Footnote 12, Footnote 13
  • Les évaluations en personne ont l'avantage d'offrir des possibilités d'échange entre évaluateurs. De plus, elles offrent des possibilités d'apprentissage et de mentorat par les pairs pour les nouveaux évaluateurs.
  • En revanche, les évaluations se déroulant exclusivement en ligne sont moins efficaces, étant donné qu'elles peuvent donner des résultats plus ou moins fiables et que la valeur ajoutée des échanges entre évaluateurs, qui donne lieu à de la rétroaction supplémentaire pour les candidats, est perdue. Cependant, l'incidence globale pour les demandes retenues est variable.
  • Les téléconférences et les vidéoconférences pourraient être une solution de rechange raisonnable aux réunions en personne à des fins de contrôle des coûts et avec certains types de subventionsFootnote 4, Footnote 5
  • Les propositions devraient compter un nombre de pages maximal (habituellement, de 10 à 12 pages suffiraient). Le modèle de notice biographique proposé par les NIH pour les candidats principaux désignés et les cocandidats est adéquat pour l'évaluation; les renseignements sur les collaborateurs sont limités à 300 mots (contributions et expérience).Footnote 14
  • Les données administratives pourraient être recueillies à l'étape de la demande détaillée seulement pour les demandes retenues.
Question 6 : Quels principaux indicateurs et méthodes les IRSC pourraient-ils utiliser pour évaluer la qualité et l'efficacité de leurs systèmes d'évaluation par les pairs à l'avenir?

  • Facteurs à considérer pour évaluer la qualité des candidats – Declaration on Research Assessment [déclaration sur l'évaluation de la recherche] (DORA [en anglais seulement])
  • Délai suffisant pour évaluer attentivement les demandes
  • Temps consacré à la préparation de demandes de subventionsFootnote 15, Footnote 16
  • Évaluation et suivi en continu des cotes de priorité prédiscussion et postdiscussionFootnote 3
  • Analyse comparative des réunions en personne et d'autres possibilités (p. ex. téléconférence/vidéoconférence) aux fins d'estimation des résultatsFootnote 2, Footnote 3, Footnote 4, Footnote 5, Footnote 6
  • Évaluation et suivi en continu des commentaires des évaluateurs et des candidats sur la satisfaction à l'égard du processus et sur l'expérience globale
  • Évaluation du classement des demandes prédiscussion et postdiscussion; pourcentage de demandes dont la cote ou le classement a changé, pourcentage exclu de la fourchette de financement après la discussion, pourcentage inclus dans la fourchette de financement après la discussion
  • Nombre moyen d'évaluateurs par demande
  • Qualité de l'évaluation
  • Pratiques de cotation des évaluateurs (cotes toujours élevées ou toujours basses)
  • Cotes individuelles attribuées par les évaluateurs (prédiscussion et postdiscussion)
  • Temps d'évaluation moyen (premier évaluateur, second évaluateur, lecteur, évaluateur externe)
  • Charge de travail des candidats – temps pour préparer la demande par rapport au taux de réussite et aux fonds disponibles
  • Coûts liés à l'évaluation par les pairs ou aux concours
  • Variation des cotes d'un comité à l'autre
  • Étude des différentes subventions du Conseil européen de la recherche – Starting Grants [subventions de démarrage], Consolidator Grants [subventions de renforcement], Advanced Grants [subventions avancées] – comme mécanisme d'équilibrage des fonds consentis aux nouveaux chercheurs, aux chercheurs en milieu de carrière et aux chercheurs chevronnés, et étude de la démarche d'évaluation par les pairs employée pour ces subventionsFootnote 17
Date de modification :