seguimiento y evaluación del programa de …...proyecto financiado por el instituto de salud carlos...

25
Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento y evaluación del Programa de Contratos de Investigadores en el Sistema Nacional de Salud ‘Miguel ServetJesús Rey Rocha Consejo Superior de Investigaciones Científicas (CSIC) Centro de Ciencias Humanas y Sociales (CCHS) Grupo de Estudios de la Actividad Científica http://geac.csic.cesga.es

Upload: others

Post on 24-Apr-2020

6 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo(Proyectos PI06/0983 y PI10/00462)

Seguimiento y evaluación del Programa de Contratos de Investigadores en el

Sistema Nacional de Salud ‘Miguel Servet’

Jesús Rey Rocha

Consejo Superior de Investigaciones Científicas (CSIC) Centro de Ciencias Humanas y Sociales (CCHS)

Grupo de Estudios de la Actividad Científicahttp://geac.csic.cesga.es

Page 2: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Contexto

Esfuerzo por potenciar la faceta investigadora de los hospitales del SNS, como centros con una triple función: asistencial, docente e investigadora

PNIDI. Potenciación de los recursos humanos en I+D. Incorporación de investigadores en los centros públicos de investigación (incluidos los del SNS)

Page 3: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Programa FIS / Miguel Servet

Objetivos

Incorporar al SNS a investigadores con excelente formación para potenciar la capacidad investigadora del SNS

Dotar del necesario componente multidisciplinario a las unidades y grupos de investigación de los centros sanitarios

Fomentar la creación [y consolidación] de grupos estables de investigación en el SNS

Inicio: 1998

Investigadores postdoctorales

Contratos 3 + 3 años

Hospitales y centros de investigación del SNS

Page 4: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Importancia de la evaluación y seguimiento

Conocimiento de la utilidad y eficacia de las acciones evaluadas

Valoración económica

Gestión proactiva

Planificación estratégica

Reposicionamiento y reorientación

Page 5: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Evaluación del Programa

Cumplimiento de objetivos

Debilidades, fortalezas

Potencial

Elementos determinantes de su eventual éxito

Contribución al cumplimiento de otros objetivos de la política de CyT Investigación traslacional Innovación Movilidad

Page 6: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Metodología

Aproximación mixta, cuantitativa y cualitativa

Encuesta a los investigadores contratados

Entrevistas en profundidad con los responsables de los grupos y unidades administrativas de los hospitales y centros de investigación

Análisis de contenido de las solicitudes e informes de seguimiento

Resultados de las evaluaciones de las solicitudes presentadas a las convocatorias de proyectos de investigación del PNIDI y del FIS

Page 7: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Evaluación integral

Objetivo 2: Dotar del necesario componente multidisciplinarioa las unidades y grupos de investigación:MultidisciplinaridadRelación básicos-clínicos

Objetivo 1: Incorporar investigadores con excelente formación … Formación y experiencia investigadoraIncorporación desde el extranjeroTasa de incorporación estableCarrera investigadora en el SNSMotivos de baja

Objetivo 1: … para potenciar la capacidad investigadora del SNS:Producción científica y tecnológicaFormación de nuevos investigadoresProyectos financiadosActividad desarrolladaNuevas técnicasAcceso a grandes instalaciones

Objetivo 3: Fomentar la creación de grupos estables de investigación en el SNS:Creación de gruposPermanencia y consolidaciónIndependencia y autonomía

Otros objetivos:Investigación traslacionalInnovaciónMovilidad

Contexto:Condiciones de trabajoClima organizativoDisponibilidad de recursosRelaciones entre los componentes del sistemaEstabilidad, promoción, carrera

Evaluación:SelecciónEvaluación y seguimiento

Page 8: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Punto de partida

¿En qué medida cree que el programa ha contribuido a…? 1-5 Bastante-Mucho

Incorporar investigadores con excelente formación para potenciar la capacidad investigadora del SNS 4,0 75,7%

Dotar a las unidades y grupos de investigación del SNS del necesario componente multidisciplinario 3,7 61,1%

Facilitar la creación de grupos de investigación estables y competitivos en el SNS 3,1 40,3%

Facilitar la consolidación de grupos de investigación estables y competitivos en el SNS 3,6 55,5%

¿Qué opinan los responsables de grupos y unidades?

Fomentar la interrelación entre la investigación clínica y básica 3,5 54,2%

Fomentar la relación entre el profesional sanitario y la investigación 3,2 43,1%

Potenciar y facilitar la movilidad de los investigadores contratados 3,1 40,3%

Potenciar la innovación en el SNS 3,1 33,3%

Page 9: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Punto de partida

Efectos 24,3%

Incremento de la capacidad investigadora de los grupos y centros receptores 19,4%Aporte de nuevas tecnologías y técnicas 19,4%Desarrollo y consolidación de grupos y unidades de investigación 18,8%Incremento de la masa crítica de investigadores 18,1%

Incorporación de investigadores cualificados y con experiencia investigadora

¿Qué opinan los responsables de grupos y unidades?

Fortalezas19,4%

Incremento de la masa crítica de investigadores 14,6%Multidisciplinaridad. Formación complementaria a la del resto del grupo 11,8%Contribución a la estabilización y a la carrera investigadora 11,8%

Incorporación de investigadores cualificados y con experiencia investigadora

DebilidadesEscasa contribución a la estabilización y a la carrera investigadora 45,8%Sistema de seguimiento y evaluación expost 17,4%

Page 10: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

O1: Incorporar investigadores …

Incorporación 48 / año (0,86% de los 6000 investigadores sanitarios)

Procedentes de un hospital/centro distinto 60,4% Incorporados a un grupo en el que no habían trabajado anteriormente 44,8% Procedentes del extranjero 27,2%Permanencia Continuaron dedicados a la investigación tras finalizar o abandonar el programa 84,5% Bajas 47,4%

• Programa Ramón y Cajal 25,5%• Contrato I+D 35,7%

Integración•Integración enmarcada en un contexto de:

• Inexistencia de carrera investigadora en el SNS• Ausencia de reconocimiento explícito de la figura del investigador hospitalario• Falta de vinculación contractual directa con el SNS

• Me considero un investigador más 71,3%• Mi jefe de grupo me ve como un investigador más 54,4%• El resto de investigadores del grupo me ven como un investigador más 64%

45,8%Escasa contribución a la estabilización y a la carrera investigadoraDebilidades

45,8%Escasa contribución a la estabilización y a la carrera investigadoraDebilidades

45,8%Escasa contribución a la estabilización y a la carrera investigadoraDebilidades

45,8%Escasa contribución a la estabilización y a la carrera investigadoraDebilidades

Page 11: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

O1: … con excelente formación …

Formación y experiencia

Experiencia posdoctoral (años tras la tesis doctoral): 5,9

Solicitantes con estancias pre o postdoc en el extranjero 82,2%

Meses en el extranjero (promedio) 37

Solicitantes procedentes del extranjero 27,2%

Pero, ¿se está seleccionando a los mejores?

Cambios experimentados por el programa, según los entrevistados: 1º. Descenso del nivel de los candidatos 7,6%

¿Escasa competitividad salarial?

¿Pocos medios?Valore en qué medida el Centro en el que se ha desarrollado

su contrato FIS, le ha facilitado el acceso a los recursos necesarios para desarrollar su actividad investigadora

16,9%

24,3%

29,7%

10,3% 8,8%

NadaPocoRegularBastanteMucho

0 1 2 3 4 5

RRHH: Personal técnico y apoyo

RRHH: Personal administrativo

RRHH: Investigadores en formación

Pequeño equipamiento inventariable

Acceso a grandes equipos o instalaciones

Material fungible

Instalaciones: animalario, microscopía, etc.

Material de experimentación: animales, tejidos, etc.

Infraestructuras: laboratorios y similar

Infraestructuras: despachos, salas reuniones, etc.

Estructuras de apoyo y servicio (informática, biblioteca, estadística,etc.)

Recursos económicos

1=Muy insatisfecho; 2= Bastante Insatisfecho; 3=Intermedio; 4=Bastante Satisfecho; 5=Muy Satisfecho

63,2 62,557,1

42,4

51,5

66,757,1

63,2

0

25

50

75

100

1998 1999 2000 2001

% e

ncue

stad

os

Poder adquisitivo

Salario

Programa FIS

Programa RyC

36.000

37.000

38.000

39.000

40.000

41.000

42.000

43.000

44.000

45.000

1998 1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009Convocatoria

Cua

ntía

anu

al d

e lo

s co

ntra

tos

en s

u pr

imer

a an

ualil

dad

(eur

os, b

ruto

)

Page 12: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Programa FIS

Programa RyC

36.000

37.000

38.000

39.000

40.000

41.000

42.000

43.000

44.000

45.000

1998 1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009

Convocatoria

Cua

ntía

anu

al d

e lo

s co

ntra

tos

en s

u pr

imer

a an

ualil

dad

(eur

os, b

ruto

)Tabla salarial del Programa FIS, en comparación con el Programa Ramón y Cajal

Page 13: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

En qué medida considera que han variado sus condiciones de trabajo, durante su contrato del Programa FIS, con respecto a su situación laboral en activo inmediatamente anterior

63,2 62,557,1

42,4

51,5

66,7

57,163,2

0

25

50

75

100

1998 1999 2000 2001

% e

ncue

stad

os

Poder adquisitivo

Salario

Encuestados que consideran que su salario y poder adquisitivo han mejorado

Page 14: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

16,9%

24,3%

29,7%

10,3% 8,8%

NadaPocoRegularBastanteMucho

Valore en qué medida el Centro en el que se ha desarrollado su contrato FIS, le ha facilitado el acceso a los recursos necesarios para desarrollar su actividad investigadora

Page 15: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Valore a su nivel de satisfacción con los recursos de que ha dispuesto para desarrollar su actividad investigadora

1 2 3 4 5

RRHH: Personal técnico y apoyo

RRHH: Personal administrativo

RRHH: Investigadores en formación

Pequeño equipamiento inventariable

Acceso a grandes equipos o instalaciones

Material fungible

Instalaciones: animalario, microscopía, etc.

Material de experimentación: animales, tejidos, etc.

Infraestructuras: laboratorios y similar

Infraestructuras: despachos, salas reuniones, etc.

Estructuras de apoyo y servicio (informática, biblioteca, estadística,etc.)

Recursos económicos

1=Muy Insatisfecho; 2= Bastante Insatisfecho; 3=Intermedio; 4=Bastante Satisfecho; 5=Muy Satisfecho

Page 16: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

O1: … para potenciar la capacidad investigadora

Proyectos de investigación 2001: proyecto asociado al contrato incrementa la capacidad investigadora IP en al menos un proyecto de investigación financiado 96,9%

Proyectos nacionales e internacionales como IP 3,9Tasa de éxito en la concesión de proyectos (concedidos/solicitados) 0,73Tasa de éxito en la concesión de proyectos superior a 0,9 44,3%Investigadores solicitantes / tasa de éxito como IP. Proyectos PNID 41% / 0,22Investigadores solicitantes / tasa de éxito como IP. Proyectos FIS 99% / 0,7ProductividadArtículos SCI (promedio por investigador) 14,3

FI medio de las publicaciones 4,2Patentes solicitadas / concedidas 0,3 / 0,1Tesis doctorales defendidas 2,2

6000

4768

96 237

1,60%

4,97%

0

1000

2000

3000

4000

5000

6000

7000

Número Artículos ISI0%

1%

2%

3%

4%

5%

6%

7%

Investigadores sanitarios Investigadores FIS activos % FIS/Total

(*) Fuente: Sela y Guinea, 2004 (**) Fuente: Méndez-Vásquez et al, 2008

(*)

(**)

0

2

4

6

8

10

12

14

16

18

Participaciones enproyectos

Artículos publicados Patentes concedidas Tesis dirigidas

Prom

edio

por

inve

stig

ador

Investigadores FIS Investigadores CSIC (1998-2002)

Page 17: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Producción científica

Page 18: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Producción científica (2003)

6000

4768

96 237

1,60%

4,97%

0

1000

2000

3000

4000

5000

6000

7000

Número Artículos ISI0%

1%

2%

3%

4%

5%

6%

7%

Investigadores sanitarios Investigadores FIS activos % FIS/Total

(*) Fuente: Sela y Guinea, 2004 (**) Fuente: Méndez-Vásquez et al, 2008

(*)

(**)

Page 19: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Actividad y productividad científica

0

2

4

6

8

10

12

14

16

18

Participaciones enproyectos

Artículos publicados Patentes concedidas Tesis dirigidas

Pro

med

io p

or in

vest

igad

or

Investigadores FIS Investigadores CSIC (1998-2002)

Indicadores de actividad y productividad científicaInvestigadores FIS vs investigadores del CSIC en el área de Biomedicina

Investigadores FIS (1998-2008) 4,2

Investigadores IDIBAPS (1999)(Rozman y Rodés, 2001)

3,25

Factor de ImpactoInvestigadores FIS vs IDIBAPS

Page 20: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

O2: Multidisciplinaridad

Titulación académica (doctorado) Biología 50,7%Medicina 26.5%

Investigadores que han realizado investigación básica (B / B + CL) 50,7% / 41.2%

Contribución a la interrelación entre investigación clínica y básica elevada o muy elevada

54%.

Mi incorporación contribuyó a incrementar la relación básicos-clínicos 64,7%

Mi contribución a la interrelación básicos-clínicos ha sido elevada o muy elevada

58,1%

Investigadores en un contexto de interrelación investigación básica y clínica

85%

Nuevas interrelaciones entre básicos y clínicos 28,1%

Page 21: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

O3: Creación y consolidación de grupos

Encuestados

Mi incorporación propició la creación de un nuevo grupo… 69,8%

… consolidado 24%

… en proceso de desarrollo y consolidación 70%

Bajas dejando un grupo creado 64%

Opiniones entrevistados Efecto Fortaleza

Desarrollo y consolidación de grupos y unidades de investigación

18,8% 9%

Creación de grupos de investigación 2,8% 1,4%

¿En qué medida cree que el programa ha contribuido a…?

1-5 Bastante-Mucho

Facilitar la creación de grupos de investigación estables y competitivos en el SNS 3,1 40,3%

Facilitar la consolidación de grupos de investigación estables y competitivos en el SNS 3,6 55,5%

44%56%

Actividad desarrollada en grupos existentesn= 32 Centros

Creación de nuevos grupos

n= 25 Centros

Page 22: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Nivel de satisfacción con el Programa

0%

10%

20%

30%

40%

50%

60%

70%

80%

90%

100%

Investigadores FIS Gerentes Responsables deinvestigación

Jefes de servicio Jefes de grupo

Muy insatisfechoBastante insatisfechoIntermedioBastante satisfechoMuy satisfecho

Page 23: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

El proyecto, hoy

Convocatorias 2002-2005

Algunos aspectos en los que queremos profundizar: Efectos de la independencia científica Desarrollo de la investigación traslacional Análisis económico

Y más adelante… Líneas de investigación desarrolladas por los investigadores MS Análisis comparativo (benchmarking) Seguimiento y evaluación del Programa I3SNS. ¿Qué ocurre tras la estabilización?

Para finalmente … Análisis de outcomes:

- Citas - Visibilidad en otras fuentes- Cambios en la práctica clínica - Beneficio para el paciente

Page 24: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Retos

Análisis retrospectivo Visión prospectiva

Evaluación como elemento necesario e irrenunciable para la planificación estratégica de la I+D+i

Inmediatez de las actuaciones de seguimiento y evaluación

Evaluación comparativa (benchmarking)

El Programa MS en el marco de la nueva Ley de Ciencia, Tecnología e Innovación

Estrategia global de seguimiento y evaluación de la I+D+i biomédica

Page 25: Seguimiento y evaluación del Programa de …...Proyecto financiado por el Instituto de Salud Carlos III Ministerio de Sanidad y Consumo (Proyectos PI06/0983 y PI10/00462) Seguimiento

Más información

http://geac.csic.cesga.es/FIS

Grupo de Estudios de la Actividad Científica

Centro de Ciencias Humanas y Sociales (CCHS)Consejo Superior de Investigaciones Científicas (CSIC)