41
Martin Srholec 29. 9. 2015 www.metodika.reformy-msmt.cz Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Embed Size (px)

Citation preview

Page 1: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Martin Srholec29. 9. 2015

www.metodika.reformy-msmt.cz

Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Page 2: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Kdo je Martin Srholec?

Ekonomie inovací, inovační politika, ekonomický rozvoj

http://home.cerge-ei.cz/srholec/index.html

• Ph.D. na VŠE v Praze (2003) a na Univerzitě v Oslu (2005)

• Research Fellow a postdok na Univerzitě v Oslu, Norsko (2002-2010)

• Výzkumný pracovník na CERGE-EI v Praze (od roku 2010)

• Associate Professor na Univezitě v Lundu, Švédsko (od roku 2011)

Spolupracovník IPn Metodika, MŠMT

Hodnocení projektů pro GAČR (předseda panelu P403) a TAČR (expertní

hodnotící komise programu OMEGA)

Komise pro hodnocení výsledků výzkumných organizací a ukončených

programů při RVVI

RIO (dříve ERAWATCH) korespondent, Evropská komise

Konzultační práce pro UNCTAD, UNECE a UNIDO

1

Page 3: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Účelové výdaje státního rozpočtu

na VVI v roce 2014

• Nezahrnuje dotace na VVI z OP EU

• Nezahrnuje nepřímou podporu (daňové odpočty) pro VaV ve firmách

2

Page 4: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Mezinárodní audit systému VVI v

ČR (Technopolis, 2011)

• Na rozdíl od vyspělých zemí EU není v ČR hodnocení programů VaVaI považováno za

důležitou součást procesu přípravy a realizace politik v oblasti VaVaI.

• Systém hodnocení programů VVI je spíše jen ex-post monitorováním dosažených

výsledků a nákladů potřebných k jejich dosažení.

• Velice negativně byla zhodnocena kvalita hodnocení, resp. zpráv z hodnocení

ukončených programů.

• Zprávy z hodnocení jednotlivých ukončených programů VVI nelze považovat za

„standardní“ evaluační zprávy, protože obsahují jen popis ukončených programů

VaVaI a jejich výsledků.

• Za velice diskutabilní je spolehlivost uváděných analýz, přičemž používaná data

většinou pocházejí pouze z IS VaVaI.

• Ačkoliv zprávy o hodnocení uvádějí jasné závěry, většina z nich není dostatečně a

spolehlivě doložena.

• Doporučení pro tvorbu navazujících či jiných programů VVI zpravidla nejsou ve

zprávách obsažena.

3

Page 5: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Metodika hodnocení od roku 2011

Rok 2013:

• Metodika hodnocení výsledků výzkumných organizací a hodnocení výsledků

ukončených programů (platná pro léta 2013 až 2015) – tzv. Metodika 2013 - opuštěn

tzv. „Index SR“, ale pouze dvě stránky o (souhrnném) hodnocení programů.

Rok 2014:

• Pracovní skupina při RVVI k systémovému opatření č. 18 Aktualizace Národní politiky

výzkumu, vývoje a inovací České republiky na léta 2009 až 2015 s výhledem do roku

2020

Rok 2015:

• Dokument „Základní principy přípravy a hodnocení programů a skupin grantových

projektů výzkumu, vývoje a inovací“ schválen předsednictvem RVVI

• Usnesení vlády č. 351 ze dne 13. května 2015, které ukládá vypracovat podle těchto

principů a vládě do 31. prosince 2016 předložit obecně závazný dokument upravující

přípravu a hodnocení programů a skupin grantových projektů

• Probíhá revize Metodiky 2013 pro rok 2016 (pouze menší změny)

Jak se budou hodnotit programy v období 2017+?

4

Page 6: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Příspěvek IPN Metodika

• Hlavním cílem projektu je vytvořit návrh nového systému hodnocení a financování

výzkumných organizací, tj. otázka institucionálního financování (spolupráce s firmou

Technopolis, atd.)

• Na podzim 2014 bylo rozhodnuto, že bude přidána i aktivita s cílem „navrhnout obecné

principy metodiky hodnocení programů účelové podpory v souladu s nejlepší

mezinárodní praxí v podmínkách ČR ... i návrh systémových změn potřebných pro

zavedení mezinárodních standardů hodnocení.“

• V první polovině roku 2015 byl zpracován dokument „Návrh obecných zásad

hodnocení programů účelové podpory výzkumu, vývoje a inovací a potřebných

systémových změn“

• Připomínky k první pracovní verzi od vybraných odborníků a první revize v dubnu a

květnu 2015

• Pracovní verze pro konzultace se zainteresovanými subjekty uvolněna během léta

2015

• Revize v září a finální verze v říjnu 2015

5

Page 7: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

6

Page 8: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Cílem tohoto dokumentu je vymezit zásady, jak by

se mělo provádět hodnocení programů účelové

podpory výzkumu, vývoje a inovací v českých

podmínkách v návaznosti na nejlepší mezinárodní

praxi. Zásady jsou navrženy v obecné rovině tak,

aby mohly být zavedeny jako strategický nástroj pro

řízení na úrovni systému a následně rozpracovány

na konkrétní podmínky jednotlivých programů.

7

Page 9: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Obecné zásady hodnocení

pro různé typy hodnocení, včetně ex-ante hodnocení

návrhu programu, průběžného hodnocení chodu

programu a ex-post hodnocení jeho dopadů

a

pro různé druhy programů od skupin grantových projektů

pro akademický výzkum, přes programy pro podporu

spolupráce ve výzkumu až po dotace zaměřené na

inovace.

8

Page 10: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

9

Page 11: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Program účelové podpory je nástroj implementace

národní politiky VVI.

10

Page 12: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Hodnocení programů

• Účelem hodnocení (anebo evaluace) je poskytovat poznatky pro

posuzování vhodnosti veřejných výdajových programů.

• Hodnocení pomáhá zlepšovat programy samotné a poskytuje svědectví

o jejich účincích.

• Hodnocení není monitorování, účetnictví, audit, statistika a ani

empirický výzkum.

• Hodnocen může být v podstatě kdokoliv, a na něm potažmo cokoliv,

avšak ne jakkoliv.

• K tomu, aby hodnocení plnilo své funkce, je nutné, aby se drželo

určitých obecných zásad.

11

Page 13: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Nejlepší mezinárodní praxe

• Severské země Dánsko, Finsko, Norsko a Švédsko, sousední Německo

s Rakouskem a tradičně Nizozemí, Velká Británie a Spojené státy

americké.

• Doporučení mezinárodních institucí a asociací jako Evropská komise,

OECD a European Network of Innovation Agencies (TAFTIE).

• Zejména byly využity průřezově laděné texty, tj. obecné příručky,

směrnice a manuály pro hodnocení.

• Nejedná se o nic světoborně nového, nýbrž o v zahraničí ověřené

postupy.

12

Page 14: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Desatero zásad hodnocení

1. Změna jako cíl. Smyslem programu je dosažení změny, ke které by za jinak stejných podmínek

nedošlo.

2. Dopady nade vše. Zajímají nás dopady, výsledky a výstupy v tomto pořadí důležitosti. Bez širších

dopadů program postrádá opodstatnění. Výstupy jsou pouze prostředkem k výsledkům a

potažmo dopadům.

3. Střih na míru. Každý program má vlastní metodiku hodnocení. Není přínosné se pokoušet vymezit

jeden vzorec použitelný pro všechny programy.

4. Kvalita důležitější kvantity. Nemá smysl hodnotit za každou cenu. Jedno kvalitně provedené

hodnocení má větší váhu než deset mizerných.

5. Hodnocení není popis. Hodnocení analyzuje přínosy podpory, podává normativní závěry,

nekonstatuje pouze fakta.

6. Důkazy, nikoliv názory. Závěry hodnocení jsou založeny na prokázaných skutečnostech. Pro

nepodložené spekulace není v hodnocení místo.

7. Jaká data, takové hodnocení. Hodnocení stojí a padá s kvalitou dat. Na datovou základnu pro

hodnocení je nutné myslet již na prvopočátku programu.

8. Sebehodnocení pro učení. Poskytovatel hodnotí vlastní program, pokud je hlavní funkce

hodnocení učící, pokud motivace pro jeho provedení vychází zevnitř.

9. Externí hodnocení pro kontrolu. Pokud je motivace pro hodnocení externí, pokud je ve hře

rozdělování peněz z národního rozpočtu, hodnocení provádí externí subjekt.

10. Naučit se učit se. Bez zpětné vazby na rozhodování tvůrců politik a poskytovatelů je hodnocení

zbytečné.

13

Page 15: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Východiska a koncept

hodnocení

14

Page 16: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Cíle a logika programu

• Program je soubor vzájemně se podporujících opatření, která jsou zaměřená na

dosažení jednoho anebo více konkrétních a předem vymezených cílů.

• Smyslem vládní intervence je dosažení změny, zlepšení neuspokojivého stavu, změna

chování příjemců podpory, napravení nějakého selhání. Cíle programu tudíž musí být

vymezeny dynamicky ve srovnání s výchozím stavem.

• Předpokladem pro kvalitní zhodnocení programu je jasné vymezení jeho cílů, v čem

bude spočívat úspěch a jakým způsobem to bude možné sledovat.

• Pokud jsou cíle vágní, nekonkrétní a neověřitelné, nemá se na jedné straně hodnotitel

o co opřít a na druhé straně se nemá poskytovatel na co odvolat, pokud by mu

hodnocení nepřipadalo spravedlivé.

• Model intervenční logiky uvádí principy působení programu. Jeho účelem je vysvětlit,

jak by mělo být s navrženými vstupy dosaženo zamýšlených cílů, pomocí jakých

mechanismů a na zakladě jakých předpokladů.

• Konkrétní vstupy, výstupy, výsledky a především širší dopady (a očekávané příčinné

souvislosti mezi nimi) se následně odvodí z těchto argumentů.

• Již návrh programu by měl obsahovat i) hlavní a dílčí cíle, ii) model intervenční logiky,

iii) metriku výkonnosti, iv) rozpočet se samostatnou položkou na hodnocení, v) plán

hodnocení.

15

Page 17: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Funkce hodnocení

• Funkce legitimizační - poskytovat opodstatnění pro použití veřejných

zdrojů za daným účelem.

• Funkce informační - přinášet informace o tom, jak se nakládá

s veřejnými prostředky a co z toho má společnost, tj. jaké má program

dopady.

• Funkce učící - poučit se z předchozích úspěchů a nezdarů, tj. postupné

zlepšování podpůrných programů.

• Funkce usměrňovací - pomáhat při stanovování strategií, cílů a plánů

programů do budoucna.

• Funkce mediační - tříbit, kultivovat diskusi a vyhrazovat mantinely

během střetu konkurečních zájmů jednotlivých aktérů.

16

Page 18: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Typy hodnocení

17

Page 19: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Metodika hodnocení

18

Page 20: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Co je to metodika hodnocení?

• Metodika hodnocení je postup zvláště vytvořený za účelem hodnocení

jednoho konkrétního programu.

• Může zahrnovat jednu metodu anebo častěji kombinaci různých -

kvantitativních i kvalitativních - metod.

• Každý program má svoji vlastní metodiku hodnocení, která se v

závislosti na jeho nastavení, cílech, průběhu, kontextu a dostupných

datech liší od jiných programů.

• Není přínosné snažit se vymezit jednu metodiku použitelnou pro

všechny programy.

• Nicméně je možné vymezit obecné náležitosti, které by mělo hodnocení

z hlediska metodiky splňovat.

19

Page 21: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Poznámky k metodice

• Rozdíl mezi monitorováním a hodnocením - sběr dat o průběhu programu a

celkově vytváření datové základny je sice zásadní podpůrnou činností,

nicméně samotné hodnocení začíná teprve tam, kde monitorování končí,

hodnocení programů nelze zužovat na prosté počítání bodů za výstupy

uplatněné pod jejich hlavičkou.

• Hodnocení má být průkazné - hodnocení má být tzv. „evidence-based“, což

znamená, že zodpovězení hodnotících otázek není založeno na doměnkách,

spekulacích a nepodložených tvrzeních, ale na základě výsledků získaných

pomocí metod k tomu určených, které jsou schopny na dané otázky

uspokojivě odpovědět.

• Rozmanitost použitelných metod - hodnocení může zahrnovat jednu metodu

anebo daleko lépe kombinaci metod, tzv. triangulaci, které mohou být

kvantitativní i kvalitativní.

20

Page 22: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Hodnotící otázky

Kritéria hodnocení programů podle tzv. I-O-O-I modelu:

• Relevance (relevance) – ptáme se, zda se cíle programu zaměřují na dostatečně závažná

selhání, která je prioritní řešit s odkazem na strategické vládní dokumenty (děláme správnou

věc?).

• Efektivnost (effectiveness) – zjišťujeme, zda přínosy podpořených aktivit jsou v souladu s cíli

programu, jak velký byl motivační (pákový) efekt podpory a do jaké míry lze přínosy

přiřkrnout podpoře (co se stalo v důsledku podpory?).

• Efektivita (efficiency) – zkoumáme, zda jsou veřejné zdroje vynaloženy hospodárně, tj. zda

dopady, výsledky a výstupy odpovídají vstupům (bylo možné dosáhnout stejného účinku s

méně vstupy?).

• Užitečnost (utility) – šetříme, zda program vyřešil (anebo pomáhá řešit) selhání, kvůli

kterému byl spuštěn, včetně jeho nezamýšlených následků, a komu to je ku prospěchu (je

ještě třeba udělat něco dalšího?).

• Udržitelnost (sustainability) – chceme vědět, do jaké míry bude působení programu

pokračovat i po jeho skončení (bude mít podpora trvalé přínosy?).

Zdroj: (Boekholt, P., et al. (2014, str. 10).

21

Page 23: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Design hodnocení

• Je nutné pátrat po příčinných souvislostech, tj. určení příčiny a

následku?

• Lze rozlišit tři základní možnosti:

• Neexperimentální design – k zodpovězení hodnotících otázek není třeba určovat

příčinné souvislosti, tj postačuje deskriptivní přístup, což je typické pro ex-ante a

obvykle i průběžné hodnocení.

• Kvaziexperimentální design – zodpovězení hodnotících otázek vyžaduje pátrání

po příčinných souvislostech, což je rostoucí měrou součástí ex-post hodnocení a

podstatou hodnocení dopadů, avšak podpora nebyla mezi žadatele záměrně

rozdělena náhodným způsobem, tj. nahodilost musíme simulovat pomocí

kvaziexperimentálních metod.

• Experimentální design – hodnotící otázky se ptají po příčinných souvislostech,

přičemž podpora byla žadatelům přidělena náhodně, což sice v případě veřejných

výdajových programů není zcela vyloučeno, avšak v praxi zřídka proveditelné.

22

Page 24: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Kontrafaktuální přístup

Rozklíčování kontrafaktuálního problému, co by bylo (např. jaké

by byly výsledky), kdyby účelová dotace poskytnuta nebyla.

Řízený experiment (zpravidla) není možný, takže kvazi- (pseudo)-

experimenty pomocí simulace kontrafaktuální situace s použitím

rozličných analytických metod.

Spočívá v testování „hypotéz“ o (ne)existenci účinku podpory na

vstupy, chování, výstupy a širší dopady.

Podobné jako „výzkum“ v sociálních vědách, tj. použití vědecké

metody, ale nikoliv s požadavkem na prvek novosti.

23

Page 25: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Datová základna

24

Page 26: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Zdroje dat

• Data z monitorování – posbíraná poskytovatelem v průběhu implementace

programu – klíčový zdroj pro hodnocení průběžné, ex-post i dopadů, který

zahrnuje nejenom data povinně zadávaná do IS VaVaI, ale i přímo od

poskytovatele, včetně dat z procesu hodnocení žádostí o projekty jako údaje

vyplněné do žádostí, seznamy financovaných i nepodpořených projektů, jejich

pořadí nad „čarou“ financování a pod ní, rozdělení žádostí mezi zpravodaje,

apod.

• Sekundární databáze – získatelná z existujících databází – záleží na kvalitě

datové infrastruktury v zemi, zahrnuje data z předchozích hodnocení, volně

přístupných databází, komerčních databází a data sbíraná veřejnými institucemi

jako je statistický úřad; výhodou je dostupnost dat i za kontrolní skupinu, tj.

nežadatele o podporu, a zpravidla za delší časové řady, avšak problém může

nastat při zajištění přístupu k nim.

• Primární šetření – v písemné (dotazníkové) podobě anebo pomocí rozhovorů –

používá se pro získání dat jinak nedostupných, která je nutné nově sesbírat

v průběhu hodnocení, většinou jsou z důvodu nákladů na sběr omezena na

příjemce podpory, takže chybí údaje za kontrolní skupinu, problematická je míra

odezvy respondentů, a tudíž reprezentativnost sesbíraných dat.

25

Page 27: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Mikrodata, mikrodata, mikrodata

• Pokročilejší analytické metody zpravidla vyžadují individální údaje, tj. mikrodata.

• Při agregaci mikrodat dochází ke ztrátě variability, která může být zásadní právě

pro vyhodnocení účinku podpory.

• Příjemcem podpory nikdy není odvětví, sektor anebo region, ale konkrétní mikro

subjekt.

• Pokud analyzujeme agregovaná data, nemůžeme si být nikdy jisti, že zjištěné

výsledky nejsou pouze statistickým klamem.

• Účinky na agregátní úrovni, které nás rovněž mohou zajímat, lze do modelů

definovaných na individuální úrovni zabudovat.

• Rozsáhlé zdroje mikrodat existují, zřídka se však v českých podmínkách

využívají k analytickým účelům.

• Otázkou je zajištění přístupu k mikrodatům, které je třeba řešit systematicky na

centrální úrovni.

26

Page 28: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Systém hodnocení

27

Page 29: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Role aktérů v systému

• Tvůrce politik – má na starosti strategické směřování programů VVI. Společenskou poptávku po řešení

určitých selhání převádí do priorit pro vládní intervence, čímž vymezuje životní prostor pro programy, tj.

nastavuje „terč“, do kterého se strefují návrhy programů od poskytovatelů. Činí politická rozhodnutí,

zajišťuje koordinaci a doporučuje návrhy programů k financování. Jeho hlavním nástrojem jsou strategické

vládní dokumenty, nařízení a rozhodnutí.

• Poskytovatel – provádí taktické řízení programů VVI. Přichází s řešením selhání v rámci priorit vymezených

tvůrcem politik. Předkládá návrhy programů a plní roli jejich správce. Rozhoduje o podpoře pro jednotlivé

projekty v programech a tuto podporu poskytuje. Jeho hlavním nástrojem je návrh programu, zadávací

dokumentace programu a obecně vše, co souvisí s jeho implementací.

• Zadavatel – zadává hodnocení programů VVI, buď interně pro svůj vlastní program, anebo externě pro

programy jiných aktérů. Stanovuje základní parametry hodnocení, mezi které patří cíle, funkce, předmět,

metody a časový rozvrh hodnocení. Jeho hlavním nástrojem je zadávací dokumentace hodnocení, případně

smlouva s externím hodnotitelem.

• Hodnotitel – provádí hodnocení progamů VVI, ať už interně v rámci poskytovatele, anebo externě. Podle

zadávací dokumentace hodnocení navrhuje jeho projekt a zajišťuje hodnotící práce. Na základě odborného

posouzení poskytuje zpětnou vazbu k programům. Přináší podložená doporučení pro rozhodování. Jeho

hlavním nástrojem je hodnotící zpráva.

• Veřejnost – sleduje, kontroluje a vyjadřuje se k dění v systému. Tvoří ji všechny ostatní zainteresované

subjekty v oblasti programů VVI, mezi které patří i cílová skupina programu, příjemci podpory, uživatelé

přínosů programu, zájmové skupiny, nezávislý odborníci i široká veřejnost. Jejich hlavním nástrojem jsou

sdělení pro ostatní aktéry, mezi které může patřit i pro bono hodnocení programů.

28

Page 30: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Režimy provádění

• Plnohodnotný režim (pro velké programy) - celý cyklus hodnocení, mělo by

to být povinné podle určitých měřítek jako délka v rocích anebo výše

rozpočtu, například pro programy trvající více než pět let s rozpočtem více

než 1 mld. Kč.

• Zjednodušený režim (pro střední programy, co do délky a velikosti) - úlevy z

vybraných požadavků, například možnost vynechání průběžného hodnocení

pro krátké programy, odpuštění hodnocení dopadů anebo obecně nižší

požadavky na data a metody, avšak ex-post hodnocení by mělo zůstat

povinné.

• Minimalizovaný režim (pro malé a krátké programy) – možnost výrazných

úlev v hodnocení průběžném, ex-post i dopadů anebo jejich úplné

odpuštění, například pro programy trvající do tří let s rozpočtem méně než

100 mil. Kč.

29

Page 31: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Nezávislost, nestrannost a etika

30

Page 32: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Nástrahy, nároky a důvěryhodnost

• Pro spravedlivé hodnocení musí všechny zainteresované strany dodržovat určitá

pravidla chování.

• Hodnotitelé se mohou ocitnout pod tlakem silných a zároveň protichůdných zájmů,

kterým se nezávislost hodnocení a nebezpečí toho či onoho závěru protiví.

• Nastavit systém hodnocení, aby v něm tyto tlaky měly co nejmenší prostor na

uplatnění.

• Hodnotitel musí dodržovat základní etické principy, na kterých je provádění jeho

profese postaveno (např. Česká evaluační společnost).

• Zadavatel musí respektovat nezávislost hodnotitele. Měl by se vystříhat přímých

zásahů do procesu hodnocení.

• Hodnocení musí být provedeno nestranně. Pokud mají být závěry hodnocení

hodnověrné, musí být podložené, spravedlivé a transparentní.

• Nezávislost, nestrannost a etické principy hodnocení je třeba brát velmi vážně, protože

jinak se systém hodnocení může přeměnit na nástroj pro výrobu argumentů k

prosazování parciálních zájmů.

31

Page 33: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Návrh systémových změn

32

Page 34: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Nastavení systému

• ÚVVI se stane ústředním aktérem v systému hodnocení programů, vymezí

obecné zásady hodnocení programů, které budou závazné pro ostatní aktéry.

• Poskytovatelé budou mít pravomoc předkládat návrhy programů k ex-ante

hodnocení.

• ÚVVI bude mít povinnost zajišťovat ex-ante hodnocení návrhů programů od

poskytovatelů a bude doporučovat návrhy programů k financování před

předložením do vlády.

• Poskytovatelé budou mít odpovědnost za průběžné hodnocení svých programů.

• ÚVVI bude mít odpovědnost za hodnocení ex-post a dopadů vybraných

programů.

• ÚVVI bude rozhodovat o režimu hodnocení programů a organizovat jeho

případné změnové řízení.

• ÚVVI bude dohlížet na kvalitu veškerého hodnocení programů a případně

stanovovat odpovídající sankce.

33

Page 35: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Navrhované rozdělení rolí

v českých podmínkách

34

Hodnoceníex-ante

Průběžnéhodnocení

Hodnoceníex-post

Hodnocenídopadů

Kdo nese zahodnocenídopovědnost?

ÚVVI Poskytovatel ÚVVI ÚVVI

Kdo hodnoceníprovádí?

ÚVVI anebo externíhodnotitel (můžebýt zadánoexterně)

Poskytovatel aneboexterní hodnotitel(může být zadánoexterně)

Smíšený tým zÚVVI,poskytovatele aexterníhohodnotitele anebopouze externíhodnotitel

Externí hodnotitel

Kdo zadává externíhodnocení?

ÚVVI Poskytovatel ÚVVI ÚVVI

Kdo zajišťujeuplatnění závěrůhodnocení?

ÚVVI Poskytovatel ÚVVI ÚVVI

Kdo dohlíží nakvalitu hodnocení?

ÚVVI ÚVVI ÚVVI ÚVVI

Page 36: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Lidské zdroje

• Rozvinout program celoživotního vzdělávání pro lidi, kteří již v systémů

působí.

• Zavést na některé z vysokých škol studium VVI problematiky pro

vzdělávání nových odborníků.

• Provádět pilotní hodnocení s důrazem na učení se.

• Nespoléhat se pouze na zahraniční hodnotitele, zadávat hodnocení pro

kombinované domácí a zahraniční týmy a tím podpořit vytvoření domácí

znalostní báze.

• Založit českou platformu pro hodnocení VVI podle vzoru FTEVAL v

Rakousku.

35

Page 37: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Datové zdroje

• Zavést systém pro vzdálený přístup ke chráněným mikrodatům ČSÚ,

vytvořit systém pro přístup ke chráněným mikrodatům z IS VaVaI a

následně oba systémy propojit, tj. vytvořit centrální databázi mikrodat.

• Vytvořit depozitář primárních dat, tj. všechna primární mikrodata

posbíraná v rámci hodnocení programů budou pro budoucí využití

uložena na jednom místě.

• Zavést informační povinnost žadatelů o podporu, tj. příjemci i odmítnutí

žadatelé se přihlášením do veřejné soutěže o podporu pod hrozbou

sankce zavazují poskytovat data potřebná pro vyhodnocení programu.

36

Page 38: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Finanční zdroje

• Na systém hodnocení bude řádově vyčleněno 0,5 až 1,0%, tj. řádově 70

až 140 mil. Kč, z ročních výdajů na programy účelové podpory.

• Bude nutné zavést takový způsob zadávání veřejných zakázek pro

externí hodnocení programů, aby byla zajištěna zásadní váha faktoru

kvality.

37

Page 39: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Připomínky od zainteresovaných

subjektů

• Obecné zásady, které jsou příliš obecné.

• Není to v souladu s platnými zákony (zákon o VVI, kompetenční zákon, zákon o

statistice, atd.).

• Jedná se o standardní zásady hodnocení, které známe ze zahraničí, není na tom

nic nového.

• Nemáme na to lidi, neznáme metody, nejsou k tomu potřebná data, bude to

obtížné.

• Odhad nákladů na takový systém hodnocení je příliš nízký anebo příliš vysoký,

nevíme, kolik to bude stát.

• Nejsou řešeny otázky implementace, vizí už máme dost, potřebujeme vědět, jak

to implementovat.

• Naše programy jsou jiné než ostatních, nás se to netýká, hodnotit

nepotřebujeme, nechte nás být.

38

Page 40: Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Stupňující se tlak ze strany Evropské komise na

zkvalitnění hodnocení programů (Evalution in the

field of State aid: Methodological Guidance Paper,

apod.)

39