m&o for coordinators of irex training centers august 2011 new

80
МОНІТОРИНГ ТА ОЦІНКА Тренінг для координаторів РТЦ 30 – 31 серпня 2011 року © Любов Паливода, PhD Творчий центр ТЦК 044 574-6411 [email protected]

Upload: olena-bashun

Post on 26-May-2015

392 views

Category:

Documents


0 download

DESCRIPTION

Оцінка і моніторингавтор Паливода Любов

TRANSCRIPT

Page 1: M&o for coordinators of irex training centers august 2011 new

МОНІТОРИНГ ТА ОЦІНКА

Тренінг для координаторів РТЦ

30 – 31 серпня 2011 року

© Любов Паливода, PhDТворчий центр ТЦК

044 [email protected]

Page 2: M&o for coordinators of irex training centers august 2011 new

Що виміряне, те й зроблено!Якщо ви не вимірюєте результати, ви не

можете відрізнити успіх від невдачі.Якщо ви не можете побачити успіх, ви не

можете його винагородити.Якщо ви не винагороджуєте успіх, ви,

можливо, винагороджуєте невдачу.Якщо ви не можете побачити успіх, ви не

зможете навчитись з нього.Якщо ви не можете визначити невдачу, ви не

можете її виправити.Якщо ви можете продемонструвати

результати, ви зможете завоювати підтримку людей.

Osborn & Gaebler (1992) Result-Oriented Government

Page 3: M&o for coordinators of irex training centers august 2011 new

МОНІТОРИНГ

Page 4: M&o for coordinators of irex training centers august 2011 new

Визначення

Моніторинг - це постійне відстеження ходу робіт (в рамках проекту, програми або організації) для порівняння поточного стану справ з планом. Систематичний збір інформації про хід робіт (в рамках моніторингу) - свого роду «сканування» ситуації - проводиться як рутинна процедура, призначена, головним чином, для того, щоб вчасно виявляти відхилення від накреслених планів.

Page 5: M&o for coordinators of irex training centers august 2011 new

МоніторингМоніторинг- це процес установленого збору

інформації по всіх аспектах проекту/програми.

Моніторинг забезпечує керівника інформацією необхідною для: Аналізу даної ситуації Визначення проблеми та знаходження рішень Дотримування плану виконання проекту Вимірювання прогресу у виконанні

поставлених задач та формулюванні/перегляді майбутніх цілей та задач

Прийняття рішеннь про людські, фінансові та матеріальні ресурси

Page 6: M&o for coordinators of irex training centers august 2011 new

Завдання моніторингу Визначити стан досягнення запланованих цілей

(очікуваних результатів); Уточнити чи переглянути перелік робіт і

ресурсного забезпечення проекту/програми з метою уточнення плану їх виконання або перепланування;

Виміряти та уточнити основні показники проекту/програми;

Відслідкувати зміни у значимому середовищі проекту/програми, включно з нормативно-правовою базою;

Перевірити стан фінансування проекту/програми та ефективність використання коштів;

Підготовити звіт для громадськості.

Page 7: M&o for coordinators of irex training centers august 2011 new

МоніторингМоніторинг це неперервний процес.

Система моніторингу повинна бути розроблена ще до початку роботи проекту. Роботи по моніторингу повинні бути внесені в робочий план проекту.

Перший рівень моніторингу здійснюється персоналом, який працює над проектом/програмою. Менеджери відповідають за моніторингом персоналу та роботою, яку він виконує. А керівник відповідає за моніторингом всіх аспектів проекту/програми.

Другий рівень моніторингу здійснюється донором /зацікавленими сторонами.

Page 8: M&o for coordinators of irex training centers august 2011 new

Система моніторингу Моніторинг проводиться, для отримання

оперативної інформації про стан справ. Для цього необхідно зробити наступне:

Визначити індикатори, за якими можна буде відстежувати хід проекту.

Встановити джерела інформації для проведення моніторингу;

Вибрати методи збору інформації; Визначити частоту і графік збору інформації з

урахуванням інтенсивності діяльності, яку потрібно оцінити;

Призначити відповідальних за отримання необхідної інформації і домовитися з тими, хто цю інформацію буде надавати;

Визначити технологію обробки і аналізу отриманої інформації;

Спланувати, як і кому будуть передані дані моніторингу, а також, хто і як буде їх використовувати;

Врахувати в бюджеті витрати, необхідні для проведення моніторингу.

Page 9: M&o for coordinators of irex training centers august 2011 new

ОЦІНКА

Page 10: M&o for coordinators of irex training centers august 2011 new

ВизначенняОцінка – це аналіз результатів

діяльності і/або отриманого ефекту і співвіднесення цих результатів з певними критеріями. За підсумками оцінки робиться висновок про ефективність програми, проекту або діяльності організації і формулюються рекомендації на майбутнє. Оцінка передбачає більш глибоке (у порівнянні з моніторингом) проникнення в сутність того, що відбувається.

Page 11: M&o for coordinators of irex training centers august 2011 new

Цілі оцінкиДемонстрація, що цілі проекту чи програми досягнуті;

Показати, що досягнення цілей було зроблено ефективно та ресурси використані найкращим чином;

Допомогти менеджерам розробити та/або покращити програми та проекти;

Page 12: M&o for coordinators of irex training centers august 2011 new

Цілі оцінки (1)Надавати, по мірі можливості, періодичну оцінку ефективності програм, їх очікуваний та неочікуваний вплив, та альтернативні шляхи досягнення результатів; та

Вивчити уроки для того, щоб в покращити як виконання проектів/програм, так і процеси прийняття рішень.

Page 13: M&o for coordinators of irex training centers august 2011 new

Оцінка використовується для:

Визначення значущості стратегій, програм та проектів в досягненні змін через:

Надання достовірних результатів;Вимірювання досягнутого прогресу;

Впровадження нових знань, а не лише практики; та

Впливу на формування майбутніх стратегій та програм.

Page 14: M&o for coordinators of irex training centers august 2011 new

Оцінка відповідає на запитання:

Чи ми робимо правильні речі?

та

Чи ми робимо речі правильно?

Page 15: M&o for coordinators of irex training centers august 2011 new

Види оцінки

Page 16: M&o for coordinators of irex training centers august 2011 new

Форми оцінкиВнутрішня оцінка - виконавці проекту

самостійно здійснюють аналіз результатів проекту.

Зовнішня оцінка- до проведення аналізу результатів проекту залучаються зовнішні організації чи експерти.

 Вибір того чи іншого варіанту залежить від

завдань оцінки, характеру проекту, доступними ресурсами.

Page 17: M&o for coordinators of irex training centers august 2011 new

Критерії оцінки Відповідність, тобто сумісність завдань проекту

з реальними проблем і потребам громади та клієнтів.

Результативність, тобто рівень досягнення та реалізації визначених завдань та заходів проекту, його наслідки та вплив на становище бенефіціарів, громади в цілому.

Ефективність, тобто забезпечення реалізації залач проекту за помірні ресурси.

Сталість, тобто ймовірність продовження позитивного впливу реалізації проекту після закінчення періоду його реалізації;

Вплив, тобто ефект, що дав проект.

Page 18: M&o for coordinators of irex training centers august 2011 new

Аспекти М&О Стратегії – план діяльності

організації, який показує загальний напрямок необхідних витрат.

Програми – набір процедур та практичної діяльності, розроблені для втілення стратегії та досягнення визначених в них (стратегіях) цілей.

Проекти – окремі компоненти в рамках програм.

Page 19: M&o for coordinators of irex training centers august 2011 new

М&О: СХОЖІСТЬ ТА

ВІДМІННІСТЬ

Page 20: M&o for coordinators of irex training centers august 2011 new

Практичне завдання в групах

Група 1 та 2:Вкажіть 4 схожих риси моніторингу та оцінки

Група 3 та 4:Вкажіть 4 відмінності між моніторингом та оцінкою

Час – 10 хвилин

Page 21: M&o for coordinators of irex training centers august 2011 new

М&О: схожість та відмінністьЯкщо моніторинг ставить собі за мету

відслідковувати хід реалізації стратегії чи проекту, то оцінка може проводитись для: 

Вияснення наскільки правильно були розроблені програма/проект

Визначення доцільності формату програми/проекту

Перевірки стану виконання програми/проекту

Вивчення уроків Тощо  

Page 22: M&o for coordinators of irex training centers august 2011 new

М&О: схожість та відмінність (1)Особливості моніторингу та оцінкиМоніторинг: проводиться постійно надає інформацію про проблеми у впровадженні фактичні результати діяльності порівнюються із

запланованими одержана інформація використовується для покращення

управлінської діяльностіОцінка:

проводиться на ключових етапах впровадження пояснює причини виникнення проблем і пропонує шляхи

їх розв’язання аналізує причини досягнення / не досягнення

запланованих результатів одержана інформація може бути використана не лише для

покращення поточної діяльності, але й для уточнення планів на майбутнє

Page 23: M&o for coordinators of irex training centers august 2011 new

Логіка виконання

Page 24: M&o for coordinators of irex training centers august 2011 new

Розробка системи М&ОСистема моніторингу та оцінки – це система, яка уможливлює отримання, зберігання, обробку й представлення даних виконаної програми. Архітектура системи повинна враховувати необхідність періодичної розробки звітів щодо прогресу (регресу) у впровадженні стратегії, а також доступу до інформації з боку інституцій, що проводять моніторинг та оцінку, та громадськості.

Основні питання, на які повинна дати відповідь система М&О: Які дані збираються та їх джерела? (індикатори) Як часто і коли збираються дані ? (періодичність моніторингу) Як збираються дані ? (методологія) Хто збирає дані ? Хто аналізує дані ? Для кого збираються дані ? Як готується звіт та для перед ким відбувається звітування ?

Page 25: M&o for coordinators of irex training centers august 2011 new

Розробка системи М&О (1) ВПРОВАДЖЕННЯ ЗМІН

Page 26: M&o for coordinators of irex training centers august 2011 new

МатрицяНапрям діяльності РТЦ

Вклад Діяльність

Короткотермінові результати

Довготермінові результати

Вплив

Підвищити рівень комп’ютерної грамотності бібліотекарів

Інвестиції в бібліотеки

Навчання бібліотекарів

Надання бібліотеками комп'ютерних послуг та доступу до Інтернету

Зростання комп’ютерної грамотності користувачів, зменшення підліткової незайнятості після школи

Зростання рівня працевлаштуванняЗменшення підліткових порушень

Індикатор $, години

# бібліотек;# бібліоте-карів

# бібліотек, що надають послуги;# наданих послуг;

Рівень комп'ютерної грамотності;% підлітків, що ходять до бібліотек

% безробітних;# правопорушень, скоєних підлітками;

Джерело Дані програ-ми/РТЦ

Дані діяльності

Статистичні звіти

Дані опитувань, документи

Дані державної статистики;

Методи Аналіз документів

Аналіз анкет, звітів; спосте-реження

Аналіз звітів; Опитування користувачів

Аналіз документів

Періодич-ність

Раз на квартал

Раз на квартал

Раз на квартал Раз на рік Раз на рік

Page 27: M&o for coordinators of irex training centers august 2011 new

Індикатори Індикатори - це характеристика

об’єкта або системи, що є доступною для спостереження та вимірювання заради оцінки змін, що відбуваються в даному об’єкті або системі.

Індикатори – це загальні цифрові свідчення, що допоможуть вам порівняти бажані результати з наявними.

Вони допомогають дати відповідь на запитання: «Звідки ви знаєте, що просуваєтеь до встановлених цілей ?»

Page 28: M&o for coordinators of irex training centers august 2011 new

Індикатори (1)Індикатори Джерела даних

Кількісні Дані опитуваньСтатистичні дані Поштові або телефонні опитування дійових осібФорми для опису процесу реалізації програми її виконавцями

Якісні Фокус-групи Індивідуальні інтерв'юГлибинні інтерв’ю Безпосереднє спостереження за реалізацією заходів програми Форуми / дискусійні групи

Page 29: M&o for coordinators of irex training centers august 2011 new

Вимоги до відбору індикаторів

чіткі доцільні об’єктивно перевірені їх незначна кількість невеликі затрати на збір даних для

індикаторів доступність даних для індикаторів можливість періодичного визначення

індикаторів вимірюваність (числа або відсотки) доступність і легкість тлумачення

індикаторів

Page 30: M&o for coordinators of irex training centers august 2011 new

“Золоті правила” щодо індикаторів

Повинен існувати чіткий зв’язок між індикатором та метою, завданнями та результатами програми;

Індикатори треба вимірювати регулярно;

Необхідно мати незалежних експертів (підрозділ), що збирають індикатори;

Використовуйте лише 100% надійні дані.

Page 31: M&o for coordinators of irex training centers august 2011 new

Джерела інформації Державна статистика Звітність місцевих органів державної виконавчої влади, територіальних

органів центральних органів виконавчої влади та місцевого самоврядування, Опитування громадської думки, зокрема бенефіціарів програми, проведених

у формі анкетування, телефонного, електронного чи усного опитування Глибинні інтерв’ю Форуми чи дискусійні групи Прикладні дослідження Тексти відповідних державних та регіональних стратегій і програм, що

реалізовуються на цільовій території Дані моніторингу Інтерв’ю, фокус-груп з виконавцями, бенефіціарами Спостереження за виконанням заходів програми; Незалежний експертний аналіз Звіти про попередні та проміжні оцінки Аналіз політичних, адміністративних, фінансових впливів на хід реалізації

стратегії

Page 32: M&o for coordinators of irex training centers august 2011 new

Що слід пам'ятати?Вимоги щодо відбору індикаторів: їх незначна кількість невеликі затрати на збір даних для індикаторів доступність даних для індикаторів можливість періодичного визначення

індикаторів вимірюваність (числа або відсотки) доступність і легкість тлумачення індикаторів

Джерела інформації мають бути доступними

Page 33: M&o for coordinators of irex training centers august 2011 new

Що слід пам'ятати? (1)Якщо прогрес є незначним, то

система моніторингу має врахувати наступне:

Базові дані; Одиницю вимірювання; Інструмент вимірювання даних; Періодичність вимірювання; Підходи до порівняння для

кожного індикатора

Page 34: M&o for coordinators of irex training centers august 2011 new

Практичне завдання Розробити індикатори для кожного заходу у відповідних стратегічних напрямках робочого плану УБА на 2011 рік та вказати джерела даних для кожного індикатора

Презентувати результати роботи в групах

Час – 45 хвилин

Page 35: M&o for coordinators of irex training centers august 2011 new

Методи збору інформації

Page 36: M&o for coordinators of irex training centers august 2011 new

Вибір відповідних методівПрограмні заходи: Різноманітні кількісні виміри, такі

як, кількість людей або споруд, рівень безробіття, суми прибутків, або міра участі у програмних заходах.

Усні або письмові питання: анкети, інтерв’ю, огляди, спостереження, зустрічі, магнітофонні записи.

Спостереження та фотографії. Письмова інформація: звіти та

записи.

Page 37: M&o for coordinators of irex training centers august 2011 new

Вибір відповідних методів (1)Структура та організація програми:

Письмова інформація: записи, звіти, бюджети, плани, проведені оцінки, журнали записів, тести, відомості, протоколи зустрічей.

Усні або письмові питання, наприклад, анкети.

Інтерв’ю. Спостереження. Дискусії та магнітофонні записи. Записи особистої роботи або робочі

щоденники

Page 38: M&o for coordinators of irex training centers august 2011 new

Вибір відповідних методів (2)Методи, що використовуються для оцінки впливу

на людей є такими: Усні питання, наприклад такі, що їх ставлять під час

опитувань, інтерв’ю, тестів на знання та професійні навички, записів, зустрічей, обговорень.

Письмові питання в анкетах, тестах на виявлення знань та професійних навичок, позицій з того чи іншого питання.

Аналіз наявної інформації, наприклад, записів, звітів, щоденників та автобіографій (того, що люди пишуть про самих себе).

Спостереження, фотографії та малюнки звичаїв, звичок, процедур.

Page 39: M&o for coordinators of irex training centers august 2011 new

Зустріч з громадою

Публічні дискусії Зустрічі за місцем

проживання Зустрічі з різними

спільнотами Опитування

громадської думки

Page 40: M&o for coordinators of irex training centers august 2011 new

Фокус-група якісний метод збору інформації в

однорідних групах; це з’ясування точок зору, установок людей,

їх конкретного досвіду за допомогою групової дискусії, яку проводить модератор, використовуючи гайд;

беруть участь 7-12 людей, підібрані за заздалегідь сформульованими критеріями. Групова дискусія зазвичай триває 1,5-2 години;

якісний аналіз даних результатів.

Page 41: M&o for coordinators of irex training centers august 2011 new

Аналіз документів Документ — це засіб закріплення різним

способом на спеціальному матеріалі інформації щодо фактів, подій, явищ об'єктивної дійсності й розумової діяльності людини

Види документів: нормативно-правові акти, офіційні звіти, листування, збірки, публікації (офіційні дані, офіційна інформація) тощо

Методи аналізу документів бувають неформалізовані (традиційні) та формалізовані.

Page 42: M&o for coordinators of irex training centers august 2011 new

Методи аналізу документів Неформалізований метод — тлумачення

документа через з'ясування основних думок та ідей конкретного тексту, оцінку його змісту згідно з критеріями.Він передбачає зовнішній і внутрішній аналіз документа.

Зовнішній аналіз — це відновлення обставин створення документа в історичному і соціальному планах.

Внутрішній аналіз — безпосередній аналіз змісту документа, спрямований на виявлення розбіжностей між фактичним і літературним змістом, встановлення рівня компетентності автора, систематизацію відомостей, які містяться у документах.

Page 43: M&o for coordinators of irex training centers august 2011 new

Методи аналізу документів Формалізований метод — пошук таких

ознак документа, які б відображали істотні сторони його змісту.

Найчастіше під цим розуміють контент-аналіз — точне дослідження змісту текстових масивів з метою виявлення чи виміру тенденцій, репрезентованих цими масивами

Методика контент-аналізу: система підрахунку «час — простір», наявність ознак у тексті, частота появи одиниць підрахунку.

Page 44: M&o for coordinators of irex training centers august 2011 new

ІнструментиІнструментарій є системою методичних та

технічних прийомів проведення моніторингу та оцінки, який втілений у відповідних операціях та процедурах та представлена у формі різноманітних документів (анкета, гайд тощо).

Приклади:- Зустріч з громадою, опитування думки

громадян: анкета- Фокус-група: гайд- Аналіз документів: критерії, за якими

здійснюється контент-аналіз

Page 45: M&o for coordinators of irex training centers august 2011 new

Інструменти: анкетаКомпозиція. Анкета як правило

складається з її назви, преамбули, основної змістовної освіти, соціально-демографічного паспорту.

Назва анкети. Звернення до респондента. Основна частина.   Соціально-демографічний паспорт.

Page 46: M&o for coordinators of irex training centers august 2011 new

Інструменти: анкета (1) Технічне оформлення анкети.

Наявність різного роду інструктивних вказівок та орієнтирів;

нумерація запитань і варіантів відповідей в єдиній цифровій системі;

коректна нумерація у випадках складних, табличних за формою запитань.

Поліграфічні якості анкети.   Типологізація запитань.

Page 47: M&o for coordinators of irex training centers august 2011 new

Інструменти: гайд фокус-групи 1 частина. Вступ (10-15

хвилин).Пояснення про мету фокус-групи, умови і правила і т.п.

 2 частина. Питання для обговоренняДва метода послідовності питань:

 3 частина. Завершення обговорення. Мета цієї фази: зняти негатив, емоції, залишити позитивне враження, задати „інші” питання. 

Page 48: M&o for coordinators of irex training centers august 2011 new

Інструменти: критерії для аналізу документу Вибірка: за який період, якого виду

документу, рівень документу, вид та автор документу

Частота згадування в тексті одиниці аналізу

Частота посилань на одиницю аналізу

Згадування в позитиві та/або негативі ………….

Page 49: M&o for coordinators of irex training centers august 2011 new

Логіка виконання

Page 50: M&o for coordinators of irex training centers august 2011 new

Розробка системи М&ОСистема моніторингу та оцінки – це система, яка уможливлює отримання, зберігання, обробку й представлення даних виконаної програми. Архітектура системи повинна враховувати необхідність періодичної розробки звітів щодо прогресу (регресу) у впровадженні стратегії, а також доступу до інформації з боку інституцій, що проводять моніторинг та оцінку, та громадськості.

Основні питання, на які повинна дати відповідь система М&О: Які дані збираються та їх джерела? (індикатори) Як часто і коли збираються дані ? (періодичність моніторингу) Як збираються дані ? (методологія) Хто збирає дані ? Хто аналізує дані ? Для кого збираються дані ? Як готується звіт та для перед ким відбувається звітування ?

Page 51: M&o for coordinators of irex training centers august 2011 new

Розробка системи М&О (1) ВПРОВАДЖЕННЯ ЗМІН

Page 52: M&o for coordinators of irex training centers august 2011 new

МатрицяНапрям діяльності РТЦ

Вклад Діяльність

Короткотермінові результати

Довготермінові результати

Вплив

Підвищити рівень комп’ютерної грамотності бібліотекарів

Інвестиції в бібліотеки

Навчання бібліотекарів

Надання бібліотеками комп'ютерних послуг та доступу до Інтернету

Зростання комп’ютерної грамотності користувачів, зменшення підліткової незайнятості після школи

Зростання рівня працевлаштуванняЗменшення підліткових порушень

Індикатор $, години

# бібліотек;# бібліоте-карів

# бібліотек, що надають послуги;# наданих послуг;

Рівень комп'ютерної грамотності;% підлітків, що ходять до бібліотек

% безробітних;# правопорушень, скоєних підлітками;

Джерело Дані програ-ми/РТЦ

Дані діяльності

Статистичні звіти

Дані опитувань, документи

Дані державної статистики;

Методи Аналіз документів

Аналіз анкет, звітів; спосте-реження

Аналіз звітів; Опитування користувачів

Аналіз документів

Періодич-ність

Раз на квартал

Раз на квартал

Раз на квартал Раз на рік Раз на рік

Page 53: M&o for coordinators of irex training centers august 2011 new

Домашнє завдання Для 2-х напрямків діяльності РТЦ та визначених

завдань (діяльності) на 2-й рік визначити короткотермінові, довготермінові результати та результати впливу (Таблиця 1);

Для 2-х завдань та визначених короткотермінових, довготермінових результатів та результатів впливу розробити показники, джерела інформації для їх збору, методи збору та періодичність (Таблиця 2);

Підготовити презентацію роботи; Провести 10-ти хвилинну презентацію для

групи.

Page 54: M&o for coordinators of irex training centers august 2011 new

Таблиця 1Основні напрямки діяльності РТЦ

Завдання (діяльність) на 2-й рік роботи РТЦ

Короткотермінові результати

Довготермінові результати

Вплив

Навчання на обов’язкових тренінгах переможців конкурсуПроведення додаткових тренінгів для бібліотекарів Проведення тренінгів для користувачів Співпраця РТЦ з партнерами, НУО тощоЗаходи інших організацій, проведені в РТЦКонсультації з ІТ та Інтернету і надання доступу до Інтернету користувачам в РТЦРекламна і видавнича діяльність РТЦ, тощоОбмін досвідом між РТЦ

Будь-яка ініціатива РТЦ

Page 55: M&o for coordinators of irex training centers august 2011 new

Таблиця 2Напрям діяльності РТЦ

Вклад Діяльність

Коротко-термінові результати

Довготермінові результати

Вплив

Індикатор

Джерело

Метод

Періодич-ність:

Page 56: M&o for coordinators of irex training centers august 2011 new

Збір даних

Назва цілі

Назва показника

Одиниця виміру

Джерело даних

Періодич- ність подання даних

Строки подання даних

Фактичне значення показника у ___ році

Метод збору даних

Відповідаль-ний за подання даних

Page 57: M&o for coordinators of irex training centers august 2011 new

Аналіз даних Отримані дані

Інформація

Знання

Page 58: M&o for coordinators of irex training centers august 2011 new

Аналіз даних

Зведення даних = Аналіз даних

Page 59: M&o for coordinators of irex training centers august 2011 new

Типи аналізу даних

Кількісний аналіз

Якісний аналіз

Комбінований

Page 60: M&o for coordinators of irex training centers august 2011 new

Загальна схема аналізу даних

Що виявлено ? (виклад даних) Як це можна пояснити ? (інтерпретація

даних, взаємозв’язків між ними) Який необхідно зробити висновок ? (на

основі інтерпретації виробляються судження, чи у необхідному напрямку і чи необхідними методами реалізується програма)

Що потрібно тепер робити ? (на основі висновків виробляються рекомендації)

Page 61: M&o for coordinators of irex training centers august 2011 new

Аналіз даних№ Назв

а завдання чи заходу програми

Назва показника

Одиниця виміру

Базове значення (_ рік)

Фактичне значення ( _рік)

Прогнозне значення (_ рік)

Співвідношення між фактичним та прогнозним значенням

Page 62: M&o for coordinators of irex training centers august 2011 new

Процедура підготовки висновків Дані моніторингу (результати); Висновки моніторингу; Визначення причин і наслідків

висновків; Вироблення рекомендацій.

Page 63: M&o for coordinators of irex training centers august 2011 new

Висновки за результатами – це:

особливі дані, які збираються, щоб відповісти на питання моніторингу, підтвердити припущення, тези тощо;

становлять основу для рекомендацій, які повинні бути практичними.

Page 64: M&o for coordinators of irex training centers august 2011 new

Процес розробки рекомендацій

Що необхідно зробити з Вашої точки зору конкретній інституції, посадовій особі, керівнику, працівнику і т.п.?

Чому вони мають це робити?

У який спосіб вони повинні це зробити?

Page 65: M&o for coordinators of irex training centers august 2011 new

Типові помилки інтерпретації Посилання на дані, отримані невідомо ким, невідомо коли і

невідомо як. Неповнота відповідей на певне запитання, що часто не дає

змоги судити про результат. Не подається формулювання запитання, щодо якого

оприлюднюються результати опитування. Дані, отримані на одній сукупності респондентів, поширюються

на іншу, яку вони не представляють. Порівнюються результати опитувань, проведених у різний час. Порівнюються результати опитувань різних соціологічних фірм з

того самого питання, яке ставилося у різних формулюваннях. Дані опитувань сприймаються як прогнози Не розрізняються рейтинги довіри, рейтинги оцінки діяльності

та виборчі рейтинги Ігнорується такий показник, як похибка вибірки.

Page 66: M&o for coordinators of irex training centers august 2011 new

Використання даних Як minimum для:

визначення рівня досягнення визначених цілей

уточнення чи перегляд переліку і ресурсного забезпечення програми

уточнення планових показників реалізації програми

Page 67: M&o for coordinators of irex training centers august 2011 new

Використання данихЯк maximum для:

демонстрації підзвітності (перед різними структурами влади, зацікавленими сторонами, бенефіціарами, громадськістю)

аргументації потреби реалізації програми, або її коригування, або припинення її реалізації

вироблення висновків, які необхідно врахувати під час розробки інших документів

ведення документації щодо реалізації програми залучення зацікавлених сторін, бенефіціарів,

громадськості отримання підтримки від інших органів влади,

зацікавлених сторін, бенефіціарів, громадськості підвищення рівня розуміння процесів, які відбуваються у

сфері реалізації програми

Page 68: M&o for coordinators of irex training centers august 2011 new

Підготовка звіту за результатами М&ОФормат звіту включає: Титульний лист Резюме Зміст Вступ Мета/завдання оцінки та методологія

проведення Отримані результати відповідно до мети

та завдань Висновки Рекомендації

Page 69: M&o for coordinators of irex training centers august 2011 new

Ключові фактори успіху виконання проекту

Чіткі методологічні підходи: якість документу, чіткі зв'язки між документами всіх рівнів, інструкції “як робити”;

Відповідні часові рамки: відвести належний час на побудову мережі партнерів, підготовку документів, знаходження консенсусу на регіональному рівні, обговоренню документів;

Партнерський підхід: залучити всі зацікавлені групи, створити робочі групи залучивши до їх роботи партнерські установи та забезпечивши їх фінансами, робочими процедурами, та сформулювати очікувані результати;

Супроводження: комунікаційні кампанії, напрацювання ідей, технічна допомога на підготовку проектів, визначення альтернативних джерел інформації.

Моніторинг та оцінка: механізми та процедури, прозорість, періодичність.

North-West RDA Director, Romania

Page 70: M&o for coordinators of irex training centers august 2011 new

ОЦЕНКА УЧЕБНЫХ ПРОГРАММ

Page 71: M&o for coordinators of irex training centers august 2011 new

Модель Киркпатрика-Филипса

1-й уровень – оценка реакции на тренинг, или ПОНРАВИЛСЯ ЛИ ТРЕНИНГ?

2-й уровень – оценка полученных знаний и навыков на тренинге, или КАКИЕ ЗНАНИЯ ПРИМЕНЯЮТСЯ?

3-й уровень – оценка практического применения знаний и навыков полученных на тренинге, или КАКИЕ ИЗМЕНЕНИЯ ПРОИЗОШЛИ В ОРГАНИЗАЦИИ?

4-й уровень – оценка результатов/влияния тренинга, или ЧТО ИЗМЕНИЛОСЬ В СООБЩЕСТВЕ?

5-й уровень – оценка ROI (возвращенных инвестиций), или КАКОВА ПРИБЫЛЬ ОТ ТРЕНИНГА?

Page 72: M&o for coordinators of irex training centers august 2011 new

Модель Киркпатрика (прод.)

Логическая схема проведения оценки: Цель оценки Что измеряем, или задачи оценки? Индикаторы Источники информации Метод сбора информации Время/периодичность оценки

Page 73: M&o for coordinators of irex training centers august 2011 new

Цель проведения оценки

Цель – определяет какое качественное изменение ожидается по данной программе. Она указывает на:

Приоритеты организации; Четкие направления деятельности

организации; Ожидаемые результаты и влияние

деятельности; Основа для определения задач.

Page 74: M&o for coordinators of irex training centers august 2011 new

Задачи проведения оценки

Задачи – измеряемые шаги программы, которые ожидаются достичь в ходе выполнения программы в определенный момент времени

Пример: Задачи проведения оценки: Определить впечатления участников тренингов; Измерить уровень использования полученных на

тренингах знаний и навыков; Измерить влияние тренингов на деятельность

организации; Измерить влияние деятельности организаций на

общество во время избирательной кампании.

Page 75: M&o for coordinators of irex training centers august 2011 new

Индикаторы (примеры)

% участников, которые прослушали тренинг до конца

% участников, которые принимали активное участие в тренинге

% участников, которые отметили в оценочных анкетах актуальность темы тренинга – очень актуальная

% участников, которые поделились полученными знаниями и навыками в своей организации

% организаций, которые использовались в своей деятельности предоставленную участниками информацию, полученную на тренинге

Page 76: M&o for coordinators of irex training centers august 2011 new

Источники информации

Люди (участники, тренеры, менеджеры, директор организации, донор)

Анкеты участников Отчеты тренеров, участников, т.д. Списки участников Тренинговые материалы Заявка на проведение тренинга Годовые отчеты Аудиторские отчеты

Page 77: M&o for coordinators of irex training centers august 2011 new

Методы сбора информации

Анкетирование Интервью – личное, по телефону, по

почте; Наблюдение – аккредитация, визит,

«клиент»; Фокус группа – участники выбраны

случайно, регулярные встречи наблюдательного совета, т.д.;

Page 78: M&o for coordinators of irex training centers august 2011 new

Время/периодичность оценки

Сразу же после проведения тренинга

Один-два месяца после тренинга

Шесть месяцев после тренинга

Page 79: M&o for coordinators of irex training centers august 2011 new

Сведение и интерпретация результатов оценки

Результаты: Количественные (количество тренингов, количество участников, т.д.) и Качественные (т.е. влияние тренинга на качество жизни клиентов организации)

Анализ результатов (статистический) Представление результатов (таблицы,

графики, диаграммы, истории, т.д.)

Page 80: M&o for coordinators of irex training centers august 2011 new

Використана література Автономов А.С., Хананишвили Н.Л. Оценка в

социальном проектировании: Методическое пособие. Оценка проектов и программ. Центр поддержки

некоммерческих организаций. Москва, 2003 Оценка программ: методология и практика. Редакторы:

Кузьмин А., Р.О’Салливан, Н.Кошелева. Москва 2009 Стратегія Української бібліотечної асоціації на 2010 –

2014 роки План роботи Української бібліотечної асоціації на 2011

рік Donald L.Kirkpatrick. Another look at evaluating training

programs. ASTD. Managing Evaluation Shortcuts. Published by ASTD. Info-

line magazine, November 2001, issue 0111.