Versuchen Sie, Evaluation als einen obligatorischen und integrierten Teil des Projektverlaufs zu betrachten. Demnach sind die Gestaltung des Projektes, die Partizipation und die Evaluation aufeinander abgestimmt und stehen miteinander verbunden. Die geplante Projektstruktur – inklusive aller Partizipationsmaßnahmen – bereitet den Weg für die Evaluation. Beispielsweise kann Ihr Projekt einige Meilensteine beinhalten, die auch als Evaluationsschritte gesetzt werden können. Machen Sie sich ein klares Bild davon, welche Ursache- -Wirkungs-Beziehungen, geplanten (und ungeplanten) Wirkungen, beeinflussbaren und externen Parameter den Projekterfolg beeinflussen können. Sie sollten sich einen fundierten Überblick über Aufwände und Ergebnisse des Projekts sowie, im Hinblick auf Partizipationsevaluation, kurz- und langfristige Ergebnisse des Projektes verschaffen.
Ihr übergeordnetes Ziel ist es, akkurate, hochqualitative, verlässliche und stichhaltige Daten zu sammeln. Dazu müssen Sie entscheiden, welches Werkzeug (z.B. Interviews, Fragebögen usw.) Sie am besten nutzen, um die gewünschten Informationen zu erhalten. Die zu sammelnden Daten sowie die zugehörigen Methoden reichen von simpel bis komplex. Es hängt von den Ressourcen und Zielen der Evaluation ab, wie umfassend Sie Ihren Evaluationsansatz gestalten. Dasselbe gilt für die Datenanalyse. Sie können beispielsweise mit simplen deskriptiven Statistikmethoden beginnen und später mit hochkomplexen Datenanalyse-Verfahren enden. Behalten Sie im Hinterkopf, dass die Sammlung, Analyse und Interpretation von Daten zeit- (z.B. eine umfangreiche Umfrage durchzuführen) und kostenintensiv (Mitarbeiter, Software, Druck usw.) sein kann.
Ein entscheidender Schritt im Evaluationsprozess ist es, vielsagende Indikatoren zu finden, die es Ihnen erlauben, den Erfolg eines Partizipationsprozesses zu messen. Dabei müssen die Anforderungen an „gute“ Indikatoren eingehalten werden; diese sollten spezifisch, messbar, realisierbar, relevant und verfolgbar
14 sein. Wenn Sie eine zielorientierte Evaluation mit spezifischen Zielsetzungen durchführen, ist es häufig leichter, Indikatoren abzuleiten. Eine zielfreie Evaluation ist ein offenerer Ansatz, der inhärente und sogar ungeplante Effekte eines Projektes mit einbezieht. Das macht die Definition von Indikatoren weitaus komplexer, vor allem wenn Sie evaluieren, um qualitative Aspekte wie eine Verhaltensänderung zu ermitteln. In diesen Fällen nutzt man am ehesten stellvertretende Indikatoren als indirekte Messinstrumente, die ein Phänomen in Abwesenheit eines direkten Messinstruments annähern oder repräsentieren (z.B. die steigende Zahl von Freiwilligen in einem regionalen Bahnprojekt als stellvertretender
Proxy Indikator für eine sich verändernde Einstellung von Bürgern gegenüber Partizipation).
Generell kann zwischen quantitativen (Daten, Statistiken) und qualitativen (Text, gesprochene Aussagen, Visuelles) Informationen unterscheiden. Quantitative Daten können von Primärdaten abgeleitet werden, also originalen Daten, die nicht im Voraus bereits erhoben wurden. Sie können die Sammlung von Primärdaten genau auf Ihre speziellen Bedürfnisse ausrichten. Allerdings benötigt man zum Generieren von Primärdaten durch eine Umfrage die entsprechenden Ressourcen. Eine weitere Datenquelle sind Sekundärdaten, also Daten, die bereits gesammelt wurden, üblicherweise für einen anderen Zweck. Diese Daten sind häufig leicht zu beschaffen und sehr nützlich, wenn man vergleichende Evaluationen durchführen möchte. Allerdings sind diese nicht für Ihre Evaluationsziele sowie Ihren zeitlichen und räumlichen Kontext maßgeschneidert.
Ein qualitativer Evaluationsansatz versucht, die versteckten Katalysatoren und Motivationen aufzudecken, die eine Verhaltensänderung induzieren. Somit schaut diese Evaluationsmethode „hinter die Nummern des Spiels“ [
15 übersetzt]. Auch wenn Sie viele quantitative Daten als stellvertretende Indikatoren nutzen, versuchen Sie, qualitativ, ganzheitlich, fragend und prozessorientiert zu evaluieren. Oftmals werden Sie quantitative und qualitative Daten kombinieren und typischerweise werden Sie Ihre eigenen Primärdaten sammeln. Unterschätzen Sie dabei nicht den Aufwand, den es kostet, eine Reihe von qualitativen Informationen zu generieren, z.B. den Aufwand für umfassende Experteninterviews.