Newsletter 07/2006 – Wie viele Testpersonen sind genug?

Wenn Sie wissen wollen, ob Ihre neue oder überarbeitete Website bei Ihren Benutzern ankommt und ob sie dort tun können was sie möchten, dann können Sie auf Usability-Tests nicht verzichten. Doch auch während der Entwicklung helfen solche Tests mit echten Nutzern, Fehler zu vermeiden. Es gilt die einfache Formel: je mehr Tests, desto besser das Ergebnis.

Aber nachdem nicht jeder ein großes Usability-Budget hat, viele sogar gar keines, fragt man sich, wie viele Testpersonen man braucht, um zu verwertbaren Ergebnissen zu kommen.

Jakob Nielsen schreibt in seiner „Alertbox“-Kolumne vom 26. Juni 2006, man sollte für eine quantitative Usability-Untersuchung 20 Benutzer eine Site testen lassen. Doch er schreibt auch, dass quantitative Untersuchungen selten sinnvoll sind. Denn man muss nicht genau wissen, wie viele Benutzer ein Problem mit einem Navigationselement haben – wenn mehrere Benutzer damit nicht zurecht kommen, muss es geändert werden.

Deshalb empfiehlt er generell, auf quantitative Tests lieber zu verzichten und sich auf qualitative zu beschränken. Qualitative Tests sollen nur die Qualität einer Site prüfen und Probleme aufdecken. Sie erlauben keine Aussage über den Anteil der Nutzer, die auf diese Probleme stoßen oder darüber, um wie viel eine neue Lösung besser funktioniert als die alte.

Was heißt das für die Praxis, für die Verbesserung der Usability Ihrer Site?

Fünf Tester reichen aus

Um bei Usability-Tests zu aussagekräftigen Ergebnissen zu kommen, brauchen Sie laut Jakob Nielsen fünf Testpersonen pro Durchlauf – sein Kollege Steve Krug hält sogar drei für ausreichend. Damit lassen sich keine statistisch abgesicherten Daten gewinnen, aber darum geht es auch zunächst nicht. Sie wollen die Probleme der potenziellen Benutzer mit der Site entdecken. Die schwerwiegendsten Probleme werden oft schon bei der ersten Testperson deutlich. Diese Probleme treten bei allen folgenden Personen wieder auf. Nach spätestens fünf Personen beobachten Sie nur noch wenige neue Probleme.

Weniger als drei ist wertlos

Sie sollten aber keine Testrunde mit weniger als drei Personen durchführen. Sonst kann es passieren, dass Sie die Site für einen Benutzer anpassen, der nicht repräsentativ ist. Haben aber zwei oder sogar drei Testpersonen das gleiche Problem entdeckt, wird es wahrscheinlich den meisten Benutzern auffallen.
Wenn Zeit und Geld eine untergeordnete Rolle spielen, testen Sie bis zu acht Personen – allerdings nur, wenn Sie deshalb nicht die Zahl der Testdurchläufe reduzieren. Mehr als acht Personen pro Runde bringen kaum zusätzliche Erkenntnisse, nur mehr Aufwand bei der Auswertung.

Mit 20 Personen können Sie eine statistische Auswertung machen (quantitativer Test), was aber für die meisten Fälle nicht notwendig ist. Mehr als 20 Personen pro Testdurchlauf hält sogar Jakob Nielsen für Geldverschwendung.

Lieber öfter als mehr

Es ist viel sinnvoller, öfter mit weniger Personen zu testen als alles Geld in einen aufwändigen, statistisch sauber ausgewerteten Durchlauf mit vielen Testern zu stecken.

Nachdem Sie die in der ersten Testrunde gefundenen Probleme behoben haben, sollten Sie eine weitere Runde durchführen. Damit kommen weitere Probleme zu Tage, die im ersten Durchlauf unbemerkt geblieben sind. Die aufgetretenen Probleme haben eventuell verhindert, dass die Benutzer überhaupt so weit in die Site vordringen konnten, um dort Fehler zu entdecken. Außerdem überprüfen Sie in der zweiten Runde, ob die beim ersten Test gefundenen Probleme behoben sind. Es kann sein, dass Ihre Änderungen sie nicht behoben haben oder dass dadurch neue entstanden sind.

Wie viele Testrunden?

Je größer Ihre Site und je komplexer die Interaktionsmöglichkeiten, desto mehr Testrunden sollten Sie vorsehen. Für eine einfache Firmendarstellung mit etwa 20 Seiten und einem Kontaktformular genügen oft ein, zwei Runden.

Anders ist das, wenn viele verschiedene Dinge auf der Site möglich sind (wie Bestellungen, Anforderung von Proben, Nutzerdaten-Verwaltung usw.). Dann sollten Sie zumindest die wichtigsten Funktionen jeweils in einem eigenen Durchlauf testen.

Wer soll testen?

Die idealen Testpersonen sind Vertreter der Zielgruppe. Ungeeignet sind alle Beteiligten am Projekt wie auch alle Mitarbeiter der Firma, für die Sie die Site erstellen. Deren Hintergrundwissen werden die zukünftigen Benutzer der Site nicht haben und daher vermutlich auf von Ihnen nicht erwartete Probleme stoßen. Aber auch Ihre Kollegen sind normalerweise keine besonders guten Testkandidaten. Durch die Arbeit in der Branche sind sie sehr gut im Umgang mit Websites – anders als der durchschnittliche Benutzer.

Setzt sich Ihre Zielgruppe aus mehreren sehr unterschiedlichen Gruppen zusammen, so versuchen Sie das bei der Auswahl der Testpersonen zu berücksichtigen. Sie brauchen nicht unbedingt aus jeder Gruppe drei oder gar fünf Benutzer pro Testrunde, aber es ist sinnvoll, insgesamt mindestens je fünf Vertreter aus jeder Gruppe bei den Tests dabei gehabt zu haben.

Und wenn keine Testpersonen da sind?

Wenn Sie mit vertretbarem Aufwand niemanden finden, der zur Zielgruppe gehört, testen Sie mit anderen Personen. Testen Sie lieber öfter mit beliebigen Personen, als zu viel Geld und Zeit mit der Suche nach idealen Kandidaten zu verschwenden. Kommen Ihre Testpersonen mit der Site klar, wird auch das Fachpublikum damit in der Regel keine Probleme haben. Und kein Experte wird sich über eine Site beklagen, die auch Laien benutzen können, solange sie nützlich ist und korrekte Informationen bietet.

Wie Steve Krug sagt: Jeder Test mit jeder noch so ungeeigneten Person wird mindestens ein Problem zu Tage fördern, dessen Korrektur Ihre Site deutlich verbessern wird.

Links

www.useit.com/alertbox/quantitative_testing.html
————————————————————————-
(c) Jens Jacobsen 2006

Bei Weiterleitung oder Zitat bitte Quellenangabe („Quelle:
benutzerfreun.de-Newsletter Juli 2006“).

————————————————————————-

Schreibe einen Kommentar