Using Cognitive Interviews in Designing an Interview Questionnaire Based on the Example of a Study into Adult Learning

Authors

DOI:

https://doi.org/10.18778/1733-8069.17.1.09

Keywords:

cognitive interviews, adult education, pilot study

Abstract

The article presents an analysis of the cognitive interviews that constituted the first stage of the pilot of the interview questionnaire as part of the “Adult Learning in Poland” study. The available results of international studies indicate a relatively low level of adult participation in education in Poland, whilst also pointing to differences in the values of indicators between the studies. From the literature review it can be concluded that these discrepancies result from differences in operationalization, ways of category aggregation, and other factors. It was assumed that the use of cognitive interviews, including the ‘thinking aloud’ and ‘verbal probing’ techniques, would make it possible for the respondents to find ways to interpret concepts and understand questions, as well as enabling the the researchers to identify issues with a high level of sensitivity. A discussion of the analysis of the collected empirical material; the methods of conceptualizing the terms used by the respondents; and the issues causing them discomfort – were all discussed based on the results of the observation conducted during the interviews. The proposed modifications of the interview questionnaire are presented. These changes were implemented in order to reduce the risk of obtaining incorrect results with a high risk of measurement error, and to ensure the well-being of the respondents during the interviews. The conclusions concerning the use of the cognitive interviewing technique as an element of the pilot survey – as well as the methodological conclusions regarding the cognitive interviewing technique – were also presented.

Downloads

Download data is not yet available.

Author Biographies

Paulina Adamczyk, Uniwersytet Łódzki, Wydział Ekonomiczno-Socjologiczny, Katedra Socjologii Polityki i Moralności

Paulina Adamczyk, doktorantka w Katedrze Socjologii Polityki i Moralności na Wydziale Ekonomiczno-Socjologicznym Uniwersytetu Łódzkiego. Zainteresowana jest problematyką badawczą obejmującą zdrowie psychiczne, ze szczególną koncentracją na dzieciach i młodzieży oraz na tematach związanych z samobójstwem i autodestrukcją.

Marika Markowska, Instytut Badań Edukacyjnych

Marika Markowska, badacz z wykształcenia, zawodu i zamiłowania. Absolwentka Uniwersytetu Gdańskiego, magister socjologii na specjalności procedury badawcze i analiza danych. Aktualnie pracownik Instytutu Badań Edukacyjnych, badacz społeczny specjalizujący się w metodach jakościowych. Do jej zainteresowań naukowych należą: socjologia kultury, socjologia muzyki, tożsamość jednostki, metodologia badań społecznych.

Marta Petelewicz, Uniwersytet Łódzki, Wydział Ekonomiczno-Socjologiczny, Katedra Socjologii Struktur i Zmian Społecznych

Marta Petelewicz, doktor nauk społecznych, socjolożka, pracowniczka naukowo-dydaktyczna Katedry Socjologii Struktur i Zmian Społecznych Uniwersytetu Łódzkiego. Ekspertka do spraw badań w Instytucie Badań Edukacyjnych. Główne zainteresowania naukowe obejmują metodologię badań społecznych, strukturę społeczną, jakość życia oraz uczenie się dorosłych.

Katarzyna Piotrowska, Akademia Leona Koźmińskiego

Katarzyna Piotrowska, doktor psychologii, pracownik naukowo-dydaktyczny Katedry Metod Ilościowych i Zastosowań Informatyki Akademii Leona Koźmińskiego. Prowadzi zajęcia ze statystyki oraz metodologii badań społecznych. Specjalista ds. badań i analiz w Instytucie Badań Edukacyjnych.

Joanna Stankowska, Sieć Badawcza Łukasiewicz – Instytut Organizacji i Zarządzania w Przemyśle „Orgmasz”

Joanna Stankowska, absolwentka socjologii i filologii polskiej na Uniwersytecie Mikołaja Kopernika w Toruniu. Badaniami ilościowymi i jakościowymi zajmuje się od prawie 10 lat. Obecnie angażuje się w projekty związane z rynkiem pracy i uczeniem się osób dorosłych.

References

Baka Aphrodite, Figgou Lia, Triga Vasiliki (2012) Neither agree, nor disagree: a critical analysis of the middle answer category in Voting Advice Applications. „International Journal of Electronic Governance, vol. 5, no. 3−4, s. 244−261.
Google Scholar DOI: https://doi.org/10.1504/IJEG.2012.051306

Ciccolo Gia i in. (2020) Improving Understanding of Screening Questions for Social Risk and Social Need Among Emergency Department Patients. „The western journal of emergency medicine”, vol. 21, no. 5, s. 1170–1174.
Google Scholar DOI: https://doi.org/10.5811/westjem.2020.5.46536

Desjardins Richard (2014) Participation in Adult Education Opportunities: Evidence from PIAAC and Policy Trends in Selected Countries. Background Paper for the Education for All Global Monitoring Report 2015. UNESCO [dostęp 10 czerwca 2020 r.]. Dostępny w Internecie: https://unesdoc.unesco.org/ark:/48223/pf0000232396
Google Scholar

Eurostat (2016) Classification of learning activities (CLA) manual - 2016 Edition, European Union, Luxemburg [dostęp 12 maja 2020 r.]. Dostępny w Internecie: https://ec.europa.eu/eurostat/documents/3859598/7659750/KS-GQ-15-011-EN-N.pdf
Google Scholar

Goglio Valentina, Elena Claudia Meroni (2014) Adult Participation in Lifelong Learning: Technical Briefing. European Commission, Joint Research Centre, Econometrics and Applied Statistics Deputy Director-General Office. Luxembourg: Publications Office.
Google Scholar

Groves Robert M. i in. (2004) Survey Methodology. Hoboken, NJ: John Wiley and Sons.
Google Scholar

Grzeszkiewicz-Radulska Katarzyna (2012) Metody badań pilotażowych. „Acta Universitatis Lodziensis. Folia Sociologica”, vol. 42, s. 113−141.
Google Scholar

Jabkowski Piotr (2015) Reprezentatywność badań reprezentatywnych. Analiza wybranych problemów metodologicznych oraz praktycznych w paradygmacie całkowitego błędu pomiaru. Poznań: Wydawnictwo Naukowe Uniwersytetu im. Adama Mickiewicza, Seria Socjologia nr 77.
Google Scholar

Kubiak Anna, Przybyłowska Ilona, Rostocki Włodzimierz Andrzej (1992) Społeczna przestrzeń wywiadu kwestionariuszowego [w:] Zygmunt Gostkowski, red., Analizy i próby technik badawczych w socjologii. Problemy humanizacji procesu badawczego, t. 9. Warszawa: Wydawnictwo IFiS PAN, s. 69−101.
Google Scholar

Lavrakas Paul J. (ed.) (2008) Encyclopedia of survey research methods. Thousand Oaks, CA: SAGE Publications.
Google Scholar DOI: https://doi.org/10.4135/9781412963947

Liani Serena, Martire Fabrizio, Pitrone Maria C. (2015) Cognitive Interviewing to Pretest Attitude Questions. „Italian Sociological Review”, vol. 5, no. 2, s. 237−250.
Google Scholar

Lutyńska Krystyna (2000) Problemy drażliwe w badaniach socjologicznych w Polsce. „ ASK. Społeczeństwo. Badania. Metody”, nr 9, s. 51−63.
Google Scholar

Matsumoto David Ricky, Juang Linda (2007) Psychologia międzykulturowa. Przełożyła Agnieszka Nowak. Gdańsk: Gdańskie Wydawnictwo Psychologiczne.
Google Scholar

Nadler Joel, Weston Rebecca, Voyles Elora (2015) Stuck in the Middle: The Use and Interpretation of Mid-Points in Items on Questionnaires. „The Journal of General Psychology”, vol. 142, no. 2, s. 71−89.
Google Scholar DOI: https://doi.org/10.1080/00221309.2014.994590

Nowak Stefan (1973) Pojęcie postawy w teoriach i stosowanych badaniach społecznych [w:] Stefan Nowak, red., Teorie postaw. Warszawa: Państwowe Wydawnictwo Naukowe, s. 17−88.
Google Scholar

Priede Camilla, Farrall Stephen (2010) Comparing results from different styles of cognitive interviewing: ‘verbal probing’ vs. ‘thinking aloud’. „International Journal of Social Research Methodology”, vol. 14, no. 4, s. 271−287.
Google Scholar DOI: https://doi.org/10.1080/13645579.2010.523187

Rubenson Kjell (2019) Assessing the status of lifelong learning: Issues with composite indexes and surveys on participation. „International Review of Education / Internationale Zeitschrift für Erziehungswissenschaft”, vol. 65, no. 1, s. 295−317.
Google Scholar DOI: https://doi.org/10.1007/s11159-019-09768-3

Ryan Katherine, Gannon-Slater Nora, Culbertson Michael J. (2012) Improving Survey Methods With Cognitive Interviews in Small- and Medium-Scale Evaluations. „American Journal of Evaluation”, vol. 33, no. 3, s. 414−430.
Google Scholar DOI: https://doi.org/10.1177/1098214012441499

Sopromadze Natia, Moorosi Pontso (2016) Do we see through their eyes? Testing a bilingual questionnaire in education research using cognitive interviews. „Journal International Journal of Research & Method in Education”, no. 40, s. 524−540 [dostęp 15 czerwca 2020 r.]. Dostępny w Internecie: http://dx.doi.org/10.1080/1743727X.2016.1181163
Google Scholar DOI: https://doi.org/10.1080/1743727X.2016.1181163

Stec Katarzyna i in. (2018) Bilans Kapitału Ludzkiego 2017. Rozwój kompetencji – uczenie się osób dorosłych i podmioty oferujące usługi rozwojowe. Badanie przeprowadzone na zlecenie Polskiej Agencji Rozwoju Przedsiębiorczości [dostęp 20 czerwca 2020 r.]. Dostępny w Internecie: https://www.parp.gov.pl/storage/publications/pdf/Rozwoj-kompetencji----uczenie-sie-osob-doroslych_200129.pdf
Google Scholar

Sztabiński Franciszek (2011) Ocena jakości danych w badaniach surveyowych. Warszawa: Wydawnictwo IFiS PAN.
Google Scholar

Tourangeau Roger (1984) Cognitive Sciences and Survey Methods [w:] Thomas. B. Jabine i in., eds., Building a Bridge Between Disciplines: Report of the Advanced Research Seminar on Cognitive Aspects of Survey Methodology. Washington, DC: National Academy Press, s. 73−100.
Google Scholar

Tourangeau Roger, Bradburn Norman M. (2010) The psychology of survey response [w:] James D. Wright, Peter V. Marsden, eds., Handbook of survey research. West Yorkshire: Emerald Group, s. 315−346.
Google Scholar

Van Someren Maarten W., Bernard Yvonne. F., Sanberg Jacobijn A. C. (1994) The think aloud method. A practical guide to modeling cognitive processes. London: Academic Press.
Google Scholar

Willis Gordon B. (2005) Cognitive Interviewing. A Tool for Improving Questionnaire Design. Thousand Oaks, CA: Sage Publications.
Google Scholar

Willis Gordon B. (2015) Analysis of cognitive interview in questionnaire design. NY: Oxford University Press.
Google Scholar

Willis Gordon B. (2018) Cognitive Interviewing in Survey Design: State of the Science and Future Directions [ w:] David L. Vannette, Jon A. Krosnick, eds., The Palgrave Handbook of Survey Research. London: Palgrave Macmillan, s. 103−107.
Google Scholar DOI: https://doi.org/10.1007/978-3-319-54395-6_14

Worek Barbara (2019) Uczące się społeczeństwo. O aktywności edukacyjnej dorosłych Polaków. Kraków: Wydawnictwo Uniwersytetu Jagiellońskiego.
Google Scholar

Published

2021-02-28

How to Cite

Adamczyk, P., Markowska, M., Petelewicz, M., Piotrowska, K., & Stankowska, J. (2021). Using Cognitive Interviews in Designing an Interview Questionnaire Based on the Example of a Study into Adult Learning. Przegląd Socjologii Jakościowej, 17(1), 136–158. https://doi.org/10.18778/1733-8069.17.1.09