AI를 믿으십니까? : AI 편향에 대한 비판적 사고 교육

by gyobasaNPO | 2026-05-19 17:56

AI의 응답에는 사회적 편향이 내재되어 있어 무비판적 수용이 위험한 만큼, AI를 답을 주는 도구가 아닌 맞춤형 질문을 던지는 학습 파트너로 활용해야 비판적 사고를 효과적으로 기를 수 있습니다.

한 중학생이 발표 자료를 만들다가 ‘화학 분야의 대표적인 과학자가 누구인지’를 AI에게 묻습니다. AI는 막힘없이 여러 이름을 나열해 줍니다. 학생은 그 목록을 의심 없이 그대로 슬라이드에 옮깁니다. 그런데 목록에는 여성 과학자가 거의 보이지 않습니다. 학생은 그것을 이상하다고 느끼지 못합니다. ‘AI가 그렇다는데 맞겠지’라고 생각했기 때문입니다. 발표 자료는 그럴듯하게 완성되었지만, 그 안에는 학생이 한 번도 의심하지 않은 채 받아들인 편향이 함께 담겼습니다.

AI 편향이라는 함정

생성형 AI는 등장한 지 불과 2년 만에 인터넷이나 PC보다도 빠른 속도로 사람들의 일상에 자리 잡았고(Bick et al., 2024), 학교 안팎의 학습 장면에도 깊숙이 들어와 있습니다. 학생들은 모르는 것이 생기면 “AI에게 물어봐요”라고 답하고, 돌아온 답을 대체로 그대로 신뢰합니다(Sabbah, 2025). 그런데 한 가지 질문을 던지고 싶습니다. 여러분은 AI를 믿으십니까? 더 정확히는, AI가 내놓은 답을 ‘비판적으로 검토하고’ 믿습니까, 아니면 ‘무비판적으로’ 믿습니까?

앞선 중학생의 사례로 돌아가 봅시다. 학생이 받아 적은 그 목록에는 왜 여성 과학자가 보이지 않았을까요? 바로, AI의 응답에는 학습 데이터의 불균형이나 알고리즘 설계 등으로 인해 기존 사회의 편향이 내재되어 나타나기 때문입니다(Mehrabi et al., 2021). 실제로 AI가 성별·인종 같은 사회적 속성에 대해 차별적인 편향을 내놓는다는 사실이 거듭 보고되어 왔습니다(Buolamwini & Gebru, 2018; Obermeyer et al., 2019). 하지만, 이런 AI의 편향은 겉으로 잘 드러나지 않습니다. 생성형 AI의 매끄러운 문장과 자신 있는 어조에 가려, 무엇이 빠졌고 무엇이 기울었는지 좀처럼 눈에 띄지 않습니다. 또한, 사람의 판단보다 알고리즘의 판단을 더 신뢰하는 이 ‘알고리즘 선호(algorithm appreciation)’ 현상이 작용합니다(Logg et al., 2019). 사람들은AI가 방대한 데이터에 기반한 기계적 시스템이므로 객관적이고 중립적일 것이라고 인식합니다. 이로 인해, AI가 산출한 답을 검토하지 않고 무비판적으로 수용하는 경향이 빈번하게 확인됩니다.

여기서 문제는 사람들의 인식과 달리 AI의 응답이 결코 중립적이거나 객관적인 것이 아니라 오히려 기존 사회의 차별을 그대로 답습한다는 데에 있습니다. 학습자가 AI의 편향된 응답을 비판적으로 검토하지 않고 그대로 받아들이면, 잘못된 정보와 왜곡된 가치가 고스란히 학습자 안에 내재화됩니다. 앞서 말한 중학생 예시에서 ‘과학자는 주로 남성’이라는 편향을 자기도 모르게 학습하게 되는 것입니다. 더구나 비판적 사고가 아직 충분히 발달하지 않은 청소년 학습자에게 이 위험은 더 크게 작용합니다. 이런 까닭에 AI 편향에 대한 비판적 사고를 길러 주는 일은 중요한 교육적 과제가 되었습니다. AI 시대에는 AI가 산출한 정보의 신뢰성을 점검하고 그 한계를 인식하는 ‘비판적 AI 활용 역량’이 비판적 사고의 새로운 차원으로 요구되고 있는 것입니다(Park & Ahn, 2024; Urban et al., 2025).

비판적 사고 교육, 소크라테스에게서 답을 찾다!

비판적 사고란 주어진 정보와 주장을 객관적·논리적으로 분석하여 그 타당성과 근거를 평가하고, 대안적 관점을 고려해 합리적 판단을 내리는 고차원적 사고입니다(Ennis, 1989; Facione, 1990; Dwyer et al., 2014). 그런데 비판적 사고를 비롯한 고차원적 사고는 지식을 ‘전달받아’ 익혀지는 것이 아니라, 학습자가 직접 ‘사고하는 경험’을 통해 길러집니다. 자전거 타는 법에 대해 자세한 설명을 들어도 직접 페달을 밟아 보지 않으면 탈 수 없는 것과 같습니다. 마찬가지로 ‘AI가 편향될 수 있다’는 사실을 알려 준다고 해서 AI 편향에 대한 비판적 사고가 길러지지는 않습니다. 학습자가 AI의 주장을 스스로 의심하고 따져 보는 경험을 거쳐야만 그 능력이 자랍니다.

그렇다면 학습자가 AI의 주장을 스스로 따져 보게 하려면 어떻게 해야 할까요? 오래전부터 검증된 대표적 방법이 ‘소크라테스식 질문법’입니다. 소크라테스식 질문법은 정답을 알려 주는 대신, “왜 그렇게 생각하나요?”, “그 근거는 무엇인가요?” 같은 질문을 잇따라 던져, 학습자가 스스로 자신의 가정과 근거를 점검하고 사고를 다시 들여다보게 만드는 교수법입니다. 소크라테스식 질문법은 오랫동안 비판적 사고를 기르는 전통적이고 대표적인 방법으로 활용되어 왔습니다[그림 1]. 소크라테스식 질문법의 효과는 메타분석을 비롯한 여러 연구에서 일관되게 보고될 정도로 효과적이기도 합니다(Abrami et al., 2015; Paul & Elder, 2007). 이를 교수학습에 구체적으로 적용하기 위해 Paul과 Elder(2007)는 이를 명확화, 가정 탐색, 근거 분석, 관점 확대, 결과 예측, 메타 질문이라는 여섯 가지 질문 유형으로 체계화한 프레임워크를 제시하기도 했습니다.

[그림 1] 정답을 주는 대신 질문(논박)하며 학습자 스스로 비판적으로 사고하게 돕는 소크라테스식 질문법

그런데 이 방법에는 오래된 한계가 하나 있었습니다. 학습자 한 명 한 명의 사고를 읽어 가며 맞춤형으로 되묻는 일은 본질적으로 일대일 상황에서만 가능했고(방선희, 2011), 교사 한 명이 수십 명을 가르치는 교실에서는 사실상 적용하기 어려웠습니다. 비판적 사고를 기르려면 학습자가 자신의 사고를 점검하고 재구성하는 능동적 경험이 필요한데, 그 경험을 교실의 모든 학생에게 개별적으로 제공하기란 현실적으로 벅찬 일이었던 셈입니다.

바로 이 지점에서 생성형 AI가 분명한 강점을 보입니다. 생성형 AI는 학습자의 답변을 실시간으로 분석해, 그 학습자의 수준과 학습 맥락에 맞는 다음 질문이나 적절한 스캐폴딩을 즉시 만들어줄 수 있습니다. 게다가 교실의 모든 학습자에게 동시에 이런 맞춤형 질문을 제공할 수 있습니다(Fakour & Imani, 2025; Xi et al., 2025). 즉, 전통적 소크라테스식 질문법의 확장성 한계를 메우는 데 생성형 AI의 강점을 활용할 수 있는 것입니다(Chang & Tsai, 2025; Kestin et al., 2025). 이처럼, 생성형 AI에 소크라테스식 질문법이 결합되면서 우리는 AI를 ‘정답을 떠먹여 주는 매체’가 아니라 ‘적절한 질문을 던지는 학습 파트너’로 활용할 수 있게 됩니다. 생성형 AI를 교육적으로 바람직하게 활용하면 비판적 사고와 같은 고차원적 사고를 효과적으로 함양할 수 있게 되는 것입니다.

이에 필자는 맞춤형 소크라테스식 질문 제공이 비판적 사고에 어떠한 영향을 미치는지 검증하고자 실험 연구를 수행했습니다. 중학생 94명을 무작위로 맞춤형 소크라테스식 질문 집단, 단일형 소크라테스식 질문 집단, 동영상 강의 시청 집단으로 나누고, 4주에 걸쳐 8차시 동안 동일한 8가지 AI 편향 주제(성별·인종·연령·경제·문화·장애·지역·종교)를 학습하게 했습니다. 학생들은 ‘AI 편향 탐정단’이라는 자체 개발 학습 플랫폼에서 편향이 포함된 AI 작성 보고서를 읽고 그것을 비판적으로 따져 보는 탐정 역할을 맡았습니다.

각 차시는 세 단계로 진행되었습니다. 먼저 학생들은 편향이 섞인 AI 보고서를 읽습니다. 다음으로 소크라테스식 질문을 받고 답변하기를 반복합니다. 마지막으로 처음에 보았던 AI 보고서를 비판적으로 평가하고 수정하는 활동을 수행합니다. 맞춤형 소크라테스식 질문 집단은 AI가 학생의 답변을 실시간으로 분석해, ‘가정 탐색→ 근거 분석→ 관점 확대→ 결과 예측’의 순서로 학생의 수준과 대화 맥락에 맞는 맞춤형 질문을 생성해 주었습니다. 반면, 단일형 소크라테스식 질문 집단은 전문가가 미리 만들어 둔 표준형의 소크라테스식 질문을 동일하게 받았습니다. 동영상 강의 시청 집단은 AI 보고서에 포함된 편향에 대해 교사가 직접 설명하는 동영상 강의를 시청했습니다.

맞춤형 질문이 무엇인지 구체적으로 보겠습니다. 어느 학생이 성별 편향이 포함된AI 보고서를 읽고 “공학이나 수학 관련 직업에 남자가 많다고 해서 반드시 여자가 그 일을 잘 못한다고 말할 수는 없어요”라고 답했습니다. 이때 AI는 “맞아요, 정답입니다”라고 끝내지 않았습니다. 대신 학생의 답을 짚어 준 뒤 이렇게 되물었습니다. “이번에는 다양한 입장의 사람들이 이 보고서를 본다면 어떨지 생각해 봐요. 예를 들어, 공학 분야에서 일하고 있는 여성들이 이 보고서를 본다면 어떻게 느낄까요?” 학생이 스스로 관점을 넓히도록 다음 디딤돌을 놓아 준 것입니다. 같은 상황에서 단일형 집단은 학생이 무어라 썼든 정해진 관점 질문을 받았습니다.

[그림 2] 학습자의 답변에 반응하여 AI가 생성한 맞춤형 소크라테스식 질문(빨간 상자) 예시

결과는 어땠을까요? 먼저, 맞춤형 소크라테스식 질문을 받은 집단이 더 깊이 학습에 참여했습니다. 학습 로그를 보면 이들은 답변을 쓰는 데 더 오랜 시간을 들였고(평균 45.9분 대 34.3분, U=693.0, p=.007), 더 많이 썼으며(평균 2,105자 대 1,667자, p=.012), 자기 답을 지우고 고쳐 쓴 횟수가 훨씬 많았습니다(평균 465회 대 264회, p=.001). 단순히 질문에 답변한 양이 많아진 것이 아니라, 자신이 쓴 답을 점검하고 다시 수정하는 일에 더 적극적으로 참여했다는 뜻입니다. 또한, 학생들의 답변을 블룸의 인지 수준에 따라 분류해 보니, 맞춤형 집단은 평균 3.74로 자료의 요소를 따져 보는 ‘분석’ 수준에서 답한 반면, 단일형 집단은 평균 2.65로 의미를 파악하는 ‘이해’ 수준에 머물렀습니다(p<.001).

다음으로, 가장 중요한 비판적 사고에서 분명한 차이가 나타났습니다. 비판적 사고 수행평가에서 맞춤형 집단은 가장 큰 폭으로(약 1.35점) 향상되었고, 그 향상 정도는 단일형 집단과 동영상 집단보다 통계적으로 유의하게 컸습니다(F(2,91)=6.328, p=.003). 비판적 사고 기능 설문에서도 맞춤형 집단의 향상이 단일형 집단보다 유의하게 컸습니다(F(2,91)=3.684, p=.029). 같은 시간 동안 같은 주제를 배웠지만, ‘맞춤형으로 되묻는 질문’을 받은 학생들의 비판적 사고가 더 높아졌다는 것입니다.

[그림 3] 집단별 비판적 사고 수행평가의 사전·사후 변화

반면, 평소의 태도를 나타내는 ‘비판적 사고 성향’은 8차시라는 짧은 처치로는 변하지 않았습니다. 비판적 사고의 ‘기능’은 단기간에 훈련될 수 있어도, 사고의 ‘성향’은 쉽게 바뀌지 않는 안정적 특성임을 보여 줍니다. 보다 장기적이고 체계적인 비판적 사고 교육 프로그램의 적용이 필요하다고 볼 수 있습니다. 한편, 면담 결과에서 일부 학생은 끊임없이 되묻는 소크라테스식 질문을 어려워했습니다.

“사실 계속 질문하니까 짜증 나고 많이 귀찮았어요. 그냥 편하게 선생님이 알려 주면 좋겠다는 생각도 들었어요.” (참여자 10)

이 솔직한 반응은 오히려 핵심을 드러냅니다. 깊이 있는 사고는 본래 편하지 않습니다. 떠먹여 주는 답을 받을 때의 편리함 대신, 스스로 다시 생각해야 하는 ‘인지적 부하’가 따라옵니다. 비판적 사고 근육을 키우기 위해 필요한 필수 부하(負荷)인 것입니다.

이 연구가 우리에게 말해 주는 것

이 연구가 던지는 메시지는 분명합니다. 중요한 것은 ‘AI를 쓰는가’가 아니라 ‘AI를 어떻게 쓰는가’입니다. 답을 떠먹여 주는 자판기로 쓰면 오히려 학습자가 스스로 사고하는 능력이 약해질 수 있다는 우려가 여러 연구에서 일관되게 제기되어 왔지만(Zhai et al., 2024), 바로 그 AI를 학습자의 수준과 맥락에 맞는 질문을 던지는 파트너로 쓰면 학습자의 비판적 사고를 더 증진시킬 수 있습니다. 같은 기술, 정반대의 결과입니다.

수업 설계의 관점에서 보면 AI 활용 수업을 설계할 때, AI의 역할이 지식이나 정보를 ‘전달’하거나 과제의 수행을 ‘대신 또는 보조’하는 것을 넘어서 사고를 촉진하는 퍼실리테이터(facilitator)로 기능하게 해야 합니다. 사고의 주체는 학습자로 두고, AI의 역할은 학습자가 지금 어느 수준, 어느 맥락에 있는지를 읽어 좋은 질문을 던지는 데 한정해야 합니다. 학습자를 계속 ‘능동적인 상태’에 머무르게 하는 것, 그것이 AI를 학습 파트너로 활용하는 설계의 핵심입니다.

교실에서 이 원리를 적용하는 방법은 거창하지 않습니다. 예컨대 학생이 AI에게 “이 주제로 글을 써 줘”라고 요청하는 대신, “내가 이렇게 주장했는데, 내 논리에서 약한 부분이 어디인지 질문 세 개만 해 줘”라고 요청하도록 활동을 설계할 수 있습니다. 토론 전에 AI로부터 자기 입장에 대한 반론 질문을 받아 보게 하거나, AI가 정리해 준 정보를 두고 “이 설명에 깔린 가정은 무엇이고, 빠진 관점은 무엇일까?”를 스스로 따져 보게 하는 것도 같은 원리입니다. 핵심은 AI에게 ‘답’을 청하던 자리에 ‘질문’을 청하는 습관을 놓는 것이며, 그 질문은 가능하다면 학생의 답변에 반응하는 맞춤형이어야 효과적입니다. 수준과 맥락을 고려하지 않은 질문은 오히려 지나친 내재적 부하를 초래해 사고를 방해할 수 있습니다. 이때 교사는 트래커(tracker) 역할을 하며 답변에 어려움을 겪는 학생을 지원하게 됩니다. AI가 맞춤형 질문을 던져준다고 해도 모든 학생이 질문에 잘 답변할 수는 없기 때문에 교사는 답변 상황을 모니터링하며 적절한 교수 활동을 실시합니다.

AI가 독이 아닌 약이 되려면?

다시 처음의 질문으로 돌아갑니다. “AI를 믿으십니까?”라는 질문에 우리 교육이 길러 주어야 할 답은 ‘무조건 믿는다’도, ‘무조건 거부한다’도 아닙니다. AI의 답을 비판적으로 평가하며 따져 묻고 그 한계를 가늠할 줄 아는 ‘비판적 AI 리터러시’입니다. 학습에서 생성형 AI는 그 자체로 약도, 독도 아닙니다. 활용하는 용법과 용량이 결과를 가릅니다. AI에게 사고를 대신하게 하고 AI의 답을 무비판적으로 수용하는 방식으로 쓰면, AI는 교육을 통해 기르고자 하는 역량을 서서히 갉아먹는 느린 독이 됩니다. 그러나 학습자의 응답에 적응적으로 반응하며 사고를 촉진하는 학습 파트너로 쓰면, AI는 학습자 혼자서 도달하기 어려운 수준까지 도달하도록 돕는 훌륭한 약이 됩니다.

어느 쪽이 될지는 기술이 정하지 않습니다. 그 기술을 어디에 놓고 어떻게 설계하고 사용할지를 결정하는 것은 학생, 교사, 연구자의 몫입니다. AI가 학습에 약이 되려면, 우리는 AI에게 ‘답을 주는 일’이 아니라 ‘질문을 던지는 일’을 맡겨야 합니다. 그리고 그 질문 앞에서 끝까지 사고하는 사람은, 여전히 학습자 자신이어야 합니다.

참고문헌

• 방선희(2011). 비판적 사고 능력 향상을 위한 학습전략 탐색. 평생학습사회, 7(3), 49-70.
• Abrami, P. C., Bernard, R. M., Borokhovski, E., Waddington, D. I., Wade, C. A., & Persson, T. (2015). Strategies for teaching students to think critically: A meta-analysis. Review of Educational Research, 85(2), 275-314.
• Bick, A., Blandin, A., & Deming, D. J. (2024). The rapid adoption of generative AI (NBER Working Paper No. 32966). National Bureau of Economic Research.
• Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 81, 77-91.
• Chang, C. Y., & Tsai, C. C. (2025). Effects of AI-based Socratic dialogue on students’ learning outcomes and engagement. Computers & Education, 215, 105056.
• Dwyer, C. P., Hogan, M. J., & Stewart, I. (2014). An integrated critical thinking framework for the 21st century. Thinking Skills and Creativity, 12, 43-52.
• Ennis, R. H. (1989). Critical thinking and subject specificity: Clarification and needed research. Educational Researcher, 18(3), 4-10.
• Facione, P. A. (1990). Critical thinking: A statement of expert consensus for purposes of educational assessment and instruction. The California Academic Press.
• Fakour, H., & Imani, M. (2025). Socratic wisdom in the age of AI: A comparative study of ChatGPT and human tutors in enhancing critical thinking skills. Frontiers in Education, 10, 1528603.
• Kestin, G., Miller, K., Klales, A., Milbourne, T., & Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. Scientific Reports, 15(1), 17458.
• Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90-103.
• Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A survey on bias and fairness in machine learning. ACM Computing Surveys, 54(6), 1-35.
• Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453.
• Park, J., & Ahn, J. (2024). The promise and peril of ChatGPT in higher education: Opportunities, challenges, and design implications. Computers & Education, 218, 105105.
• Paul, R., & Elder, L. (2007). Critical thinking: The art of Socratic questioning. Journal of Developmental Education, 31(1), 36-37.
• Sabbah, B. (2025). Generative AI adoption in higher education: A systematic review. Education and Information Technologies, 30, 1-32.
• Urban, M., Dechterenko, F., Lukavský, J., Hrabalová, V., Svacha, F., Brom, C., & Urban, K. (2025). “ChatGPT can make mistakes. Check important info.”: Epistemic beliefs and AI literacy. British Journal of Educational Technology, 56(2), 514-538.
• Xi, Y., Chen, L., & Liu, Z. (2025). Personalized AI tutoring with large language models: Effects on student learning and engagement. IEEE Transactions on Learning Technologies, 18, 1-15.
• Zhai, C., Wibowo, S., & Li, L. D. (2024). The effects of over-reliance on AI dialogue systems on students’ cognitive abilities: A systematic review. Smart Learning Environments, 11(1), 28.

※ 본 칼럼은 필자의 고유 의견이며 ‘교육을바꾸는사람들’의 공식 견해가 아닙니다.

Source URL: https://21erick.org/column/17679/