1 지식 노동자들이 생성형 AI에 더 많이 의존하게 되는 경향

올해 초, 카네기멜론 대학교와 마이크로소프트는 공동 연구를 통해 흥미로운 연구결과를 발표했습니다. 제목은 꽤 깁니다. ‘생성형 AI가 비판적 사고에 미치는 영향-지식노동자의 인지적 노력 및 자신감 효과 감소에 대한 설문조사’

이 연구는 319명의 지식 노동자를 대상으로 업무 현장에서 생성형 AI 활용 경험을 설문 조사했습니다. 요약하자면, 생성형 AI는 지식 노동자들의 업무 효율성을 높여줍니다(희망). 하지만 안타깝게도 그들의 머리를 안 좋게 만들 수도 있습니다(절망). 어떤 문제를 해결하려면 당연히 고민하고 생각하는 과정이 필요합니다. 생성형 AI를 많이 써 본 사람들의 경우 사용 이전에 비해 ‘인지적 노력’이 감소했다는 놀라운 결과가 나왔습니다.

인지적 노력이란 무엇일까요? 지식 습득, 이해력, 분석력, 종합력, 적용력, 평가력 등과 같이 지식 노동자들에게는 익숙한 역량입니다. 쉽게 말하면 생각하는 힘이겠지요. 생성형 AI에 대한 신뢰도가 높아질수록 비판적 사고(Critical Thinking)가 현저하게 줄어드는 상관성을 보였다고 합니다. 앞서 제가 겪었던 경험이 바로 인지적 노력을 안 하려고 했던 좋은(?) 예시가 아닐까 싶습니다.

생각해보니 제가 처음 ChatGPT를 쓰면서 가졌던 불신의 시작은 Hallucination(거짓 정보)을 경험했기 때문입니다. 어떤 주제에 대한 논문 근거를 찾는 중에, ChatGPT는 제가 원하던 결과를 딱 보여 줬습니다. 그런데 알고 보니 세상에 존재하지도 않는 논문을 창조해서 답을 준 것이었어요. 거짓 결과를 아무렇지 않게 내놓던 녀석에게 믿음이 갈 수가 없었죠. 하지만 최근엔 성능이 개선되면서 검색 기능이 들어오고 레퍼런스를 그럭저럭 찾아 주기도 하고, 업무에 필요한 질문과 답변에서 신뢰감이 쌓이면서 의심의 눈초리를 슬슬 접게 되었던 겁니다. 이와 더불어 일을 하는 제 태도와 생각의 깊이가 변하고 있었던 거죠. 그럴듯한 답을 뚝딱 빠르게 내주는 매력이 '마력'은 아니었나 생각합니다.

우리가 글이나 논문, 책을 읽는 이유는 누군가의 주장, 이야기를 이해하기 위해서입니다. 이해한다는 것은 단순히 텍스트를 읽어 내려가는 것이 아니죠. 글을 읽으며 자연스레 머릿속으로 정리하고, 질문이 생기고, 때에 따라 비판적인 사고까지 하게 됩니다. 생성형 AI에 물어보면 아무리 긴 논문이라도 질문과 거의 동시에 체계적으로 정리된 결과를 보여 주는데, 실상은 편의성을 주지만 생각하는 힘을 빼앗아 가고 있었던 건 아닐까요? 논문을 자주 봐야 하는 입장에서 빠르고 간단하게 요약해 주는 건 참 좋지만, 생성형 AI의 답변을 벗어난 다른 인사이트를 발견할 기회를 날리고 있었던 것은 아닐까 반문해 봅니다. 업무는 결과로 말하는 것이지만 배움은 결과를 얻기까지의 과정에 있으니까요.

앞서 언급한 논문에서 저자들은 비판적 사고를 위해 생성형 AI 도구가 답변을 줄 때 강제적 인지 기능을 도입하자고 주장합니다. 강제적 인지 기능이란, 사용자에게 생성형 AI 결과를 ‘비판 없이 받아들이지 말라’는 표시(일종의 넛지)를 하자는 것이죠. 의도적 장치도 필요하겠지만 무엇보다 편리함에 중독되거나 지나친 의존을 줄이기 위해 사용자인 우리 스스로 흔들리지 말아야합니다. 바쁘더라도 생성형 AI가 던져 준 결과 그대로 받아들이기 보다, 한 번 더 생각해 보는 시간을 꼭 가졌으면 합니다.

전세계적 미디어 The New York Times도 마침내 편집자들이 AI 툴을 업무에 사용할 수 있도록 결정하면서, 편집자가 해야 할 일과 하지 말아야 할 일을 나눴습니다. 어디에는 쓰면 안 될까요? 기사의 초안 작업이나 큰 수정에 사용하지 말라는 당부는 무척 일리가 있습니다. 대신 SEO(Search Engine Optimization) 헤드라인이나 요약, 편집 제안, 아이디어 브레인스토밍 등에는 사용을 권장한다네요. 최신 기술이 주는 혜택이 분명하기에 유용하게 쓰는 것만큼, 경계하고 지켜야 하는 가치가 분명히 있습니다. 회사와 조직을 위한 것도 있겠지만 무엇보다 지식 노동자로서 오롯이 자신을 지키려면, 생성형 AI가 ‘넘어서는 안 될 선을 넘지 않도록’ 적절하게 유지하는 의식적인 노력이 필요합니다.

캐릿(Careet)과 송길영 작가의 인터뷰 “AI시대, 나는 대체되지 않을 수 있을까?”에서 송길영 작가가 강조하는 것은 바로 ‘분석적 사고력’입니다. 인공지능은 사람이 아니기 때문에 시키고자 하는 일과 목표를 정확히 설명해야 합니다. 설명을 잘 하려면 일을 시키는 사람이 일목요연하게 생각을 정리하는 것이 우선 필요하겠지요. 그는 이 인터뷰에서 내용을 전달하는 사람의 사고력과 논리력이 앞으로 더 필요해질거라는 점을 강조했습니다. 인지적 사고, 비판적인 생각 없이 행동한다면 우리는 자칫 생성형 AI가 준 답을 전달만 하는 메신저로 전락할지 모르겠습니다.

3 자신감이 필요한 시대

위 공동연구에 참여한 대상 중, 생성형 AI 답변을 곧이 곧대로 믿지 않은 사람들도 있었다고 합니다. 아니 이런 이상한 사람들은 대체 누구였을까요? 저는 단순히 의심이 많은 사람들일 것이라고 생각했는데요. 그들은 다름 아닌 ‘자신의 업무 능력에 대한 자신감(Confidence)이 높은’ 사람들이었습니다. 효율성을 위해 내가 직접 데이터를 뜯어보는 시간과 노력은 AI에게 맡기더라도, 그 답의 정확성을 검증하고 판단하는 과정에 적극 개입하는 겁니다. 이때 업무 자신감이 필요하다는 건 꽤 흥미로운 결과입니다.

우리는 자기 안의 재능을 볼 수 있는 눈을 잃었고,
그 재능을 발휘하도록 환경조건을 조절할 힘을 빼앗겼고,
외부의 도전과 내부의 불안을 이겨낼 자신감을 상실했다.

<누가 나를 쓸모없게 만드는가> - 이반일리치

자신감은 특정 상황에서 자신의 능력을 믿는 태도라고 합니다. 다른 정의를 찾아보면 능력에 대한 믿음과 확신의 상태를 포함하는 개념이라고도 설명합니다. 그러한 자신감은 대체 어디에서 올까요? 자신감은 어려움을 극복한 뒤에 오는 ‘성공 체험’이 가져다주는 선물입니다. 대단한 성공일 필요는 없습니다. 흔히 작은 성공을 여러 번 해보라고 하지요. 각자 기준에 따라 작은 성공의 의미는 다를 수 있지만 그 효과는 어마어마합니다. 작은 눈덩이가 굴러서 점점 커지는 Snow-ball effect처럼 말이죠. 자기 능력에 대해 높은 신뢰감은 생성형 AI에 대한 무지성적인 의존을 낮추고, 필요한 상황에 맞게 적절한 사용을 유도할 것입니다.

다시 돌아와 볼까요? 회사 업무에 도움을 주는 친구로서 생성형 AI를 계속 활용하는 것은 피할 수 없습니다. 그러나 바쁘다는 핑계로 무심코 대답을 곧이 곧대로 받아들이지 말고 생성형 AI의 결과를 잘 씹어 본 뒤에 삼킬지, 뱉을지 판단해야(=비판적 사고) 합니다. 우리에게 비판적 사고가 중요한 이유는, 의식적인 사고의 과정을 거칠 때 단순히 정보를 수용하는 것을 넘어 본질에 대한 분석과 평가가 가능해지기 때문입니다. 분석하고 평가하는 것 자체가 힘든 일이지만, 복잡한 문제를 마주했을 때 결정을 내리는 건 결국 우리 자신이니까요.