[김덕진의 AI 시대의 생각법_2편]

안녕하세요. 복잡하고 어려운 AI 기술을 쉽고 재미있게 전달드리는 IT 커뮤니케이터, 김덕진 소장입니다. AI와 사람이 대화하는 방법 이른바 프롬프트 엔지니어링 이렇게 얘기를 합니다. 그런데 프롬프트 엔지니어링 하면은 뭔가 되게 복잡해 보이고, 어려워 보이는데요. 그냥 쉽게 설명을 드리면 똑똑한 팀장님들 과연 어떤 식으로 신입사원과 대화하는가라는 거에서 우리가 이 맥락들을 볼 수 있습니다. 프롬프트를 제대로 이해하는 쉬운 방법은요 AI를 신입 직원, 혹은 인턴에게 비유를 해보는 겁니다. 신입사원에게 일을 시켜본 경험이 있는 분들은 아시겠지만 같은 업무라도 어떻게 지시하느냐에 따라서 결과물이 크게 달라집니다. “이거 좀 정리해 줘”라고만 말하면요, 정말로 정리한 것만 하게 되잖아요. 그러다 보니까 우리가 얼마나 자세하고, 디테일하게 얘기할 수 있느냐에 따라서 달라지게 되는 것이죠. AI도 좀 마찬가지인 것 같습니다. AI는요, 빠르게 움직이지만, 기술적으로 보면 맥락을 제대로 알지 못하는 존재라고 볼 수 있을 것 같아요. 그래서 우리의 머릿속에 있는 것과는 전혀 다른 결과를 가져올 수 있습니다.

신입사원에게 일을 맡길 때처럼 우리가 AI와 대화를 나눠야 됩니다. 첫 번째는 배경 설명을 주는 겁니다. 예를 들면 “우리가 지금 이러한 일을 하는 이유가 이러이러이런 것 때문에 그런 거야.”라고 이야기를 하죠. 물론 이런 것들을 생략하시는 분들도 있지만, “알아서 해야 되는 거 아니야?”라고 하시는 분들도 있지만 그렇게 하면은 너무 AI가 제대로 이해할 수 없기 때문에 배경에 대해서 알려주는 게 중요합니다. 두 번째는 목적입니다. “이 보고서는 대표님께 우리가 드릴 거라서 너무 장황하면 안 돼.” 같은 목적과 용도를 이해시킬 수 있는 것이죠. 자, 이렇게 목적이 명확하면 작업의 톤과 깊이를 조절할 수 있습니다. 세 번째는 기대하는 산출물의 형태입니다. 한 페이지로 요약해 줘, 도표 중심으로 구성해 줘, 이러한 요소들이 “제대로 전달이 됐다.”라고 하면은 비로소 신입사원에게 좀 제대로 된 우리가 기대하는 수준의 결과들을 만들어내게 할 수 있다는 것이죠. 자, AI도 비슷하기 때문에 그 부분에 있어서 “우리가 신입사원을 생각할 때처럼 AI에게 대화를 건내면 좋은 내용이 나온다.”라는 것입니다. 여기서 이제 중요한 점은요, 신입 직원은 우리가 어떤 표현을 쓰든 결국 사람이기 때문에 맥락을 어느 정도 추론할 수 있거든요. 그런데 AI는 조금 더 자세히 주긴 해야 됩니다. 흔히 “사람보다 더 사람처럼 이해한다.”라고 생각하시는 경우도 많은데 실제로 AI를 자세히 쓸 때는 의도와 배경을 추측하는 능력이 조금은 상대적으로 제한적인 것 같아요. 그래서 인간에게 당연한 상식이나 맥락도 AI한테는 “텍스트로 우리가 전달해 주지 않는 이상은 제대로 줄 수 없다.”라는 것이죠. 그래서 이런 부분에 있어서 “우리가 AI를 신입사원하고는 조금 다른 방식으로 조금 더 자세히 써주는 게 좋겠다.”라는 이야기를 좀 드릴 수 있을 것 같습니다.

그런데 신입사원과 이 AI, 공통적으로 이거 한 가지는 잘 생각하시면 좋습니다. 만약에 여러분들이 신입 직원한테 일을 시킬 때 “이 일을 좀 잘 못할 것 같다.”라고 생각하면 이렇게 얘기할 수도 있잖아요. “혹시 좀 이해 안 되면 물어보고 해.” 그러면은 오히려 신입 직원들은 “내가 이거 물어봐도 되나.”라면서 생각할 수 있잖아요. 그런데 AI는요 오히려 “모르겠으면 물어봐.”라고 하면은 그 내용에 대해서 아주 잘 물어봐 줍니다. 그래서 AI에게 “부족한 정보가 있다.”라고 하면은 오히려 AI가 “어, 저 이거 톤은 어떤 식으로 하면 좋을까요? 아니면 친근한 톤으로 할까요?”라는 걸 이야기를 해주거든요. 그래서 여러분들이 AI한테 질문을 할 때, 마지막에 “야, 너 이거 내가 준 정보에서 모르는 거 있으면 물어봐.” 같은 내용을 써주시면 훨씬 더 잘하게 됩니다. 자, 이렇게 신입 사원, 혹은 신입 직원과 비유를 해보면 “아, AI가 이렇게 오는구나.”라는 것들을 보게 됩니다. 그런데 생각을 해보면요. 우리는 이미 수년 혹은 수십 년 동안 이제 어떻게 보면 직원들과 협업을 하면서 협력을 하면서 말을 정리하고, 또 요청을 구조화하는 능력을 익혀왔습니다. 그 능력이 프롬프트에서도 동일하게 사용되는 것입니다. 그래서 우리는요 “새로운 기술이나 새로운 용어를 배운다.”라고 생각하기보다는 “내가 원래 말하고 대화하는 능력을 AI에 맞게 조금 재구성한다.”라고 생각하시면 이게 어렵다기보다는 “우리의 일하는 방식, 일상의 방식을 그대로 쓰면 되는구나.”라고 이해하실 수 있을 겁니다.

자, 프롬프트에서 가장 중요한 원칙 중에 하나가 “AI에게 말을 할 때 자연스러운 언어를 사용해야 된다.”라는 점입니다. 이 말이 단순히 “편하게 써라.” 이게 아니고요. “완성된 문장을 생각하면서 빠짐없이 표현하는 게 좋다.”라는 것입니다. 우리가 보통 이 프롬프트를 쓴다고 그러면 검색하는 거에 되게 익숙해서 몇 개의 단어만 탁탁 줄 때들이 많거든요. 근데 그것보다는 “우리가 아는 구조화된 문장으로 차분하게 자연스러운 형태로 이야기해 주는 게 중요하다.”라는 것이죠. 이른바 전략 컨설팅에서 많이 쓰는 방법들의 하나인데 MECE라고 그러죠. 빠짐없이, 중복 없이 대화하는 능력들, 예를 들면은 강의를 하시는 분들 중에 강의에 대한 이야기들을 구조적으로, 직관적으로 이야기하는 그러한 대화의 방식들을 잘 보시는 게 중요합니다. 자연스러운 언어가 중요한 이유는 결국엔 AI가 이 인간이 쓰는 언어의 패턴을 학습해서 대화를 하기 때문이죠. AI 모델이 우리가 생각하는 것처럼 명령어를 이해하는 존재라기보다는 사람이 지금까지 얘기했었던 문장들을 패턴 단위로 해석하고 그다음에 올 말을 예측하는 방식으로 작동이 됩니다. 그렇기 때문에 오히려 “우리가 자연스러운 문장으로 지시를 하면 훨씬 더 풍부한 맥락을 파악하고 보다 더 정확한 작업을 수행할 수 있다.”라는 것입니다. 그래서 이런 부분에 있어서 “우리가 일상에서 쓰는 용어, 특히나 업무적인 용어를 잘 쓰는 게 중요하다.”라는 것이죠. 또 하나 이 자연스러운 언어가 중요한 이유는요. 사람의 생각을 그대로 언어가 옮기기 쉽다는 점입니다. 이게 무슨 말일까요? 우리가 글로 쓸 때랑 대화를 할 때랑 조금 다르잖아요. 그런데 “키워드를 던지는 방식으로 얘한테 글을 쓴다.”라고 생각을 하면 완벽하게 표현을 못 할 때가 있습니다. 그렇기 때문에 제가 되게 많이 쓰는 방법 중에 하나인데 여러분들이 AI랑 대화를 할 때 직접 타이핑을 해서 주는 것도 좋지만 말을 하는 것들을 얘가, 요즘에는 AI가 자연스럽게 우리가 말한 글의 형태로 바꿔주거든요. “이 AI를 쓸 때 상당히 좋은 방법 중에 하나다.”라고 말씀을 드릴 수 있을 것 같습니다.

그런데 자연스러운 언어에 대해서 우리가 좀 오해할 수 있는 게 있는데요. “무조건 구구절절이 프롬프트를 길게 써라.”라는 건 좀 아닙니다. 핵심은 “의도를 완성된 형태로 표현해라.”라는 것이죠. 예를 들어서 우리가 친구한테 메시지를 보낼 때 “밥. 점심. 같이?” 이렇게 쓰지는 않잖아요. 예를 들면 “오늘 점심시간에 우리가 좀 같이 밥 먹을래?”라고 자연스럽게 씁니다. 의사소통은 원래 완성된 문장을 좋아합니다. AI도 마찬가지로 문장을요. 문맥 단위로 끊기 때문에 “완성된 문장이 효과적이다.”라고 말씀드릴 수 있는 거죠. 자, AI가 자연스러운 언어로 말하면 또 좋은 이유가 AI는 예시를 잘 활용하거든요. 그렇기 때문에 예를 들어서 “톤을 부드럽게 써 줘.”라고 하면은 예시를 같이 주는 것도 하나의 방식이라고 볼 수 있을 것 같습니다. “자연스러운 언어 자체가 이러한 예시 제공에서도 상당히 유리하다.”라고 말씀드릴 수 있을 것 같습니다.

자, 그럼 지금까지 이야기했었던 걸 좀 정리를 해보다 보면 “프롬프트를 우리가 길게 써도 되지만 복잡한 것보다는 구조화된 형태로 잘 이야기하는 것이 좋다.”라는 것입니다. 프롬프트 길이 자체가 문제가 되는 것보다는 핵심 정보가 구조 없이 흐트러져 있으면 AI 역시 방향을 잃어버린다는 거죠. 지시가 길어서 문제가 되는 것이 아니라 지시가 정리되지 않았기 때문에 문제가 될 수 있는 겁니다. AI도 똑같죠. 우리가 스스로 정리하지 못한 내용을 AI가 대신 정리해 줄 거라는 것은 어느 정도는 현실적이지 않은 것 같습니다. AI는 우리가 준 정보를 기반으로 작업을 하기 때문에 “정보가 정돈되어 있지 않다.”라고 하면은 “원하는 품질의 결과물이 나오기 어렵다.”라는 것이죠. 그렇기 때문에 프롬프트를 작성할 때는 “간결하지만 빠짐없이.”라는 원칙을 적용하는 것이 상당히 중요한 것 같습니다.

자, AI와 대화하는 방법, 프롬프트에 대해서 잘 따라오고 계신가요? 근데 처음부터 이 AI와 대화하는 것들이 쉽지 않습니다. 왜냐하면 어색하기 때문이죠. 우리가 써보지 않았기 때문에. 그런데 너무 걱정하실 필요는 없습니다. 무슨 말이냐? AI는요. 우리가 한 번에 대화를 잘하는 것으로 끝나는 것보다는 오히려 연속적으로 대화를 하면서 그 내용들을 잘 채워갈 수 있는 장점이 있다는 것이죠. 한 번 대화를 해서 끝나는 게 아니라 “내가 원하는 형태에 도달할 때까지 대화를 주고받으면서 결과물을 다듬어 갈 수 있다.”라는 것입니다. 자, 이 원리를 이해하시면 AI는 훨씬 더 유능한 팀원이 되고 우리는 조금 더, 더 적은 노동으로 훨씬 높은 퀄리티의 작업을 수행할 수 있게 되는 것이죠. 그렇기 때문에 “처음부터 완벽한 결과물을 받는다.”라고 생각하지 마시고 우리가 일을 할 때처럼 초안을 써보게 하고, 피드백을 받고, 수정하고, 최종으로 만드는 이 흐름으로 운영하는 것이 좋습니다. 신입사원한테 처음부터 완벽한 걸 원하시는 분들이 없을 거잖아요. 보통은 초안을 받고요. 그다음에 전체적인 방향을 평가하고 “여기는 좋다. 여기는 좀 명확하게 써줘. 이 그래프는 다른 형식으로 바꾸는 게 어떨까?” 같은 피드백을 제공하게 됩니다. 원래는 이렇게 대화가 길어지면 AI의 성능이 꽤 떨어졌었거든요. 그런데 최근에는 이른바 추론이라고 하는 능력이 좋아지면서 대화의 길이가 길어져도 기본적으로 기억하는 능력이 좋아졌기 때문에 여러분들께서 “AI를 통해서 여러 가지 방법으로 대화를 하고 익힐 수 있다.”라는 것입니다.

여기서 또 중요한 점이 있겠죠. 후속으로 써주는 프롬프트 그러니까 대화를 이어나갈 때는요. 그냥 단순 수정 요청보다는 “우리가 요구하는 것 역시도 정교한 방향 조정을 하면서 가야 한다.”라는 것입니다. 예를 들면요, 첫 결과물을 봤는데, 뭐 우리가 이렇게 얘기할 수 있죠. “음, 그래. 좀 더 부드럽게 써봐.” 이런 막연한 피드백을 주면 당연히 AI도 “부드럽게 쓰는 게 뭘까?”라고 하면서 애매한 결과물을 좀 낼 수 있습니다. 그런데요. 만약에 “첫 번째 문단은 좋은데 두 번째 문단은 좀 문장이 기니까 핵심만 남겨서 두 문장으로 나눠주세요.” 뭐 “이런 식으로 구체적으로 요청했다.”라고 하면은 AI는 훨씬 정확하게 개선 작업을 합니다. 이것도 신입 직원하고 비슷하죠. 우리가 AI도 아닌 신입 직원한테 “야, 이거 좀 너무 재미없으니까 재미있게 써봐.”라고 하면은 “아니, 도대체 우리 부장님이 원하시는 재미는 뭘까?”부터 시작을 하게 되잖아요. 근데 그게 아니라 “이 예시를 좀 더 자세히 풀고 결론은 조금 더 라이트하게, 가볍게 써봐.” 이 정도의 느낌만 줘도 훨씬 더 효율적으로 할 수 있습니다.

자, 반복형 작업의 콘텐츠의 예는요, 보고서 작성 같은 작업을 할 때 우리가 원하는 내용들을 잘 정리해 놓고 쓰게 되면 그 안에서 내용들을 잘 뽑아낼 수 있겠죠. 처음부터 “전체 보고서를 완벽하게 써봐.”라고 하면은 결과물이 애매해질 수 있습니다. 하지만 단계별로 접근하면서 품질을 높이는 방식을 쓰면 훨씬 더 압도적인 결과물을 보여주게 됩니다. 같은 AI인데도 사람들마다 차이가 있는 부분이 여기라고 보시면 될 것 같습니다. 우리가 단계를 나눠서 처음에 “문서를 읽고 핵심 포인트를 정리해 봐. 자, 그다음에 이 포인트를 기반으로 경영진 보고용 개요를 만들어. 자, 이 개요를 바탕으로 400글자 내외의 요약문을 써줘.” 이런 식으로 작은 단계로 나눠서 대화하듯이 요청하시면 AI는 점차 더 정확한 결과물을 만들어냅니다. 즉 AI에게 한 번에 모든 것을 시키기보다 단계적으로 정리하면서 다듬어 가는 것이 훨씬 좋은 방식이 됩니다.

자, 이렇게 AI와 대화하는 방법들을 여러 가지로 말씀드렸습니다. 그런데 듣고 나서도 “아, 나 어려운데? 모르겠는데?” 하시는 분들 있죠. 이런 분들한테는 궁극의 방법을 하나 설명드리도록 하겠습니다. 회사에서도 그런 분들이 계시거든요. 팀장님인데 본인은 일을 많이 안 하는 것 같아요. 그런데 능력을 잘 인정받아요. 그분들의 대화의 패턴을 보면 아주 재미있는 게 있습니다. 어떤 걸 잘하시느냐? 일 잘하는 직원들한테 “너는 어떻게 생각해?”라고 물어보거나 “너가 내 관점에서 편하게 얘기한다면 어떨 것 같아?”라고 하면서 오히려 그 사람에게서 대답이나 본인이 해야 될 말을 유도시키는 방식이죠. AI도 실은 똑같습니다. 최근에 이런 것들을 “메타 프롬프트”라고 부르는데요. “내가 AI에게 어떻게 질문해야 될지 모르겠다.”라고 하면 그 상황 자체를 AI한테 이야기합니다. 예를 들어서 “야, 내가 이번에 이러이러한 주제로 보고서를 최소한 몇 장짜리를 만들고 싶은데 이걸 너한테 어떻게 질문을 해야 너가 이것에 대해서 잘 알 것 같아?”라고 AI한테 역으로 물어보는 거예요. 그럼 오히려 AI가 “저한테 이런 단계로 명령을 주시면 저는 잘할 수 있습니다.”라고 프롬프트의 가이드라인을 줍니다. 이러한 어떻게 보면 우리가 회사에서 일어나고 있는 현상들 그리고 일 잘하는 사람들의 포인트들을 보면 결국에는 AI와 대화하는 방법들을 익히게 되는 겁니다.

자, 어떠신가요? “AI가 우리에게 똑똑한 신입사원으로서 함께할 수 있다.”라는 생각이 드시나요? 그렇다면 여러분들은 지금부터 내가 어떤 위치에 있든 간에 똑똑한 신입사원 10명 같은 AI와 함께 팀장으로서 일을 해나가시면 됩니다. AI랑 일 잘하는 방법은 일을 잘 시키시면 되고요, “이 시킨 결과물을 보고 우리가 얼마나 피드백을 해주면서 그 결과물을 잘 맞는지에 달려 있다.”라고 말씀드릴 수 있을 것 같습니다. 요체는 결국 “AI의 대화도 일반적인 커뮤니케이션 방법론과 상당히 비슷하다.”라는 결론에 와닿게 되는 것 같습니다. 다음 시간에 또 재미있는 이야기 함께 나눠보도록 하죠. 지금까지 김덕진 소장이었습니다. 고맙습니다.