[김난도의 트렌드 코리아 2026_2편]

가장 핵심이 되는 이번 해의 벼리 키워드는 바로 휴먼인더루프입니다. 이 루프란 업무를 처리하는 어떤 순환 과정을 의미하는데요. 이 루프 안에 인간이 적어도 한 번은 반드시 개입해야 한다는 인공지능 활용의 대원칙을 이야기합니다. 2025년 5월달에요. 시카고의 선타임스라는 신문이 여름휴가 때 여러분이 읽으면 좋을 책 15권을 소개를 했는데 그중에 5권만 진짜 책이고 10권은 존재하지 않는 책이었대요. 그러니까 환각을 일으킨 거죠. 이 글을 쓴 칼럼니스트는 인공지능한테 15권의 책의 추천을 부탁했고, 그걸 확인하지 않고 바로 칼럼으로 써서 이런 결과가 나왔다고 합니다. 결국 이 신문사는 정식으로 크게 사과해야 했고, 이 신문사의 신뢰도는 크게 추락할 수밖에 없었죠. 인간이 한 10분만 들여서 진짜로 이런 책이 있는지 한 번만 조사해 봤더라면 이런 황당한 사건은 생기지 않았을 겁니다.

비슷한 사례는 또 있습니다. 미국의 아이튜터 그룹이라는 교육 기관에서 AI를 활용해서 이제 그 채용자를 좀 추려냈는데 그 알고리즘이 55세 이상 여성과 60세 이상 남성들은 그냥 자동 탈락시켜 버렸대요. 그래서 큰 논란이 있었고, 소송이 걸렸고, 이 회사는 36만 달러라는 거금을 손해배상해야 했다고 합니다. 요즘 인공지능이 굉장히 막강한 역량을 발휘하고 있는 것 같지만 아직도 문제를 많이 가지고 있다 하는 것이죠. 컴퓨터에 '쓰레기가 들어가면 쓰레기가 나온다, Garbage in, garbage out’ 뭐 그런 말이 있는데. 데이터가 좋지 않으면 엉뚱한 결과가 나올 수도 있고요. 인공지능 자체에도 약간 결함이 있을 수 있습니다. 또 요새 굉장히 논란이 되고 있는데 해커들이 소위 Prompt injection이라고 합니다. 사이버 위협을 계속 가하고 있기 때문에 '아직은 인공지능을 철저히 믿을 수 없다. 사람이 인공지능에 반드시 개입해야 한다’하는 원칙이 바로 휴먼인더루프입니다.

인공지능과 사람이 서로 얼마 정도의 역할을 분담하면서 일을 해야 할까 하는 데에는 크게 세 가지 단계로 나누고 싶습니다. 첫 번째는 철저히 인간이 중심이 되고 인공지능은 살짝 거들 뿐인 경우를 AI인더루프라고 합니다. 일하는 루프는 대체로 인간이 하고 AI는 이제 살짝 도와준다는 거죠. 두 번째로 인공지능이 거의 자동적으로 다 해요. 그리고 인간은 아주 살짝 감시만 하거나 이런 경우는 휴먼온더루프 또는 완전히 빠질 때에는 휴먼아웃오브더루프 이렇게 표현하기도 합니다.

먼저 인간 중심 얘기를 좀 해볼게요. 여러분도 요즘 글 쓰시거나 뭐 작업하실 때 뭐 왼쪽 창에 인공지능을 띄워놓고 “이거 좀 확인해 줘.” “요거 동의어가 뭐지?” “이거 어느 회사 매출이 작년에 얼마였지?” 뭐 그런 팩트 체크를 계속하시면서 하는 경우도 있고요. 이메일도 이제 내가 다 써놓고 “이것만 좀 영어로 바꿔줘.” “이거 제대로 잘 썼는지 한 번만 체크해 줘.” 이런 식으로 인공지능을 보조적으로 쓰는 경우가 있습니다. 이런 경우를 AI인더루프라고 합니다. 이때 개념은 소위 AI 증강 개념이에요. AI가 인간의 역량을 대체하는 것이 아니라 인간의 역량을 확장시키고, 더 높은 수준을 낼 수 있도록 증강시켜 준다는 것이죠. 요즘 의사 선생님들이요. 엑스레이를 인공지능에 보여주고, 진단을 보고, 좀 참고하고 하지만 의사 선생님의 주된 판단을 더 근거로 하고 보조적으로 활용할 때 하는 것들이 인간 중심의 인공지능 활용이라고 하겠습니다.

반대의 경우도 있습니다. 인공지능 에이전트라고 그래 가지고 여러 가지 인공지능이 서로 역할을 분담해서 서로 도와가면서 갈 수 있어요. 우리 발전 산업에서 Smart Grid, 이게 굉장히 복잡한 관리 시스템인데 이런 것들을 인공지능이 척척 스스로 관리해 나가는 것이죠. 그리고 기업 ERP들이라고 하죠. 기업의 업무가 전산화되는데 여기에 인공지능이 관여해서 굉장히 자동적으로 움직일 수 있게 해주죠. 이 경우에도 잘하고 있는지 인간이 관리 감독은 해야 된다는 것입니다. 이런 원칙을 휴먼온더루프라고 합니다. 이거보다 더 극단적인 경우 인간이 전혀 게재하지 않고 인공지능이 자기들끼리 다 문제를 해결하는 경우를 휴먼아웃오브더루프라고 하는데 이건 바람직하지 않습니다. 아주 극단적인 사례, 아주 극히 제한적인 사례가 아니면 휴먼아웃오브더루프, 인간이 전혀 게재하지 않는 것은 좋지 않다 하는 것입니다. 결국 ‘인간과 AI가 서로 적절한 파트너십을 가지면서 함께 작업할 수 있을 때 우리는 진정으로 파워풀해질 수 있다’라는 것이 휴먼인더루프라는 개념인데요. AI인더루프하고 휴먼온더루프하고 중간 정도 되는 개념이라고 하겠습니다.

제가 금년도에 실험을 좀 했어요. 트렌드 코리아 기존에 썼던 글들을 학습을 시키고 아주 정교하게 프롬프트를 줘서 “이런 이런 글을 쓸 거니까 네가 한번 창작을 해봐라.” 하면 결과물을 내놓는데요. 책에 직접 쓸 수 있을 만한 퀄리티로 내놓지는 못했습니다. 그래서 아직은 갈 길이 멀구나 하는 생각은 했지만, 인공지능이 생성한 글에서 좋은 표현이라든지 좋은 사례 같은 거는 제가 참고해서 글에 반영을 했거든요. 이렇다면 굉장히 좋은 제 조교가 되어 주었고 제 좋은 파트너가 돼 주었던 것이죠. 아마 이런 경우가 인간과 인공지능이 서로 힘을 합친 경우가 아닐까 생각을 해요. 그냥 한 번 “내년도 트렌드에 대해서 설명해 줘.” 이래가지고는 좋은 답이 나오지 않습니다. 아주 창의적이고 또 꼬리에 꼬리를 무는 연쇄적인 질문들이 필요하지요. 그래서 저희가 2년 전에 호모 프롬프트라는 키워드를 제안하기도 했는데 이처럼 인공지능에게 프롬프트를 잘 주고 명령어를 잘 주는 그런 경우가 필요하다고 하겠습니다.

또는 결과가 나왔을 때 여기 환각은 없는지 그래서 그걸 실제로 찾아보고 검증해 보는 역할도 필요하고요. 인공지능에게 파워포인트 같은 거 작업 맡겨보신 분 계시죠? 아니면 이미지를 생성하라든지 이제 그런 작업 맡기시면 그거 그냥 보지도 않고 그대로 갖다 쓰는 부분 없습니다. 여러 개의 대안을 계속 만들게 하고 그걸 수정시키고 그중에서 내가 선택을 하고 하는 과정은 반드시 인간의 판단이 필요하다는 것이죠. 산업에서 이제 인공지능이 활용될 때에도 비슷한 원칙이 많이 적용이 됩니다. 보험 같은 경우에 이제 보험료나 요율을 정할 때 사실은 고려해야 될 요소가 많죠. 건강이라든지 직업이라든지 생활 패턴 뭐 이제 이런 것도 인공지능이 그동안의 사례를 종합적으로 고려해 주면 최종적으로 설계사나 보험회사에서 이분에게는 어떤 보험 상품이 필요하겠다 얘기를 해 줄 수도 있고요. 요새 법률 쪽에 인공지능 얘기가 많습니다. 판례를 잘 찾아서 내가 소송에서 이길 수 있는 가장 좋은 논리를 찾아내는 것이 필요한데 거기서 논리를 찾아내는 거는 인공지능이 굉장히 잘하죠. 변호사님들 얘기를 들어보면 보조적으로 인공지능에게 좀 논점을 찾아보라 하면 간혹 가다가는 내가 찾지, 생각하지 못했던 논점을 제안해서 굉장히 도움을 많이 받았다고 해요. 하지만 그것으로 되느냐, 그렇지는 않습니다. 법정에 실제로 나아갔을 때 증인이라든지 판사님이라든지 하는 분들이 사실은 다 인간이잖아요. 그리고 공판이 진행되는 동안 그 법정의 분위기 같은 것들이 있습니다. 그래서 이 분위기를 살펴 가면서 인공지능이 제공해 준 논점들을 하나씩 순서대로 또는 순서를 바꿔가며 제안할 수 있는 것은 바로 사람의 역할이라는 것이죠.

인공지능의 활용과 관련해서 제가 결론적으로 꼭 말씀드리고 싶은 부분이 있습니다. 하버드 대학에서요. 인공지능의 도움을 받게 하는 실험을 진행했다고 해요. 한쪽 그룹은 자기 업무에 대한 역량이 굉장히 높은 사람들한테 인공지능 기술을 활용할 수 있도록 허용을 했고요. 다른 쪽 그룹은 아직 업무의 역량이 충분하지 못한 그룹에게 인공지능 도구를 줬대요. 그랬더니 자기 일을 굉장히 잘했던 사람들은 인공지능의 역할, 도움을 받아서 그 자기 업무를 보완시켜 나감으로써 훨씬 더 효율적이고 높은 성취를 보였던 반면에 자기 업무 역량이 현저히 높지 못했던 분들은 인공지능이 결과를 내주는데 그걸 압도할 만한 실력은 없으니까요. 그냥 계속 더 인공지능에 대한 의존도가 높아지면서 오히려 성과가 떨어지는 그런 결과를 보였다고 합니다. 이 실험이 우리에게 의미하는 바는 무엇일까요? 결국은 인공지능을 활용할 수 있는 나의 전문성이 훨씬 중요하다 하는 것입니다. 전문성이 높으면 인공지능이 내놓은 결과를 비판적으로 생각할 수 있지만 자기 역량이 충분치 않으면 인공지능에게 끌려다닐 수밖에 없다는 것입니다. 이걸 소위 영어로 Appropriate trust, 적절한 신뢰 수준이라고 부릅니다. 인공지능이 결과를 내놨을 때 이걸 판단해서 얼마나 믿을 수 있을 것인가 하는 판단력이 아주 중요해졌다는 것이죠. 그래서 우리가 인공지능 교육을 한다고 할 때 어떻게 하면 클로드를, 퍼플렉시티를, 제미나이를, 더 잘 쓸 수 있을까요? 뭐 이렇게 하면 프롬프트를 잘 줄 수 있을까요? 요즘 이제 거기에 굉장히 매몰돼 있는데 내 실력이 훨씬 더 중요하다는 것입니다. 그래서 실력 있는 사람이 쓰면 인공지능은 우리를 더 생산성을 높게 해 줄 수 있고, 실력이 없는 사람이 있으면 인공지능에 종속될 수밖에 없다는 것이죠. 언제나 그랬듯이 결국 사람인 것입니다.

첫 번째 키워드, 휴먼인더루프 한번 들어가 볼 텐데요. 이거 소장님 전문 분야입니다. 저희가 첫 번째 키워드를 AI를 우리가 앞으로 어떻게 바라보고 다뤄야 하고 함께해야 하는가. 이걸 정말 많이 고민을 하다가 바로 휴먼인더루프라는 키워드로 뽑아냈거든요. 이 휴먼인더루프 결국 가장 핵심적으로는 AI가 업무를 거의 많이 참여를 하고 또 의사결정에 상당 부분을 함께 한다 하더라도 결국 ‘최종 판단과 책임은 인간에게 있다’라는 것이죠.

2024년이 되니까 본격적으로 사람들이 AI랑 대화하는 방법들을 익히기 시작해요. 뭐 예를 들면 “아 이런 질문을 했더니 이런 답변이 나오네?”라는 노하우를 모으기 시작하고, 그것을 이른바 우리가 프롬프트 엔지니어링 이렇게 불렀죠. 특정한 노하우들이 하나하나씩 쌓이기 시작했던 게 2024년인 것 같습니다. 그런데 2025년이 됐더니 오히려 이 AI가 너무 똑똑한 것 같으니까 사람들의 기대감이 너무 커져요. 어떻게 해야 되느냐 “아 이제 모르겠고 네가 알아서 해.”라는 것들을 시키기 시작하죠. 그런 것들을 우리가 이른바 '에이전트'라고 부르기 시작했습니다. 그런데 이렇게 빨리 3년 동안 기술이 증가하니까 사람들이 그냥 재미있게 쓰는 건 모르지만 일에서 이제 적용하는 것들을 고민을 하잖아요. 일에 AI를 자동으로 썼더니 예상치 못했던 오히려 결과들이 나오기 시작하는 겁니다. 그냥 쉽게 표현하면 이런 거죠. 오히려 사람들한테는 엄청 당연하다고 생각하는 기본기를 틀리거나 아니면은 '어떤 복잡한 부분들은 잘한 것 같은데 실제로 이런 의사결정을 왜 했지'라고 하는 형태들이 생기기 시작을 하는 겁니다. 제일 대표적인 어떤 사건이라고 저는 할 수 있는 게 뭐냐면 챗GPT 초기에서 우리가 많이 얘기했던 거예요. 이른바 ‘세종대왕 맥북 프로 던짐 사건’ 이런 게 있었죠. 네, 할루시네이션의 문제점을 지적했죠. 그걸 보면서 오히려 사람들은 아니 AI가 되게 일상적인 대화를 잘하는 것 같으면서도 ‘야 이런 말도 안 되는 걸 틀리네. 어떻게 하지?’라는 것들을 느끼기 시작한 것 같아요. 그래서 오히려 많은 사람 특히나 AI를 많이 써본 사람일수록 ‘아 이것은 반드시 인간의 개입이 필요하구나’라는 걸 느낀 겁니다. 그럼 이런 할루시네이션이 우리가 말하는 이런 뭐 어떻게 보면 'AI가 제대로 되지 않는 답변을 하는 것들이 완전히 없어질 수 있느냐'라고 할 때는 최근에 오픈AI에서 나온 논문도 그렇고 우리가 말하는 챗GPT의 원리인 트랜스포머라고 하는 알고리즘이 있는 이상 이거는 그냥 특징이다. 이게 어느 정도 개선이 될 수 있지만 완전히 이 할루시네이션을 없앨 수는 없다. 이건 마치 인간이 어떠한 성격에 따라서 특징을 가지고 있는 것처럼 '이 챗GPT 같은 트랜스포머들이 갖고 있는 특징이기 때문에 이걸 완전히 없앨 수 없다'라는 연구 논문들이 나오고 있어요. 그럼 그 말인즉슨 결국에는 'AI가 어떤 결과를 내더라도 완벽한 100점짜리는 낼 수 없다'라는 어떤 중론에 다다릅니다. 그렇기 때문에 결국에는 '인간이 AI를 활용할 때, 어떤 업무 프로세스상에서 반드시 개입해야 될 요소들이 있겠구나'라는 것들을 느끼게 되고요. 그런 것들이 어떻게 보면 이번 트렌드 코리아의 키워드에 휴먼인더루프라는 표현으로 나오지 않았을까 이런 생각이 좀 들기도 합니다.

네, 맞습니다. 휴먼인더루프 그리고 휴먼아웃오브더루프 그리고 휴먼온더루프. 이렇게 개념들이 좀 세분화되고 있는데요. 결국은 휴먼이 개입하지 않고도 분명히 AI가 더 잘하는 영역이 있습니다. 뭐 연산이라든가 또 굉장히 효율을 중요시하는 그런 부분은 인간이 개입하지 않아도 되는 부분은 그렇게 가도 되겠지만 상당 부분이 인간이 개입을 해서 맞는지 확인을 하거나 아니면 인간의 관점으로 마지막 마무리를 해주지 않으면 절대 완벽해질 수 없는 이러한 시사점을 던지는 게 바로 휴먼인더루프인데요. 왜 이런 결정을 했지라는 걸 우리가 도저히 모를 때가 있어요. 분명히 이 아이는 제가 지금 인격체로 부르는 것처럼 'AI를 상담에 아니면 나의 친구 같은 그런 인격체처럼 바라보고 있다'라는 거죠. 그렇기 때문에 이 AI 윤리에 대한 이야기도 상당히 불거질 수밖에 없는데요. 아까 '왜 이런 결정을 했지를 모를 수가 있다'라는 것 때문인지 EU 국가에서는 이 AI 법안을 만들게 되는데 이 인공지능 법에 있어서 특히 설명이 가능하냐 그러니까 우리가 모르고 무턱대고 따라가면 안 되기 때문에 설명 가능한 AI, '어떠한 인공지능이냐'라는 걸 반드시 이렇게 표시할 수 있도록 이런 법안까지 나오게 된단 말이죠.

네, 맞습니다. 실제로 금융권에서 생성형 AI가 있기 전에도 그게 아주 화두였죠. 뭐 예를 들면 투자를 하는, 투자 포트폴리오를 짜주는 AI가 '왜 이것에 대해서 투자를 했지'라고 하는 것들에 대해서 이른바 블랙박스가 있는 상태에서 결정을 하면 이게 예를 들면은 금융에서 쓰기가 어렵잖아요. 그러다 보니까 제가 알고 있기로 금융 쪽에서는 이런 투자해 주는 AI에 대해서는 좀 어느 정도 설명 가능할 수 있도록 알고리즘을 역으로 설계한다거나 AI가 왜 이 결과물을 냈는지를 계속적으로 테스트를 하면서 어느 정도 합리적으로 이해할 수 있는 수준의 것들을 볼 수 있는 수준도 조금 만들어지기도 한 걸로 알고 있습니다.

사실 기업은 이 AI 때문에 이 조직을 어떻게 구성해야 하느냐 그리고 업무를 하는 데 있어서 어느 정도 보조를 맞춰야 되느냐에 대해서 사실 정말 말이 많고, 설왕설래하고 하지만 대세는 어디보다 더 빠르게 AI 조직으로의 전환 그리고 AI 기술을 정말 빠르게 도입해서 생산성을 극대화하는 일 그리고 우리만의 AI 서비스를 더 공고히 하기 위해서는 어떻게 해야 하는가 이러한 문제들이 굉장히 많이 산재되어 있거든요. 요즘 기업들이 AI, 휴먼인더루프에 대해서 어떠한 고민들을 많이 하고 있습니까 소장님?

일단은 지금 말씀해 주신 것처럼 '어디까지 자동화를 할 것이냐'라는 것들이 포인트가 될 것 같아요. 예를 들면, AI한테 보고서를 만들어 달라 시장 조사를 해 달라라고 할 때도 그 시장 조사를 실제로 하기 위해서는 기업에서는 프로세스가 여러 단계가 있잖아요. 그럼 이제 우리가 'AI를 활용한다'라고 할 때 무엇이 먼저이고, 어떻게 해야 될까에 대한 고민을 하는 거죠. 그랬는데 이제 3년 차 정도 지나니까 기업들이 그래도 조금씩 이제 이해하기 시작한 게 ‘아, 이 AI를 기업에 적용한다고 하는 건 단순히 어떤 도구로서의 문제가 아니라 도구는 도구일 뿐이고, 우리 비즈니스의 원래의 워크 프로세스가 중요하구나’라는 걸 인지하는 것 같아요. 그래서 오히려 기업에서는 이 워크 프로세스를 먼저 정립을 하고, 그 정립된 것에 AI 도구를 어떤 단계로 넣을까에 대한 고민을 시작을 했습니다. 이 결과물을 그러면 어느 수준에서 체크를 할 것인가라는 걸 아주 세부적으로 하나씩 체크하기 시작하는 이러한 것들이 최근의 기업에서의 고민과 변화의 시작이라고 볼 수 있을 것 같고요.

그리고 휴먼인더루프라는 관점에서 조직의 변화에서 좀 빼놓을 수 없는 어떤 리포트 중의 하나가 마이크로소프트에서 나오는 최근에 이제 ‘AI 시대의 사람과 HR’에 대한 그 관련된 리포트들이 좀 나오고 있거든요. 그중에서도 상당히 인상적이었던 게 ‘에이전트 보스’라는 키워드를 많이 쓴다는 겁니다. 그냥 들으면 ‘어 에이전트가 보스야? 그럼, AI가 우리의 보스라는 건가?’라고 생각할 수 있어요. 근데 이제 보고서의 내용을 보게 되면 그게 아니고 '사람이 여러 AI 에이전트들을 마치 팀장처럼 이제 거느리는 보스가 될 것이다'라는 이야기를 하는 겁니다. 그래서 거기에는 3단계 정도의 변화를 좀 얘기하고 있는데 첫 번째는 개인이 하나의 AI 도구를 쓰는 거예요. 예를 들면, 한 사람이 챗GPT 하나를 가지고 뭔가 일을 하기 시작하는 게 첫 번째 단계. 두 번째 단계는 한 사람이 여러 개의 AI 도구를 복합적으로 쓰기 시작하는 겁니다. 예를 들면, 제가 처음에 시장 조사를 할 때는 퍼플렉시티를 썼다가 그 내용을 갖고 보고서화를 할 때는 챗GPT를 썼다가 그리고 그것을 가지고 좀 더 디벨롭을 하기 위해서는 PPT를 만들어주는 도구를 쓴다거나 그렇게 하면서 실제로 업무 프로세스에 맞는. 예를 들면, 예전에는 3명의 직원이 시장 조사를 하고 보고서 초안을 쓰고 PPT 디자인을 했으면 그거를 한 사람이 이 3개의 AI 도구로 마치 팀원처럼 꾸리는 거죠. 그래서 팀장의 역할을 사람이 하고, 팀원들 같게 하나의 팀을 꾸리는 것, 이게 이제 2단계로 보고 있고요. 3단계는 그러한 사람들이 많아지는 겁니다. 결국에는 '이 AI가 어디까지 들어올 것이고 그리고 거기에서 의사결정을 어떻게 할 것인가'라고 하는 고민과 함께 '그러한 형태들의 조직의 구조는 어떻게 될 것인가'라고 하는 것들이 결국에는 이제 내년에 가장 화두가 되는 어떤 기업의 변화가 아닐까 이런 생각이 듭니다.

네, 저도 현업에 있지만 가장 중요한 것이 인간과 AI의 협업 모델을 몇 퍼센트 대 몇 퍼센트, 어떻게 가지고 가는 것이 가장 좋고 또 합리적이고 바람직할 것인가에 대한 고민을 하고 있습니다. 이게 효율성으로만 치부하기에는 우리가 윤리적 부분을 간과할 위험이 있고요. 그렇다고 윤리적인 부분만을 보기에는 효율성을 극대화해야 되는 기업 입장에서는 고민이 되지 않을 수가 없거든요.

결국에는 의사결정이라고 하는 건 우리가 왜 기업에서 수많은 사람들이 어떤 일을 같이 고민할까를 생각해 보면 결국엔 그 부처별이나 그 일에 대해서는 항상 책임을 지고 그 책임을 가지고 움직이는 사람들이 있단 말이에요. 그런데 AI가 모든 의사결정을 하게 되면 만약에 우리가 일이 잘 돌아갔을 때에는 상관이 없지만 '어떤 문제가 생겼을 때 그 문제의 책임 소재를 누가 할 것이고, 그럼 그 문제를 어떻게 어디서부터 개선해야 될지'라는 면에서 '반드시 인간이 들어가야 된다'라는 겁니다. 이것은 조금 다른 결이긴 하지만 자율주행차가 사고가 났을 때와 좀 비슷하게 저는 생각해 볼 수 있을 것 같아요. 자율주행차가 실제 사고가 났을 때 이 사고를 왜 내게 되고, 예를 들면은 왜 이 상태에서 왼쪽으로 꺾었는지 그럼 이렇게 됐을 때 피해가 났을 때 '오른쪽으로 꺾었을 때보다 이 피해가 어느 정도 차이가 있는 걸 알고 했을 것인가'라고 하는 고민들이 늘어나고 있거든요. 그러다 보니까 우리가 정말 모든 차가 완전히 자율주행으로 바뀌지 않는 이상은 이 자율주행이라고 하는 것에 법적 책임 논란에 대해서는 여전히 고민이 되는 부분이 있죠. 분명히 여러 가지 것들이 개선되고는 있지만 여전히 단계별로 가고 있기 때문에 마치 이제 자율주행에서 우리가 여전히 자동차와 사람의 관계에서의 사람의 필요성에 대한 이야기를 하듯이 결국 AI가 업무상에 들어올 때도 '그 안에서의 사람과 AI의 역할들에 대해서는 좀 계속 고민이 좀 이루어질 것 같다'라는 생각이 드네요.

네, 자율주행 말씀하시니까 또 재미있는 사례가 생각이 나는데 서비스를 종료하라는 명령을 내렸음에도 불구하고 종료의 명령의 지시에 따르지 않은 AI의 이야기가 굉장히 무서웠었어요. 왜냐하면 이것에 답을 내는 데에 더 큰 보상을 주게끔 설계가 되어 있었기 때문에 AI는 당연히 종료 지시에 따르는 것보다 더 계속해서 새로운 답을 내는 데에 더 반응을 했었다라는 건데요. 결국은 말씀하신 것들을 종합해 볼 때 그런 것 같습니다. 인간끼리 일을 해도 그렇고 인간과 AI는 더더욱 그럴 것이 서로 견제와 균형이 중요한 시대가 왔고, 그 견제를 서로서로 AI가 AI를, 여러 서비스들의 AI들이 서로를 견제하기도 하고, 인간이 AI를 견제하기도 하고, AI가 인간을 견제하기도 하는 견제와 균형의 아주 좋은 밸런스를 갖출 것인가 이 고민이 시작되는 2026년이 될 것 같습니다.