김수연 태재미래전략연구원 연구원 (suyeon@fcinst.org)

① 드러나는 비효율: 덮어두었던 문제들이 드러나다

AI를 도입한 기업들이 공통적으로 경험하는 것이 있다. AI가 문제 해결에 앞서, 오히려 그동안 몰랐거나 알면서도 덮어두었던 문제들을 먼저 드러낸다는 사실이다. 한 대형 의료보험사의 경우, AI를 도입하고 나서야 부서마다 업무 처리 방식이 제각각이라 서로 들어맞지 않는다는 사실을 발견했다. 170개국에서 운영되는 한 글로벌 컨설팅 기업의 상황도 비슷했다. AI를 쓰기 시작하자 같은 업무가 국가마다 전혀 다른 방식으로 처리되고 있다는 사실이 드러난 것이다. 그동안은 담당자들이 알아서 넘어갔던 문제들이, AI 앞에서는 더 이상 덮어둘 수 없게 되었다.

문제는 이러한 발견이 곧 새로운 과제로 이어진다는 점이다. AI가 제대로 작동하려면 업무 방식 정리가 선행되어야 한다. 그런데 이 정리 작업이 AI 도입과는 별개의 거대한 과제가 되어버린다. 해결사로 들여온 AI가 오히려 할 일을 늘리는 역설이다.

사회적 문제를 해결하는 과정에서도 같은 일이 벌어질 수 있다. AI가 의료 판단이나 복지 수급 결정에 도입되면, 현행 법과 제도가 그런 상황을 전혀 예상하지 못했다는 사실이 드러날 것이다.

② 정체성의 흔들림: 일자리를 잃기 전에 일의 의미를 먼저 잃다

오랫동안 한 분야에서 일한 사람의 지식과 판단은 단순한 기술이 아니다. ‘이 사람이 이런 걸 알고 있으니 필요하다’는 것, 즉 조직 안에서의 존재 이유가 거기에 담겨 있다. 그런데 AI가 그 지식을 시스템에 입력하라고 요구하는 순간 문제가 발생한다. ‘내가 아는 것을 AI에게 모두 가르쳐주면, 이제 나는 왜 필요한가’라는 질문이 떠오르는 것이다. 한 엔지니어링 컨설팅 기업은 이를 기술 적응 또는 재교육의 문제가 아닌 ‘정체성 문제’로 규정했다.

이는 단순히 일자리를 잃는 문제와는 다르다. 일자리 상실은 나중에 일어나는 일이지만, ‘내가 하는 일이 의미 있는가’라는 감각은 일자리가 사라지기 훨씬 전부터 흔들린다. 기업 안의 몇 명에게서 시작된 문제가 조직 전체, 나아가 전 사회로 확산되면 특정 직종과 세대 전체가 동시에 이 감각을 느끼게 될 수 있다. 경제학자 제러미 리프킨은 1995년 『노동의 종말』²에서 이미 이 구조를 경고했다. 일을 통해 자신의 가치를 확인해온 사회에서 일의 의미가 흔들리는 순간 사람들의 존재 근거 자체가 흔들린다는 것이다.

이 정체성 문제는 7가지 마찰 중 ‘효율성 함정’과도 맞닿아 있다. 연구팀은 여러 조직이 초기에 AI를 비용 절감 도구로 규정하면서 중간 관리자들의 방어적 행동을 유발했다고 지적했다. 효율성에만 집착할 경우 고부가가치 업무를 구별하는 판단력, 스토리텔링 같은 인간적 역량이 오히려 약해질 수 있다는 경고도 덧붙였다. 안에서 느끼는 정체성의 두려움을 밖에서 더 키우는 구조다.

③ 책임 공백: 기술은 빨라지는데 통제 구조가 따라가지 못한다

‘AI 에이전트’는 단순 챗봇이 아니다. 스스로 시스템을 바꾸고 다른 AI와 협력하며 실제 업무를 처리하는 자율적인 소프트웨어다. 이미 일부 기업에서는 수백 개의 에이전트가 동시에 작동하고 있다. 한 글로벌 은행은 개별 에이전트는 사람이 감독할 수 있지만, 여러 개가 함께 작동하는 환경에서는 어떤 에이전트가 무엇을 했는지 추적조차 어렵다고 밝혔다. 연구진은 이를 IT 보안의 문제가 아니라 ‘누가 책임지는가’의 문제로 본다. 에이전트를 단순한 소프트웨어가 아닌 직원처럼 관리해야 한다는 것이다.

기업은 내부 규칙을 만들어 이 문제에 대응할 수 있다. 그러나 사회 차원에서는 더 큰 질문이 된다. 에이전트가 의료 판단, 대출 심사, 복지 수급 결정 같은 공적 영역에서 작동할 때 어떤 기관이 그 결정을 내리고 일을 했는지, 문제가 생겼을 때 어디에 이의를 제기해야 하는지조차 알기 어려워질 수 있다. 기술의 속도는 이미 제도가 따라갈 수 있는 속도를 한참 앞서 달리고 있다.

위 세 가지 마찰 요인은 공통적으로 한 가지 사실을 보여준다. AI 전환이 멈추는 것은 AI가 새로운 문제를 만들어서가 아니라, 조직 안에 이미 있던 문제들을 수면 위로 끌어올리기 때문이다.

저자들은 이 문제들의 공통 원인이 운영 방식, 책임 구조, 사람의 정체성이라는 세 가지 질문에 답하지 못한 데 있다고 본다. 이를 해결하기 위해 기업들은 다음과 같이 대응하고 있다.

첫째, 기존 방식에 AI를 얹는 것이 아니라 ‘AI가 처음부터 참여했다면 어떻게 설계했을까’를 출발점으로 삼는 백지 재설계다. AI가 계약서를 수 초 만에 초안해도 법률 검토는 여전히 2주가 걸린다. 병목이 사라지지 않고 이동할 뿐이다. 진짜 변화는 처음부터 다시 설계할 때 시작된다.

둘째, 전문가의 지식을 빼앗는 것이 아니라 ‘당신만의 판단을 시스템에 남기는 것’으로 접근하는 지식의 유산화다.

셋째, 에이전트를 소프트웨어가 아닌 직원처럼 채용·관리·감독하는 디지털 인력 관리다.

넷째, AI가 반복 업무를 맡는 대신 사람은 설계하고 판단하고 해석하는 역할로 이동하는 역할 재설계다. 실행은 자동화될 수 있지만, 다르게 일하겠다는 상상력은 여전히 사람의 몫이다.