'GPT가 된다는데요?'에 대한 짧은 생각

요즘 법률상담을 구하시는 분들의 손에는 이전과 다른 종류의 준비물이 들려 있고는 합니다. 예전에는 관련 판례 출력물이나 뉴스 기사였다면, 이제는 챗GPT나 제미나이 같은 LLM, 소위 AI에이전트가 내놓은 답변 출력물입니다. “제미나이가 이 사안은 승산이 높다던데요?” 혹은 “챗GPT가 이 조항은 무효라고 하던데요?”라며 AI에이전트의 답변을 출력하여 확신에 찬 목소리로 제시하십니다.

물론 실제 법률조항을 찾아보고 그렇게 말씀하시는 분은 없습니다. 언제 적 법률인지, 실존하는 법률인지도 확인하지 않습니다. 전문가로서 이런 상황을 마주할 때면, 단순히 잘못된 정보를 바로잡는 것을 넘어 기술의 편리함이 전문가의 판단에 대한 신뢰를 넘어서려 하는 현실에 깊은 우려를 느끼게 됩니다.

법률 상담에서 가장 중요한 것은 ‘팩트의 선별’과 ‘법리의 적용’입니다. 하지만 LLM은 기본적으로 확률에 기반해 가장 자연스러운 문장을 만들어내는 기계일 뿐, 실제 법전의 단어 하나가 가진 무게나 판례 변경의 미묘한 흐름을 실시간으로 추적하여 판단하지 않습니다. 특히 건축 분야처럼 건축법, 민법, 상법, 그리고 각종 지침이 복잡하게 얽힌 영역에서는 인공지능이 그럴싸하게 내놓은 답변이 실제로는 폐지된 법령이거나 사실관계와 전혀 맞지 않는 ‘할루시네이션(환각)‘인 경우가 허다합니다. 실제로 재판 과정에서도 상대방이 이미 사라진 법률을 근거로 소송사기에 가까운 주장을 펼치는 추태를 보곤 하는데, AI의 답변을 맹신하는 것은 스스로를 이런 위험한 구렁텅이로 밀어넣는 것과 같습니다.

어떻게 보면 오히려 처음부터 잘못된 주장으로 소송을 시작하려는 사람들을 보면, 자발적으로 법률시장을 키워 주고 계신 것이 아닌가, 하여 가만히 놔 두는 것이 제 밥벌이에 더욱 도움이 되지 않을까, 하는 실없는 생각을 할 때도 있습니다. 듣고 싶은 말을 해 주는 LLM에이전트의 말은 너무나도 달콤하기에, 그것을 믿는 사람들을 매일 설득하는 상황에 지칠 때도 많습니다.

진짜 문제는 잘못된 정보를 교정하는 데 드는 사회적 비용입니다. 인공지능이 내놓은 잘못된 논거를 믿고 오신 분들에게는, 우선 그 논리가 왜 법적으로 성립할 수 없는지 기초부터 하나하나 해체하여 설명해 드려야 합니다. “AI가 그렇다는데 왜 변호사는 안 된다고 하느냐”는 의구심을 해소하는 과정에 정작 사건의 핵심 전략을 짜야 할 소중한 시간이 낭비됩니다. 법은 증거로 말하는 세계입니다. 하늘이 알고 땅이 알아도 기록되지 않은 사실은 법원에서 인정받지 못하듯, 인공지능이 ‘그렇다’고 말해도 그것이 법적인 증거력이나 논리적 완결성을 갖추지 못했다면 아무런 의미가 없습니다.

전문가 집단의 권위는 전문가들의 머릿속에 들어 있는 지식의 총량이 아니라, 그 판단에 따르는 ‘책임’에서 나오는 것입니다. 인공지능은 여러분의 재산권이나 자격 취소 위기 앞에 아무런 책임을 지지 않습니다. 설계 도면에 찍는 건축사의 도장이 “이 설계의 안전을 책임지겠다”는 약속이듯, 법률 상담 역시 한 사람의 삶을 책임지는 무게를 담아야 합니다. 책임이 담기지 않은 의견에는 아무런 무게도 실려 있지 않습니다. 편리하다는 이유로 검증되지 않은 알고리즘에 자신의 운명을 맡겨서는 안 됩니다. 월3만원, 많아야 30만 원 정도 지불하고 받아보는 글 몇 줄에 자신의 인생을 맡길 수는 없지 않겠습니까.

어떤 분쟁상황에 관한 법률적 해석은 당사자의 상황에 따라 달라질 수 밖에 없고, 가지고 있는 입증자료에 따라서도 달라질 수 밖에 없고, 여러 가지 사실관계를 종합적으로 판단하여 결론짓게 될 수 밖에 없습니다. 결국 사람이, 그리고 그 무게를 온전히 이해하는 전문가가 해야 하는 일이기 때문입니다.

결국, 모두 사람이 해야만 하는 일입니다.

2026.04.22

변호사 | 건축사

이 규 황