법률 AI 프롬프트 엔지니어링(Legal Prompt Engineering)의 주의 사항

 

https://www.woongaro.com/

로앤에셋 법률사무소

 

AI는 이제 변호사에게도 필수적인 실무 기술이다.  그리고 법률 AI 프롬프트 엔지니어링은 “어떻게 질문하느냐”에 따라 결과의 정확성이 갈리는 것이어서 매우 중요하다.

 

​1. ‘법률 프롬프트 엔지니어링’

AI는 빠르고 정교한 분석을 제공하지만, 그 전제는 사용자가 업무 목적에 맞는 프롬프트를 설계했을 때에만 충족된다.특히 소송·자문 업무에서는 결과의 정확성뿐 아니라 “어떻게 그 결과가 생성되었는지” 설명 가능하고, 반복 가능하며, 적법한 프로세스가 되어야 한다.

​

2. 법률 프롬프트 엔지니어링의 개념

법률 프롬프트 엔지니어링은 AI에게 부여하는 역할·범위·형식·근거법령·판례 등을 구체적으로 지정하여, 특정 법적 목적(연구·검토·작성·디스커버리 등)에 맞는 결과를 얻도록 설계하는 작업이다 . ​

일반적인 프롬프트와 달리, 관할(jurisdiction), 변론주의·증거법, 비밀유지·특권, 감사가능성(auditability) 등 법률 고유의 요구사항을 전제로 해야 한다.

​

3. 좋은 프롬프트의 구조: ‘역할–범위–형식–근거–검증’

첫째, AI의 역할을 명확히 지정해야 한다(예: “대한민국 형사전문 변호사로서 2020년 이후 대법원·헌재 판례를 중심으로 검토하라”). ​

둘째, 적용 법역·관할법원(우리나라와 달리 미국은 연방국가라서 관할이 특히 더 중요하다.)인 경우을 특정하고, 원하는 산출 형식(소장 골격, 의견서 구조, 쟁점표, 증거표, 표 형식의 요약 등)과 인용 방식(조문·사건번호·선고일·링크 포함)을 프롬프트에 포함해야만 한다. ​

셋째, “약한(추상적, 일반적) 프롬프트” 대신 “강한(구체적, 세부적) 프롬프트”를 지향해야 한다. 예를 들어 단순히 “특허침해 요건 설명해줘”가 아니라, 기간·법조문·판례 범위를 특정하고, 비교·구조화·사례 인용까지 요구하는 식이다. 다만, 프롬프트의 구체성 및 세부성은 서면이나 산출물의 성격에 따라 유동적으로 결정해야 한다. 소송전략을 강구하는 결과물에 증거표 정리와 같은 프롬프트를 쓰면 안되는 것이다. ​

넷째, 각 프롬프트에는 “모든 사실·법률 판단에 대해 출처 링크를 제시하라”, “최종 책임은 인간 변호사에게 있으며, 확신도가 낮은 부분은 표시하라”와 같은 검증·책임 구조를 내장할 수 있다. 이로 인해 변호사의 업무 비중은 리서치나 서면 작성에서 소송  전략 고민과  결과물 검토로 이동하였다.

  ​

4. 개인정보·비밀/특권 보호: “이미 프롬프트 단계에서 위험 관리의 시작”

프롬프트 작성 시부터 변호사–의뢰인 비밀, 민감정보(개인정보), 비공개·비공개결정, 조정·화해 비밀 등은 “절대 프롬프트에 넣지 않는 것”을 원칙으로 해야 한다. ​

이를 위해 이름·주민번호·연락처·사건번호·정확한 주소 등은 가급적 가명·약칭·범주화(예: “의뢰인 A”, “피고 회사”)로 대체하고, 필요 시 별도의 온프레미스·폐쇄형 시스템에서만 원자료를 다루어야 한다. ​

이른바 “제로 리텐션(zero retention)”을 표방하는 AI라 하더라도, 프롬프트에 특권정보를 직접 입력하지 않는 것이 보수적인 컴플라이언스 관점에서 안전하다.

“제로 리텐션” AI는 원칙상 사용자가 입력한 데이터를 저장하지 않고, 학습에도 쓰지 않고, 처리 후 바로 삭제하겠다는 약속을 의미한다. 그렇다 하더라도, 변호사가 의뢰인 상담 내용·자문서·소송 전략 같은 특권정보를 AI에 그대로 올리는 순간, ‘제3자에게 알려준 것’으로 평가될 소지가 있어, 나중에 법원이 특권(비밀유지)을 부인하거나, 특권 포기(waiver)를 인정할 위험이 남는다.

특히 법원이나 규제기관은 “당사자가 실제로 데이터를 저장했는지”보다는 “애초에 제3자 서비스에 외부 제공했는지”를 중시할 수 있으므로, 가장 안전한 보수적 운용은 “민감 정보 자체는 아예 프롬프트에 넣지 않는다”는 원칙을 지키는 것이다.
​

로펌·법무법인 차원에서는 “프롬프트에 절대 입력해서는 안 되는 정보 리스트(do-not-enter list)”를 내부 규정·지침으로 명문화하고 교육하는 방식이 유효하다. 아래 첨부파일 참조

​

리걸프롬프트(Legal Prompt) 입력 금지 정보 목록(Do-Not-Enter L.pdf

0.95MB

 

5. 인용·검증과 감사 가능성: “결과보다 프로세스”

법률 AI 활용의 방어가능성을 높이려면, 각 응답이 어떤 근거(조문·판례·문헌·문서)에 기반하는지 명시적으로 요구해야 한다. 프롬프트에 “모든 사실·법률 판단에 대해 하이퍼링크 가능한 출처를 제시하고, 인용 오류가 의심되는 경우 별도 표기로 표시하라”는 조건을 넣으면, 사후 검증과 인간 검토가 수월해진다. ​

사무실 차원에서는 다음과 같은 관리 장치를 둘 수 있다. ​

AI 응답에 대한 ‘인간 검토 단계’를 필수 절차로 편입
출처 오류·판례 오인·날짜 착오 등 사례에 대한 이슈 로그(issue log) 유지
중요 사건에서 사용한 프롬프트·응답·수정 내역을 감사 로그로 보존

 

6. 인간 검토의 위치: “AI는 초안, 변호사는 최종적인 책임자”

AI는 대량 문서 요약, 분류, 초안 작성에는 탁월하지만, 사건의 맥락·소송 전략·의뢰인 관계까지 고려한 최종 판단은 결국 변호사의 몫이다. 따라서 실무에서는 AI를 “속도와 범위를 확장해 주는 초안 작성 도구”로 전제하고, 최종 문서에는 항상 변호사가 사실관계·법리·톤·전략적 함의를 재검토하는 체계를 가져가야 한다. ​

특히 다음 요소는 반드시 인간 검토가 필요하다. ​

관할·시효·절차법 등 치명적 쟁점
인용 판례의 최신성·적합성
상대방·법원에 대한 표현 수위·톤
사실관계 왜곡·과장(소위 “AI 환각”) 여부

 

7. 리스크·컴플라이언스 관점의 체크리스트(중요)

법무법인 또는 개인 사무소는 AI 도입 시, 소프트웨어의 데이터 보존·사용 정책, 접근 통제, 로그 보관, 보안 인증 여부를 확인할 필요가 있다. ​또한 내부적으로는 “AI 사용 정책”을 수립하여, 사용가능한 업무 범위(예: 리서치·초안·정리 vs. 대외 발송 문서 본문 직접 작성 금지 등)를 명확히 구분하는 것이 바람직하다. ​

프롬프트·응답·검토 내역을 분석하여 “어떤 입력과 기준으로 이 결론이 도출되었는지”를 분석하고 개선하는 워크플로우를 갖추면, 윤리·법적 리스크를 줄일 수 있다. ​

나아가 AI 기능이 포함된 외부 서비스(리포팅·디포지션 요약·리뷰 도구 등)를 활용할 경우, 반드시 해당 업체의 보안·컴플라이언스 체계를 면밀히 검토하는 것이 요구된다. ​

 

8. 프롬프트 템플릿의 표준화(효율화)

매번 처음부터 프롬프트를 작성하기보다는, 자주 사용하는 업무(예: 증언녹취록 요약, 계약 조항 추출, 쟁점표 작성, 문서 리뷰 태깅)에 대해 사무실 공용 템플릿을 만드는 것이 효율적이다.​

각 템플릿에는 목표(Goal), 입력 자료(Inputs), 인용 요구사항(Citations), 수용 기준(Acceptance criteria)을 명시하여, 어느 구성원이 써도 일정 수준의 품질을 확보하도록 설계할 수 있다. ​

---

출처: 미국 로펌 지원업체의 2025.12.10자 블로그 글( https://www.uslegalsupport.com/blog/legal-prompt-engineering/)내용 및 일반적인 법률 AI 활용·컴플라이언스 논리 구조에 기반하되, 한국 법실무에 맞게 재구성·확장함.​

 

https://woongaro.tistory.com/notice/3

[김정웅 변호사] 상담 안내

 

https://www.woongaro.com/

로앤에셋 법률사무소