안녕하세요, 최근 생성형 AI, 특히 ChatGPT와 같은 대형 언어 모델(LLM)을 활용한 콘텐츠 제작이 활발해지고 있습니다. 하지만 이러한 AI 도구를 사용할 때 발생할 수 있는 문제점에 대한 경각심도 함께 높아지고 있습니다. 특히, ChatGPT가 생성한 허구의 정보로 인해 법적 문제가 발생한 사례는 AI 사용의 신중함을 일깨워줍니다. 이번 블로그 포스트에서는 뉴욕 연방법원에서 발생한 사례를 통해 ChatGPT 환각으로 변호사에게 벌금이 부과된 사건을 살펴보고, 이러한 문제를 피하기 위한 방법에 대해 알아보겠습니다.
사건 개요: ChatGPT를 사용한 법률 브리핑
2023년 6월, 뉴욕 연방법원에서는 변호사 스티븐 A. 슐츠(Steven A. Schwartz)와 피터 로두카(Peter LoDuca)가 ChatGPT를 사용하여 법률 브리핑을 작성한 사건이 발생했습니다. 이들은 2019년 항공편 부상으로 인해 콜롬비아 항공사 Avianca를 상대로 소송을 제기하면서 ChatGPT를 통해 법률 조사를 수행하고, 존재하지 않는 가상의 사례를 포함한 법률 브리핑을 법원에 제출했습니다.
이 법률 브리핑을 검토한 캐스텔(Castell) 판사는 인용된 법적 사례들이 존재하지 않는다는 사실을 발견하고, Avianca의 변호사들도 이를 문제 삼았습니다. 이로 인해 슐츠와 로두카 변호사는 법적 책임을 지게 되었습니다.
법적 결과 및 판사의 판단
캐스텔 판사는 두 변호사에게 각각 5,000달러의 벌금을 부과하고, 사과문을 작성하도록 명령했습니다. 이 사건은 생성형 AI를 사용하는 변호사가 법적 책임을 지게 된 최초의 사례로 기록되었습니다. 판사는 더 가혹한 제재가 필요하지 않았던 이유를 설명하기 위해 시정 조치를 취했지만, 변호사들은 법률 라이선스를 잃을 위험에 처해 있었습니다.
사건의 원인과 책임
이 사건에서 가장 중요한 질문은 이러한 실수가 누구의 책임인지입니다. 슐츠 변호사는 ChatGPT가 제공한 정보가 실제로 존재하는 사례라고 믿었으며, 로두카 변호사는 제출된 법률 브리핑을 충분히 검토하지 않았습니다. 결국, ChatGPT의 환각과 변호사들의 부주의가 결합된 결과로 이 사건이 발생했습니다.
ChatGPT 환각이란?
ChatGPT 환각은 LLM의 자연스러운 부산물입니다. LLM은 지식 그래프가 아니기 때문에, 생성된 정보는 정확할 수도 있고 완전히 허구일 수도 있습니다. 이러한 환각을 방지하기 위해서는 생성된 정보를 철저히 검토하고, 신뢰할 수 있는 출처와 대조해야 합니다.
환각을 방지하기 위한 방법
- 정보 재확인: ChatGPT가 생성한 모든 정보를 신뢰할 수 있는 출처와 대조하여 검증해야 합니다.
- LLM 접지: LLM을 사용할 때는 모델이 생성한 정보가 신뢰할 수 있는지 확인하는 절차를 마련해야 합니다.
- 추가 연구: 검색 엔진과 같은 다른 도구를 사용하여 생성된 정보의 정확성을 추가로 확인해야 합니다.
- 사전 검토: AI 도구를 사용하기 전, 생성된 텍스트를 검토하여 잠재적인 오류를 발견하고 수정해야 합니다.
이번 사건은 ChatGPT와 같은 생성형 AI 도구를 사용할 때 발생할 수 있는 위험성을 보여줍니다. AI는 매우 유용한 도구이지만, 그 사용에 있어서는 신중함이 요구됩니다. 특히 법률과 같이 정확성이 중요한 분야에서는 AI가 생성한 정보를 철저히 검토하고, 신뢰할 수 있는 출처와 대조하는 과정이 필수적입니다.
앞으로 AI를 활용한 콘텐츠 제작 시, 이러한 점들을 유의하여 보다 안전하고 효과적으로 활용할 수 있기를 바랍니다.
#ChatGPT #GenAI #생성형 AI #판례 #사건사고