인공지능 판사: 사법부의 미래는 어떻게 변해갈 것인가

cfe_해외칼럼_19-102.pdf

자동화의 바람이 법정으로 스며들고 있으며, 이는 법에 대한 우리의 인식을 변화시킬 것이다.

1970년 알렉산드로바는 직장에서 오른손을 잃었다. 러시아 정부가 운영하는 공장에서 일하던 중이었다. 산업재해 보상금을 수령하기 위해서 수십 년간 백방으로 노력한 그녀는 결국 2007년 이 사건을 유럽 인권 법정(the European Court of Human Rights)으로 가져갔고 그 곳에서 알렉산드로바는 러시아정부에 대한 보상금을 지급 권고결정을 통보 받을 수 있었다.

같은 판결은 2016년에 다시 이루어졌다. 인공지능 판사에 의한 판결이 이뤄진 것이다. 인공지능은 관련 법률 서류를 꼼꼼히 읽고, 어떤 식으로 판결을 내려야 할지 결정했다.  유럽인권법정에서 결정된 583건의 관련 판례가 참고 되었다. 판결은 인간 판사가 내린 것과 같았다: 러시아 정부가 알렉산드로바의 인권을 침해했다는 것이다.

말 보따리 (bag of words)

이 인공지능의 사례는 실험 차원으로 진행된 것이다. 런던대학(UCL) 팀은 실생활과 관련한 인권 판결 예측 시스템을 개발했고, 머신러닝 알고리즘을 통해 고문, 사생활침해, 모욕 등 다양한 판결문 사례를 학습하도록 했다.

연구 담당자 니콜라오스 알레트라스의 말은 다음과 같다. “영화 평론을 분석한다고 해봅시다. 분석에 필요한 일은 기본적으로 글을 읽고, 그에 대한 판단을 내리는 것입니다. 부연하자면, 영화에 대한 감상평이 긍정적인지 혹은 부정적인지를 판단하기 위해 어떠한 단어가 더 많이 사용되었는지를 알아보고, 그 영화가 긍정적이었는지 부정적이었는지를 판단하는 것입니다. 우리는 법원 판결문에도 같은 기술을 적용했습니다. 과거의 판례들을 모아보고, 판례에서 중요한 단어들을 학습하도록 했습니다. 학습 이후에는 새로운 판례들을 살펴보게 했더니 인간 판사들이 내린 결정과 79%의 일치를 보이는 수준에 까지 이르렀습니다.”

2017년, 2만8천9건의 판례를 가지고 머신 러닝을 실시한 인공지능의 판결과 199년 간 이뤄진 미국 연방 대법원의 판결을 비교했더니 그 일치율은 70%에 이르렀다.

이 연구를 진행한 어느 누구도 인공지능이 인간을 대신해 판결을 내려야 한다고 주장하지는 않는다. 그러나 적어도 이들의 연구는 기계 역시 법률적 판단을 내릴 수 있음을 시사하고 있다.

합리적 의심

영국 에든버러 대학교의 버커드 샤퍼(Schafer) 교수는 다음과 같이 이야기 한다. “최근 2, 3년 동안, 우리는 인공지능 사법부에 대한 관심이 증가해왔다는 점을 부인할 수 없습니다. 사법부의 업무는 이미 너무도 과중한 상황이고, 상황은 앞으로 더욱 악화될 수도 있지요.”

영국에서는 사회 취약계층에 대한 복지 금액이 줄어들면서 이들에 대한 법률 서비스 지원 역시 축소되었다. 2010 년 이후 취약계층에 대한 사회 서비스 지원금은 49%까지 삭감되었으며, 이로 인해 아동학대를 예측하기 위한 시스템 개발도 차질을 빚고 있다.

미국에서는 논란의 와중에 인공지능을 이용한 범죄 예측모델이 사용되었다. 미시건주의 이퀴번트 사(社)는 피고인이 다른 범죄를 저지를 확률을 예측하는데 인공지능을 사용하였는데, 이는 현재 인종차별 논쟁에 휩싸여 있다.

인공지능 판결과 관련된 논쟁은 인공지능 판결이 어느 정도까지 적용되어야 하는지 여부와 이들이 학습하는 판례들이 과연 공정성을 담보하고 있는 것인지에 대한 문제와 관련이 있다. 릴리안 에드워즈 (Lilian Edwards) 영국의 뉴카슬 로스쿨 (Newcastle Law School) 교수는 예컨대 인종변수를 알고리즘에서 제외하는 등의 노력을 통해 공정한 알고리즘을 개발하려는 노력을 지속하고 있다고 밝혔다. 그는 “인종이나 빈곤문제 등으로 발생하는 차별 위험은 우편 번호나 자녀 수와 같은 여타 대리 변수로 대체될 수 있다”고 이야기한다.

예산부족이나 과도한 업무 부담이라는 현재의 상황으로 미루어봤을 때, 인공지능의 등장은 (많은 우려에도 불구하고) 불가피한 것 같다. 2018년 말, 유럽 사법 재판위원회 (Commission of Efficiency of Justice)는 차별금지, 투명성 및 기본권 존중을 골자로 하는 인공지능 사법제도 헌장을 발표하였다. 이는 우리가 이미 사법시스템에 인공지능을 도입하려는 첫 발을 내디뎠음을 보여준다.

인공지능의 도입이 디스토피아를 예고하는 것만은 아니다. 영국의 에섹스 지방법원의 법률가 찰스 시우메이(Charles Ciumei)는 “비슷한 사례가 반복되는 작고 단순한 업무들의 경우 자동화가 도움이 될 수 있다”고 말한다. 아울러 그는 “물론 이러한 사건들도 관련자들에겐 중요할 수 있지만, 사회 전체적으로 봤을 땐 중요하지 않은 문제들일지도 모른다. 관계자들은 일일이 법정에 출두하는 것보다 더 빠르고 효율적인 판결을 받아들일 수도 있을 것이다”라고 이야기한다.

알렉산드로바처럼 업무 도중에 오른손을 잃게 되었을 때 당신은 어떠한 선택을 할 것인가. 여러분 역시 지방 법원을 돌며 자신의 처지를 호소할 필요 없이 장애 수당을 받을 수 있는 방법이 있다면 그렇게 할 테고, 결국 유럽 인권 재판소로 발길을 향하게 될 것이다. 인공지능은 당신의 증언과 증거를 살펴보고 빠른 답변을 줄 수 있을 것이다.

간단한 수준의 법률 서비스는 이미 행해지고 있다. 스탠포드 대학교의 학생 조슈아 브로더(Joshua Browder)가 만든 핸드폰 애플리케이션 DoNotPay를 사용하면 주차과태료 및 신용카드 수수료를 지불할 수 있음은 물론, 변호사의 법률 자문 없이도 25000달러 상한의 소송을 제기할 수 있다. 이 앱의 홍보문구는 다음과 같다. “기업 및 관료와 맞서 싸우세요! 버튼 조작 한번으로 소송을!” 이러한 일에 판사가 할 일은 아무것도 없다.

한편으로 신속한 판결이 나쁘다고 말하긴 어렵지만, 인공지능의 발전이 사회를 어디로 이끄는지에 대한 의문은 여전히 존재한다. 기술발전으로 법률 서비스에 쉽게 접근할 수 있게 되면, 사소한 일에도 소를 제기하는 문화가 조장될 수 있지 않을까? 더 나아가 사회 정의의 개념에 영향을 주지는 않을까? 즉각적인 법률 서비스 제공 및 알고리즘에 의한 예측이 공공에 대한, 정치에 대한 사회담론을 변화시키지는 않을까? 인공지능이 올바른 판결을 내릴 수 있다고 하더라도, 그것을 인공지능에 맡기는 것이 과연 옳은 일일까?

판사라는 직업을 떠올릴 때, 여러분은 어떠한 생각이 먼저 떠오르는가? 판사의 덕목으로 여러 가지 중요한 것들을 꼽을 수 있겠지만 판결에 앞서 소송 당사자들의 입장에 귀를 기울여야 한다는 점 역시 중요한 덕목임은 부정하기 어렵다.

샤퍼 교수의 말을 빌어보자. “우리는 판사들에게 특별한 상징성, 중요성을 부여합니다. 그들은 단순히 법 전문가 이상입니다. 이들은 국가가 시민의 목소리를 경청하고 있음을 보여주는 상징적 존재라고 할 수 있습니다. 인공지능이 내리는 판결이 객관적으로 옳게 보인다고 하더라도, 시민들의 말에 귀를 기울이지 않는 판사가 내리는 판결에 누가 쉽게 수긍할 수 있겠습니까?”

시우메이의 발언 역시 이와 비슷하다. 그는 '일반 대중들로 하여금 공정한 목소리가 반영되는지를 확신시키는 것’에 인공지능 사법부의 미래가 달려있다고 말하고 있다. “이것은 마치 은행 업무와 같은 것입니다. 신뢰의 문제입니다. 우리 모두는 은행 시스템이 공정하게 운영되고 있다고 믿고, 그러한 믿음이 금융 질서를 유지시킵니다. 내 자신의 경험에 비추어 봤을 때, 인공지능이 확대되어가는 과정에서 사람들의 의견을 경청할 필요가 있습니다. 과정 그 자체가 사법기능의 중요한 일부분입니다.”

인공지능 판사에 대한 우려는 그들이 잘못된 판결을 내릴지 여부에서 비롯되는 것 같지만, 진정한 문제는 그들이 옳은 판결을 내리기 시작할 때 나타날 것이다. 가속화되는 자동화의 물결이 사법부마저 점령하고, 법에 대한 신뢰를 침식시키게 되면 어떻게 될 것인가? 법률 판결에 대한 우리의 시선이 사회 일반의 명령이 아닌, 자동화된 방정식의 결과로 나타나게 될 때 우리는 이를 어떻게 받아들이게 될 것인가?

본 내용은 https://medium.com/s/reasonable-doubt/a-i-judges-the-future-of-justice-hangs-in-the-balance-6dea1540daaa를 번역한 내용입니다.

이 글은 경제지식네트워크(FEN) 해외 정보 번역 코너 https://fenkorea.kr/bbs/bbsDetail.php?cid=global_info&pn=4&idx=8398에서도 보실 수 있습니다.

번역: 강상원