한국민사법학회(회장 김천수 교수)가 지난 12월 11일, “디지털화와 민사법의 진로”를 주제로 학술대회를 개최했다. 김천수 회장은 “민법 영역에 불어오는 새바람인 인공지능, 스마트계약, 온라인 플랫폼, 데이터세트 보호 등 주제는 민법의 기초 없이 접근할 경우 민법과의 정합성을 해치고 우리 법체계의 안정성도 흔들 수 있어 여러 회원들이 우려를 해왔다”면서 “이 분야에서 선구적 역할을 하시고 관련 연구에 동량 역할을 하신 분들의 논의를 통해 깊이 고찰해 볼 것”이라고 전했다.

■ 인공지능 선의/악의 판단, 어떻게 하나

연세대 오병철 교수는 “인공지능에서의 내부적 용태의 판단- 선의를 중심으로-”를 발제하면서, “민법이 이익균형을 위해 적절히 활용해 왔던 선의라는 개념이 여전히 인공지능에서도 유용한 것인가”라는 문제제기를 했다. 법에서 논하는 ‘선의(善意)’는 어떤 사정을 모르는 것을 의미하며, 어떤 사정을 모르는 당사자나 제3자의 거래안전을 보호하기 위한 개념이다. 반대로 ‘악의(惡意)’는 어떤 사정을 아는 것을 의미하며, 민법에서 ‘선의/악의’는 법률요건을 이루는 개개의 구체적 사실(법률사실) 중 내부적(관념적) 용태에 해당하는 것으로 분류한다.

오 교수는 “인공지능은 민사법의 영역에서 자연인을 모방한 의사결정을 한다고 하더라도 기본적인 머신러닝 알고리즘과 학습용 빅데이터에 의해 인간과 유사한 판단을 할 수 있는 구체적인 로직을 형성하는 것이므로, 의사결정을 위한 알고리즘과 데이터에 반영되지 않는 요소들은 결코 의사결정에 반영될 수 없다”면서 “인공지능에게 자연인과 ‘완전히 동일한 내부적 용태’가 존재한다고 볼 수는 없다”고 했다. 다만 그는 “민법상 내부적 용태와 유사한 기능을 수행하는 프로세스가 존재할 수는 있다”면서 “민법상 내부적 용태에 준하는 인공지능의 과정은 구체적인 문제해결을 위한 결과 도출에서 찾아볼 수 있다”고 설명했다.

그에 따르면, 문제해결과정의 입력데이터와 인공지능 알고리즘 그리고 그 작동은 결과 산출에 영향을 주는 내부적인 과정을 구성하는 것이므로, 이를 민법상 내부적 용태에 상응하는 인공지능의 내적 요소라고 볼 수 있다. 따라서 만약 이 입력데이터에 어떠한 사실이 포함되어 있고 이것이 인공지능 알고리즘의 결과 도출에 영향을 줄 수 있다면, 민법상 자연인의 악의에 해당된다는 설명이다. 반대로 입력데이터에 어떠한 사실이 포함될 수 있도록 설계되어 있지 않거나 또는 포함되었다고 하더라도 어떠한 사실이 입력되지 않은 채 인공지능 알고리즘이 결과를 산출하였다면, 이는 민법상 자연인의 선의에 해당된다.

하지만 오 교수는 이러한 설명에도 불구하고 ‘인공지능에서 선의 개념의 무용성’을 주장했다. 그 근거로는 첫째, “인공지능이 어떠한 데이터를 바탕으로 무슨 근거로 결과를 도출하였는지를 아는 것은 거의 불가능하다”는 점이다. 소위 ‘인공지능의 블랙박스화’라는 현상으로, 이 현상이 생기는 이유는 딥러닝에서의 히든레이어(Hidden layer)를 분석하는 것이 너무 어렵기 때문이라는 게 그의 말이다. 그는 “어떤 주변 정황에 대한 사실이 입력데이터로 인공지능에 주입되었다고 하더라도 그것이 결과 도출에 어떠한 영향을 주었는지 누구도 알 수 없다면, 어떠한 사실이 인공지능에 입력되었다는 점만으로 법률효과에 결정적인 요소로 작용하는 것은 무리한 법적용”이라는 견해를 보였다.

둘째 근거이자 결정적인 이유는 “이율배반적인 현상이 초래된다는 점”이다. 오 교수는 “주변 정황을 신중히 고려하기 위한 노력을 다하는 알고리즘은 악의로 판단될 가능성이 매우 높아지는 반면, 아예 주변 정황을 고려할 여지가 원천적으로 봉쇄되어 있는 알고리즘은 규범적으로는 선의로 법적 보호를 받을 가능성이 높아진다”고 지적하면서, “많은 노력과 비용을 들일수록 법적 보호에서 멀어지는 인공지능 알고리즘이 된다는 사실은 코딩을 하는 개발자의 입장에서는 이해하기 어려울 것”이라고 말했다.

■ “인공지능 거래에서의 선의 보호, 새로운 대안 필요하다”

오 교수는 “인공지능에 의한 거래에서 선의라는 내부적 용태는 실질적으로 규범적 가치판단의 기준으로서는 적절하지 않으며, 특히 악의를 주장하는 상대방에게 증명책임을 부담시키는 것은 더욱 현실성이 결여되어 있다”고 강조하면서 “전통적인 선의라는 법률사실을 통한 법적 보호를 수정하거나 폐기하고, 새로운 대안을 모색할 필요가 있다”고 주장했다.

그가 제시한 대안은 크게 세 가지다. 첫째는 선의라는 내부적 용태의 긍정적인 기능을 인공지능의 경우에도 그대로 살리면서, 그 증명책임을 선의를 적극적으로 주장하도록 전환하는 방안이다. 두 번째는 “손해전보를 통한 신뢰보호”로, 인공지능을 이용한 제3자에게 무효나 취소로 대항할 수 있게 하되 그 제3자와의 이익균형은 일정한 보상을 통해서 실현하는 방안이다. 이는 선의의 제3자 보호 규정을 두고 있지 않은 제103조나 제104조의 무효를 감안할 때, 누구의 이익을 보호하는 것이 더 정당한 법적 결과를 가져오는가의 판단에 따라 선의의 제3자에게도 대항할 수 있다는 점에 착안한 대안이다.

세 번째는 “과실 판단의 도입”으로, 제748조 선의의 수익자는 선의이기만 하면 과실 유무는 묻지 않는 것이 통설이지만, 인공지능의 경우에는 선의인데 과실이 없는 경우에만 현존이익을 반환하도록 하여 이익균형을 새롭게 설정하는 것을 고려하자는 제안이다. 이는 특히 ‘인공지능에서의 선의 개념의 무용성’을 주장한 근거 중 ‘이율 배반 현상의 초래’를 막을 수 있는 대안이 될 거라는 게 오 교수의 설명이다. 그는 “특정한 목적의 인공지능을 설계함에 있어 그 의사결정에 필요할 것으로 예견되는 주변정황을 적절하게 입력받을 수 있도록 사전에 고려하지 않은 데서 주의의무 위반을 발견할 수 있다면, 제한된 입력만 함으로써 선의로 보호받을 수 있는 기회를 노리는 의도된 회피를 저지할 수 있는 효과가 있다”고 말했다.

■ “스마트 컨트랙트 자체와 블록체인 위에 구현된 스마트 컨트랙트는 법적 쟁점 달라”

한국외대 신지혜 교수는 “스마트 컨트랙트에 관한 민사법적 쟁점-DAO 사건을 중심으로-”를 발제했다. DAO 사건은 이더리움의 창시자인 비탈릭 부테린을 비롯한 핵심 인물들이 2016년 결성한 탈중앙화 조직 ‘DAO(The Decentralized Autonomous Organization)’와 관련된 것으로, 신 교수는 “이 사건으로 인하여 이용자들은 스마트 컨트랙트를 둘러싼 신뢰에 손상을 입었고, 스마트 컨트랙트 기술이 아직 미성숙하고 복잡한 내용을 실행함에 있어서는 부족하다는 점이 강조되었다”고 평가했다.

다만 신 교수는 “그럼에도 불구하고 스마트 컨트랙트라는 발상 자체는 거래계에서 앞으로도 이용될 가능성이 높은데, 이 때 기존의 법체계를 통한 통제를 포기해서는 안 되고, 약자의 보호나 사적자치의 존중 등 기본원리가 스마트 컨트랙트에도 관철될 수 있도록 장치를 마련하는 노력이 이루어져야 할 것”이라고 말했다.

한편 신 교수는 “이더리움(Ethereum)이 이더리움 플랫폼 위에 스마트 컨트랙트를 구현할 것을 제안하고 적극적으로 권장하면서 마치 블록체인과 스마트 컨트랙트가 서로 필수불가결인 것처럼 오해되고 있으나 양자는 엄연히 서로 다른 기술개념일 뿐 아니라, 스마트 컨트랙트가 반드시 블록체인 플랫폼 위에서만 구현될 수 있거나 구현되어야 하는 것도 전혀 아니”라면서 “이더리움 위에 구현되는 스마트 컨트랙트는 이 개념을 처음 창시한 닉 사보(Nick Szabo)가 제시하였던 스마트 컨트랙트와 전혀 다른 것”이라고 설명했다. 따라서 블록체인 부분을 제외하고 스마트 컨트랙트 고유의 기능에 집중하여 보는 경우와, 블록체인 위에 구현된 스마트 컨트랙트에 관하여 보는 경우는 서로 법적 쟁점이 다르다는 것이다.

신 교수에 따르면, 닉 사보가 제안한 스마트 컨트랙트의 정의에 기초할 때 스마트 컨트랙트란 ‘어떤 약속을 디지털 형식으로 미리 정하고, 그 약속에 정해진 사건이 발생하면 그에 따른 결과가 자동적으로 이행, 도출되도록 정하여진 컴퓨터 프로그램’을 의미한다. 반면 스스로를 ‘분산화된 어플리케이션을 위한 국제적인 오픈 소스 플랫폼(global, open-source platform for decentralized applications)’으로 소개하는 이더리움에서의 스마트 컨트랙트는 그보다 넓게, 이더리움 위에 구현되는 분산어플리케이션인 디앱(Decentralized Application, ‘DApps’, ‘댑스’라고도 한다)을 의미한다. 디앱은 그 내용을 이루는 스마트 컨트랙트와, 스마트 컨트랙트의 내용을 사용자가 눈으로 보고 실제로 이용할 수 있도록 하는 사용자 인터페이스로 구성된다.

■ 프로그램 코드에 존재하는 버그, 하자있는 의사표시에 해당할까

신 교수는 “DAO 사건은 스마트 컨트랙트에서 코드에 오류가 있을 경우에 관한 매우 중요한 사례”라고 소개하면서, “프로그램 코드상 버그가 존재하는 경우 하자있는 의사표시에 해당할 수 있는지, 만약 하자있는 의사표시라면 무효가 되거나 취소할 수 있는 것인지, 무효나 취소 가능성은 누가 판단해야 하는지, 손해가 발생하였다면 누가 얼마만큼 책임을 부담하여야 하는지 등 스마트 컨트랙트를 논함에 있어 반드시 상세히 분석될 필요가 있는 사례”라고 했다. 나아가 “DAO 사건은 일반 서버 위에 구현된 스마트 컨트랙트와 달리, 블록체인 위에 구현된 스마트 컨트랙트라는 점에서 보다 복잡한 문제를 야기할 수 있다”고 덧붙였다.

DAO 사건의 개요를 살펴보면, 비탈릭 부테린 등이 결성한 DAO는 이더리움 소지자들을 상대로 투자를 유치하면서, 그 내용은 모두 이더리움 위에 스마트 컨트랙트 형태로 코딩했다. 이 프로젝트에서 당시 전체 이더리움 발행량의 14%에 이르는 막대한 양(당시 시세로 약 1650억 원)이 모금됐다.

그런데 DAO 프로그램은 투자자가 환불을 요청하면 환불과 동시에 환불집행 완료표시 명령을 처리하여 거래를 종료시키지 않고, 먼저 환불을 마친 후에 환불집행 완료표시 명령을 처리하도록 하여 환불과 환불집행 완료 및 거래종료 사이에 시간적 간격이 생기는 문제가 있었다. 따라서 환불집행 완료표시가 처리되기 전에 다시 환불요청을 하면, 반복적으로 환불이 이루어지게 됐다.

2016년 6월 17일, 이 부분을 악용한 공격자(attacker)가 DAO에 환불을 반복적으로 요청했고, 그 결과 전체 모금액의 28%에 이르는 360만 이더(당시 시세로 약 600억 원)가 유출될 위기에 처했다. 다행히 당시 프로그램상 펀딩에 관여된 모든 계정은 28일 동안 인출할 수 없도록 되어 있어 피해금액은 공격자의 계정에 그대로 묶여 있었고, 그 사이 도난당한 투자금을 어떻게 처리할 것인지에 관해 이더리움 내에 논쟁이 발생했다.

비탈릭 부테린 등 이더리움의 실질 운영자 측은, “환불금이 기록된 블록을 삭제하고 이더리움 프로그램 자체를 변경하여 공격자에게 도난당한 이더리움을 되돌리자”고 주장했다. 이에 대하여는, “한 번 기록된 것이 결코 삭제되거나 변경될 수 없다는 블록체인의 본질에 반하는 것이고, 더욱이 이러한 인위적 개입을 할 경우 DAO의 설립 취지에 위반된다”며 “모든 손실을 감수하고 기록을 변경하지 말아야 한다”는 반대입장이 존재했다.

그러나 비탈릭 부테린 측은 시스템 전체 채굴력의 90%가 넘는 채굴업자 집단의 지지를 얻어, 도난당한 이더리움이 기록된 블록을 삭제하고 도난당한 이더리움을 되찾는 것으로 결정했다. 그 결과 이더리움 블록체인이 2개로 갈라지게 되었는데, 즉 비탈릭 부테린 측의 결정에 따라 환불이 기록된 블록을 삭제하고 거기서부터 새로운 블록체인을 연결해 나가는 블록체인(이더리움)과, 공격자의 공격까지 포함하여 환불된 기록을 그대로 두고 계속해서 연결된 블록체인(이더리움 클래식)으로 나뉘었다. 신 교수는 “이러한 경우를 ‘하드포크(Hard Fork)’”라고 설명했다.

■ “분쟁 여지 파악하고 법리 적용 등 장치 마련해 두어야”

신 교수는 DAO 사건의 쟁점을 ‘스마트 컨트랙트 고유의 쟁점’과 ‘블록체인 기반 스마트 컨트랙트의 문제와 한계점’으로 나누어 살펴봤다.

스마트 컨트랙트 고유 쟁점으로는 먼저 ‘①당사자의 의사와 코딩 내용 사이 불일치 문제’가 있다. 스마트계약은 그 자체가 컴퓨터 코드여서 오류와 버그(flaws and bugs)의 가능성이 상존하므로, 버그가 발생하여 당사자의 의사와 달리 계약이 체결되거나 조건과 달리 이행 또는 불이행된 경우, 그에 관한 법적 효과를 어떻게 평가하여야 할 것인지가 문제라는 것이다.

신 교수는 “스마트 컨트랙트로 작성된 것이라고 하더라도, 과연 어떤 것이 유효한 거래라고 할 것인지는 코드 그 자체로 판단될 수는 없고, 여전히 외부적 요인에 의하여 판단되어야 한다”면서 “특히 DAO 사건은, 스마트 컨트랙트의 문언에는 합치하지만 당초 당사자들이 원하던 취지에는 어긋나는 결과가 발생한 경우로서, 공격자들은 DAO의 스마트 컨트랙트의 문구를 건드리거나 변경하지 않고 단지 DAO 스마트 컨트랙트 내에 이미 존재하고 있던 코드와 상호작용하였을 뿐”이라고 설명했다. 이어 “당초 스마트 컨트랙트가 의도하였던 가능 범위를 벗어난 무한 환불이라는 결과에 대해 만약 법원이 개입한다면 어떠한 논리에 따라 어떠한 결론을 내릴 것인지는 미지수”라는 의견을 보였다.

두 번째는 ‘②잘못된 급부 제공이 된 경우 처리 방법의 문제’다. 스마트 컨트랙트를 통한 급부의 제공이 법적으로 부당한 경우가 발생할 수 있는 것이다. 신 교수는 “마치 불명확하게 작성된 계약서로부터 분쟁이 발생하게 되는 것처럼, 불명확한 내용으로 작성된 스마트 컨트랙트 코드가 실행될 경우에는 똑같은 분쟁의 여지가 있게 된다”고 했다. 그는 “일단 실행이 개시되면 기본적으로 그대로 집행이 완료될 때까지 작동한다는 스마트 컨트랙트의 특성상, 어떠한 방식으로 이러한 법리를 적용하여 영향을 줄 수 있을지에 관하여는 논의가 필요하다”면서 “DAO 사건을 막기 위해 미리 스마트 컨트랙트 내에 버그나 해킹이 발생했을 때 ‘긴급정지(Emergency Stops)’가 가능한 코드를 심어두는 것을 생각해 볼 수 있지만, 어떤 버그나 해킹이 있을지 미리 아는 것은 매우 곤란하므로, 어떤 유형의, 어느 정도의 버그나 해킹이 있을 때 긴급 정지되도록 설계할지가 문제”라고 말했다.

블록체인 기반 스마트 컨트랙트의 한계와 문제점으로는 ①탈중앙화로 인한 책임 소재 문제, ②실질적 중앙화로 인한 개입의 문제, ③불가역성의 문제, ④한정된 용량과 느린 속도를 회피하기 위해 변형된 형태의 블록체인에서의 리스크 문제가 있다는 게 신 교수의 설명이다.

신 교수는 “DAO 사건에서는 부테린을 비롯한 실질적인 이더리움 운영자 집단의 의사결정에 의하여 하드포크라는 방법으로 문제가 해결되었는데, 만약 그런 의사결정을 내릴 수 있는 주체가 없거나 누구인지 알 수 없다면 과연 어떤 방식으로 해결되어야 하느냐의 문제가 있다”고 했다. 또한 “아무리 코드화되고 컴퓨터 프로그래밍화된 형태라고 하더라도 인간의 개입이 필요하게 된다는 것을 보여주는 사례라고 평가되는 DAO 사건은, 블록체인의 실질적 운영자라고 하더라도 스마트 컨트랙트의 내용에 개입해 이를 좌지우지 할 권한까지 부여받은 것인지, 또한 스마트 컨트랙트의 당사자가 아닌 블록체인 운영자들의 의사에 의해 스마트 컨트랙트의 운명이 달라질 수 있는 것인지의 문제를 부각시켰다”는 게 그의 말이다.

또한 이 사건과 같이 블록체인 기반 스마트 컨트랙트의 경우 한번 코드화 되고 실행개시 되면 중간에 당사자가 멈추려고 하더라도 끝까지 이행될 수밖에 없고, 이 점은 장점이 될 수도 있지만 코드의 오류가 있는 경우나 사회환경에 변화가 생긴 경우에는 단점으로 작용할 수밖에 없다. 이에 대해 신 교수는 “인간의 해석이나 개입의 여지를 처음부터 인정한다면, 여러 견해에서 들고 있는 스마트 컨트랙트나 블록체인의 장점이 훼손되며, 오히려 이것은 스마트 컨트랙트나 블록체인에 대한 엄청난 기대가 환상에 불과하다는 것을 방증할 뿐”이라고 했다.

한편 블록체인은 용량이 제한되고 확정되는데 상당한 시간을 소요하는 기술이다. 신 교수에 따르면 비트코인의 경우 블록 1개당 기재될 수 있는 프로그램 용량은 1mb에 불과하여 복잡한 내용의 스마트 컨트랙트를 블록 1개에 온전히 담기가 쉽지 않고, 긴 실행시간을 필요로 하는 스마트 컨트랙트는 블록체인이 지원하지 못한다. 암호화폐의 송금과 같은 단순한 트랜잭션 수준을 넘는 복잡한 대량 연산이 필요한 트랜잭션 실행은 사실상 어렵다는 것이다.

신 교수는 “이더리움은 이를 극복하기 위해 이더리움에 기록되어야 할 거래정보를 ‘샤딩(sharding) 기법’을 통해 다른 곳에 저장하면서, 그 거래정보에 접근할 수 있는 주소만을 이더리움에 기록하는 방법으로 용량을 대폭 늘렸다”면서, “블록체인은 블록체인 위의 모든 정보를 모든 참여자들이 복제하여 공유하는 방법으로 보안성과 위조불가능성이라는 성질을 획득하게 되는데, 이더리움처럼 정작 중요한 정보는 블록체인 밖에 빼 둔다면 결국 블록체인의 장점이라는 보안성과 위조불가능성이 무용지물인 것”이라고 주장했다. 또한 “스마트 컨트랙트가 블록체인 외의 공간에 작성된다면, 언제든지 해커의 공격 등을 통해서 그 내용이 위변조될 수 있으며, 보안성이 현저히 떨어지게 될 것”이라면서 “그와 같이 위변조되는 경우에는 누가 어떤 책임을 부담하게 되는지, 당사자들은 이를 어떤 방법으로 원래 내용으로 되돌릴 수 있는지의 문제가 있다”고 우려했다.