[작성자:] [email protected]

최근 계속되는 전쟁으로 전세계가 대립과 불안에 휩싸여 있습니다. 인공지능 시대가 도래하면서 전쟁에 사용되는 인공지능에 대한 우려도 커지고 있습니다. 인공지능을 기반으로 자동으로 표적을 식별하는 시스템은 인간의 최종 의사결정이 단지 기계적 승인에 그칠지도 수 있다는 걱정이 들게 합니다. 인공지능 모델 개발사인 엔트로픽이 자사 인공지능 모델의 군사적 이용을 반대하며 미국 국방부와 충돌한 사건은 현실이 되고 있는 자율살상무기체계(LAWS, Lethal Autonomous Weapons Systems)의 현주소를 보여주고 있습니다.

인공지능 관련 업무를 하는 저도 이런 상황에 대한 확인과 규제가 필요하다는 생각을 하던 차에 얼마 전 개최된 국회 정책 세미나에 참석하게 됐습니다. 이번 세미나에는 제가 소속되어 있는 대한변호사협회에서 토론자로 저를 추천해서 인공지능과 인격권, 복지국가를 주제로 토론을 하게 됐습니다. 아마도 대한변호사협회가 좌장을 맡으신 이우영 교수님이 회장으로 계신 한국입법학회, 국회의원실과 함께 개최한 것으로 보입니다.

기조발제는 대법관을 마치고 다시 학교로 돌아오신 김재형 교수님이 맡으셨는데, 민법에 조예가 깊으셔서 인격권이 어떻게 민사법적으로 발현되는지를 중심으로 이루어졌고, 주제발표에서는 인공지능에 기반한 복지행정이 가져다 줄 효용과 함께 국민 개인의 데이터가 복지수급을 위해 과도하게 제공되는 것을 막을 제어 장치로서 인격권을 설정하는 것으로 서울대 법학연구소 연구원인 정란 박사님의 견해가 제시되었습니다.

저도 원래 대학원에서 헌법을 전공하던 입장이었기에 인격권이 도출되는 헌법 10조의 인간의 존엄과 가치를 바탕으로 인공지능 시대에 어떤 방식으로 인격권이 발현될 수 있는지, 또한 인공지능 활용으로 인격권이 형해화되지 않도록 어떻게 규율을 할지를 중심으로 토론문을 작성했습니다. 물론, 인공지능 관련 실무를 하면서 느낀 행정법적 절차에서 발생할 실질적인 장애에 대한 내용 역시 함께 논의했습니다.

이번 세미나에서 인상적이었던 것은 김재형 교수님의 기조 발제에 제 학위 논문 주제이자, 이후 출간한 저서의 주된 내용인 인공지능의 인격과 책임 문제에 대한 내용이 포함되어 있었던 것입니다. 아직도 이런 문제가 현실화되려면 더 많은 시간이 흘러야 할 것이나, 제가 관심을 가진 내용에 대해 우연히 참석한 세미나에서 듣게 되어 더욱 반가웠습니다. 앞으로도 우리 삶에 많은 영향을 미칠 인공지능 관련 논의가 풍부하게 이뤄지면 좋겠습니다.

조회수: 7

올해 초 인공지능기본법, 원래 정식 명칭은 “인공지능 발전과 신뢰 기반 조성 등에 관한 기본법”이 시행됐습니다. 유럽연합처럼 인공지능 관련 포괄적인 내용을 담은 기본법을 제정해 시행한 것인데, 막상 인공지능기본법이 시행되자마자 여기저기 손을 볼 곳이 많이 생겼습니다. 이런 요구를 반영해 주무부처인 과학기술정보통신부도 개정이 필요한 내용을 정리해 대응팀을 구성했습니다.

제가 인공지능을 기반으로 문서를 작성하는 사업의 자문을 하면서 실무적으로 느끼는 고민들이 다양합니다. 해당 도메인에 특화된 데이터부터 지식재산권, 개인정보보호에 이어 이제 인공지능기본법이 시행되면서 안전성, 신뢰성을 확보하기 위한 투명성 의무까지 정보 보안과 규제 대응 업무에 추가되었습니다. 하나의 사업 자문을 하면서 사실상 PM 역할을 하다 보니 덕분에 여러 경험도 하고, 걱정도 많이 하게 됩니다.

처음 하는 업무는 한편으로는 긴장되지만, 다른 한편으로는 새로운 장애물을 어떻게 극복할지 가슴이 두근거리며 신이 나기도 합니다. 호기심이 많은 제 천성인가 싶기도 합니다. 앞으로도 다양한 영역에서 새로운 미래에 도전해보고 싶습니다.

[이슈&인사이트] 인공지능(AI) 기본법의 미비점과 세부적 보완 필요성

유럽연합에 이어 포괄적인 인공지능 기본법을 제정하려는 우리정부는 한편으로는 막 새싹을 틔우고 있는 산업에 대한 과도한 규제 우려와 막강한 능력을 갖춘 인공지능의 고삐가 풀릴까 경계..

조회수: 7

최근 생성형 인공지능을 도입한 기업들이 신입 채용을 중단하거나 해고를 했다는 기사나 피지컬 인공지능인 로봇을 생산현장에 투입하는 것에 반발하는 보도들이 이어지면서 인공지능이 그렇지 않아도 높아지는 실업률을 더욱 가파르게 상승시키는 것이 아니냐는 우려가 많습니다.

인공지능이 사회와 경제 전반에 확산되면서 인공지능 도입으로 인해 생산성이 증가되고 수혜를 보는 직업군도 생기지만, 고용이 감소되고 실업이 증가하는 직업군도 생기게 될 것입니다. 현재 상황에서는 어떤 직업군도 이러한 변화에서 자유롭지 못할 것으로 보입니다.

물론, 과거에도 그랬던 것처럼 인공지능으로 대체되어 발생할 실업을 새로운 직업이 생겨 고용이 창출됨으로써 보완하게 되겠지만 시간적 격차와 개개인간 편차는 피할 수 없을 겁니다.

결국 그러한 사회적 충격을 완화할 사회 안전망을 준비하는 정부의 역할이 중요합니다. 준비하는 시간이 늦춰질수록 그런 충격이 커질 것이기에 미리 정부가 체계적인 계획을 세우는 것이 필요합니다.

이번에는 그런 정부의 역할을 중심으로 칼럼을 써봤습니다. 현명한 정부의 대응을 기대합니다.

[이슈&인사이트] AI로 인한 사회적 충격과 정부의 역할

무연고로 사망하는 분들에 대한 장례를 지원해 온 한 단체에서 지원했던 무연고 사망자에 대해 정리한 자료를 보면 놀랍게도 2020년대에 들어서도 가족 등 사회적 관계가 단절되어 무연..

조회수: 7

며칠 전 오랜만에 광명시청을 방문했습니다. 제가 부위원장으로 있는 경기도 공동주택관리 감사결과 심의위원회를 통해 광명시청에서 개최되는 회의 참석을 요청받았기 때문입니다.

회의 주제는 신축 아파트와 구축 아파트 간 갈등 완화를 위한 제도적, 문화적 방안 마련이었는데, 제가 맡은 발표 주제의 핵심은 공공보행통로에 대한 법적 근거와 실효성 확보 방법이었습니다.

제가 기존에 서울시나 안양시에서 도시정비사업 관련 회의나 자문를 할 때도 종종 설치된 공공보행통로 폐쇄와 관련된 내용이 나올 때가 있어 관심을 갖고 있던 주제였습니다. 실제로 기사를 찾아보면 전국적으로 아파트 단지를 통과하는 공공보행통로를 어떻게 확보하고 유지할지와 관련해 많은 분쟁이 발생하고 있습니다.

[브레이크뉴스] 광명시, 신·구축 아파트 상생 해법 모색

[브레이크뉴스경기남부=광명 이현준기자] 광명시는 재개발·재건축 확대에 따른 공동주택 간 갈등을 완화하고 상생 방안을 마련하기 위한 전문가 논의를 진행했다. 회의에서는 먼저 광명시 공동주택 현황 분석 결과를 공유했다. 분석에 따르면 신축과 구축 아파트 간 주민공동시설 구성과 생활 인프라 여건에 차이가 나타나고 있으며, 공공보행통로 이용과 공동시설 운영을 둘

전국적으로 공동주택 비율이 점점 증가하고 있기 때문에 아마도 이런 문제는 앞으로 더욱 증가할 것으로 보입니다. 제도나 문화가 한 번의 계기로 변화되기는 어렵지만, 변화를 위한 노력을 경주해야 하는 것이 행정의 역할이 아닌가 생각합니다.

회의를 마치고 청사를 나오는데 변화된 광명시청의 운동장이 보였습니다. 제가 처음 변호사 개업을 했을 때 몇 년 정도 광명시청에서 시민들을 상대로 법률상담을 한 적이 있는데 지하를 주차장으로 만들고 그 주변 공간도 사무실로 활용해서 그 당시 오갈 때 봤던 것보다 훨씬 깔끔하게 단장이 되어 있었습니다.

벌써 10년 가까이 지난 시기인데, 시간이 흐르면서 저도 새로운 모습이 되는 것처럼 어디나 변화가 찾아온다는 것을 다시 한번 느끼게 됐습니다.

조회수: 19

올해 이동통신사 3사를 비롯해 온라인 시장을 점령하고 있는 쿠팡에서도 개인정보가 대량으로 유출됐습니다. 오늘은 신한카드에서도 개인정보가 유출됐다는 기사가 나왔습니다.

이런 개인정보 유출은 결국 기업, 정부 등 모든 조직에서 정보 보안이 경시된 결과입니다. 어떤 식으로 이러한 문제를 해결할 수 있을지 근본적으로 살펴봐야 할 때인 것 같습니다.

이번 칼럼에서는 정보 보안을 강화해 개인정보를 보호하기 위한 제도와 예산 확보 필요성에 대한 기고를 했습니다. 끊임 없는 정보 유출로 제 정보도 많이 유출됐는지, 스팸 전화와 이메일도 끊임 없이 오고 있습니다.

향후 인공지능을 활용한 해킹과 피싱이 예상되는데, 인공지능을 활용한 보안 시스템 구축도 확산될 겁니다. 앞으로 예산과 제도 개선으로 개인정보를 포함한 정보 보안에 더 많은 투자가 이루어지길 희망합니다.

[이슈&인사이트] 정보 보안에 대한 발상 전환

올해가 저물어 가던 11월 말 온라인 시장 지배력을 키우던 쿠팡에서 3,370만 명에 이르는 이용자들의 개인정보가 유출되었다는 보도들이 나오기 시작했다. 미성년자와 온라인 쇼핑몰…

조회수: 4

얼마 전 부산에 다녀왔습니다. 몇 년 전 부산에 업무차 갔다가 들렀던 고등학교 시절 절친했던 친구의 한의원을 다시 찾기 위해서였습니다. 제가 도착했을 때는 이미 제수씨가 문을 열고, 짐을 정리하고 있었습니다.

친구가 없는 조용한 공간에 들어서는데, 환하게 웃으며 저를 맞아주었던 친구의 얼굴이 떠올랐습니다. 장례식장 사진에서도 그렇게 밝게 웃고 있던 친구가 일했던 곳을 제수씨와 함께 정리하며 많은 생각이 들었습니다.

제수씨가 친구의 한의원을 정리하는 것을 돕기 위해 부산에 내려갔던 것인데, 다행히 법적인 문제까지 잘 마무리되었습니다. 아직 다른 법적 부분들까지 끝내려면 좀 더 시간이 필요하지만 이제 혼자서 자녀들까지 챙기며 헤쳐가야 할 제수씨에게 조금이라도 도움이 되어서 다행입니다.

몇 년 전 친했던 후배가 세상을 떠난 것도 그렇고, 친구도 그렇게 떠나고 나니 제가 세상에 남길 것은 무엇일까 하는 고민도 되었습니다.

제가 아내와 함께 여행을 갔을 때 주말에 시간을 내서 부산 여행까지 안내해줬던 친구… 복길아 편히 쉬어.

조회수: 44

LG CNS, 유엔난민기구에 AI법률지원 서비스 기부 | 중앙일보

LG CNS는 23일 유엔난민기구와 ‘인공지능(AI) 기술을 활용한 난민소송 지원’ 업무 협약을 맺고, 난민 법률지원 프로그램을 구축해 기부한다고 밝혔다. LG CNS는 난민들의 행정소송 진행 시 변호사가 사용할 수 있는 소장 초안 작성 프로그램을 AI를 활용해 개발한다. 필리포 그란디 유엔난민기구 최고대표는 ”이번 협약은 AI 기술이 난민의 삶을 개선하는 데 실질적으로 기여할 수 있음을 보여주는 중요한 사례”라며 ”언어의 장벽 등 다양한 이유로 법률 지원을 받기 어려운 난민들이 필요한 도움을 받을 수 있기를 기대한다”고 말했다.

제가 프로보노로 난민신청자를 위한 법률 조력을 한 것도 이제 10년이 넘는 것 같습니다. 관련 업무를 하면서 항상 느끼는 것이지만 공익 전담 변호사로 난민들을 법률 지원하고 있는 분들의 과중한 부담이 우려됐습니다. 또한, 개인적으로 난민들을 조력해 난민 신청 절차를 진행하고 있는 변호사들에 대한 지원 시스템도 더욱 체계화하고 싶었습니다.

최근 기술이 발전하면서 인공지능(AI)에 기대할 수 있는 수준도 급격히 높아졌습니다. 제가 인공지능 관련 논문과 책을 쓴 후에 법제도나 정책에 대한 자문이나, 인공지능 개발 및 서비스 기업들에 대한 자문을 하게 되면서 인공지능을 기반으로 난민에 대한 법률 조력에 소요되는 노력과 시간을 줄여 보다 효율적으로 난민들에 대한 지원 시스템을 만들면 좋겠다는 생각을 하게 됐습니다.

그러던 와중에 유엔난민기구에 법률담당관으로 있었던 변호사님이 저와 논의를 한 후 유엔난민기구 내부 공모 사업에 한국 내 난민신청자들에 대한 미약한 법률 조력 시스템을 개선하기 위해 인공지능을 활용한 프로젝트를 제안했습니다. 다행히 저희의 바람이 닿았는지 유엔난민기구에서 저희 제안을 채택해 프로젝트를 진행하게 되었습니다.

하지만 제가 기존에 수행했던 국내 정부 관련 프로젝트처럼 유엔난민기구도 전세계에 걸친 거대한 조직이다 보니 내부 의사결정에 수많은 부서들의 의견을 듣고 조율을 해야 했고, 원래 계획보다 진행이 매우 느렸습니다. 더불어 제가 섭외한 프로젝트 파트너인 LG CNS 역시 조직이 큰 대기업이다 보니 마찬가지로 거쳐야 할 의사결정 단계가 참 많았습니다.

결국 유엔난민기구와 프로젝트 자문단의 계약 자체도 오래 걸렸지만 그 이후 데이터 수집이나 프로젝트를 위한 인공지능 모델 개발에는 그 기간보다 몇 배의 시간이 소요됐습니다. 그렇게 계속 지체되던 프로젝트는 이번 달 유엔난민기구 대표님의 방한을 계기로 급물살을 타게 됐습니다.

프로젝트 파트너인 LG CNS도 유엔난민기구 대표님의 방문에 맞춰 빠르게 파트너 협약을 준비했고, 무사히 협약식을 마쳤습니다. 그 이후 자문팀, LG CNS, 유엔난민기구 본부 및 한국지부가 협업해서 인공지능 모델을 개발하기 위한 프로젝트의 속도를 높이고 있습니다.

이번 인공지능 모델 POC 프로젝트가 잘 진행되서 변호사들에 대한 난민 조력 부담이 획기적으로 낮아졌으면 좋겠습니다. 저와 함께 이 프로젝트를 처음 시작했던 유엔난민기구 소속 변호사님이 아쉽게도 프로젝트 완성을 보지 못하고 이직을 했지만 다른 분들과 잘 협업해서 앞으로 실용화 단계까지 인공지능 기반 시스템을 잘 완성해보려고 합니다.

조회수: 44

얼마 전 대한변호사협회로부터 난민법률지원변호사단 단장 위촉장을 받았습니다. 제가 대한변협에서 이주민과 난민 관련 법률지원 활동을 한지도 10년이 조금 넘었는데, 난민이주외국인특별위원회의 부위원장을 하면서 난민법률지원변호사단 단장을 겸직한 것은 3번째로 총 5년 정도 됐습니다.

저는 대한변협에서 난민과 이주외국인에 대한 활동을 하면서 배운 것들이 많습니다. 우리는 추상적으로 생각하는 어떤 주제에 대해 쉽게 단정지어 판단하는 경우가 많습니다. 자신의 주변에서 실제 존재하는 일들이 아닌 경우 특히 그런 일이 많은데, 외국인이나 난민에 대한 인식도 마찬가지로 보입니다.

하지만 건너건너 들은 얘기로 정확한 사실관계를 구체적으로 알지 못한 채 판단하는 것은 합리적인 결론에 이르지 못할 위험이 있습니다. 언론기사로 보고 듣는 내용이나, 경우에 따라서는 제3자의 가치판단이 개입된 의견이 가미된 사실을 순수한 사실 자체라고 받아들이게 되면 그런 위험이 현실화됩니다.

최근 세계적으로 난민이나 외국인에 대한 혐오 정서가 퍼지고 있는 것 같습니다. 우리 사회라고 이런 흐름에서 벗어나 있지는 못합니다. 인간은 유전적으로 자신과 다른 존재에 대한 두려움과 불편함을 가지고 있다고 하니 무조건 인간의 이성에 호소하기도 어렵습니다. 다만, 우리가 허기를 채워야 한다는 본능에 따라 독이 든 식물이나 남의 음식을 마구 먹을 수는 없는 것처럼 지향해야 할 방향은 잘 잡아야 할 것입니다.

실제 이주외국인과 난민 사건을 다루면서 직접 외국인과 난민을 대면하고, 증거자료들을 보면 볼수록 점차 제가 추상적으로 갖고 있던 모호하고 불분명한 추측들은 줄어들고, 보다 명확한 사실들만 남게 되었습니다. 20대 시절 라식 수술 후 시간이 갈수록 주변 사물이 명확히 보이는 것과 같은 경험이었습니다.

물론 제가 경험한 것들도 어쩌면 전체 사실의 일부일지도 모릅니다. 하지만 거짓된 허상의 일부를 믿는 것보다는 사실의 일부라도 보는 것이 더 낫지 않을까 하는 생각을 해봅니다. 앞으로 더 많은 사람들이 사실을 찾고, 보는 경험을 하게 되길 빕니다.

조회수: 43

사법시험을 준비하면서 형법을 공부할 때 가장 기본인 내용 중 하나가 형사적으로 의율할 수 있는 행위의 구성요건해당성, 위법성 조각, 책임 조각의 문제입니다. 이 중 정당방위, 긴급피난, 정당행위 등 위법성 조각 항목에서 흥미로운 내용들이 많습니다. 제가 대학원에서 인공지능 관련 논문을 쓸 때 법철학과 관련해 고민했던 트롤리 딜레마도 위법성 조각 관련 내용이라 조금은 철학적인 이론적인 바탕이 필요한 부분이기도 합니다.

이런 위법성 조각 사유 중 대표적인 것이 정당방위입니다. 형법 제21조가 규정하고 있는 정당방위는 ‘현재의 부당한 침해로부터 자기 또는 타인의 법익(法益)을 방위하기 위하여 한 행위는 상당한 이유가 있는 경우에는 벌하지 아니한다.’고 말하고 있습니다. 하지만 문제는 우리 법원이 이 정당방위를 너무 소극적으로 인정하고 있다는 것입니다.

20대에 처음 형법을 공부하면서 이해할 수 없었던 판결 중 하나가 정당방위의 요건을 과도하게 엄격하게 적용하고 있는 판례의 태도였습니다. 한창 혈기가 왕성했던 시기라 더욱 그랬는지 모르지만 상대방이 먼저 폭행을 하는데도 이를 피하거나 소극적으로 막기만 해야지 정당방위를 인정하고, 조금이라도 상대방에게 유형력을 행사하는 기미만 보이면 일단 쌍방폭행으로 처벌하는 것이 부당하게 느껴졌습니다. 경우에 따라서는 피해자인 제3자를 돕기 위해 나서는 경우도 정당방위가 인정되지 않기도 해서 더욱 그랬습니다.

이와 관련해 특히 이상했던 판례가 있었습니다. 이번에 재심결과 대법원 파기 환송을 거쳐 부산지법에서 무죄가 인정된 강간을 피하고자 강간범의 혀를 깨물었다가 유죄가 인정된 어처구니 없는 사건이었습니다. 제가 판결문을 읽었을 때 이미 40년이 넘었던 사건이니 벌써 우리 사회 법현실과 많이 차이가 나는 사건이었던 것입니다. 그런데도 그 판결이 바뀌는데 다시 20년이 걸렸습니다. 그 60년이 넘는 오랜 시간 자신의 성명까지 알려졌던 피해자의 억울함이 과연 이 재심 판결 하나로 풀어질 수 있을지 모르겠습니다.

재심 판결을 기사로 접하면서 잘못된 판결이라 마침내 바로잡혔다는 것을 확인하는 기쁜 순간이면서 동시에 법조계에 있는 사람으로서 하나의 사건이 갖는 무게감을 다시 한번 느끼는 순간이었습니다.

‘성폭행하려던 남성 혀 깨물어 징역형’ 최말자 씨, 61년 만에 재심서 무죄 선고 – BBC News 코리아

수십 년 전 최말자 씨는 성폭행을 시도하려는 남성의 혀를 약 1.5cm 정도 물어뜯은 후에야 겨우 사건 현장에서 벗어날 수 있었다.

조회수: 12