지난 주에는 한국인공지능법학회에서 주관한 ‘책임있는 AI를 위한 법정책 과제와 전망’이라는 주제의 학회를 다녀왔습니다. 제가 예전에 가입한 학회인데, 총회를 겸해 세미나 또는 컨퍼런스를 개최하고는 합니다. 학회 행사에 참석했다가 대학원에서 논문을 준비할 때 참고할 자료를 발견하기도 했었고, 이후에도 종종 실무를 하면서 도움이 될 만한 행사 개최 공지를 이메일로 보내주기도 합니다. 이번에도 제가 작성하고 있는 보고서에서 다루고 있는 인공지능과 관련한 법적 책임 문제에 대해 고민을 하고 있었는데 마침 컨퍼런스 공지가 있어 참석하게 됐습니다.
기조 연설을 과학기술정보통신부 차관이 했는데, 현재 추진 중인 정부의 인공지능 정책을 일목요연하게 보여줬습니다. 발표 내용 중 먼저 관심이 간 것은 인공지능 윤리기준 자율점검표나 인공지능 개발 안내서 등 가이드라인을 보다 발전시켜 확대한다는 것이었습니다. 제가 자문을 하는 인공지능 관련 기업들을 보면 실제 현장에서 어떤 기준으로 개발을 해야 하는지, 즉 법적으로 문제가 되지 않으려면 어떤 최소한의 윤리나 신뢰성을 충족해야 하는지 많은 의문점을 갖고 있습니다. 이런 현장의 물음표에 대해 적어도 화살표는 제시해주지 않을까 하는 기대 때문입니다.
다음으로 민간의 자율적인 검, 인증 운영과 신뢰성 기술 확보입니다. 미국 바이든 대통령이 서명한 행정명령에서 민간 자율을 강조하면서도 강력한 인공지능 시스템의 안전 테스트 결과를 정부에 공유하도록 한 것이나, 국립표준기술원(NIST)이 시스템 취약점에 대한 엄격한 표준을 설정하도록 한 것과 궤를 같이 하고 있는 것 같습니다. 현실적으로 너무 엄격한 기준은 현장에서 준수할 수 없어 규범력이 낮아지고, 인공지능 산업 발전도 저해한다는 점에서 규제 당국이 많은 고민을 하고 있는 것 같습니다.
최근 시행된 미국의 행정명령과 유사한 내용인 인공지능 생성물에 워터마크를 도입하는 방안에도 눈길이 갔습니다. 발표 내용에는 기존에 관련 업체들과 생성물임을 확인할 수 있도록 워터마크를 표시하도록 하는 회의를 열었다고 하는데, 아쉽게도 제가 관심을 가졌던 텍스트에 대한 워터마크를 어떻게 표시할 것인지에 대해서는 명확하게 방법을 확정하지는 못한 것 같습니다. 미국에서도 워터마크를 삽입하기 쉬운 이미지나 영상에 대해서는 별 이론이 없지만, 텍스트에 대해서는 논의가 진행 중인 것으로 아는데, 이에 대해서도 향후 여러 측면에서 고려가 필요해 보입니다.

아주경제
이어서 마이크로소프트의 아시아 법무 총괄 대표의 인공지능의 책임성에 대해 발표가 있었고, 국내외 업체 대표와 교수들의 발표가 있었습니다. 그 중 법률 인공지능 업체 대표의 발표도 인상적이었는데, 국내에서 법적 이슈에 대해 질문을 하면 생성형 인공지능을 활용해 이에 대해 답변을 해주는 서비스를 하고 있는 곳이었습니다. 기존 리걸 테크 업체들과 달리 입법이나 행정 영역에서 인공지능을 활용해 법적 지원을 하는 서비스라 이제 인공지능을 활용한 서비스들이 보다 세분화되고 있다는 것을 느낄 수 있었습니다.
1부가 끝나고 쉬는 시간에는 몇 년 만에 친분이 있는 KAIST 교수님과 반갑게 인사를 나누기도 했습니다. 코로나 이전에는 함께 인공지능의 기술에 대해 스터디 그룹으로 공부를 하기도 했었던 분이었는데, 코로나로 인해 한동안 뵙지 못했었던 분이라 더 반가웠습니다. 2부 시작 후 저는 아쉽게도 당일 저녁에 서울대 인공지능 최고경영자 과정 원우회 송년회가 있어 컨퍼런스 중간에 일어서야 했습니다.
과기부도 함께 준비한 행사라 그런지 최근 정부에서 발표한 디지털 권리장전도 자료로 준비되어 있어 한 부 챙겨왔습니다. 과기부 홈페이지에서 내려받은 한글 파일에는 디지털 권리장전이 궁서체로 기재되어 있어 주제와 약간 괴리감이 들었는데, 다행히 인쇄본은 그렇지는 않았습니다. 디지털 권리장전만이 아니라 앞으로 국회에서 의결될 인공지능 관련 법률에서는 인공지능의 특성을 잘 고려한 충실한 내용이 들어가길 기대합니다.
Views: 81