내년 4월 국회의원 총선거를 앞두고 사람과 유사한 답변을 내놓는 ‘생성형 인공지능(AI)’ 기술이 기존의 ‘댓글 조작 범죄’와 결합해 여론 조작과 가짜뉴스 생산을 부추길 수 있다는 우려가 커지고 있다. 선거 때마다 댓글 조작 사건이 불거지는 만큼 선거의 공정성을 확보하기 위해서는 ‘사후 처벌’이 아닌 ‘사전 예방’을 위한 적극적인 조치가 필요하다는 지적이 나온다.

13일 중앙선거관리위원회에 따르면 중앙선관위는 지난달 14일 총선 대비 조직인 ‘허위사실·비방 특별대응팀’을 설치하면서 처음으로 AI 전담요원들을 중앙선관위(3명)와 전국 시도선관위(각 1∼3명)에 투입했다. 이들은 댓글을 포함해 AI가 만든 콘텐츠를 감별하거나 모니터링한 뒤, 포털 등에 삭제 요청을 하는 역할을 맡는다. 내용이 중대하거나 혐의자가 특정되면 검찰에 수사 의뢰하기로 했다. 그러나 감시 대상은 선거법 위반에만 한정된다. AI가 만들었더라도 허위 사실이나 비방 내용이 포함되지 않았다면, 모니터링·삭제 요청·수사 의뢰 대상 댓글에서 제외되는 것이다.

기존의 댓글 조작 범죄의 경우 동원된 ‘알바’ 수가 제한적이기 때문에 생산해 내는 댓글 수도 제한적이지만, 매크로 프로그램과 AI가 결합하면 사실상 무한대로 댓글 생산이 가능해진다. 개발업자들이 AI를 활용한 여론 조작 프로그램을 만들지 못하도록 막을 방안도 마땅치 않다. 한 검사 출신 변호사는 “AI 댓글 조작 프로그램을 활용한 사람에게 업무방해 및 공직선거법 위반 혐의를 적용할 수 있고 개발업자도 마찬가지”라면서도 “하지만 개발업자가 선거에 영향을 미칠 의도를 모르고 만들었다고 주장하면 무죄 가능성이 높다”고 설명했다. 한 로스쿨 교수는 “공감 수 조작, 교묘한 선동 댓글 등은 선관위가 단속하기 어려웠던 분야”라며 “선거가 임박한 시기 AI가 여론전에 활용될 경우 진위 여부를 판단하기도 전에 선거와 공소시효가 종료될 수 있다”고 지적했다. 김진욱 법무법인 주원 변호사는 “포털의 댓글 관리 의무를 강화하면서 필터링 세부 기준을 공개하도록 강제하는 입법이 이뤄져야 한다”고 진단했다.