"'기계가 사람보다 더 공정하다'는 전제부터 논리적 모순을 내포하고 있습니다."
21일 디지털타임스와의 인터뷰에 나선 김진욱 국민의힘 포털공정대책특별위원회 위원은 인공지능(AI) 공정성 논란에 대해 이렇게 답했다. 결국 AI가 작동할 때 설계값이나 운영값을 적용한 주체는 사람일 수밖에 없다는 이유에서다. 김 위원은 "개발자나 운영자가 누구인지에 따라 AI 알고리즘 작동 결과가 달라지는 것은 주지의 사실"이라며 "알고리즘은 설계, 구축, 운영 등 각 단계마다 개발자나 운영자의 가치판단과 기준, 사회적 풍토 등 외적인 압력이 개입할 수밖에 없는 구조적인 한계가 있다"고 지적했다.
김 위원은 AI 공정성 논란이 종식되지 않으면 경제적인 손실이 발생할 수 있다는 점을 우려했다. 실제 '포털 공룡'인 네이버는 최근 쇼핑·동영상 서비스 간 검색 알고리즘 조작 혐의로 공정거래위원회로부터 267억원의 과징금 처분을 받았다. 그간 AI 알고리즘의 공정성을 주장해 온 네이버의 주장과는 정면으로 배치되는 제재가 가해진 것이다. 김 위원은 "수천만 명의 이용자를 보유한 포털이 경제적 수익을 위해 합리적인 경쟁을 저해하는 식으로 온라인 유통구조를 왜곡하고 있다"며 "장기적으로 이용자는 포털의 자사 서비스나 제휴 협력사 제품만을 소비함으로써 소비자 선택권과 권익이 침해될 것"이라고 말했다.
김 위원은 사회적으로도 '여론 왜곡' 등 문제가 발생할 수 있다고 봤다. 네이버나 카카오 등이 뉴스 콘텐츠를 제공함에 있어 AI에 따라 달라지는 기사 배열, 이슈별 노출 빈도로 인해 여론이 좌지우지될 수 있다는 얘기다. 김 위원은 "예를 들어 선거처럼 자유로운 의사결정이 중요한 영역에서 포털이 의도하는 방향대로 주권자가 선택하는 결과가 나타날 수 있다"며 "포털이 민주적 의사결정에 그릇된 영향을 미쳐 민주주의에 해악으로 작용하는 등 사회적으로 심각한 결과를 초래할 소지가 다분하다"고 강조했다.
이에 김 위원은 궁극적으로 AI 알고리즘이 공개돼야 한다고 주장했다. 다만 민간이 주체가 되는 AI 알고리즘 중립성 심사 체계 구축을 전제했다. 김 위원은 "AI의 공정성은 AI를 설계하고 운영하는 주체 내부적으로는 해결하기 어려운 문제인 만큼 투명성 확보를 위해 일정 범위 내에서 공개하고, 지속적인 외부 검증도 진행돼야 한다"고 말했다. 이어 "민간 주도로 AI 알고리즘의 중립성을 심사하는 시스템 구축이 반드시 필요하다"며 "정부 등 외부의 검증 절차는 보충적으로 마련하는 선에서 족하다"고 부연했다.
업계로부터의 반발과 관련해서는 "AI 알고리즘 공개로 빚어질 어뷰징 등 각종 문제는 포털의 AI 알고리즘 설계 역량 강화와 보안기술의 적용 등 기술적 대처를 통해 얼마든지 해결 가능한 사항"이라며 "포털이 외부 공격에 중대한 장애를 초래할 수준의 알고리즘과 보안 역량을 갖고 있다면 이는 이용자의 권익을 보호하는 역량 측면에서 더욱 심각한 흠결을 지닌 것으로, 그냥 두고 볼 수 없는 문제"라고 말했다.
< 김진욱 국민의힘 포털공정대책특별위원회 위원>
- 2007년 제49회 사법고시 합격·사법연수원 수료(제39기)
- 변호사(법무법인 주원 파트너)·한국IT법학연구소장(現)
- 국회 입법지원위원·대한변호사협회 법령심의특별위원회 위원(現)
- 한국인터넷진흥원(KISA) 온라인광고분쟁조정위원회 조정위원(現)
- 방송통신심의위원회 통신·권익보호특별위원회 위원(前)
