가상인물에 속은 적이 있다. 하얀 가운을 입은 의사가 핸드폰 화면 속에서 차분한 목소리로 건강보조제를 권했고, 그 말을 믿었다. 뒤늦게 그가 실재하지 않는 인공지능(AI) 생성 가상인물이라는 사실을 알았다. 전문성을 갖춘 듯한 AI 가상인물이 쉽게 만들어지고 나도 속았다는 사실이 무섭게 다가왔다. 광고를 비교적 의심하는 편이라고 생각했던 나도 그랬다.

나도 속는데 정보 활용에 나보다 더 취약한 사람은 어떨까. 가장 걱정되는 쪽은 노년층이다. 정보 접근에서 뒤처져 있으면서 동시에 여기저기 아픈 분이 많다. 이 두 조건이 합쳐질 때 AI 의료광고의 위험은 커진다. 무릎이 아프고 혈압과 당뇨로 걱정하는 노인들 앞에 의사처럼 보이는 가상인물이 나타나 추천·보증을 한다. 수술과 건강보조제가 대표적이다. 아픈 사람에게 하얀 가운을 입은 권위 있는 의사의 추천·보증은 강력한 영향을 미친다. 더구나 영상의 화질이 좋고 말투가 자연스러우면 의심하기는 더 어려워진다. AI 생성 가상인물로 권위가 통째로 조작될 수 있다는 사실을 많은 어르신은 알지 못한다.

공정거래위원회가 ‘추천·보증 등에 관한 표시·광고 심사지침’을 개정해 AI 생성 가상인물 광고에 ‘가상인물’ 표시를 의무화한 것은 늦었지만 잘한 일이다. 배경과 구분되는 색상으로 가상인물 가까이 표시하게 하고, 블로그·카페에서는 제목에 ‘가상인물 포함’을 넣게 한 것은 소비자가 경계심을 가질 수 있도록 최소한의 주의 사인을 마련해 준 것이다.

문제는 집행이다. 6월부터 지침이 시행되고 있지만, 이 글을 쓰고 있는 지금도 필자의 핸드폰 화면에 AI 생성 의사가 등장해 수술과 건강보조제를 권하는 영상이 계속 뜬다. 그러나 AI로 만들었다는 표시는 거의 없다. 시행 첫날부터 사실상 지켜지지 않고 있다. 가상인물 표시 의무가 생겼다는 사실 자체를 모르는 사업자도 적지 않을 것이다. 공정거래위원회가 한정된 인력으로 매일 쏟아지는 수많은 광고를 일일이 감시하기는 불가능하다. 하지만 적발 가능성이 낮다고 판단되는 순간, 이 지침은 형식적인 규정에 그친다. 규제의 실효성은 적발 가능성에서 나온다. 집행이 뒷받침되지 않으면 좋은 취지의 지침도 목적을 달성하기 어렵다.

따라서 집행의 효율을 높이는 방법을 찾아야 한다. 첫째, 선택과 집중이다. 피해가 자주 발생하고 그 정도가 심한 분야와 연령을 데이터로 선별해 표적 감시를 해야 한다. 모든 광고를 똑같이 들여다보는 대신, 위험이 큰 영역에 인력을 집중하는 것이다. 노년층을 겨냥한 건강·의료 광고가 우선 대상이 되어야 한다. 둘째, 기술에는 기술로 대응해야 한다. 허위 보증과 추천을 가려내는 탐지 도구에 투자할 필요가 있다. 미국과 영국 등 선진 경쟁당국은 이미 데이터 전문가를 채용해 입찰 담합을 적발하는 알고리즘을 설계했고, 그 결과 적발률이 높아졌다고 알려졌다. 입찰 데이터에서 담합의 징후를 찾아낼 수 있듯이 광고에서 합성된 가상 전문가도 가려낼 수 있다. 광고 분야에도 AI 전문가를 채용해 집행의 실효성을 높여야 한다.

내가 속았던 AI 생성 의사는 지금도 누군가에게 같은 말을 하고 있을 것이다. 표시를 교묘하게 회피하거나, 가상인지 실존인지 구분이 어려운 합성물이 곧 등장할 것이다. 가상인물 표시 의무화는 시작일 뿐이다. 그 표시를 실제로 작동하게 만드는 집행이 뒷받침되어야 한다.