정부와 국회는 현재 정보주체 동의가 없어도 공공기관과 기업이 개인정보를 원본 그대로 활용할 수 있는 내용을 담은 개인정보보호법 개악을 추진 중이다. 이재명 정부가 국정 최우선 과제로 내세운 인공지능 3대 국가 도약을 위해서 고품질 원본 데이터가 인공지능 개발에 필요하다는 이유에서이다. 더불어민주당 민병덕 의원과 국민의힘 고동진 의원이 발의한 이 개정안들은 개인정보보호위원회와 산업계가 한목소리로 통과를 밀어붙이고 있다. 우리 단체들은 인공지능 산업 발전을 위해 정보주체의 권리를 박탈하는 개인정보보호법 개악에 강력히 반대하며, 민병덕 의원과 고동진 의원의 개정안을 철회할 것을 요구한다.

이른바 ‘AI특례법안’으로 지칭되는 민병덕 의원안은 올해 1월 31일, 고동진 의원은 3월 13일에 발의되었으며, “인공지능 기술 개발을 위한 개인정보의 처리”라는 같은 제목으로 정보주체 동의 없이 개인정보를 원본 그대로 활용할 수 있게 허용하는 내용을 담고 있다(제28조의12 신설). 두 개정안의 요지는, 개인정보보호위원회의 관리·감독으로 기술적·관리적·물리적 조치를 거친 경우 정보주체의 동의를 받지 않은 원본 개인정보를 인공지능기술 개발을 위하여 목적 외 활용할 수 있도록 일방적으로 강제하는 것이다. 여기에 더해 고동진 의원안은 개인정보보호위원회의 권한을 축소하고 개인정보처리자의 의무를 경감하는 취지의 조항을 추가하였다. 이는 개인정보보호법의 입법 취지라 할 정보주체의 개인정보 자기결정권 보호를 한순간에 박탈하는 내용이며, 개인정보보호를 위해 나서야 할 개인정보보호위원회가 오히려 개인정보보호법 개악을 주도하고 있다는 사실에 우리는 배신감마저 느끼고 있다.

실명, 주소, 휴대전화번호 등 사생활 유출한 ‘AI 챗봇이루다’ 사태 반복될 수 있다.

인공지능은 챗봇, 이미지, 영상 등을 다양한 생성형 도구로, 자율주행차와 산업현장 로봇으로 어느덧 우리의 일상 속에 깊이 들어와 있다. 인공지능이 우리의 삶과 노동에 좋은 소식이 되길 기대하는 목소리도 많아지고 있고 정부 또한 인공지능 산업 지원 정책을 다양하게 추진하고 있다. 하지만 인공지능이 활용하는 데이터의 원천은 사람이다. 예측이나 결정의 대상이 되는 것도 사람이다. 따라서 인공지능은 평범한 사람들의 일자리는 물론 권리에 중대한 영향을 미칠 수밖에 없다. 우리는 ‘AI 강국’을 목표로 질주하는 와중에 인공지능과 그 데이터가 사람과 우리 사회에게 미칠 영향을 생각해야만 한다.

인공지능은 데이터 학습을 통하여 스스로 익히고 이를 바탕으로 추론하고, 결과물을 생성할 수 있다. 그런데 학습이 완료된 인공지능 모델에는 개인을 식별할 수 있는 정보가 포함되어 있을 수 있고, 암기하였을 위험이 있으며, 프롬프트 공격 등에 의하여 학습데이터에 포함된 개인정보가 유·노출 될 가능성도 존재한다. 즉 인공지능 서비스단계에서 개인정보가 원본 그대로 출력되거나, 개인 식별 또는 민감정보 추론 목적으로 부정하게 운용될 수 있는 위험성이 현존한다. 실제 우리는 익명화되지 않은 개인정보를 학습한 인공지능 챗봇이 실명, 휴대전화번호, 주소 등 개인의 내밀한 사생활을 유출하고 차별과 혐오 발언을 일삼았던 ‘이루다 챗봇 사건’을 경험한 바가 있다.

‘개인정보자기결정권’은 자신에 관한 정보를 보호받고 그 처리에 관하여 통제할 수 있는 헌법 상 기본권으로 인정되고 있다. 이러한 기본권을 구체화하고 있는 현행 개인정보보호법에 따르면 개인정보처리자는 적법하게 수집한 개인정보라고 하더라도 애초 수집하게 된 목적 범위 내에서만 처리할 수 있으며, 목적을 넘어 이용하기 위해서는 원칙적으로 정보주체에게서 별도 동의를 받아야만 한다. 다만 가명정보 처리에 관한 특례 규정에 의하여 통계작성, 과학적 연구, 공익적 기록보존 등 해당 목적만을 위하여 정보주체의 동의 없이 가명정보로 처리할 수 있는 예외가 인정될 뿐이다. 즉 현재까지 개인정보처리자는 정보주체로부터 적법하게 수집한 개인정보라고 하더라도 정보주체의 동의 없이는 인공지능 학습데이터로 사용할 수 없다.

하지만, 민병덕 의원안과 고동진 의원안은 “인공지능 기술 개발 및 성능 개선을 위하여”라는 지극히 추상적이고 포괄적인 목적으로 개인정보처리자인 공공기관이나 기업이 개인정보 원본을 인공지능 학습데이터로 활용할 수 있도록 규정하고 있다. 정보주체의 동의는 필요 없으며, 개인정보보호위원회의 심의·의결만 받으면 된다. 해당 법안이 통과되면 특정 서비스를 받기 위하여 제공한 나에 관한 정보는 나의 동의 없이도 인공지능 학습데이터로 활용될 수 있게 된다. 학습 과정에서 개인정보가 기억되거나, 기억된 개인정보가 유출 및 노출이 될 수 있는 위험을 나의 의사와 무관하게 내가 감당해야 하는 상황이 벌어지게 된다.

인공지능 기술개발, 성능개선 목적이라면 동의없이 사용해도 되는가

더군다나 해당 법안에는 자신의 개인정보가 학습데이터로 사용되는 것을 거부하거나 정지시키고 싶은 정보주체가 그 권리를 행사할 수 있는지도 명확하지 않다. 이렇게 활용되고 나아가 판매될 수 있는 원본 개인정보는 우리의 삶과 직장, 그리고 인터넷에서 생성되고 수집되는 거의 모든 개인정보를 포괄한다. 여기서 더 나아가 SNS 서비스에 공개된 개인정보를 정보주체 동의 없이 수집할 수 있도록 하는 김태선 의원안까지 통과가 되면 그야말로 온라인상 개인정보는 무차별적으로 인공지능의 학습도구로 전락하게 될 것이다.

민병덕, 고동진, 김태선 의원의 개인정보보호법 개정안은 국민의 개인정보가 마치 공유재인 것처럼 사유하고 있다. 공유재이기 때문에 인공지능 개발이라는 국가적 목적을 위해서라면 기꺼이 원본 데이터까지 활용할 수 있다는 것이다. 인공지능기술이 현재까지 극복하지 못하고 있는 여러 개인정보 침해 위험조차 무시한 채 산업 발전 명목으로 개인정보 활용을 광범하게 허용하고 있다. “인공지능기술 개발 및 성능 개선을 위하여” 이런 일을 허용하는 개인정보보호법 개정이 이루어진다면 향후 새로운 기술이 등장할 때마다 개인정보의 활용을 당연시 여기는 사회 분위기가 형성될 수 있다.

“인공지능 개발 및 성능 개선을 위하여” 정보주체 동의 없이 원본 데이터의 활용을 명시적으로 허용하는 법규를 두고 있는 국가는 세계적으로 드물다. 인공지능 개발과 활용에서도 개인정보보호라는 기본적 인권 보호가 중요하다는 원칙에 다들 공감하고 있기 때문이다. 현재 필요한 것은 개인정보 활용을 위한 입법이 아니라, 오히려 정보주체가 자신의 정보가 데이터산업에 의하여 무분별하게 활용되는 것을 거부할 수 있도록 하고, 자신에 관한 정보를 스스로 통제할 수 있는 권리를 강화하는 것이다.

인공지능이 우리에게 아름다운 미래를 가져다 준다면 그 미래는 기술과 사람이 서로 균형을 이루면서 만들어 가는 것이어야 한다. 우리는 국가 발전이라는 목적 하에 인권이 도외시 되어서는 안 된다는 것을 역사적 경험 속에서 합의해 왔다. 인권을 경시하며 국가와 기업이 일방적으로 추진하는 경제 개발은 민주주의의 퇴보일 수밖에 없다. 국가기관이 심의를 대신한다는 이유로 정보주체의 헌법상 권리를 일방적으로 박탈하는 개인정보보호법 개악은 반드시 철회되어야 한다.

정부와 국회는 AI산업 핑계로 정보주체 동의권 박탈하는 개인정보보호법 개악시도 중단하라!

쇼핑정보, 병원진료내역, 통신 및 신용정보까지 가명처리 없는 원본 활용법안 반대한다!

정보주체 동의없이 얼굴, 음성, 동작 등 민감한 생체인식정보 원본 활용 규탄한다!

민병덕, 고동진 의원은 AI산업만을 위해 정보주체를 저버리는 AI특례법안 철회하라!

2025.12.2.

(사)제주참여환경연대·건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회,건강사회를위한약사회,건강사회를위한치과의사회,노동건강연대,인도주의실천의사협의회,참의료실현청년한의사회)·건강사회를위한약사회·공공운수노조·공공운수노조·국민건강보험노동조합·국제민주연대·의료민영화저지와무상의료실현을위한운동본부·금속노조 대전참여자치시민연대·디지털정의네트워크·문화연대·문화연대 기술미디어문화위원회·민주사회를 위한 변호사모임·민주주의법학연구회·새벽지기장애인자립생활센터·서울YMCA시민중계실·시민건강연구소·시민사회단체연대회의·언론개혁시민연대 정책위원회·연구공동체 건강과대안·울산시민연대·인권교육센터 들·인권교육온다· 인권아카이브·일산병원노동조합·전국교직원노동조합·전국민주노동조합총연맹·전국언론노동조합·정보인권연구소·참여연대·청소년인권운동연대지음·투명사회를위한정보공개센터·평화바닥·한국노동조합총연맹·한국소비자연맹·한국여성민우회(이상 총36개 단체)