“이것 봐, 챗지피티를 이용해서 단 5분 만에 완성한 글이야!”
“음, 이 내용 믿을 수 있는 거야?”

‘생성형 AI’를 필두로 인공지능 기술이 눈부신 속도로 발전하고 있습니다.
이제는 인공지능과 자연스럽게 대화를 나누고, 맞춤형 콘텐츠를 추천받으며,
업무를 함께 처리하는 일도 더는 낯설지 않은데요.
이처럼 인공지능이 우리 일상 속으로 깊숙이 자리 잡으면서
이용자의 권리와 개인정보는 어떻게 지켜야 할지에 대한 논의가 활발해지고 있습니다.
소비자시대 8월호 트렌드리포트에서는 2025년 제정된 「인공지능기본법」^*의 주요 내용을 살펴보며
소비자가 주목해야 할 변화와 정책적 시사점을 함께 짚어봅니다.

인공지능 시대의 개막

인공지능이란 학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 기술을 말합니다. 상담을 해주는 챗봇, 원하는 콘텐츠를 취향에 맞게 추천해 주는 알고리즘, 텍스트나 이미지·음성까지 단 몇 초 만에 생성하는 프로그램 등도 모두 인공지능 기술이 적용된 서비스들이죠.

세계는 인공지능의 발전 속에서 산업과 사회 전반에 걸쳐 거대한 문명사적 전환기를 맞이했습니다. 인공지능이 채용 과정에서 지원자의 이력서를 분석하고, 금융 분야에서 이용자의 투자 성향을 바탕으로 포트폴리오를 추천하는 등 다양한 분야에 적용되며 새로운 변화를 이끌고 있는 것이죠. 이러한 변화는 앞으로 더 빠르게, 더 넓은 범위로 확산될 것으로 예상되는데요. 이에 정부는 2019년 「인공지능 국가전략」을 수립한 데 이어, 2025년 1월 21일 인공지능기본법을 제정, 2026년 1월 21일 시행을 앞두고 있습니다.

인공지능기본법이 시행되면 각종 규제가 도입되어 산업 전반에 큰 영향을 미칠 것으로 전망됩니다. 그중에서도 인공지능 서비스를 이용하는 소비자의 일상과 소비환경 역시 적지 않은 변화를 겪게 될 텐데요. 하지만 이러한 규제는 ‘인공지능시스템’에 한정되어 고의·착오 등의 사유로 규제의 회피가능성이 있어, 자칫 소비자의 안전과 합리적 선택을 제한할 우려도 존재합니다.

세계 인공지능 정책 동향

인공지능의 급격한 발전에 대응하기 위해 해외에서는 어떤 움직임을 보이고 있을까요? 소비자 권익을 보호하고 기술의 안전한 활용을 촉진하기 위한 제도적 논의는 이미 세계 여러 나라에서 활발히 진행되고 있는데요. 그중에서도 EU는 명확한 분류체계와 강제력을 기반으로 한 ‘통합적 규제 모델’, 미국은 공공 중심의 지침과 행정명령·자율을 보장한 ‘조화적 규제 모델’, 일본은 인공지능 활성화를 위한 ‘자율적 규제 모델’을 택하며 인공지능 선도를 이끌어 내겠다는 전략을 보이고 있습니다. 국가별로 조금 더 자세히 살펴보겠습니다.

명확한 분류 기반의 규제, EU

EU는 인공지능 기술의 확산에 대응하기 위해 「EU 인공지능법(The Artificial Intelligence Act)」’을 마련, 단계적으로 시행하고 있습니다. 여기서 주목되는 부분은 잠재적인 위험 및 영향 수준에 따라 ▲금지, ▲고위험, ▲제한적 위험, ▲최소 위험으로 인공지능 시스템을 분류하고 각 등급별로 상이한 의무사항을 제시했다는 점인데요. EU는 이처럼 명확한 분류체계와 규범을 통해 인공지능의 신뢰성과 투명성 확보는 물론, 소비자와 시민의 안전을 우선시하는 법적 기반을 마련해가고 있습니다.

다층적 접근으로 균형 발전 추구, 미국

미국은 인공지능 분야에서 기술 경쟁력 확보를 위해 포괄적인 기본법 대신 부문별 진흥과 규범 정립을 위한 다중 법안 체계를 취하고 있습니다. 대표적인 법안으로는 인공지능 활동의 지원과 관련된 위원회의 설립 등에 대해 규정하고 있는 「국가인공지능이니셔티브법(National AI Initiative Act)」과 AI 기술의 안전하고 신뢰성 있는 도입 및 활용을 촉진하기 위한 「인공지능진흥법(Advancing American AI Act)」이 있습니다. 아울러 행정명령을 통해 집행력을 확보하고 있는데요. 2023년 10월에는 「AI의 안전한 개발 및 이용에 관한 대통령령」을 발표하며 인공지능의 책임감, 투명성 등을 강조하였습니다.

[미국 AI의 안전한 개발 및 이용에 관한 대통령령 목적 및 원칙]

기술 활성화를 위한 자율적 규제, 일본

2025년 5월, 일본은 「인공지능 관련 기술의 연구개발 및 활용 추진에 관한 법률(人工知能？連技術の？究開？及び活用の推進に？する法律)」을 제정하고 같은 해 6월 4일 공포했습니다. 이 법에는 ▲AI 관련 기술의 연구개발과 활용을 국가 차원에서 적극 지원하고, ▲산업계·학계·공공 부문 간 협력 체계를 구축하며, ▲AI 활용에 따른 위험은 민간의 자율적 관리에 맡기고, ▲기술 기준 및 인증 시스템 도입을 위한 법적 근거 마련 등의 내용이 담겨 있는데요. 일본은 이와 같은 법 제정을 통해 기술 활용의 기반을 공고히 하면서도 자율적 가이드라인 중심으로 보완하고 있는 것이 특징입니다.

AI시대, 소비자 보호를 위해 필요한 건

인공지능이 국민의 생활 곳곳에 자연스럽게 스며들고 있는 지금, 2025년 제정된 「인공지능기본법」은 인공지능 기반 사회로의 이행을 제도적으로 뒷받침하는 첫걸음이라 할 수 있습니다. 하지만 소비자 안전이나 고영향 인공지능 서비스에 대한 구체적인 보호 장치는 미흡한 실정입니다. 앞으로는 소비자기본법을 비롯해 전자상거래법, 표시광고법 등 기존 소비자 관련법과의 연계점을 마련하고, 소비자 권리를 강화할 수 있는 제도적 기반이 마련되어야 할 것으로 보이는데요. 그렇다면 인공지능을 일상에서 활용하게 될 소비자 입장에서 어떤 점을 보완해 나가야 할까요?

첫째 투명성 확보

현재 인공지능기본법은 인공지능 투명성 확보를 위한 표시의무, 고영향 AI 기본권 영향평가 등을 규정하고 있습니다. 하지만 일반 소비자가 인공지능 서비스나 결과물이 어떤 원리로 작동하고 있는지, 그 결과가 어떻게 생성되었는지를 명확히 알기 어려운 구조인데요. AI가 거래 전반에 활용되는 만큼, 자동추천 알고리즘의 편향 가능성이나 소비자 오인 문제를 줄이기 위해 ‘AI 기반 상담’ 또는 ‘추천 알고리즘 사용’ 여부를 사전에 명확히 고지할 필요가 있어 보입니다. 더불어 부당한 AI 표현을 방지하고 표시의무가 형식에 그치지 않도록 관련 규정을 구체화하는 동시에, 실효성 있는 이행 수단도 함께 갖춰야 할 것입니다.

둘째 소비자 안전 확보

인공지능이 채용·의료·금융 등 민감한 분야까지 활용되는 현실을 고려하면, 소비자의 생명과 안전 보호를 위한 장치 마련은 필수입니다. 하지만 인공지능기본법에서 사용하는 ‘고영향 AI’라는 표현은 중립적인 용어에 그쳐, 실제 소비자에게 해를 끼칠 수 있는 인공지능 서비스에 대한 규제 기준이 모호하다는 지적도 나오고 있는데요. 소비자 안전에 직접적인 영향을 미치는 고위험 인공지능에 대해 보다 명확한 규율 체계를 갖추는 것이 시급합니다. 아울러 EU의 CE 인증 마크처럼 인공지능 서비스의 위험도와 적합성을 소비자가 직관적으로 이해할 수 있는 표시 장치를 도입하는 방안도 함께 검토해볼 필요가 있겠습니다.

셋째 소비자 의견 반영을 위한 거버넌스 구축

인공지능 산업이 지속가능하게 성장하기 위해서는 기술 진흥뿐 아니라 소비자 중심의 책임성·투명성·안전성 원칙을 체계화·고도화하는 노력이 필요합니다. 인공지능기본법이 시행되면 소비자는 다양한 인공지능 제품과 서비스를 접하게 될 텐데요. 이를 올바르게 이해하고 적극적으로 활용할 수 있도록 소비자를 대상으로 한 인공지능 관련 교육 프로그램을 개발하고 제공할 필요가 있습니다. 또한 국가인공지능위원회와 같은 거버넌스 체계에 소비자 대표의 참여를 보장하는 등 소비자의 목소리가 정책과 규제에 실질적으로 반영될 수 있는 기반을 조성하는 것도 중요합니다.

넷째 소비자의 합리적 선택을 위한 장치 마련

소비자의 합리적 선택을 보장하기 위해 인공지능 기술의 실제 수준과 서비스 특성을 객관적으로 검증하고 표시할 수 있는 제도적 장치가 필요합니다. 예를 들어 인공지능 기술이 적용된 제품이나 서비스에 대해 기술을 검증하고 등급을 부여하는 ‘AI 기술 등급제’, 해당 제품이나 서비스의 실제 사용 환경 전반을 종합적으로 평가하는 ‘AI 제품·서비스 등급제’ 도입을 고려해볼 수 있겠는데요. 이 두 제도가 상호 보완적으로 운영된다면 소비자가 보다 합리적이고 투명한 선택을 할 수 있도록 돕는 기반이 되어줄 것으로 기대됩니다.

인공지능이 일상 깊숙이 스며들며 소비자 생활을 편리하게 바꾸고 있는 지금, 그에 걸맞은 제도적 안전망 마련은 더 이상 미룰 수 없는 과제가 되었습니다. 이번 트렌드리포트에서는 「인공지능기본법」의 핵심 내용을 살펴보고, 소비자 관점에서의 시사점까지 짚어보았는데요. 기술이 더욱 발전하고 복잡해질수록 소비자의 권리와 선택이 존중받는 방향으로 정책이 설계되길 기대해 봅니다.