“근교에 일출 보러 가고 싶어!”
“일출명소로 낙산공원이 있어요. 길안내를 시작합니다~♬”

가고 싶은 곳을 말하면 인공지능(이하 ‘AI’) 비서가 교통상황을 반영해 최적의 경로를 안내해 주는 세상입니다. 바야흐로 AI의 시대. 데이터 분석부터 새로운 콘텐츠 제작까지, AI가 일상 속 깊숙이 자리해가고 있습니다. AI를 활용한 제품과 서비스가 대중들의 눈길을 사로잡고 있지만, 다른 한 편으로는 기업들의 거짓·과장 광고로 인한 소비자피해에 대해 우려가 제기되고 있는데요. 소비자시대 웹진 1월호 트렌드리포트에서는 소비자를 기만하는 인공지능 마케팅, AI워싱에 대해 알아봅니다.

진짜 같은 가짜? ‘AI워싱’

AI워싱(AI Washing)이라고 들어보셨나요? 친환경 제품을 생산하거나 경영을 하는 것이 아님에도 친환경적 영업을 하는 것으로 거짓 홍보하는 그린워싱(Green Washing)에서 파생된 단어인데요. 실제 AI와 무관하거나 일부 제한적으로 기술을 사용하면서, 마치 혁신적인 AI기술을 활용하는 것처럼 기업이나 제품 등을 홍보하는 행위를 총칭하는 말입니다.

이러한 마케팅 행위는 과거 나노기술, 클라우드 컴퓨팅 등 혁신적인 기술이 세상에 등장할 때 마다 수차례 관찰되어 왔는데요. 기업들이 신기술을 마케팅에 활용하는 이유는 여러 가지가 있지만 대표적으로 ‘이미지 메이킹’, ‘브랜드 가치 제고’를 꼽을 수 있습니다. AI를 사용하는 기업은 혁신적이고 앞서가는 이미지를 가질 수 있고, 이는 소비자와 투자자에게 긍정적인 인상을 심어줄 수 있기 때문이죠.

기업들이 AI 마케팅을 하는 이유

‘AI워싱’의 유형과 사례

그럼 AI워싱은 어떤 형태로 소비자에게 노출되고 있을까요? 첫 번째로 머신러닝, 딥러닝 등 기술적 용어를 남용해 고도의 기술이 적용된 것처럼 인식하게 하는 사례가 있습니다. 이들은 간단한 데이터 분석 도구를 활용했음에도 ‘AI 기반 예측 모델’이라고 칭하곤 하는데요. 두 번째로는 일부를 전체로 포장하는 기업 사례가 있습니다. 특정 부서나 프로젝트에서만 제한적으로 AI를 활용했으면서 마치 기업 전체에서 AI를 활용하고 있는 것처럼 과장하여 소개하는 것처럼 말이죠. 이 외에도 아래와 같은 다양한 케이스가 있답니다.

실제로 AI워싱은 스타트업부터 우리가 익히 알고 있는 글로벌 유통업체까지, 우리 주변에서 심심찮게 찾아볼 수 있습니다. 일례로 이커머스 기업 아마존(Amazon)은 무인 결제 시스템인 ‘저스트 워크 아웃(Just Walk Out Technology)’을 적용·운영하는 과정에서 AI워싱 의혹이 제기된 바 있는데요. 2022년 인도에서 해당 서비스 운영을 위해 1,000명 이상의 직원이 고용돼 판매제품을 수동 모니터링하고 있다며, 실제로는 ‘AI기술이 활용되지 않는다’는 보도가 있었죠. 아마존은 2023년 관련 매장을 철수하면서 해당 기술도 단계적으로 폐기하고 있습니다.

또한 인도의 스타트업 ‘엔지니어 AI’는 인공지능 기반의 앱 개발 플랫폼 개발을 주장하며 소프트뱅크 등을 비롯한 투자자들에게 3,000만 달러(약 400억 원) 대 투자를 유치했는데요. 하지만 실제 앱 개발이 AI가 아닌 소프트웨어 엔지니어팀 개발자들 중심으로 이뤄진게 밝혀지면서 허위로 적발된 바 있습니다.

‘AI워싱’ 단속이 어려운 이유

이쯤 되면 다음과 같은 의문이 생깁니다. ‘AI워싱을 단속하고 예방할 순 없을까?’. 각국 정부와 국제기구 역시 문제를 일찌감치 인지하고 있는데요. 다만 AI가 신기술이고 아직 성장 중인 분야인 만큼 관련 제도와 규제·법률을 만드는데, 고려해야 할 점이 많아 어려움을 겪고 있습니다.

어렵게 하는 요인으로는 먼저 ‘AI의 일관된 정의가 없다는 점’을 꼽을 수 있는데요. 현재 우리가 일컫는 AI는 포괄적인 개념이며 그 정의에 대한 해석의 범위도 넓어, 기업들이 AI를 확대 해석해 자신들의 기술로 AI를 포장하기 쉽습니다. 국내외 국가와 기관들이 큰 맥락에서는 유사하게 AI를 정의하고 있지만, 해석에 따라 개념과 범위가 달라질 수 있어 ‘정의의 일관된 해석’이 어렵다는 한계가 있습니다.

AI워싱 단속이 어려운 또 다른 이유로는 ‘AI에 관한 판단 기준의 부재’를 꼽을 수 있습니다. 국제사회에서도 어떤 기술이 실제로 AI로 인정되는지에 대한 명확한 기준이 없어, 기업이 AI 기술을 사용한다는 주장을 검증할 방법이 없는 실정인데요. 국내에서도 기업이 AI기술 및 서비스를 어떻게 이용하는지에 대한 통계조사는 이뤄진 바 있으나, AI기술을 진짜 사용하는지에 대한 판단 조사는 아직 시행되지 않았죠. AI에 관한 판단 기준의 부재는 기업과 사용자가 AI 워싱을 인지하기 어렵게 만드는 요인으로 작용할 수 있어 조속히 개선될 필요가 있어 보입니다.