바야흐로 AI의 열풍이다. 이미 AI 기술은 일상 깊숙이 들어와 있다. AI에 대해 비판적인 혹은 우려의 시선도 있지만 큰 흐름은 되돌릴 수 없다. 빠르게 적응하는 사람이 승자다. 그런데, 큰 흐름이 있으면 당연히 부작용도 있다. 그중 요즘 새롭게 대두되는 이슈가 있다. 그린워싱과 유사한 경향을 갖는 'AI 워싱'이다. 관심을 갖고 살펴볼 필요가 있다.
'AI 워싱'이란?
'AI 워싱'은 실제로는 인공지능 기술을 제대로 활용하지 않거나 과장하면서 마치 AI 기술을 기반으로 한 것처럼 포장하는 행위를 말한다. AI 열풍을 이용하는 마케팅의 일환으로 볼 수 있다. 환경친화적이지 않은 기업이 친환경인 것처럼 마케팅하는 그린워싱(Greenwashing) 행태와 유사하다. 'AI 워싱'이 발생하는 이유는 기업가치 상승효과가 기대되기 때문이다. 기업이 AI 기술 사용을 강조함으로써 투자자에게 매력적인 투자 대상으로 인식되어 더 많은 자본을 유치할 가능성이 높고, 보다 혁신적이고 기술 선도적인 이미지를 구축하여 경쟁사 대비 유리한 유치를 점하는데 도움이 된다.
AI 워싱은 일단 소비자를 기만하는 행위다. 소비자들은 AI 기술이 적용된 제품을 더욱 혁신적이고 효율적이라고 생각하기 때문에 AI 워싱은 소비자의 판단을 흐리게 만들고 잘못된 선택을 하도록 유도하는 것이다. AI 워싱은 시장 왜곡을 초래한다고도 볼 수 있다. AI 기술을 과장함으로써 경쟁 우위를 점하려는 기업들이 늘어나면서 시장이 과열되고 진정한 AI 기술 개발을 저해할 수 있다. 이는 AI 기술에 대한 신뢰도 하락과 이로 인한 투자 위축을 불러올 수 있다.
AI 워싱이 나타나는 양상을 몇 가지 보면 이렇다.
- 단순 자동화 : 단순 반복적인 작업을 자동화하는 시스템을 AI라고 부르는 경우
- 통계 분석 : 통계 분석 기법을 활용한 시스템을 AI라고 부르는 경우
- 규칙 기반 시스템 : 미리 정해진 규칙에 따라 작동하는 시스템을 AI라고 부르는 경우
- AI 용어 남용 : 머신러닝, 딥러닝 등의 용어를 남용하여 기술의 복잡성을 과대평가하는 경우
'AI워싱'이 끼치는 악영향과 실제 사례
앞에서 본 것처럼 AI 워싱은 투자 자원의 적절한 배분을 저해한다. 그리고 소비자 신뢰를 저하시키고, 과장된 홍보로 과도한 기대감을 유발하는 등 부정적인 결과를 초래하고 있기도 하다. AI 워싱의 유형은 다양하지만 대표적인 유형을 꼽자면 제품이나 서비스가 출시되는 과정에서 AI 기여도가 불문명함에도 광고나 홍보에서 AI 기술 사용을 강조하여 소비자를 기만하는 행위를 들 수 있다. 몇 가지 실제 사례를 들어본다.
- 아마존고(Amazon Go) : 무인 매장 아마존고(Amazon Go)의 'Just Walk Out'은 고객이 매장에서 나올 때 자동으로 결제가 청구되는 시스템으로 알려져 AI의 기술을 유통업에 적용한 혁신 사례로 유명해졌지만 사실은 인도 지사의 직원들이 수동으로 결제금액을 검토하는 것으로 밝혀진 바 있다.
- 준코(Joonko) : 인력 채용 스타트업 준코는 AI 기반으로 기업에 적합한 지원자를 추천한다는 허위 정보를 유포해 투자 자금을 유치했다는 이유로 미국 증권거래위원회와 법무부로부터 기소된 사례가 있다.
- 델피아 및 글로벌프레딕션스 : 투자자문사 델피아(Delphia)와 글로벌프레딕션스(global Predictions)는 AI 워싱 행위로 미국 증권거래위원회로부터 각각 22만 5천 달러와 17만 5천 달러의 범칙금이 부과된 일이 있다.
- 오토메이터스 AI : AI 기술을 활용해 온라인 스토어의 판매량을 자동으로 증가시킬 수 있다는 허위 정보를 유포하여 연방거래위원회(FTC)에 의해 기소된 일이 벌어졌다.
- 오랄비 : 오랄비는 전동칫솔을 판매하면서 AI가 치아 위치와 밝기 등을 확인해 이가 잘 닦였는지 확인할 수 있다고 광고했다. 그러나 한 언론사의 "AI가 정확히 칫솔에 어떻게 적용되는지" 물었으나 회사는 답변하지 못했다. 그리고 소비자와 전문가들은 칫솔이 제공하는 피드백이 개인화된 것이라고 보기 어렵고, 기능이 예상보다 단순하다고 불만을 나타냈다.
- 코카콜라 : 코카콜라는 AI를 사용하여 3000 년대를 상상한 음료를 만들었다고 홍보했지만 AI가 제품 개발 과정에 어떻게 관여했는지 설명하지 못했다. 이에 코카콜라의 홍보는 AI 워싱이라는 비난을 초래했다.
'AI 워싱'에 대한 대응방안
AI 기술은 앞으로도 지속적으로 발전할 것이고 AI 워싱에 대한 규제와 소비자 보호의 중요성도 더욱 부각될 것이다. 이제 정부는 AI 워싱에 대한 규제를 강화하여 AI 사용 투명성을 높이고 허위 주장이 남발되지 않도록 유도할 필요가 있다. 기업은 실제 자신들이 사용한 AI 기술에 대한 정보를 투명하게 공개하고 규제 당국의 감사나 외부 의혹에 대비하여 관련자료를 잘 관리함은 물론 철저히 기록하고 문서화할 필요가 있을 것이다. 또한, 기업은 투명한 AI 기술 사용을 통해 소비자와 투자자의 신뢰를 확보하고 진정한 기술 혁신을 도모할 필요가 있다.
소비자에 대한 교육도 필요하다. 정부나 기업은 소비자의 AI에 대한 이해도를 높이고 과장된 주장에 현혹되지 않도록 하는 교육프로그램을 운영해야 할 것이다. 이를 통해 소비자와 더 나아가 투자자는 주체적으로 정보를 검토하고 검증하는 태도를 가져야 한다. 기업이 AI 기술을 내세워 과장된 주장을 하는 것이 아닌지 비판적인 시각을 갖출 필요가 있다. 그리고 소비자는 기업에 AI 작동 방식에 대한 투명한 설명을 적극적으로 요구해야 한다. 그래야 기업이 책임감을 갖고 기술의 실제 성능과 한계 등을 포함한 정확한 정보를 제공할 것이다.
AI 워싱은 소비자와 시장 전체에 부정적인 영향을 미칠 수 있는 심각한 문제로 떠오를 것이다. AI 기술 발전을 위해서는 AI 워싱의 근절이 반드시 필요할 것으로 보인다. 훌륭한 소비자는 좋은 기업을 만든다. AI 기술의 수혜자인 소비자는 적극적인 감시자의 역할도 해야 할 것이다. 그러기 위해 먼저 AI에 대한 학습이 선행되어야 한다. 물론 일부 AI에 대해 거부감을 가진 사람도 있을 것이다. 그러나 우리는 이미 AI의 흐름에 올라탔고 거기에서 내려올 수는 없다. 싫든 좋든 상식차원으로라도 AI에 대해 관심을 가져야 한다.
[Reference: KB경영연구소, "너도나도 AI? 말로만 외치는 'AI 워싱' 주의보", KB 지식 비타민, 2024. 08.]
댓글