인사이트

광고주들은 자사의 AI 사용을 자랑한다. 그러나 광고주의 AI 발언은 규제 기관의 감시레이더에 걸리고, 과장 혹은 거짓 주장을 이유로 단속된다. 연방거래위원회는 작년 광고주에게 'AI 사용 여부'를 계속 확인할 것이라고 경고했다. 지난 8월 연방거래위원회(FTC)는 한 AI 스타트업 회사(Automators AI)가 수익 극대화를 위해 AI 머신러닝을 사용한다는 거짓 주장을 했다는 이유로 강제 폐업시켰다. 지난달 미국 증권거래 위원회(SEC)는 2개 조직에 "AI 워싱(AI washing)"을 이유로 벌금을 부과했다. 2명의 투자 자문가들은 보도 자료, 소셜 미디어 등 광고주에게 친숙한 자료를 사용해 거짓 주장을 한 혐의로 기소되었다. 이들은 40만 달러의 벌금, 특정 카테고리의 제품 판매 금지, 의무 회계감사 등의 처벌을 받았다.

AI 워싱은 거짓으로 AI 소프트웨어를 사용했다고 마케팅을 하는 것을 의미한다. 광고 회사와 애드테크를 개발하는 기타 회사들은 신제품에 대해 'AI-powered(AI 기반)'이라는 단어를 빈번하게 사용하는 버릇이 있다. 문제는 'AI-powered'라는 별명이 붙은 4개 중 3개의 도구는 AI와 아무런 연관성이 없다는 점이다. PR 회사 인텔리젠스 릴레이션즈(Intelligence Relations)의 가브리엘 드 라 로사 콜스(Gabriel de la Rosa Cols)는 위와 같은 현상을 비판하는 용어로서 "ChatGPT-wrapper(겉만 ChatGPT)"를 소개했다. 'ChatGPT wrapper'는 AI 프레임워크를 사용했다고 주장하는 제품, 서비스, 기관이 실제로는 ChatGPT 등 다른 회사의 AI 플랫폼에 기반한 기본적인 커스텀 도구임을 의미한다. 라 로사 콜스는 "컴퓨터를 사용하기 때문에 '테크 회사다'라고 주장하는 것과 같다"라고 말했다.

마케팅테크 기업 파라세((Pharasee)의 최고 생산 담당자인 토비 콜타드(Toby Coulthard)에 따르면 최근 여러 마케팅테크 회사들이 AI 중심으로 리브랜딩하고 있다. 예를 들어 전송시간 최적화 도구는 과거 AI로 작동되지 않았지만, 현재 AI 기술을 이용한다. 무버블 잉크(Movable Ink)의 다빈치 AI 엔진(Da Vinci AI engine)이 대표적 사례이다.

이와 같은 AI 기술의 성장과 그에 따른 부작용의 증가는 규제의 강화로 이어지고 있다. 기업들은 플랫폼이 제 기능을 하지 않는 것에 두려움을 느끼고 있으며, 프로덕션 회사는 AI의 득실 사이에서 고심하고 있다. 콜타드에 따르면 관건은 AI 워싱 관리가 광고 비즈니스 공간으로 확대될 가능성의 정도다. 광고 회사를 포함한 여러 스타트업은 AI 워싱 단속에 걸릴 가능성이 높다. 스타트업들은 AI 내레티브 사용을 독려받으며, 그렇지 않으면 꼭 필요한 자금을 잃을 위험이 있기 때문이다.

소비자들과 직접 만나는 브랜드들은 AI 워싱에 특히 조심해야 한다. FTC와 같은 규제 집단은 소비자의 위험 상황에 더 많이 신경 쓰기 때문이다. 그러나 이 말이 기업을 상대로 하는 비즈니스(B2B)가 (규제로부터) 자유롭다는 것을 의미하지 않는다. 법률회사인 건더슨 데트머(Gunderson Dettmer)의 파트너 변호사 케이티 가드너(Katie Gardner)에 따르면 B2B 회사와 B2C 회사 모두 AI 워싱에 많은 영향을 받는다.

 

AI 워싱을 피하는 방법

파라세의 콜타드에 따르면 AI 사용을 프로모션할 때, 사용된 AI의 종류와 방식을 구체적으로 밝히는 것이 중요하다. 머신러닝, 챗봇, 거대 언어모델은 합리적으로 AI라고 언급될 수 있는 기술 중 일부에 불과하다. 이와 같은 기술은 무한한 방법으로 사용될 수 있다. 따라서 어떤 방식으로 사용했는지 명확히 제시하는 것은 거짓 프로모션의 위험을 완화할 수 있다. 콜타드는 "누구도 AI가 무엇인지 진짜로 정의하지 않았으며, 이는 회사가 AI의 의미를 자유로이 주장할 수 있도록 해준다"라고 말했다. 추가로 AI가 사용되지 않는 부분도 확실히 밝힐 필요가 있다. 툴이나 시스템에 AI가 사용되지 않았다고 밝힘으로써 회사는 제품의 가치를 과장하지 않았음을 보여줄 수 있으며, 특정 업무에는 AI를 사용하지 않도록 요청하는 클라이언트의 니즈를 충족할 수 있다.

드 라 로사 콜스는 그린워싱을 피하기 위한 전략을 AI에 적용하는 방안을 제안했다. 그린워싱은 관련 문헌이 분명하고, 잘 갖춰져 있기 때문이다. 예를 들어 FTC는 브랜드에 'eco-friendly(자연 친화적인)'라고 묘사하지 말라고 경고한다 'eco-friendly'라는 단어의 의미가 모호하여 소비자의 혼란을 가중시킬 수 있기 때문이다. 마찬가지로 AI에 대한 가이드라인을 통해 "AI-powered(AI로 작동하는)"와 같은 모호한 주장을 제지할 수 있다.

케이티 가드너는 회사 내 내부 승인 시스템 혹은 팀 조직을 통한 더블 체크 추가를 더블 체크의 실행을 언급했다. 팀은 마케팅팀과 지속적 소통을 통해 AI를 사용해 만들어졌다는 주장을 이해하고 평가할 수 있다. 가트너에 따르면 팀이 확인해야 할 부분은 어떤 기술이 누구의 소유이고, 어떤 것이 서드파티 플랫폼을 기반으로 개발(예: ChatGPT)되었는가이다. 만약 서드 파트 AI 도구를 기반으로 제품을 제작했다면, 회사들은 반드시 그들이 기술적 편향이나 오류에 대한 책임이 있다는 사실을 인지해야 한다. 이런 유형의 플랫폼들은 계속 많은 단점이 나타나고 있으며, PR 실패가 그중 하나이다.

가트너는 규제 기간의 활동이 올해 적극적으로 전개될 것으로 전망한다. 이는 AI 스타트업 및 관련 기업의 투명한 AI 사용의 필요성을 시사한다.

자료출처 : "AI 워싱"을 아시나요? - 매드타임스(MADTimes)