인사이트

조 바이든 미국 대통령이 지난 주(10월 30일) 인공지능(AI)이 핵무기나 생화학무기 등 대량살상무기(WMD) 제작에 활용되는 것을 차단하기 위해 AI 안전성 평가를 의무화하는 등의 내용이 담긴 행정명령에 서명했습니다. 이 명령의 도입 근거로 1950년 한국 전쟁 당시에 만든 국방물자생산법까지 언급하며 “국가가 긴급 상황에 처했을 때 사용되는 이 법을 기반으로, 모든 기업이 AI 서비스를 내놓기 전에 제품이 안전하다는 것을 증명하게 할 것”이라고 했습니다.

바이든 대통령이 서명한 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용’ 행정명령은 AI에 대한 미국 정부의 첫 번째 규제 조치인데요. 이 행정명령은 머신러닝 등 AI 훈련부터 개발, 생산과 서비스까지 전 분야에 대한 규제를 담고 있습니다. 바이든은 AI 혁신을 지지하면서 동시에 비윤리적인 사용은 용납되지 않을 것임을 분명히 했습니다.

디자인: 콘텐타

행정명령 서명은 1~2일 영국에서 열리는 AI 안보 정상회의에서 주요 7개국(G7)이 합의해 발표할 예정인 ‘AI 국제 행동강령’이 나오기 이틀 전에 이뤄졌습니다. 11개 항목으로 구성된 이 행동강령은 레드팀, AI 안전성 평가 정보 공유, 워터마크 부착 등 미국 행정명령과 상당 부분 내용이 비슷한데요 미 행정명령의 시기를 보면 AI 강자인 미국이 규제도 선도하겠다는 것을 보여주려는 의지로 해석됩니다.

디자인:콘텐타

우리 나라도 곧 유사한 정책이 나올텐데요. AI 규제 정책은 AI를 둘러싼 여러 부문의 리스크를 관리하기 위한 것이지만, 잠재적으로 디지털 마케터의 AI 도구 사용에 영향을 미칠 수 있습니다.

마케터들이 알아야 할 사항을 정리해 보았습니다.

AI콘텐츠 인증

이번 행정명령은 AI를 활용한 사기·속임수를 막기 위해 AI 콘텐츠를 판별해 인증하는 표준 절차를 만들도록 했습니다. 검증된 AI 생성 콘텐트에 대한 인증 및 워터마크를 부여하는 지침 개발이 후속 작업으로 남아 있습니다.

G7의 ‘AI 국제 행동 강령’ 역시 워터마크(식별표시)를 통해 AI창작물을 구분할 것을 강령에 포함시켰습니다.

개인 정보 보호 중점 사항

미국의 행동 명령은 AI 시스템에 대한 광범위한 안전 테스트 및 보고 요건을 의무화합니다. 개인 데이터에 의존하는 AI 도구는 이에 영향을 받을 수밖에 없고 투명성 개선에 대한 압박도 커질 수 있지요.

광고 타겟팅, 콘텐츠 생성, 소비자 분석과 같은 기능에 AI를 활용하는 마케팅 도구 역시 엄격한 감시 대상이 될 수 있습니다.

AI 시스템을 학습시키기 위해 소비자 데이터에 의존하는 기업은 더 강력한 개인정보 보호 규칙에 비추어 관행을 재평가해야 할 수 있습니다. 마케터들은 차별이나 거짓 정보 생성의 가능성이 있는 불투명한 AI 도구에 대해 더 많은 모니터링을 해야 합니다.

G7 행동 강령에도 개인 정보 보호 및 보안 관리 정책을 공개하고 사이버 보안을 강화해야 한다는 조항이 있습니다.

더 엄격한 감사 및 감독에 대비하기

기업과 마케터들은 새로운 규제 환경으로 인해 윤리와 소비자 혜택에 초점을 맞춰 AI를 활용해야 할 것입니다.

미 행정명령은 빠른 AI 발전과 책임감 있는 개발의 균형을 맞추는 것을 목표로 합니다. 특히, 이 행정명령은 FTC가 권한을 사용하여 AI 개발 및 사용의 공정한 경쟁을 촉진하도록 지시합니다.

또한 AI 시스템의 편향성을 완화하는 데 초점을 맞추고 있으며, 이는 광고 게재 및 동적 가격 책정과 같은 영역에서 마케팅 도구의 차별 여부에 대한 감사로 이어질 수 있습니다. 편향성 완화 기술과 감사 알고리즘을 도입하는 것이 점점 더 중요해질 것입니다.

G7행동 강령에는 기업이 AI 위험성을 주기적으로 식별하고 이를 완화하기 위한 적절한 조치를 해야 한다는 내용이 담겼습니다. AI 시스템의 성능·제약·오용 사례에 대한 보고서도 공개하도록 했는데요. AI배포 전후로 AI의 취약점을 테스트하는 공격조(레드팀)을 구성해야 한다는 내용도 들어있습니다.

경쟁 우위로서의 윤리적 AI?

윤리와 투명성에 대한 요구는 소비자들이 공정한 대우를 요구함에 따라 책임감 있는 AI를 채택하는 마케터에게 경쟁 우위를 제공할 수 있습니다. 그러나 AI 사용에 대한 커뮤니케이션이 부족하면 기만적인 것으로 비춰질 수 있습니다.

미 정부와 마찬가지로 우리 정부도 AI 혁신을 지지하지만, 미 행정명령과 G7행동강령은 불투명하고 편향적이거나 유해한 AI 사용이 새로운 규제 환경에 직면하고 있다는 신호입니다.

AI를 활용할 때 소비자 개인 정보 보호 규정을 지키고 있는지 확인하고, 어떤 방식으로 AI를 활용하는지 투명하게 밝히고, AI툴의 편향성과 거짓 정보 가능성을 어떻게 모니터링하고 사람이 감시, 감독, 보정하는지 AI 사용에 대한 지침과 매뉴얼을 갖출 필요가 있습니다.

자료출처 : 바이든의 'AI 규제 행정 서명'과 G7의 'AI국제 행동 강령', 마케터가 알아야 할 핵심 내용은? (contenta.co)