AI 허위정보 시대의 평판관리

커뮤니케이터를 위한 AI의 어두운 면.

Mike Nachshen은 Fortis Strategic Communications, LLC의 대표입니다.

몇 초 만에 보도자료가 공개됩니다. 콘텐츠의 풍요의 뿔. 자동화된 미디어 분석. 생성 인공 지능이 통신 직업을 변화시킬 것이라고 말하는 것은 이미 진부한 표현이 되었습니다.

그러나 “AI가 더 나은 방향으로 커뮤니케이션을 변화시키고 있다”는 말에는 이면이 있습니다.

또한 AI를 사용하면 누구나 조직의 평판을 더 쉽게 공격할 수 있습니다. 불만을 품은 직원, 비윤리적인 경쟁자, 화난 고객 또는 시간이 너무 많아서 지루한 15세 어린이를 생각해 보십시오.

AI가 허위정보를 민주화하기 때문이다. 이는 누구에게나 이전에는 정부의 출처에 불과했던 범위, 속도, 규모 및 품질로 잘못된 정보를 효과적으로 생성하고 확산시킬 수 있는 능력을 제공합니다. 이러한 일이 발생하는 몇 가지 방법은 다음과 같습니다.

AI는 진정성이 없는 콘텐츠를 생성합니다.

푹신한 코트를 입은 교황의 바이럴 이미지요? 체포되는 도널드 트럼프 전 대통령의 '사진'? 조 바이든 대통령이 랩하는 '비디오 클립'?

그것들은 모두 딥페이크였습니다. 컴퓨터로 생성된 매우 현실적이지만 완전히 조작된 콘텐츠였습니다.

그리고 그 딥페이크는 많은 사람들을 속였습니다.

AI는 진짜처럼 보이는 위조 콘텐츠를 만드는 놀라운 일을 해냅니다. 그리고 점점 나아지고 있습니다.

진입장벽이 거의 없습니다:

딥페이크를 만들고 싶으신가요?

필요한 것은 컴퓨터, 인터넷 접속, 그리고 약간의 돈뿐입니다.

National Public Radio에 따르면, 한 연구원은 최근 자신이 강의하는 모습을 담은 매우 설득력 있는 딥페이크 비디오를 만들었습니다. 8분이 걸렸고 11달러를 돌려받았으며 그는 상용 AI를 사용하여 이를 수행했습니다.

잘못된 정보를 만드는 데에는 전문적인 프로그래밍 지식도 필요하지 않습니다. 많은 상용 AI는 몇 가지 간단한 일반 텍스트 프롬프트를 기반으로 딥페이크를 생성할 수 있습니다.

실제처럼 보이는 서면 콘텐츠를 만드는 것도 쉽고 저렴합니다.

2019년 하버드 연구원은 AI가 생성한 댓글을 메디케이드에 제출했는데, Wired.com은 사람들이 가짜인지 알 수 없다고 보도했습니다. 연구원은 Chat GPT 2.0을 사용하여 해당 콘텐츠를 만들었습니다. 기하급수적으로 향상된 Chat GPT 4.0이 몇 주 전에 출시되었습니다. 한 달 구독료는 20달러입니다.

전례 없는 속도와 규모

나쁜 행위자는 잘못된 정보를 찾아내느라 몇 시간을 소비할 필요가 없습니다. 필요한 것은 올바른 프롬프트뿐이며 AI는 귀하의 브랜드에 대해 거의 끝없이 쏟아지는 잘못된 정보를 뿜어낼 것입니다. 그런 다음 이를 AI 생성 알고리즘과 동기화하면 조직의 평판을 정면으로 겨냥하여 소셜 미디어에 가짜 뉴스 쓰나미를 시작할 수 있습니다.

초자연적이고 빠른 정확성

커뮤니케이션 직업은 청중을 이해하는 데 탁월합니다. AI는 우리 인간처럼 청중을 "이해"할 수 없지만 확실히 우리보다 더 빠르고, 저렴하고, 더 정확하게 청중을 분석할 수 있습니다. 그런 다음 해당 분석을 사용하여 거의 실시간으로 맞춤형, 표적화된 잘못된 정보를 생성할 수 있습니다.

AI가 생성한 잘못된 정보는 이미 비즈니스, 정치, 커뮤니케이터에 영향을 미치고 있습니다. 지난 5월에는 러시아 국영 뉴스에 힘입어 미 국방부의 폭발을 담은 딥페이크 사진이 트위터에서 입소문을 탔습니다. S&P 500은 국방부와 알링턴 카운티 소방국의 홍보 전문가들이 상황을 통제하기 전에 잠시 0.3% 포인트 하락했습니다.

그리고 우리는 AI의 잘못된 정보 빙산의 일각에 불과합니다. 최근 Georgetown, OpenAI 및 Stanford의 공동 연구 논문에서 "[AI]는 콘텐츠를 개선하고 비용을 절감하며 [잘못된 정보] 캠페인의 규모를 늘릴 것입니다… [그리고 그것은] 새로운 형태의 속임수를 도입할 것입니다…"라고 지적했습니다.

나쁜 소식은 은총알이 없다는 것입니다. 단일 정책, 기술 솔루션, 법률로 문제를 해결할 수는 없습니다.