조작 해부: AI로 변경된 영상 공개
우타르 프라데시 주 총리 요기 아디티야나트(Yogi Adityanath)와 BJP MP 칸가나 라나우트(Kangana Ranaut)가 포옹하는 모습을 담았다고 주장하는 영상이 소셜 미디어 플랫폼을 통해 빠르게 확산되고 있습니다. 그러나 면밀한 조사 결과 이 영상은 보이는 것과 다르다는 것이 밝혀졌습니다. 영상 자체의 미묘하지만 결정적인 세부 사항을 통해 인공 지능을 사용하여 조작되었다는 사실이 드러났습니다.
디지털 조작의 징후: 워터마크 및 AI 출처
영상 인공적인 특성을 나타내는 가장 즉각적인 지표는 오른쪽 하단에 있는 워터마크입니다. “Minimax“ 및 “Hailuo AI“라고 표시된 이 워터마크는 일반적으로 편집되지 않은 원본 영상에서는 발견되지 않습니다. 대신 특정 AI 도구로 생성된 콘텐츠의 특징입니다. 이는 심각한 위험 신호를 발생시켜 영상 출처에 대한 심층적인 조사를 촉발합니다.
‘Minimax’와 ‘Hailuo AI’는 알려지지 않은 존재가 아닙니다. 실제로 이들은 비디오 생성을 전문으로 하는 알려진 AI 플랫폼입니다. 이러한 도구를 통해 사용자는 텍스트와 이미지를 구성 요소로 사용하여 처음부터 비디오를 만들 수 있습니다. 워터마크의 존재는 바이럴 영상이 캡처된 순간이 아니라 조작된 창작물임을 강력하게 시사합니다.
출처 밝히기: 2021년 회의로 거슬러 올라가는 영상
진실을 더 밝히기 위해 바이럴 영상에서 추출한 키프레임을 사용하여 역 이미지 검색을 수행했습니다. 이 기술을 통해 조사관은 시각적 요소의 출처를 추적하고 온라인에서 다른 곳에 나타났을 수 있는 위치를 식별할 수 있습니다. 이 검색 결과는 요기 아디티야나트 사무실의 공식 X(이전 트위터) 핸들에 2021년 10월 1일에 게시된 게시물을 직접 가리켰습니다.
2021년으로 거슬러 올라가는 이 게시물은 바이럴 영상과 동일한 시각적 요소를 특징으로 합니다. 그러나 맥락은 완전히 달랐습니다. 이 게시물은 여배우 칸가나 라나우트가 러크나우에 있는 그의 공식 거주지에서 요기 아디티야나트 주 총리를 예방 방문한 것을 설명했습니다. 포옹에 대한 언급은 없었으며 첨부된 이미지는 공식적이고 전문적인 상호 작용을 보여주었습니다.
만남의 맥락화: Kangana Ranaut의 ‘Tejas’ 촬영 및 브랜드 홍보대사
Google에서 키워드 검색을 사용하여 추가 조사를 한 결과 같은 기간의 여러 미디어 보도가 발견되었습니다. 이 보고서는 Ranaut와 Adityanath 간의 만남에 대한 추가적인 맥락을 제공했습니다. 당시 Ranaut는 그녀의 영화 ‘Tejas‘ 촬영을 위해 우타르 프라데시에 있었습니다.
그녀의 방문 동안 그녀는 요기 아디티야나트 주 총리를 만났고, 이 만남으로 인해 그녀는 주의 ‘One District-One Product’ 프로그램의 브랜드 홍보대사로 임명되었습니다. 이 프로그램은 우타르 프라데시의 각 지역에서 현지 제품과 공예품을 홍보하는 것을 목표로 했습니다. 이 행사에 대한 언론 보도는 바이럴 영상에 묘사된 포옹에 대한 언급 없이 일관되게 공식적이고 정중한 상호 작용을 보여주었습니다.
AI 생성 콘텐츠의 힘과 위험: 증가하는 우려
이 사건은 디지털 시대에 AI가 설득력 있지만 완전히 조작된 콘텐츠를 만드는 데 얼마나 쉽게 사용될 수 있는지에 대한 우려가 커지고 있음을 강조합니다. Adityanath와 Ranaut의 영상은 AI 도구가 현실을 조작하고 잠재적으로 대중을 오도하는 데 어떻게 사용될 수 있는지 보여주는 대표적인 예입니다.
‘Minimax’와 ‘Hailuo AI’의 기술은 정교합니다. 이러한 플랫폼을 통해 사용자는 간단한 텍스트 프롬프트와 이미지를 사용하여 비디오 클립을 생성할 수 있습니다. 즉, 이러한 도구에 액세스할 수 있는 사람은 누구나 실제로 발생하지 않은 사건을 묘사하는 비디오를 만들 수 있습니다. 이것의 의미는 특히 정치, 뉴스 및 여론 영역에서 광범위합니다.
비판적 평가의 중요성: 디지털 시대에 사실과 허구 구별
이 AI 생성 영상의 확산은 온라인 콘텐츠에 대한 비판적 평가의 중요성을 강조합니다. 정보를 쉽게 얻을 수 있고 쉽게 전파되는 시대에, 우리는 보고 듣는 것의 진위 여부를 의심하고 분별하는 눈을 키우는 것이 중요합니다.
개인이 온라인 콘텐츠의 신뢰성을 평가하는 데 도움이 되는 몇 가지 요소는 다음과 같습니다.
- 출처 확인: 정보 출처를 확인하는 것이 가장 중요합니다. 평판이 좋은 뉴스 기관, 확인된 계정 또는 알 수 없는 단체입니까?
- 상호 참조: 여러 출처의 정보를 비교하면 정확성을 판단하는 데 도움이 될 수 있습니다. 다른 신뢰할 수 있는 출처에서 동일한 정보를 보고하고 있습니까?
- 이상 징후 찾기: 시각적 불일치, 워터마크 또는 비정상적인 오디오 신호는 조작의 지표가 될 수 있습니다.
- 역 이미지 검색: Google의 역 이미지 검색과 같은 도구를 사용하면 이미지와 비디오의 출처를 추적하는 데 도움이 될 수 있습니다.
- 미디어 리터러시 교육: 미디어 리터러시 교육을 장려하면 개인이 정보를 비판적으로 분석하고 평가할 수 있습니다.
AI 조작의 윤리적 의미: 책임 촉구
조작된 콘텐츠의 생성 및 배포는 심각한 윤리적 문제를 제기합니다. AI 기술은 수많은 이점을 제공하지만 오용 가능성을 무시할 수 없습니다. 진실처럼 보이는 비디오와 이미지를 조작하는 능력은 진실, 신뢰 및 정보에 입각한 의사 결정에 위협이 됩니다.
AI의 책임 있는 사용에 대한 논의가 점점 더 필요합니다. 여기에는 다음이 포함됩니다.
- 윤리 지침 개발: AI 기술 개발 및 배포에 대한 명확한 윤리 지침 수립.
- 투명성 증진: 콘텐츠가 AI 생성된 경우 공개하는 등 AI 사용의 투명성 장려.
- 잘못된 정보 퇴치: AI 생성된 잘못된 정보의 확산을 막기 위한 전략 개발.
- 사용자 권한 부여: 사용자에게 조작된 콘텐츠를 식별하고 보고할 수 있는 도구와 지식 제공.
- 법적 프레임워크: AI 생성 콘텐츠의 악의적인 사용을 해결하기 위한 법적 프레임워크 고려.
포옹을 넘어: AI 기반 속임수의 더 넓은 의미
요기 아디티야나트와 칸가나 라나우트의 조작된 영상과 관련된 사건은 AI가 기만적인 목적으로 사용될 가능성에 대한 명백한 경고 역할을 합니다. 이 특정 사례는 비교적 사소해 보일 수 있지만, 이는 광범위한 영향을 미치는 AI 기반 조작의 더 넓은 추세를 나타냅니다.
현실적이지만 거짓된 비디오를 만드는 능력은 다음에 사용될 수 있습니다.
- 정치 선전 확산: 조작된 비디오는 정치적 반대자의 평판을 손상시키거나 거짓된 이야기를 퍼뜨리는 데 사용될 수 있습니다.
- 여론에 영향: AI 생성 콘텐츠는 중요한 문제에 대한 여론을 흔드는 데 사용될 수 있습니다.
- 사회 불안 선동: 거짓 비디오는 사회 내에서 분노, 두려움 및 분열을 유발하는 데 사용될 수 있습니다.
- 기관에 대한 신뢰 약화: 조작된 콘텐츠의 확산은 미디어, 정부 및 기타 기관에 대한 대중의 신뢰를 약화시킬 수 있습니다.
- 금융 사기 촉진: AI 생성 비디오는 개인을 사칭하고 금융 사기를 저지르는 데 사용될 수 있습니다.
다각적인 접근 방식의 필요성: AI 조작 문제 해결
AI 조작 문제를 해결하려면 개인, 기술 회사, 정부 및 교육 기관이 참여하는 다각적인 접근 방식이 필요합니다.
개인은 비판적 사고 능력을 개발하고 온라인에서 소비하는 콘텐츠에 대해 경계해야 합니다.
기술 회사는 AI 생성된 잘못된 정보의 확산을 감지하고 방지하기 위한 조치를 개발하고 구현할 책임이 있습니다. 여기에는 AI 감지 기술 투자, 콘텐츠 조정 정책 개선, AI 사용 투명성 증진이 포함됩니다.
정부는 AI 생성 콘텐츠의 악의적인 사용을 해결하기 위한 적절한 규정을 고려하는 동시에 언론의 자유와 혁신을 보호해야 합니다. 여기에는 기존 법률을 업데이트하거나 AI 관련 피해를 구체적으로 해결하기 위한 새로운 법률을 만드는 것이 포함될 수 있습니다.
교육 기관은 미디어 리터러시와 비판적 사고 능력을 증진하는 데 중요한 역할을 합니다. 여기에는 초등학교에서 고등 교육에 이르기까지 모든 수준의 커리큘럼에 미디어 리터러시 교육을 통합하는 것이 포함됩니다.
행동 촉구: AI 시대의 진실 수호
AI 생성 콘텐츠의 증가는 진실과 허구를 구별하는 우리의 능력에 심각한 문제를 제기합니다. 이는 해결하기 위해 집단적인 노력이 필요한 과제입니다. 비판적 사고, 책임 있는 AI 개발 및 정보에 입각한 정책 결정을 촉진함으로써 우리는 진실을 수호하고 AI 기술이 속임수가 아닌 선을 위해 사용되도록 노력할 수 있습니다. 조작된 영상 사건은 경종을 울리며 디지털 시대에 정보의 무결성을 보호하기 위한 조치를 취할 것을 촉구합니다. 정보에 입각한 의사 결정, 대중의 신뢰 및 민주적 담론의 미래는 이 진화하는 환경을 성공적으로 탐색하는 우리의 능력에 달려 있습니다.