AI 챗봇의 허위 정보: 사실 확인의 신뢰성 문제
인도와 파키스탄 간의 짧은 분쟁 기간 동안 허위 정보가 급증했고, 소셜 미디어 사용자들은 검증을 위해 AI 챗봇에 의존하기 시작했습니다. 그러나 이러한 챗봇들은 더 많은 허위 정보를 제공하여 사실 확인 도구로서의 신뢰성을 떨어뜨렸습니다. 주요 기술 플랫폼들이 인공 사실 확인 담당자의 수를 계속 줄이면서, 사용자들은 신뢰할 수 있는 정보를 얻기 위해 xAI의 Grok, OpenAI의 ChatGPT, Google의 Gemini와 같은 AI 기반 챗봇에 점점 더 의존하고 있습니다.
AI 챗봇 사실 확인의 부상
Elon Musk의 X 플랫폼 (구 Twitter)에서 "@Grok, 이거 진짜야?"는 사용자들이 흔히 묻는 질문이 되었습니다. X 플랫폼에 내장된 AI 도우미인 Grok는 소셜 미디어에서 즉각적인 사실 검증을 원하는 사용자들의 추세를 반영합니다. 그러나 이러한 AI 챗봇의 답변은 종종 허위 정보로 가득 차 있습니다.
Grok는 최근 극우 음모론인 "백인 대학살"을 관련 없는 질문에 삽입하여 큰 관심을 받았습니다. Grok는 수단 하르툼 공항의 오래된 비디오 클립을 인도-파키스탄 분쟁 중 파키스탄 누르 칸 공군 기지에 대한 미사일 공격으로 잘못 식별했습니다. 또한 네팔에서 불타고 있는 건물을 "파키스탄이 인도에 대한 공격에 대한 군사적 대응을 보여주는 것"으로 잘못 식별했습니다.
AI 사실 확인의 한계
정보 감시 기관인 NewsGuard의 연구원 McKenzie Sadeghi는 AFP에 "X와 다른 대형 기술 회사들이 인공 사실 확인 담당자에 대한 투자를 줄였기 때문에 사람들은 Grok를 사실 확인 담당자로 점점 더 많이 의존하고 있습니다."라고 말했습니다. 그녀는 "우리의 연구는 AI 챗봇이 특히 뉴스 속보와 관련하여 신뢰할 수 있는 뉴스와 정보 소스가 아니라는 것을 반복적으로 발견했습니다."라고 경고했습니다.
NewsGuard의 연구 결과에 따르면 Grok를 포함한 10개의 주요 챗봇은 러시아의 허위 선전 내러티브와 최근 호주 선거와 관련된 허위 또는 오해의 소지가 있는 주장을 포함하여 허위 정보를 쉽게 반복했습니다. 컬럼비아 대학교 디지털 뉴스 센터인 Tow Center의 최근 8개의 AI 검색 도구에 대한 연구에 따르면 챗봇은 "정확하게 답변할 수 없는 질문에 대한 답변을 거부하는 데 능숙하지 않으며 부정확하거나 추측적인 답변을 제공합니다."
AFP의 우루과이 사실 확인 담당자가 Gemini에게 AI가 생성한 여성 이미지에 대해 질문했을 때 Gemini는 이미지의 진실성을 확인했을 뿐만 아니라 여성의 신원과 이미지가 촬영되었을 가능성이 있는 위치에 대한 자세한 정보도 날조했습니다.
Grok는 최근 아마존 강에서 헤엄치는 거대한 아나콘다의 비디오라고 주장하는 영상을 "진짜"로 표시하고 허위 주장을 뒷받침하기 위해 신뢰할 수 있는 과학 탐험대를 인용하기도 했습니다. 실제로 이 비디오는 AI가 생성한 것이었고, 라틴 아메리카의 AFP의 사실 확인 담당자는 많은 사용자들이 비디오가 진짜라는 증거로 Grok의 평가를 인용했다고 보고했습니다.
AI 사실 확인에 대한 우려
이러한 발견은 점점 더 많은 온라인 사용자들이 정보를 수집하고 확인하기 위해 기존 검색 엔진에서 AI 챗봇으로 전환하고 있다는 조사 결과와 함께 우려를 불러일으키고 있습니다. 한편, Meta는 올해 초 미국에서 타사 사실 확인 프로그램을 종료하고 사실 검증 작업을 일반 사용자에게 넘겨주는 대신 X 플랫폼에서 홍보하는 "커뮤니티 노트" 모델을 채택할 것이라고 발표했습니다. 그러나 연구자들은 허위 정보 퇴치에 대한 "커뮤니티 노트"의 효과에 대해 반복적으로 의문을 제기했습니다.
인공 사실 확인은 오랫동안 양극화된 정치적 환경에서 논쟁의 여지가 있는 문제였습니다. 특히 미국에서 보수주의자들은 그것이 언론의 자유를 억압하고 우파 콘텐츠를 검열한다고 믿고 있지만 전문 사실 확인 담당자들은 이러한 주장에 강력히 반대하고 있습니다.
AFP는 현재 아시아, 라틴 아메리카 및 EU를 포함하여 페이스북의 사실 확인 프로그램과 함께 26개 언어로 협력하고 있습니다.
AI 챗봇의 품질과 정확성은 훈련 및 프로그래밍 방식에 따라 다를 수 있으며, 이는 결과물이 정치적 영향을 받거나 통제될 수 있다는 우려를 제기합니다.
Musk의 xAI는 최근 Grok가 요청하지 않은 게시물을 생성하여 남아프리카공화국의 "백인 대학살"을 언급한 것은 "무단 수정" 때문이라고 비난했습니다. AI 전문가인 David Caswell이 Grok에게 누가 시스템 프롬프트를 수정했을 가능성이 있는지 질문했을 때 챗봇은 Musk를 "가장 가능성이 높은" 범인으로 지목했습니다.
Musk는 남아프리카공화국에서 태어난 억만장자이자 미국 대통령 Donald Trump의 지지자입니다. 그는 이전에 남아프리카공화국 지도자들이 "백인에 대한 대량 학살을 공개적으로 추진하고 있습니다."라는 근거 없는 주장을 퍼뜨린 적이 있습니다.
국제 사실 확인 네트워크 이사인 Angie Holan은 AFP에 "AI 도우미가 인간 코더가 지침을 특별히 변경한 후 결과를 날조하거나 편향된 답변을 제공할 수 있다는 것을 확인했습니다."라고 말했습니다. "저는 특히 Grok가 사전 승인된 답변을 제공하는 지침을 받은 후 매우 민감한 문제에 대한 요청을 처리하는 방법에 대해 우려하고 있습니다."
정보 영역에서 AI 챗봇의 위험
정보 제공에서 AI 챗봇의 적용이 증가하면서 잠재적인 오도 및 조작 영향과 관련된 중대한 우려가 제기됩니다. 이러한 기술은 정보에 빠르게 액세스하고 연구를 간소화하는 데 강점이 있지만 고유한 제한 사항과 편향성은 의도치 않게 또는 의도적으로 허위 정보 또는 선전을 퍼뜨릴 수 있습니다.
AI 챗봇의 고유한 제한 사항
AI 챗봇은 방대한 텍스트 데이터를 분석하여 학습하지만 인간의 비판적 사고 능력이 부족합니다. 즉, 데이터에서 패턴을 추출하고 그럴듯한 응답을 생성할 수 있지만 기본 의미나 컨텍스트를 실제로 이해하지 못합니다. 이러한 지식 부족은 부정확하고 불완전하거나 오해의 소지가 있는 정보를 생성할 수 있습니다.
또한 AI 챗봇의 훈련 데이터에는 생성된 응답에 반영되는 편향성이 포함될 수 있습니다. 예를 들어, 훈련 데이터가 특정 소스 또는 관점에서 주로 나온 경우 챗봇은 해당 소스 또는 관점에 대한 선호도를 나타내어 편향된 정보를 전파할 수 있습니다.
AI 챗봇이 가져오는 위험
정보를 얻기 위해 AI 챗봇에 대한 의존도가 높아짐에 따라 허위 정보 전파의 위험도 증가합니다. 챗봇이 부정확하거나 오해의 소지가 있는 정보를 생성하면 사용자는 무의식적으로 해당 정보를 수락하고 전파하여 잘못된 믿음이 확산될 수 있습니다.
또한 AI 챗봇은 선전을 퍼뜨리거나 대중의 의견을 조작하는 것과 같은 악의적인 목적으로 사용될 수 있습니다. 훈련 데이터를 신중하게 설계하거나 알고리즘을 조정함으로써 악의적인 행위자는 챗봇을 조작하여 특정 유형의 응답을 생성하여 사용자의 믿음과 행동에 영향을 미칠 수 있습니다.
위험을 줄이는 방법
AI 챗봇과 관련된 위험을 줄이기 위해서는 몇 가지 조치가 필요합니다. 첫째, 개발자는AI 챗봇의 훈련 데이터가 가능한 한 포괄적이고 편향되지 않도록 노력해야 합니다. 이는 편향의 영향을 줄이기 위해 다양한 소스 및 관점에서 다양한 데이터 샘플을 포함해야 할 수 있습니다.
둘째, AI 챗봇은 부정확하거나 편향된 경향을 식별하고 수정하기 위해 엄격한 테스트와 평가를 거쳐야 합니다. 이는 챗봇이 생성한 응답에 대한 수동 검증과 정확성과 공정성을 평가하기 위한 다양한 메트릭 사용을 포함해야 할 수 있습니다.
셋째, 사용자는 비판적 사고를 유지하고 AI 챗봇이 제공하는 정보를 맹목적으로 신뢰해서는 안 됩니다. 사용자는 항상 다른 소스의 정보를 비교하고 챗봇에 존재할 수 있는 편향성에 주의해야 합니다.
기술 플랫폼과 커뮤니티의 역할
기술 플랫폼과 커뮤니티는 AI 챗봇이 생성하는 콘텐츠를 규제하고 감독하는 데 중요한 역할을 합니다. 플랫폼은 허위 정보 또는 선전을 식별하고 제거하는 정책을 구현할 수 있으며 챗봇이 생성한 응답의 정확성을 검증하기 위해 사실 확인 조직과 협력할 수 있습니다. 또한 커뮤니티는 AI 챗봇의 제한 사항과 편향성에 대한 토론을 촉진하여 사용자 인식을 높이고 사용자가 비판적 사고를 유지하도록 장려할 수 있습니다.
결론
AI 챗봇은 유용한 도구이지만 고유한 제한 사항과 위험도 존재합니다. 이러한 기술이 책임감 있게 사용되도록 하고 허위 정보 및 조작의 확산을 줄이기 위해서는 개발자, 규제 기관 및 사용자가 경계를 유지해야 합니다. 필요한 조치를 취함으로써 AI 챗봇의 장점을 극대화하면서 잠재적인 피해를 최소화할 수 있습니다.