생성형 AI와 윤리 - AI 시대의 가짜뉴스와 사라져가는 사고력

건강한 회의론과 디지털 리터러시에 대하여

※ 본 포스팅은 2024년 10월 작성했던 글을 기반으로, 2026년 현재 시점에 맞게 일부 사례와 표현만 최소로 수정·보완하여 재발행한 글입니다. 당시의 문제의식과 핵심 내용은 최대한 유지했습니다.

 

 

무분별한 정보에 대한 불안, 사라져가는 생각하는 힘

생각의 배경과 계기

https://www.stuartmcmillen.com/blog/amusing-ourselves-to-death/ 내가 처음 <죽도록 즐기기>란 책을 알게해준 삽화.

 

 두 소설가가 바라본 미래(소설 '멋진 신세계' vs '1984') 만화 번역 https://smileru.tistory.com/8888445

두 소설가가 바라본 미래 (소설 '멋진 신세계' vs '1984')

 

닐 포트먼의 <죽도록 즐기기>라는 책에서 언급된 올더스 헉슬리의 미래 예측이 떠오른다. 헉슬리는 우리에게 너무 많은 정보가 주어지면서 인간이 점점 소극적이고 자기중심적으로 변하고, 결국 진실이 무의미한 소식 속에 파묻힐 것을 우려했다.

 

이 이야기는 AI가 대중화되기 이전부터 꾸준히 언급되어 왔지만, 생성형 AI가 보편화된 지금은 그 무게감이 훨씬 크게 다가온다. 이제는 사람이 직접 작성했는지조차 구분하기 어려운 콘텐츠가 무수히 생산되고 있으며, 출처가 불명확한 정보 또한 빠르게 확산되고 있다.

 

현실은 이미 AI 기반 데이터와 콘텐츠로 범람하는 시대가 되었다. 텍스트와 영상 속 미묘한 어색함으로 AI 생성물을 구분할 수 있었던 시기도 있었지만, 이제는 전문가조차 구별하기 어려운 수준에 도달하고 있다. 그리고 AI는 지금 이 순간에도 계속 학습하고 진화한다.

 

그 속에서 우리는 과연, 정보의 홍수 속 진실을 판별할 수 있는 힘을 끝까지 유지할 수 있을까?

 

가짜뉴스의 사례 및 문제점

<Don’t believe everything you see> 아티클에서 언급한 가짜뉴스 유형을 바탕으로, AI가 개입된 사례를 중심으로 다시 정리해보고자 한다.

출처 - Don’t believe everything you see https://blogs.deakin.edu.au/article/misinformation-2023/

Don’t believe everything you see: how AI is spreading mis-, dis- and mal-information and what to do about it 

 

1.     잘못된 정보(mis-information)    

의도적이든 비의도적이든 잘못된 정보나 오도된 정보가 퍼지는 현상을 의미한다.

 

미국의 인기 뉴스 앱 ‘뉴스 브레이크(NewsBreak)’에서는 실제로 존재하지 않는 총격 사건 기사가 AI에 의해 생성되어 게시된 일이 있었다. 이는 생성형 AI의 환각(hallucination) 현상으로 인해 만들어진 대표적인 사례였다.

 

2025~2026년 현재는 이런 문제가 더 심화되고 있다. 단순 텍스트를 넘어 이미지·영상·음성까지 생성 품질이 급격히 향상되면서, 일반 사용자가 허위 여부를 판별하기 더욱 어려워졌다.

출처 : 조선일보 - 시키지도 않았는데… AI가 가짜뉴스 만들었다 https://www.chosun.com/economy/tech_it/2024/06/11/OQQJM3JH4JFNBLTTUTBZQBOXWE/
 

시키지도 않았는데… AI가 가짜뉴스 만들었다

 

2.     허위정보(dis-information)

허위정보는 특정한 의도를 가지고 만들어진 거짓 정보를 말한다. 정치적 목적, 사회적 갈등 조장, 선거 개입, 특정 인물 또는 집단 비난 등에 활용된다.

왼쪽 2-1 AI 생성 정치 이미지 / 오른쪽 2-2 젤렌스키 딥페이크 영상

 

2-1. AI 생성 정치 이미지

도널드 트럼프 전 미국 대통령이 체포되는 것처럼 보였던 이미지는 생성형 AI 툴인 미드저니(Midjourney)로 제작된 이미지였다.

 

2-2. 젤렌스키 딥페이크 영상

볼로디미르 젤렌스키 우크라이나 대통령이 항복 선언을 하는 것처럼 보이는 딥페이크 영상은 전 세계적으로 큰 충격을 주었다. 당시에도 위험성이 컸지만, 2026년 현재는 실시간 음성 복제와 라이브 딥페이크 기술까지 등장하면서 더 심각한 사회적 문제로 이어지고 있다.

 

출처 : 서울신문 - 세계 뒤흔드는 가짜뉴스 ‘폭격’… AI 규제·디지털 리터러시 급선무[AI 블랙홀 시대] https://www.seoul.co.kr/news/plan/artificial-intelligence/2024/01/10/20240110008001

세계 뒤흔드는 가짜뉴스 ‘폭격’… AI 규제·디지털 리터러시 급선무[AI 블랙홀 시대]

 

3.     유해정보(mal-information)

사실에 기반하지만 누군가에게 피해를 주기 위해 의도적으로 퍼지는 정보 유형이다. 유해 정보의 예로는 피싱(phishing), 도싱(doxing), 스와팅(swatting), 복수 포르노(revenge porn) 등이 있으며, 최근에는 AI 음성 복제와 합성 기술이 결합되면서 피해 규모와 속도가 더 커지고 있다.

 

 

가짜뉴스가 가져오는 문제

가짜뉴스가 범람하게 된다면 수많은 문제점을 야기한다.

 

인간은 인지 능력의 한계로 인해 자신이 믿고 있는 신념과 생각을 강화하는 정보만 선택적으로 받아들이는 경향이 있다고 한다. 결국 우리가 주목해야 할 ‘진실’보다, 자신이 믿고 싶은 ‘거짓’에 더 쉽게 끌리게 되는 것이다. 이 문제가 지속된다면 언론을 비롯한 모든 정보에 대한 신뢰도가 떨어지는 것은 물론 혐오와 차별만이 가득 찬 개인주의적 사고가 견고 해지며 가짜뉴스로 파생된 피해자는 더더욱 진실을 호소하기 어려워질 것이다.

 

출처 : 한겨레 - 거짓을 욕망하고, AI로 가짜정보 찍어내는 ‘탈진실’의 시대  https://www.hani.co.kr/arti/economy/it/1127236.html

거짓을 욕망하고, AI로 가짜 정보 찍어내는 ‘탈진실’의 시대

 

특히 오늘날의 AI는 정보 생산 속도를 극단적으로 끌어올렸기 때문에, 잘못된 정보가 정정되기도 전에 수많은 사람에게 퍼져버린다. 가짜뉴스는 단순 개인 피해를 넘어 정치·사회·국제 문제와 결합될 경우 전쟁과 같은 대형 재난까지 초래할 수 있는 가장 위험한 무기가 될 수 있다고 생각한다.

 

그렇기에 우리는 지속적으로 경계해야 하며, 진실을 판별할 수 있는 사고의 힘을 키우려는 자세가 필요하다.

 

 

대안 - 건강한 회의론과 디지털 리터러시

가짜뉴스 문제를 해결하기 위해서는  ‘건강한 회의론(Healthy Skepticism)’이 필요하다고 생각한다.

 

*건강한 회의론 : 증거나 논리적 근거 없이 정보를 무조건 믿지 않고, 검증을 통해 객관적 진실을 찾으려는 태도

https://history.byu.edu/healthy-skepticism

Healthy Skepticism

 

극단적인 러다이트 운동을 하지 않는 이상 기술의 발전 자체를 막는 것은 사실상 불가능하다. 생성형 AI를 막는다 해도 또 다른 유사 기술은 계속 등장할 것이다. 그렇기에 중요한 것은 기술 자체를 거부하는 것이 아니라, 정보를 대하는 인간의 태도라고 생각한다.

 

이를 위해 필요한 것은 결국 ‘사고력’이다. 문제나 상황에 대해 스스로 생각하고 판단할 수 있는 힘 말이다.

 

가끔 이런 상상을 해본다. 미래의 내 자녀가 정체를 알 수 없는 가짜뉴스를 가져와서,

 

“AI가 진짜라고 했으니까 사실이야.”

라고 말한다면 어떨까? 그때 나 역시 스스로 판단하지 못한 채 다시 AI에게 정답을 묻고 있다면?

생각만 해도 소름 끼치는 일이다. 그 순간 인간의 사고는 사라지고, AI 의존성만 남게 된다. 부디 이런 상상이 현실이 되지 않기를 바란다.

 

문해력과 디지털 리터러시

디지털 문해력은 디지털 리터러시로도 많이 사용되며 디지털 콘텐츠에 대한 이해와 활용 능력, 디지털 기술과 미디어를 비판적으로 수용하는 능력, 디지털 도구와 기술을 활용하는 능력을 모두 포함한다. 이를 키우기 위해서는 다양한 방면에서 관찰하고 비판하는 학습이 필요하며 이는 토론과 스스로 고찰하는 태도에서 파생된다고 생각한다.

 

생성형 AI 시대의 필수 역량, 디지털 리터러시 http://dshi.mods.go.kr/window/2025a/main/2025_sum_07.html

통계의 창 2025 여름호

 

 

하지만 대한민국 교육의 현황은 어떨까? 대한민국의 교육관은 교육 그 자체의 가치를 존중하도록 격려한다기보단 여전히 ‘대학’과 ‘결과’라는 목적을 달성하기 위한 수단으로 진행된다고 생각한다. 가치가 존중받지 못한 교육에서 윤리까지 챙길 수 있는 여유는 부족하며, 그 부재는 최근 몇 년간 이어진 딥페이크 범죄와 디지털 범죄 문제 속 청소년 가해자 비율에서도 드러난 것은 아닐지 조심스럽게 생각한다.

 

윤리는 앞으로도 주목받을 키워드라고 생각한다. 사실 오래전부터 중요했어야 하는 키워드인데 세상이 각박하다 보니 오랜 시간 잊혀졌던 것 같다.

 

이 모든 것에는 결국 어른의 책임이 있음을 통감하며 디자이너로서도 가짜정보가 우선순위로 노출되지 않는 방안과 출처가 명확한 정보를 사용하는 것, 그리고 팩트체크는 선택이 아닌 필수라고 생각한다.

 

정보를 제공함에 있어서도 사용자에게 다크패턴으로 부정적인 경험을 선사하는 것이 아닌 신빙성 있는 경험을 제공할 수 있도록 지속적인 정보교류가 될 수 있는 환경이 생기길 바란다.