[이슈] AI HYPE Checklist ✅ : AI 하이프에 편승한 언론

글 ‘민기’ AI 윤리 레터

1958년 뉴욕타임즈는 당시 새로 개발된 로봇 퍼셉트론이 곧 “걷고, 말하고, 보고, 쓰고, 복제하고, 자신의 존재를 의식하게 될 것이다.”라고 보도했습니다. 예나 지금이나 언론은 AI 하이프에 매력을 느낀다는 것을 보여주는 한 사례입니다. 한 사람이라도 더 많이, 1초라도 더 오래 플랫폼에 묶어 두어야 하는 언론에게 AI 하이프는 예나 지금이나 흥미진진한 소재입니다.

AI 하이프가 한창인 최근, 언론은 이에 너무나 쉽게 편승합니다. 예를 들어 볼까요. 2023년 6월, AI 드론이 임무에 방해가 되어 인간 조종사를 살해했다는 보도를 접하셨을 겁니다. AI가 인간을 살해했다는 충격적인 소식에 언론사들은 앞다퉈 이를 보도했습니다. 하지만 이 보도 내용은 사실이라고 보기 힘듭니다. 조종사의 죽음은 가상의 ‘사고실험’이었다는 사실이 빠진 것이죠. 이후엔 가상훈련조차 없었다는 해명이 나오기까지 했습니다. 존재하지 않는 가상의 AI가 조종사를 살해할 수도 있다는 것이, 다른 뉴스의 중요성을 제칠만큼 중요한 소식이었을까요? 사실 여부를 다각도로 검증할 시간이 없을 정도로 시급한 사안이었을까요?

이외에도 비슷한 사례는 많습니다. 인간보다 뛰어난 초지능이 임박했다고 전하는 뉴스나, AI로 인해 인류가 퇴화할 거라는 자극적인 인터뷰, 인공지능은 인류의 마지막을 컴퓨터 부품으로 예측한다는 보도, “GPT에게 물어보니”로 시작하는 질의응답을 ʻ인터뷰’라며 싣는 기사 등등. 이런 뉴스들은 기술의 사회적 맥락을 진단하기는 커녕 AI 하이프를 증폭할 뿐입니다.

이렇게 학계와 기업의 AI 하이프에 언론이 상당한 지면을 제공하면서 AI 하이프는 신빙성을 얻습니다. 많은 경우 과학적인 근거를 갖추고 있지 못한데 말이죠. 공동체가 당면하고 있는 여러 문제를 논의하는 데 오히려 방해물이 되기도 합니다. ‘AI 윤리 레터’는 AI에 대한 과대 광고부터 그것이 인류 생존을 위협한다는 뉴스까지, 이러한 주장들을 “AI 하이프 뉴스”라고 부를 것을 제안합니다. IT 자문 회사 가트너가 ʻ하이프 사이클’이라는 개념을 통해 진단했듯이, 기술의 과대광고 주기는 일정한 패턴을 보입니다. AI 역시 마찬가지입니다. 지금 우리는 AI 하이프 뉴스에 매일 노출되고 있습니다.

우리가 당면하고 있는 여러 문제들이 AI 하이프에 의해 가려지지 않도록 하기 위해서는 AI 하이프 뉴스를 알아보는 것이 필요합니다. AI 하이프 뉴스를 비판적으로 읽는 작업은 책임 있는 AI를 위한 실천이 될 수 있습니다. 우리는 기업과 언론이 AI와 그것을 만드는 사람들을 무작정 영웅시하는 것을 멈추고, AI의 사회경제적 맥락을 전달할 것을 요구해야 합니다.

그러려면 무엇이 AI 하이프 뉴스인지 알아야겠죠. AI 윤리 레터는 지난 2023년 AI 하이프 뉴스를 알아볼 수 있도록 돕는 ʻAI 하이프 뉴스 체크리스트’를 처음 소개했습니다. 비판적 시각 없이 AI의 능력이나 위험성을 극단적으로 과장하는 언론 보도는 기업의 책임을 지우고 여러 현실적 문제로부터 주의를 돌리기 때문입니다. 다음장 체크리스트를 통해 AI 하이프 뉴스를 점검 할 수 있어요.

✅Check List

과장된 표현, 근거 없는 주장

✅ 명확한 근거 없이 AI를 일컬어 ‘혁명’, ‘획기적’, ‘대변혁’, ‘무한’, ‘마법’ 등 거창한 표현을 사용하나요?

✅ 명확한 근거 없이 AI를 산업혁명, 전기의 발명, 인터넷 같은 역사적 대전환에 비교하거나 AI가 미래에 어떤 변화를 가져올 것이라고 주장하나요?
^{* ‘초지능’이나 ‘인공일반지능(AGI)’ 도래를 기정사실화하는 것도 포함됩니다.}

✅ AI 도구가 실제로는 할 수 없는 일을 할 수 있다고 표현하나요?

✅ 학술 연구를 인용하면서 실제 연구 내용과는 다른 주장을 하나요?

✅ 내용과 무관한 분야의 전문가 의견을 인용하고 있나요?
^{* 예를 들어 교육 분야의 전망에 관해서는 AI 연구자 말고 교육 전문가의 의견이 적합할 수 있겠죠.}

보도자료 받아쓰기

✅ 기업 홍보 담당자, 소속 연구자의 입장 위주로 보도하고 있나요?

✅ AI 제품을 만든 기업의 보도자료 내용을 그대로 전하고 있나요?

한계 및 단점 누락

✅ 도구의 한계에 관한 논의가 빠져 있나요?
^{* AI 기술에는 검증 오류, 편향, 악용 위험 등의 문제가 항상 따라다닙니다.}

✅ 한계를 지나가듯 살짝만 언급하거나 기사 맨 마지막에 사족처럼 달아두었나요?

✅ 한계에 대한 지적이 일부 ‘AI 반대론자’의 주장인 것처럼 축소해서 표현하나요?

✅ AI 구축에 인간 노동이 차지하는 비중을 과소평가하나요?
^{* AI는 자동으로 만들어지지 않으며 오히려 노동집약적입니다.}

✅ 정확도 같은 성능 관련 수치를 설명 없이 제시하나요?

✅ ‘AI의 작동 방식은 이해할 수 없다’고 쉽게 설명을 포기하나요?
^{* AI는 제작자의 설계와 의사결정에 따라 만들어진 시스템이라는 걸 잊지 맙시다.}

어떤가요. 그동안 접해 왔던 AI 하이프 뉴스들이 머릿속을 지나가지 않나요? AI 윤리 레터에서는 이 체크리스트를 공개하고, 독자 분들께 AI 하이프 뉴스의 예시를 모아 달라고 요청했습니다.

연구자가 AI를 활용해 초신성을 발견한 사례를 “AI 혼자 발견”이라며 의인화하거나, AI 기업인의 인터뷰를 비판적 시각 없이 따옴표로 그대로 인용하는 뉴스도 있었습니다. 토론회의 일부 발언만 인용해 AI가 교육을 뒤흔들 것이라고 보도하거나, 기업의 홍보를 위한 보도자료를 그대로 보도하는 사례도 있었습니다.

더 좋은 뉴스가 되기 위해서는 무엇이 필요했을까요? AI 하이프 뉴스로 누가 이익을 보고 있을까요? AI 하이프 뉴스는 어떤 사회적 효과를 낳을까요? AI에 대해 더 나은 논의가 이루어지기 위해서, 언론의 비판적 역할이 중요한 시점입니다.