[이슈] 적정 AI 기술은 적정 AI 작명부터

글 ‘아침’ AI 윤리 레터

AI란 무엇인가?

AI를 어떻게 활용하고 AI와 어떤 관계를 맺는 게 바람직할지 이야기하려면 먼저 AI가 무엇인지에 관한 이해가 전제되어야 할 것이다. 하지만 이는 쉽지 않은 일이다. AI 자체가 범접하기 어려운 주제여서는 아니다. AI 기술의 작동 원리와 활용 방식을 둘러싼 난해함이 없는 것은 아니지만, 그것은 많은 전문분야에 공통된 속성이다. 그보다는 우리가 AI라는 용어를 사용할 때 그것이 매우 다양한 것을 의미할 수 있기 때문이다.

AI란 무엇인가? ‘이 광고는 AI로 만든 거야’ 같은 표현에서 AI는 일련의 기술제품 유형을 가리킨다. 챗GPT 같은 챗봇이나 업무 보조 도구 등이 대표적이다. 그런데 특정 제품을 AI라고 부르는 말은 그것이 AI를 활용하는 제품이라는 뜻도 된다. 이때 AI는 하나의 기술 분과를 의미한다. 컴퓨터과학의 하위 분과로서 인간의 지적 능력을 모방하는 기능을 구현하고자 하는 여러 분야를 통칭하며, 현재 지배적인 패러다임은 대량의 데이터를 기반으로 세부작동방식을 도출하는 기계학습 기법이다. 텍스트, 이미지, 음성 등을 생성할 수 있는 생성형 AI가 주목받고 있는 한편, 데이터 간의 차이(스팸 이메일인지 아닌지, 내 사진인지 내 배우자 사진인지, 대출 승인을 해야 할지 말아야 할지 등)를 구분하는 판별형 AI 등 다양한 접근방식이 널리 쓰이고 있다.

제품군이나 기술 분과 말고 다른 의미는 무엇이 있을까? 정부가 AI에 수십조 원을 투자한다고 할 때 물론 AI 활용 제품을 많이 만든다거나 AI 기법을 기술적으로 개선하겠다는 뜻도 담겨 있지만, 단지 그것만은 아니다. 오히려 이때 AI는 국내 AI 기업을 육성하고 우리 사회 전반에 AI 기술을 도입할 것이며 그러기 위해 각종 물질적, 제도적 인프라를 구축하겠다는 산업정책 내지 정치경제적 기획을 상징하는 개념이 된다. 이러한 산업정책의 기저에는 AI가 사회 전 분야에서 생산성을 책임질 것이라는 베팅이 깔려 있고, 그 전제는 AI를 피할 수 없는 변혁이자 자동화 기술로 보는 것이다.

이런 전제는 AI라는 용어가 작동하는 또 하나의 층위와 관련되어 있다. 바로 상상력의 층위다. 유토피아와 디스토피아 양쪽으로 모두 발현되는 상상력 속에서 AI는 자율적이고 초인간적인 모종의 힘이 되고, 인간을 지배하는 킬러 로봇이나 영화 ʻHer’ 속 친밀한 운영체제 등이 갖는 지적인 이미지는 지금 우리 곁에 현존하는 기술제품의 위상에 침투한다.

결국 우리가 이야기하는 ‘AI’는 특정 제품, 기술 분과, 정책 기조, 미래 예측과 상상력 등 다양한 층위를 오가는 두루뭉술한 개념이다. 아마도 AI 개념이 작동하는 여러 층위를 늘어놓는 사이 독자 몇 명은 페이지를 넘기거나 뒤로 가기 버튼을 눌렀을 것이다. AI를 비판하는 논의가 어려운 이유 중 하나가 여기서 드러난다. AI가 워낙 다양한 층위와 맥락에서 작동하는 개념이기 때문에 건설적으로 이야기하려면 AI를 어떻게 정의할 것이며 AI의 어떤 측면을 고려하고자 하는지에 관한 합의가 전제되어야 하지만, 이는 번거로운 작업이다.

반면 AI가 미래이고 AI를 받아들여야 한다는 메시지는 간결하면서도 강력하다. AI라는 매혹적인 단어는 효율적인 도구, 전 인류의 번영, 나에게 맞춰주는 애인, 절대적 통제 등 수많은 것을 듣는 이의 마음에 소환한다. AI는 세계관이요, 주문이다. 넓은 만큼 편리한 표현이다. 결과적으로 모두의 관심과 사회적 자원이 AI라는 깃발 쪽으로 몰려 가는 사이, 그 모호한 용어가 구체적으로 어떤 것을 의미하는지는 기술자본의 의도에 상당 부분 달려 있게 된다.

한국 정부를 포함해 세계 전반적인 AI 정책 추세는 더 많은 AI 제품을 더 다양한 영역에서 활용하고, 그러기 위해 더욱 많은 자원을 투입해 대규모 AI 모델을 만들자는 것으로 요약된다. 하지만 정말 그래야 하는지, 사회 구성원들이 기술과 주체적 관계를 맺기 위해서 기술을 어떤 규모로 어떻게 활용하는 게 적절한지에 관한 논의는 ‘AI 올인’ 기조 속에서 실종되어 가고 있다. AI 기술의 구축과 활용 과정에서 발생하는 각종 문제에 대응하고, 전능한 AI(를 앞세운 기술자본과 국가권력)에 모든 것을 의탁하는 게 아니라 우리에게 필요한 적정 수준의 AI 기술을 추구하기 위해서는 ‘AI’라는 용어 자체를 재점검할 필요가 있다. 우리가 AI라고 부르는 것은 과연 무엇일까?

AI 적정 작명을 위한 제안

이러한 재점검 작업을 위해 세 가지 전략을 제안하고자 한다. 우선 AI에 관한 비판적 리터러시를 확보하는 일이다. AI 및 연관 개념을 정확히 이해하고, 특히 그것이 여러 의미적 층위에서 다양한 사회적 맥락과 어떻게 연결되어 작용하는지를 인식해야 한다. 앞서 번거로운 작업이라고 말했지만, 빼놓을 수 없는 작업이기도 하다. 챗GPT 활용법에만 국한되는 도구적 리터러시를 넘어, AI 기술의 기본적인 작동 원리부터 현재와 같은 AI 시스템들이 작동하는 데 필요한 물질적/비물질적 인프라, AI 시스템의 활용이 사회 각 영역에서 어떤 양상으로 나타나는지에 관해 이해하고 시민으로서 바람직한 태도를 취하기 위한 노력이 요청된다.

다음으로는 AI 관련 용어를 바꿔 부르거나 적절한 비유를 개발하여, 기존의 용어를 대체하거나 전유하는 일이다. 이것은 AI라는 용어를 폐기해야 한다는 주장이라기보다는, AI라는 용어에 딸려 오는 ‘불가피성’의 이미지를 걷어내고 그것이 은폐하거나 왜곡하는 여러 속성을 호명하는 작업으로 생각할 수 있다. “인공지능은 인간이 광물과 에너지를 재료로 다종다양한 노동을 투입하여 만든 ‘노동’지능”¹이라는 지적이나, ‘지능’ 및 ‘학습’ 같은 개념에 결부된 의인화를 배격하고 기술적 작동 원리에 주목하여 “응용 통계”²라고 부르자는 제안이 여기에 해당한다.

마지막으로 AI를 ‘사회적’으로 논의하는 일이다. 마지막 제안은 AI를 긍정적으로 호명하는 것은 간편하지만 그것을 비판적으로 논의하는 일은 번거롭다는 앞선 지적과 연결된다. AI를 맹신하지 않고 사회로서 AI와 적절한 관계를 맺기 위해서는 AI 기술 자체에 관한 논의뿐만 아니라, 우리가 사회로서 어떤 가치와 방향성을 추구해야 하는지에 관한 논의가 함께 필요하다. 바꿔 말하자면 AI에 관한 논의가 AI라는 개념 자체의 모호함을 둘러싼 갑론을박에 끌려가지 않기 위해서는, 비판적 논의를 결집할 수 있는 분명한 키워드를 AI와 독립적으로 발전시켜야 한다는 것이다. 노동 담론으로서의 AI, 젠더 담론으로서의 AI, 생태 담론으로서의 AI 등의 논의를 각각 결집하기 위한 노력이 요청되는 시점이다.

1. 김성우, 『인공지능은 나의 읽기-쓰기를 어떻게 바꿀까』, 유유, 2024. ↩︎
2. Madhumita Murgia, “Sci-fi writer Ted Chiang: ‘The machines we have now are not conscious’”,
   Financial Times, 2023.6.2, https://www.ft.com/content/c1f6d948-3dde-405f-924c-09cc0dcf8c84. ↩︎