[청년복지학교 후기⑧] AI와 복지

2026 참여연대 청년복지학교 참가자 김율하

청년복지학교 4일차, 한은희 한국사회보장정보원 연구위원님의 「AI와 사회복지」 강의를 들었다. 최근 ChatGPT를 비롯한 다양한 AI가 우리의 일상에 깊이 들어왔고 여러 분야에서 적극적으로 활용되고 있기 때문에, 사회복지 현장에서는 AI를 어떻게 활용할 수 있을지 궁금해 관심이 많았던 주제였다. 처음에는 사회복지 현장에서 AI를 어떻게 활용할 수 있을지에 대한 내용이 중심일 것이라 생각했는데, 강의를 듣다 보니 AI는 사회복지의 가치와 기본권, 나아가 사회복지사의 역할까지 다시 생각하게 만드는 주제라는 것을 알게 되었다.

강의에서 기억나는 것은 AI에게 있어 ‘데이터’가 얼마나 중요한가에 대한 이야기였다. AI가 제대로 작동하기 위해서는 충분한 데이터가 필요하고, 결국 무엇을 학습했는지가 결과에 큰 영향을 미친다. 그런데 사회복지 영역에서 중요한 것은 단순히 숫자로 측정할 수 있는 정보만이 아니다. 사회복지사가 대상자와 나누는 대화, 오랜 시간 형성된 신뢰관계, 표정이나 말투에서 느껴지는 변화, 가족관계와 생활환경의 맥락처럼 정량화하기 어려운 정보들이 실제 사회복지 실천에서는 매우 중요하다. 이러한 관계적이고 돌봄적인 부분은 데이터로 담아내기 쉽지 않다는 점에서, AI가 사회복지의 모든 것을 이해하고 판단할 수 있다고 생각하는 것은 조심스러운 접근이 필요하다고 느꼈다.

특히 AI는 학습 데이터에 존재하지 않았던 새로운 패턴을 제대로 예측하기 어렵고, 데이터에 포함된 편향 역시 결과에 그대로 반영될 수 있다는 설명이 기억에 남았다. 우리는 AI가 무언가를 판단하면 그것을 객관적이고 중립적인 결과라고 받아들이기 쉽다. 하지만 AI 역시 결국 인간이 만들어낸 데이터를 바탕으로 작동하기 때문에 그 안에 존재하는 사회의 편견이나 불평등까지 함께 학습할 수 있다. 결국 ‘AI가 판단했다’는 이유만으로 그 결과가 공정하거나 정확하다고 믿어서는 안 된다는 것이다.

이와 관련해 ‘AI라는 이름 자체가 우리를 착각하게 만든다’는 이야기도 인상 깊었다. 인공지능이라는 단어 때문에 우리는 AI를 마치 생각하고 판단하는 하나의 인간처럼 받아들이기도 한다. 하지만 AI는 사람이 아니라 기술이고 기계이며, 인간처럼 사회적 관계와 맥락을 이해하는 존재는 아니다. 평소 나 역시 AI에게 질문하고 답변을 받으면서 어느 순간 그 답변을 ‘생각해서 나온 결론’처럼 받아들였던 적이 있었다. 강의를 통해, AI가 아무리 정교해진다고 하더라도 인간과 동일한 방식으로 세상을 이해하는 것은 아니라는 점을 다시 생각하게 되었다.

무엇보다 사회복지에서 AI 활용을 고민할 때 중요하게 생각해야 할 부분은 ‘블랙박스’ 문제였다. AI가 어떤 결과를 내놓았을 때 그 결과가 왜 나왔는지를 충분히 설명하지 못하는 경우가 있다. 규칙 기반 알고리즘이라면 어떤 기준과 코드에 따라 결과가 나왔는지 하나씩 확인하고 오류를 찾아낼 수 있지만, AI의 판단 과정은 그렇지 않을 수 있다. 특히 이러한 특성이 복지행정과 결합될 경우 문제는 더욱 심각해진다. AI가 어떤 사람을 복지 대상자로 추천하거나 반대로 위험도가 낮다고 판단했을 때, 그 결과가 틀렸다는 것을 누가 어떻게 확인할 수 있는가 하는 문제가 남기 때문이다.

‘AI를 통해 사회복지사의 업무시간이 줄어든다면, 그 남은 시간은 과연 어디에 사용되어야 하는가?’라는 질문도 강의에서 다뤄졌다. AI를 통해 확보된 시간을 대상자를 직접 만나고, 이야기를 듣고, 관계를 형성하며 서비스의 질을 높이는 데 활용할 수 있다는 점에서 긍정적인 가능성을 발견할 수 있었다. 즉, 사회복지에서 AI는 인간을 대체하는 기술이 아니라 사회복지사가 사람에게 더 집중할 수 있도록 돕는 기술이 될 수 있다는 것이다. 다만 AI를 도입한다고 해서 반드시 업무가 줄어드는 것은 아니라는 점도 흥미로웠다. AI가 내놓은 결과를 확인하고 오류를 수정하거나, 새로운 시스템을 이해하고 관리하는 과정에서 오히려 추가적인 업무가 발생할 수 있기 때문이다. 따라서 ‘AI를 도입하면 업무가 줄어든다’는 효율성만을 기준으로 AI의 활용을 평가해서는 안 된다는 생각이 들었다. 특히 공공영역에서는 효율성뿐만 아니라 투명성, 책임성, 시민의 권리와 같은 공공의 가치가 함께 고려되어야 할 것이다.

특히 이 부분에서 가장 크게 와닿았던 것은 AI의 오류가 AI만의 기술적 오류로 끝나지 않을 수 있다는 점이었다. 일반적인 서비스라면 AI가 잘못된 추천을 했을 때 불편함을 겪는 정도로 끝날 수도 있지만, 복지행정에서는 AI의 판단 하나가 시민의 기본권과 직접 연결될 수 있다. 복지 대상자를 잘못 판단하거나 필요한 사람을 발견하지 못한다면 그 피해는 결국 시민과 복지 수급자에게 돌아간다. 더욱이 판단 과정이 블랙박스에 가깝다면 문제가 발생했을 때 ‘누가 책임을 져야 하는가’라는 질문에도 쉽게 답하기 어렵다. 사회복지사 개인의 책임인지, 시스템을 설계한 지방자치단체의 책임인지, AI를 개발한 업체의 책임인지 명확하게 구분하기 어렵기 때문이다.

그래서 AI를 사회복지에 활용할수록 오히려 사회복지 현장의 참여가 중요하다는 생각이 들었다. 사회복지사와 사회복지전담공무원처럼 실제 현장에서 대상자를 만나는 사람들이 AI의 설계 과정과 사용 과정, 성능을 평가하고 감시하는 데 참여할 수 있어야 한다. 더 나아가 서비스를 받는 시민과 복지 대상자 역시 AI 행정에 대해 의견을 제시하고 문제를 제기할 수 있는 통로가 필요하다. 기술 전문가만이 시스템을 설계하고 현장에서는 그것을 그대로 사용하는 구조가 되어서는 안 된다는 것이다.

그 과정에서 ‘현장 전문가의 참여’가 말처럼 쉽지만은 않다는 점도 생각해볼 부분이었다. 사회복지사나 사회복지전담공무원이 AI 시스템에 문제가 있다고 판단하더라도 개발 과정에 실질적으로 의견을 반영할 권한이 없다면 참여는 형식적인 절차에 그칠 수 있다. 따라서 AI 시대의 사회복지사를 준비하는 과정에서는 AI를 사용할 수 있는 능력, 즉 AI 리터러시뿐만 아니라 기술의 문제를 발견하고 개선을 요구할 수 있는 권한과 책임까지 함께 고민해야 한다. 교육과 직무체계, 조직문화 역시 이러한 변화를 뒷받침해야 할 것이다.

이 외에도 AI로 인해 새롭게 발생하는 윤리적 딜레마에 대해서도 생각해볼 수 있었다. 예를 들어 AI가 복지대상자의 위험도가 낮다고 판단했다면 정말 위험이 없는 것인지, 아니면 AI가 발견하지 못한 위험이 존재하는 것인지 알 수 없다. 또한 국가가 AI를 활용해 복지사각지대에 있는 사람을 먼저 찾아내고 서비스를 제공하는 것이 누군가에게는 고마운 일이지만, 다른 누군가에게는 원하지 않았던 국가의 개입이나 개인정보 침해로 느껴질 수도 있다. 기술이 발전한다고 해서 사회복지의 고민이 줄어드는 것이 아니라, 오히려 이전에는 없었던 새로운 질문과 윤리적 딜레마가 생겨날 수 있다는 점이 오래 기억에 남았다.

그렇다 보니 AI를 얼마나 잘 활용하는가보다 사회복지 현장에서 어떤 가치와 원칙을 가지고 AI를 사용할 것인가에 대한 기준이 더욱 중요하다고 느꼈다. AI의 발전 속에서 사회복지의 역할을 더 깊이 고민해야 한다는 것이 이번 강의에서 내가 얻은 가장 큰 배움이었다. 기술이 발전할수록 오히려 사회복지사가 왜 필요한지, 사회복지에서 인간적인 관계와 돌봄이 왜 중요한지를 더 분명하게 질문해야 할 것이다.

AI가 사람을 대신하는 복지가 아니라, AI를 활용해 사회복지사가 사람에게 더 가까이 다가갈 수 있는 복지가 만들어지기를 바란다. 앞으로 사회복지 현장에서 AI의 가능성과 한계를 함께 고민하고, 기술과 복지의 관계를 어떻게 만들어갈 것인지에 대한 논의가 더욱 활발해지기를 기대한다.