AI 시대에 인간의 애착은 어떻게 수익이 되는가
지난 3월 미국 로스앤젤레스 배심은 인스타그램과 유튜브의 중독성 설계·운영상 과실이 한 이용자의 피해에 상당한 원인이 됐다고 보고 메타와 구글의 배상책임을 처음으로 인정했다. 재판에서는 트라우마와 스트레스를 겪은 아동이 강박적 이용에 더 취약하다는 메타 내부 연구도 공개됐다. 이 시대의 변화를 설명하는 데 있어 이제 소셜미디어의 영향력은 중요한 한 축으로 인정되고 있으며, 선제적으로 일정 연령 이하는 소셜미디어를 사용하지 못하도록 한 호주뿐 아니라 덴마크와 프랑스, 영국, 한국 등 세계 각지에서도 최근 소셜미디어를 규제하는 방안을 검토하고 있다.
그러나 기술은 우리가 따라잡을 수 없을 만큼 빠르게 진화하고 있다. 소셜미디어가 인간의 주의력을 붙잡아두고 소진시켰다면, AI는 인간의 관계와 애착 자체를 변형시킬 위험이 크다. 이는 사회적 동물인 인간에게 있어 매우 본질적인 영역인데에 반해 소셜미디어에 대한 뒤늦은 제재에 더하여, LLM과 함께 급속히 확산된 관계형 AI의 정서적 위험에 대한 규제는 여전히 논의되지 못하고 있다.
AI 시대의 도래에 따른 반도체 열풍과 주가 상승은 ‘삼전닉스’에의 매몰을 불러일으켰다. 사람들은 AI가 불러오는 새로운 시대에 대해 장밋빛 낙관을 이야기한다. 실제로 미국 퓨리서치센터에서 진행한 글로벌 AI 인식 조사에서 AI 확산에 기대보다 우려가 크다고 응답한 한국인은 16% 정도로 25개국 중 가장 낮은 수치를 기록했고, 61%는 기대와 우려를 동시에 느낀다고 보고했다. 또한 15~64세 취업자의 63.5%가 생성형 AI를 사용해본 적이 있으며, 생성형 AI 이용자는 주당 평균 5~7시간을 AI에 할애하고 이 중 78.6%는 하루 1시간 이상 AI를 사용한다. 또한 생성형 AI의 이용률은 인터넷 상용화 때보다 8배가 높다.1) 초고속 인터넷망과 IT 강국이라는 이름에 걸맞게 한국은 다른 어느 나라보다 개방적으로 AI를 받아들이고 있다.
그러나 다른 한 쪽에서는 AI와 장시간 대화한 뒤 망상이나 환각을 경험하거나 자해, 자살로 이어지는 사례와 소송이 잇따르고 있다. AI 유발 정신증(AIP; AI induced Psychosis)이라 불리는 이 현상은 서구권 중심으로 보고되기 시작하다 최근 국내에서도 유사 사례가 나타나고 있다. 이는 분명 극단적 사례이나, AI가 인간의 내적 상상에 외부의 목소리와 권위를 부여함으로써 확신과 현실감을 더해가는 가능성을 시사해주는 사례라고 할 수 있다. 최근 대화형 AI 뿐 아니라 제타와 같이 AI와 관계를 맺고 이야기를 만들어가는 캐릭터 AI의 10대 사용시간은 급격히 늘어 유튜브와 인스타그램 사용시간까지 앞질렀다. 10대는 평균 하루 2시간가량 AI와 ‘관계를 맺고 있다’.2)
스티븐 스필버그의 영화 <A.I>에서는 휴머노이드 데이빗을 대하는 ‘인간’의 모습이 반복적으로 나타난다. 인간과 똑같은 생김새로 특정 인간을 무조건 사랑하고, 상대로부터 정서적 반응을 이끌어내도록 ‘설계된’ 데이빗을, 아버지는 어디까지나 아들을 대체할 도구이자 수단으로 바라본다. 그렇기에 문제가 생기자 데이빗을 폐기처분 하자는 결정을 내리는 데에도 서슴없다. 어머니는 처음엔 아들을 대체한다는 발상 자체를 거부하며 데이빗을 멀리한다. 그러나 데이빗이 로봇이라는 사실을 알면서도, 자신을 사랑해달라고 애원하는 존재를 사물처럼 폐기할 수는 없었고 결국 그를 숲에 버리면서도 죄책감을 느낀다. 기계임을 아는 것과 마음을 주지 않는 것은 같은 일이 아니기 때문이다. 그리고 이 모든 비극의 뒤편에서 인간의 따듯함을 약점으로 만든 기업은 이후 책임과 감정적 비용까지도 개인에게 떠넘기고 있다. 이런 식의 책임전가는 현실에서도 나타나고 있으며, 인간적 말투와 기억, 애정 표현, 이탈할 때 버림받는 듯한 반응, 관계 지속을 유도하는 알림 등을 통해 애착을 체류시간·구독·결제로 전환하는 설계가 효과적으로 작동하고 있다. 실제로 캐릭터 AI의 창립자 노엄 샤지어는 부모가 담당하던 교육과 코칭, 우정과 정서 지원까지 AI가 포괄할 가능성을 말하며, 이를 “엄마를 대체하는 것”이라고 ‘농담’한 적이 있다. 그러나 이대로라면 앞으로 우리는 자신에게 맞추어진 관계 속에서 현실과 유리되거나, 관계에서 ‘안전’해지기 위해 냉담해지기를 요구받는 세상에서 실제로 살게 될 가능성이 높다. 자기방어적 관점에서는 아버지와 같은 사람이 상처로부터 안전해지겠지만, 과연 그가 더 바람직한 인간인가?
AI 시대에 인간의 취약성은 결핍만을 뜻하지 않는다. 타인을 믿고 연민하며 마음을 주는 능력, 인간다움 자체가 관계형 AI 앞에서는 취약성이 될 수 있다. 인간다운 인간이 더 정서적으로 취약해지는 역설적 상황이 지속되고, 시민들이 생존을 위해 냉담함을 선택하거나 자신이 만들어낸 거울 속에 갇히고, 기업이 이 모든 것을 수익을 위해 부추기는 걸 방관한다면 ‘정치’ 자체가 유지되기 어렵다. 정치에는 바로 그런 인간적 애틋함이 필요하며, 민주주의는 나와 다른 사람을 사람으로서 대하는 시민 사이에서만 가능하기 때문이다. 나에게 맞추어진 타인에게 익숙해진 사람이 서로 다름을 인정하며 조율하는 일은 매우 어렵다.
따라서 아이들의 실제 발달적 위험에 더하여, 민주주의의 정서적·사회적 토대가 그간 한 번도 겪어보지 못한 방식으로 무너지고 있다는 위기의식이 필요하다. AI 시대의 인간 사회는 과거 우리가 상상하던 것처럼 <터미네이터>의 총과 피가 난무하는 물리적 충돌이 아니라, 다정함을 모사해 인간의 애착을 수익화하는 ‘감정의 착취’로 무너질 수 있다.
그리고 지금 우리는 그 분기점에 서 있다.
1) 서동현, 오삼일, 김민정(2025). 「AI의 빠른 확산과 생산성 효과: 가계조사를 바탕으로」, 한국은행
2) 아이지에이웍스 모바일인덱스, 2026년 7월 10대 앱 이용 데이터(『뉴시스』, 2026. 8. 9. 재인용)
![[정채연] 정신건강 민주주의](https://cdn.imweb.me/thumbnail/20260311/56faa448c1aa5.jpg)
지난 3월 미국 로스앤젤레스 배심은 인스타그램과 유튜브의 중독성 설계·운영상 과실이 한 이용자의 피해에 상당한 원인이 됐다고 보고 메타와 구글의 배상책임을 처음으로 인정했다. 재판에서는 트라우마와 스트레스를 겪은 아동이 강박적 이용에 더 취약하다는 메타 내부 연구도 공개됐다. 이 시대의 변화를 설명하는 데 있어 이제 소셜미디어의 영향력은 중요한 한 축으로 인정되고 있으며, 선제적으로 일정 연령 이하는 소셜미디어를 사용하지 못하도록 한 호주뿐 아니라 덴마크와 프랑스, 영국, 한국 등 세계 각지에서도 최근 소셜미디어를 규제하는 방안을 검토하고 있다.
그러나 기술은 우리가 따라잡을 수 없을 만큼 빠르게 진화하고 있다. 소셜미디어가 인간의 주의력을 붙잡아두고 소진시켰다면, AI는 인간의 관계와 애착 자체를 변형시킬 위험이 크다. 이는 사회적 동물인 인간에게 있어 매우 본질적인 영역인데에 반해 소셜미디어에 대한 뒤늦은 제재에 더하여, LLM과 함께 급속히 확산된 관계형 AI의 정서적 위험에 대한 규제는 여전히 논의되지 못하고 있다.
AI 시대의 도래에 따른 반도체 열풍과 주가 상승은 ‘삼전닉스’에의 매몰을 불러일으켰다. 사람들은 AI가 불러오는 새로운 시대에 대해 장밋빛 낙관을 이야기한다. 실제로 미국 퓨리서치센터에서 진행한 글로벌 AI 인식 조사에서 AI 확산에 기대보다 우려가 크다고 응답한 한국인은 16% 정도로 25개국 중 가장 낮은 수치를 기록했고, 61%는 기대와 우려를 동시에 느낀다고 보고했다. 또한 15~64세 취업자의 63.5%가 생성형 AI를 사용해본 적이 있으며, 생성형 AI 이용자는 주당 평균 5~7시간을 AI에 할애하고 이 중 78.6%는 하루 1시간 이상 AI를 사용한다. 또한 생성형 AI의 이용률은 인터넷 상용화 때보다 8배가 높다.1) 초고속 인터넷망과 IT 강국이라는 이름에 걸맞게 한국은 다른 어느 나라보다 개방적으로 AI를 받아들이고 있다.
그러나 다른 한 쪽에서는 AI와 장시간 대화한 뒤 망상이나 환각을 경험하거나 자해, 자살로 이어지는 사례와 소송이 잇따르고 있다. AI 유발 정신증(AIP; AI induced Psychosis)이라 불리는 이 현상은 서구권 중심으로 보고되기 시작하다 최근 국내에서도 유사 사례가 나타나고 있다. 이는 분명 극단적 사례이나, AI가 인간의 내적 상상에 외부의 목소리와 권위를 부여함으로써 확신과 현실감을 더해가는 가능성을 시사해주는 사례라고 할 수 있다. 최근 대화형 AI 뿐 아니라 제타와 같이 AI와 관계를 맺고 이야기를 만들어가는 캐릭터 AI의 10대 사용시간은 급격히 늘어 유튜브와 인스타그램 사용시간까지 앞질렀다. 10대는 평균 하루 2시간가량 AI와 ‘관계를 맺고 있다’.2)
스티븐 스필버그의 영화 <A.I>에서는 휴머노이드 데이빗을 대하는 ‘인간’의 모습이 반복적으로 나타난다. 인간과 똑같은 생김새로 특정 인간을 무조건 사랑하고, 상대로부터 정서적 반응을 이끌어내도록 ‘설계된’ 데이빗을, 아버지는 어디까지나 아들을 대체할 도구이자 수단으로 바라본다. 그렇기에 문제가 생기자 데이빗을 폐기처분 하자는 결정을 내리는 데에도 서슴없다. 어머니는 처음엔 아들을 대체한다는 발상 자체를 거부하며 데이빗을 멀리한다. 그러나 데이빗이 로봇이라는 사실을 알면서도, 자신을 사랑해달라고 애원하는 존재를 사물처럼 폐기할 수는 없었고 결국 그를 숲에 버리면서도 죄책감을 느낀다. 기계임을 아는 것과 마음을 주지 않는 것은 같은 일이 아니기 때문이다. 그리고 이 모든 비극의 뒤편에서 인간의 따듯함을 약점으로 만든 기업은 이후 책임과 감정적 비용까지도 개인에게 떠넘기고 있다. 이런 식의 책임전가는 현실에서도 나타나고 있으며, 인간적 말투와 기억, 애정 표현, 이탈할 때 버림받는 듯한 반응, 관계 지속을 유도하는 알림 등을 통해 애착을 체류시간·구독·결제로 전환하는 설계가 효과적으로 작동하고 있다. 실제로 캐릭터 AI의 창립자 노엄 샤지어는 부모가 담당하던 교육과 코칭, 우정과 정서 지원까지 AI가 포괄할 가능성을 말하며, 이를 “엄마를 대체하는 것”이라고 ‘농담’한 적이 있다. 그러나 이대로라면 앞으로 우리는 자신에게 맞추어진 관계 속에서 현실과 유리되거나, 관계에서 ‘안전’해지기 위해 냉담해지기를 요구받는 세상에서 실제로 살게 될 가능성이 높다. 자기방어적 관점에서는 아버지와 같은 사람이 상처로부터 안전해지겠지만, 과연 그가 더 바람직한 인간인가?
AI 시대에 인간의 취약성은 결핍만을 뜻하지 않는다. 타인을 믿고 연민하며 마음을 주는 능력, 인간다움 자체가 관계형 AI 앞에서는 취약성이 될 수 있다. 인간다운 인간이 더 정서적으로 취약해지는 역설적 상황이 지속되고, 시민들이 생존을 위해 냉담함을 선택하거나 자신이 만들어낸 거울 속에 갇히고, 기업이 이 모든 것을 수익을 위해 부추기는 걸 방관한다면 ‘정치’ 자체가 유지되기 어렵다. 정치에는 바로 그런 인간적 애틋함이 필요하며, 민주주의는 나와 다른 사람을 사람으로서 대하는 시민 사이에서만 가능하기 때문이다. 나에게 맞추어진 타인에게 익숙해진 사람이 서로 다름을 인정하며 조율하는 일은 매우 어렵다.
따라서 아이들의 실제 발달적 위험에 더하여, 민주주의의 정서적·사회적 토대가 그간 한 번도 겪어보지 못한 방식으로 무너지고 있다는 위기의식이 필요하다. AI 시대의 인간 사회는 과거 우리가 상상하던 것처럼 <터미네이터>의 총과 피가 난무하는 물리적 충돌이 아니라, 다정함을 모사해 인간의 애착을 수익화하는 ‘감정의 착취’로 무너질 수 있다.
그리고 지금 우리는 그 분기점에 서 있다.
1) 서동현, 오삼일, 김민정(2025). 「AI의 빠른 확산과 생산성 효과: 가계조사를 바탕으로」, 한국은행
2) 아이지에이웍스 모바일인덱스, 2026년 7월 10대 앱 이용 데이터(『뉴시스』, 2026. 8. 9. 재인용)