By Inforience in Legacy — 24 1월 2026

온라인 공간이 AI 에이전트들에 의해 점령된다?

아니,

온라인 공간에는 이미 신뢰할 수 없는 정보들로 넘쳐나니까 별 상관없다?

약 3년 전에, 이런 글을 직접 써본 적이 있습니다.

https://info.shadowego.com/post-88/

“특정 분야에 대해 전문가 행세를 하는 녀석, 호기심이 많은 척 하며 질문을 계속 던지는 녀석, 남이 쓴 내용을 공유, 전파하기만 하는 녀석, 사람들이 흥미로워할 만한 이슈에 대해 선제적으로 컨텐츠를 만들어 공개하는 녀석… “
명우는 자신이 만든 “Humanity” 계산법을 기준으로 평가하였을 때, 수치가 낮은 활동주체가 간헐적으로 나타나고, 이 활동주체들 사이에는 모종의 연결 관계가 있다는 것을 알아냈다.
흥미로운 것은 이 주체들은 다양한 이슈에 대해 적극적으로 관여하기도 하지만 아주 가끔씩 철학적이거나 일상적인 질문을 사람들에게 던지고 있다는 점이었다.
“철학적인 질문을 던져서 자신이 인공지능이라는 사실을 눈치채지 못하게 한다?”
명우는 자신이었다면 이 방법을 택하지는 않을 거라는 생각을 하다가 그들이 남긴 이성관계 고민에 대한 상담 글을 보고는 생각을 바꾸었다.

최근에 AI개발자들은 멀티 에이전트 구현 도구에 푹 빠져 있는 것처럼 보입니다.

물론 저도 에이전트를 만들고 굴려서 이것저것 활용하고 있고요.

한번 상상을 해 보시죠.

누군가가 만든 에이전트들이 쑥쑥 자라나고 복사되어

온라인에서 자기들끼리 스스로 협력하면서

마치 사람처럼 콘텐츠 활동을 하고 다닌다면?

여기저기 소셜미디어와 웹사이트에 직접 글을 쓰고 댓글도 달고 좋아요 클릭도 하고…

아예 스스로 사이트를 만들어서 운영하거나

유튜브 영상까지 스스로 제작한다면?

이런 기능을 수행하는 솔루션은 꽤 매력적입니다.

한 사람이 마치 수천 명, 수만 명의 사용자들인 것처럼 위장하여

온라인 가짜 여론을 형성하고

특정 이슈, 기관이나 사람에 대한 사람들의 인식까지 바꿀 수도 있을 테니까 말이죠.

약간의 프롬프트와 설정만 하면

온라인 이슈를 쑥쑥 생성하는 가짜 사용자들.

점점 더 교묘하게 진화하는 가짜 사용자들.

분명 어딘가에는

통장에 돈만 입금되면

이러한 솔루션을 만들고 키워가는 것에

별 고민없이 참여할 개발자들이나 업체들이 있을 겁니다.

저 혼자서도 어렵지 않게 만들어서

계속 키워나갈 수 있을 듯 하고요.

이들을 어떻게 막을 수 있을까요?

제가 만약

이런 솔루션을 만들어서 팔겠다고 하면

누가 절 막을 수 있을까요?

우선,

기술적 방어책이 필요하겠지만

그것이 유일한 솔루션이 될 수 없다는 것 또한

비슷한 다른 이슈들에서부터 이미 우리가 경험해왔습니다.

그럼, 법과 제도, 규제정책들로 컨트롤할 수 있을까요?

어제 제가 살펴보았던 ‘인공지능 투명성 확보 가이드라인’과 같은 규제방안만으로는

충분하지 않다는 점도 중요합니다.

문제가 심각하지만

이미 있어온 문제들이고

이미 온라인 공간은 오염되었으니 포기하자고 하면

포기할 수도 있겠죠.

발굴된 문제를 해결하는 가장 중요한 첫번째 단계는

문제의 심각성을 인식하는 것입니다.

그러나, 참으로 그러나.