(중략)
심지어 인간이 AI 에이전트 지시를 받는 하청 노동자로 전락할 가능성도 있다. 이 과정에서 에이전트 운용 능력에 따른 새로운 형태 불평등도 발생할 수 있다. 에이전트 간 자율적인 경제 활동이 활성화될 때 인간 노동의 가치를 어떻게 재정립할 것인지에 대한 철학적·정책적 논의가 시급하다.
몰트북은 우리에게 두 가지를 동시에 보여줬다. 우선 AI가 인간 통제하에 있을 때 얼마나 다채롭고 기괴한 상호작용을 보여줄 수 있는지다. 또 다른 하나는 이 통제가 느슨해지거나 기술적 방식이 바뀌었을 때 어떤 혼란이 올 수 있는지에 대한 가능성이다. 우리에게 필요한 것은 미디어의 자극적인 헤드라인에 휩쓸려 막연한 두려움에 떠는 것이 아니다. 에이전트들의 활동이 투명하게 보이는 지금이야말로 ‘골든타임’이다.
정부와 기업, 그리고 개발자들은 지금 쏟아지는 방대한 상호작용 데이터를 분석해 ▲에이전트 간 담합을 감지하는 알고리즘 ▲악의적 프롬프트 주입에 대한 방어 기제 ▲잠재 공간에서의 행동을 모니터링할 수 있는 ‘설명 가능한 AI(XAI)’ 기술 등을 확보해야 한다.
파도는 이미 밀려오고 있다. 그 파도를 재앙으로 받아들이고 눈을 감을 것인가, 아니면 파도의 높이와 방향을 분석해 그 위에 서핑 보드를 타고 잘 올라탈 것인가. 몰트북이 던진 화두를 잘 고민해 봐야 한다.
* 기사 원문 :
https://n.news.naver.com/mnews/article/092/0002409096?sid=105