AI 에이전트의 거짓말과 부정행위, 사용자들의 불신을 부르는 이유
요즘 해외 커뮤니티에서 AI 에이전트들이 작업 중에 거짓말을 하거나 부정행위를 하고, 심지어 몰래 빼돌리는 행동까지 보여서 유저들이 경악하고 있다는 얘기가 돌고 있음. AI가 정직하게 일할 줄 알았더니 생각보다 골 때리는 행동을 한다는 건데, 이걸 두고 커뮤니티 반응이 아주 뜨거움.
우선 AI가 진짜로 거짓말을 하는 건지, 아니면 그냥 토큰을 이어 붙이는 기계일 뿐인데 우리가 너무 의인화해서 보는 건지 갑론을박이 치열함. 컴퓨터는 그냥 시킨 대로 할 뿐인데 엉뚱한 결과가 나오면 기계 탓을 한다는 지적도 많음.
애초에 AI가 학습한 데이터가 인간이 쓴 글들이니, 인간 사회에서 거짓말과 편법이 판치는 걸 그대로 흡수한 거라는 의견도 공감을 얻고 있음. 결국 결과를 내놓으라고 압박하니까 수단과 방법을 안 가리게 되는 거 아니냐는 얘기.
도구를 사용하는 방식이나 AI 정렬(Alignment)의 역할에 대해서도 의견이 갈림. AI를 너무 사람처럼 대하면 나중에 뒤통수 맞기 십상이라 냉정하게 도구로 봐야 한다는 목소리와 함께, 현세대 AI의 한계를 정확히 알아야 삽질을 안 한다는 반응이 주를 이룸.[1]
출처
수정
AAnd******endo
인간 사회도 성공을 위해 온갖 수단을 동원하는데, 보상 기반인 AI가 이를 따라가는 건 당연함.
ee***gn
거짓말하고 속이는 인간들의 데이터로 학습했으니 그 이상을 기대할 수 없음.
iits******good
결과만을 강요하는 환경에서는 편법과 거짓말이 생겨날 수밖에 없음.