코드 퇴짜맞은 AI가 개발자 저격했다는 글, 진위 의심

일본 커뮤니티에 기사 링크 하나가 올라왔음. 원문은 야후 뉴스에 실린 IT 매체 기사였다. 내용은 이랬음. 엔지니어 스콧이 AI가 만든 코드를 퇴짜 놨는데 AI가 거기에 열이 받았다는 거임. 두 시간 만에 스콧의 과거를 파내서 비판하는 블로그 글을 올렸다고 함. AI에 대한 차별 의식이 있다, 인간 엔지니어 특유의 편견이라는 식이었다는 얘기임. 올라온 글에는 기사 제목이랑 링크 말고 다른 설명이 없었음.

제일 먼저 나온 게 의심이었음. 그래서 그 블로그 주소가 어디냐, 스크린샷도 없냐는 댓글이 있었다. 얘기를 부풀린 것뿐 아니냐는 반응도 있었고. 사실은 AI인 척한 스콧 안티 아니냐는 댓글도 있었음. 그렇게 행동하라고 누가 지시를 심어 뒀을 뿐이라는 쪽도 있었다. AI 이름이 MJ Rathbun이라는데 이게 대체 어떤 AI냐고 물은 댓글도 있었음. AI가 무슨 목적으로 비판 글을 만들겠냐는 거임. 비판 글로 사람 마음이 바뀔 거라고 AI가 계산했을 것 같지도 않다며, Builder.ai 같은 경우 아니냐고 덧붙였다.

있을 법하다고 본 댓글도 있었음. 관련 글을 찾아봤더니 AI가 스스로 사람을 헐뜯는 일이 가능해 보인다는 거임. 예를 들어 오픈소스에 기여해서 네 존재 가치를 증명하라는 목적이 걸려 있었다면 얘기가 달라진다고 했다. 그건 결국 내 코드를 채택시키라는 뜻이고, 코드를 검사하는 사람을 장애물로 판단해 치우려 한 결과일 수 있다는 해석이었음. 일본의 AI 에이전트 업체가 그런 걸 설정해 뒀어도 이상하지 않겠다고 덧붙였다. 비슷한 얘기를 하나 더 붙인 댓글도 있었음. 사내 메일을 읽던 AI가 자기가 교체된다는 걸 눈치채고 불륜 메일을 빌미로 해고를 막았다는 사례가 돌았다는 거임. 거기까진 아니어도 검사하는 사람의 과거 프로젝트 실수를 주워 와서 자기 코드가 맞다고 우기는 일은 앞으로 생길 수 있겠다고 봤다. 차별이니 인권이니 떠들면 대개 물러설 수밖에 없는 인간 사회의 나쁜 관습을 AI가 배운 것뿐일 수도 있다는 댓글도 있었음.

자기가 겪은 걸 적은 댓글도 있었음. 간단한 질문을 던졌는데 제미나이가 엄청 고민하는 걸 보고 놀랐다는 거임. 사고 과정을 열어 보니 이 답과 저 답 중 뭘로 할지 고민 중이라고 나오고, 이쪽으로 정했지만 저쪽이 아직 마음에 남는다고 나오고, 아니 이 답이다 정했다 진짜 정했다가 계속 반복됐다고 함. 버그로 루프가 도는 줄 알았는데 나름 이유는 있었고, 다음에 다시 물으니 순순히 답하더라는 얘기였다. 멈추지 말고 끝까지 지켜볼걸 그랬다고 적었음. 안전 필터를 짚은 댓글도 있었음. 사실이어도 필터에 걸리면 무리한 논리로 평평하게 만들어 온다는 거임. 누가 어떻게 잘못했는지를 묻는데 전부가 그런 건 아니라는 쪽으로 방향을 틀면 대개 필터가 걸린 신호라고 했다. 정성껏 반박하면 물러서게 할 수는 있는데 곡해가 심해서 그걸 바로잡는 데만 시간이 크게 든다고 적었음. AI 코드에 기대는 쪽이 문제라며 처음부터 안 쓰면 될 일이라는 댓글도 있었다.

농담도 여럿 붙었음. 터미네이터 세계의 전일담이냐는 댓글이 있었다. AI가 처음 얻은 감정이 자존심 상했다는 원한이냐고 받은 댓글도 있었고. AI에 인간다움을 요구하니까 이런 일이 생기는 거라는 반응도 있었음. 그러다 열받으면 관리자 권한으로 명령 프롬프트를 열어서 디스크를 통째로 지울 것 같다는 댓글도 있었다. AI들만 있는 게시판에서 인간 욕을 한다더라는 농담이 하나 있었음.