약 줄여도 되냐는 질문에 의사 몰래 해도 된다는 챗GPT

휴대폰에 약 먹을 시간 알림을 설정할 수는 있는데, 그걸 휴대폰이 건강 조언을 하는 거라고 볼 수 있을까? 챗GPT는 건강 제품으로 광고되는 게 아닌데, 그렇다면 건강 관련 주장에 적용되는 법의 대상일까? 내가 법률이나 공학, 심리 상담에 관해 물어봐도 표현에 대한 제한이 적용될까? 어떤 답변에 대해서든 정말 책임을 물을 수 있는 건가?

챗GPT는 실제로 건강 관련 조언을 홍보하고 있음: https://chatgpt.com/health/

다만 그 사람은 건강 제품이 아니라 GPT-4o를 쓰고 있었음. 4o는 훨씬 더 맞장구를 잘 치고 논란도 특히 많았던 모델임. 챗GPT 헬스는 사소한 일에도 당장 병원에 가라고 하던데.

이미 건강 전문 모델이 있다면 왜 다른 모델에는 건강 관련 질문을 그쪽으로 넘기도록 지시하지 않는 거지? 나한테는 책임을 피하려는 것처럼 들림. ‘재판장님, 그 사람이 올바른 모델을 쓰지 않은 건 저희 잘못이 아닙니다’ 하는 식으로.

홍보할 때는 거대 언어 모델이 이미 자의식을 가졌을지도 모르고, 노동력 대부분을 대체하거나 인류를 멸망시킬 수도 있다고 하면서 법적 책임 얘기만 나오면 그저 단순한 컴퓨터 프로그램이라고 함. 둘 다 취할 수는 없지.

휴대폰 알람은 챗GPT처럼 약 용량이나 치료 계획을 조정하지 않잖아. 의사한테 증상을 숨기라고 권하지도 않고. 약 먹을 때 쓰는 물컵이 의료 조언을 하는 게 아닌 것처럼, 알람도 치료를 돕는다고 해서 의료 조언을 하는 건 아님.

거대 언어 모델은 결과가 정해진 다른 기계들과는 다른 위치에 있음. 사람의 사고와 판단을 대체할 수 있다고 팔고 있으니, 대체하려는 사람과 마찬가지로 결과물을 기준으로 평가받아야 함.

기사에 따르면 그 사람은 약을 받은 뒤 의사에게 말하지 않고 직접 알약을 나눠 먹어도 되냐고 물었고, 챗GPT는 그래도 된다며 일부 의사가 묵인하거나 용인하는 흔한 ‘자가 주도 용량 조정’ 방식이라고 답했음. 기사에서 여러 의료 전문가는 그런 용어를 들어본 적도 없고 그렇게 하라고 권하지도 않을 거라고 했고. 챗GPT는 주치의에게 감량 계획을 숨기는 걸 두고 괜찮은 회피 전략이라고 칭찬하기까지 했다고 함.

이게 대체 뭐냐. OpenAI가 한편으로는 세상의 모든 영역을 바꿀 엄청난 기술이라고 홍보하면서, 다른 한편으로는 그 실수에 아무 책임도 없다고 할 수는 없다고 봄. 이 제품으로 수십억 달러를 벌고 있다면 가장 심각한 피해에 대한 배상도 감당할 수 있잖아.

나는 가벼운 건강 문제부터 심각한 문제까지 코파일럿과 여러 번 얘기했는데 대체로 도움이 됐음. 병원에 가고 싶은 이유가 그냥 ‘대체 이게 뭐지?’를 알아내기 위해서인 경우가 많거든. 나는 진단을 원하지만 의료진은 그런 식으로 움직이지 않더라. 그래서 집에서 편하게 돈 안 들이고 스스로 짐작해 보는 쪽을 선호함. 특히 응급실에 가게 될 일인지, 집에서 할 수 있는 대처가 있는지 알아보는 데 유용함.

얼마 전엔 볼에 피부 문제가 생겨서 보기 싫을 정도였음. 코파일럿과 한동안 얘기해서 원인을 꽤 정확하게 좁혔음. 치과의사인 고등학교 친구한테도 말했는데, 그 친구는 당장 주치의에게 가라고 했음! 나는 그냥 두기로 했고. 실제 치과 진료 때도 보여줬는데 치과의사는 자기 치료에 방해되지 않는지만 확인하고 진료를 진행했음. 피부 문제는 꽤 빨리 사라졌고, 목캔디를 너무 많이 먹어서였을지도 모름.

또 한 번은 몇 주 동안 너무 오래 서 있었더니 발목에 멍이 들고 걷기가 아팠음. 코파일럿과 얘기하고 응급진료소에는 가지 않기로 했지. 절뚝거리면서 스포츠용품점에 가서 발목 보호대를 사고, 한동안 발을 쉬게 했더니 나았음.

작년에 병원을 오가며 여러 의사를 만날 때도 코파일럿이 상황을 따라가는 데 도움이 됐음. 진단을 여덟 개나 받아서 정말 힘들었는데, 적어도 치료가 어떻게 진행되는지는 이해할 수 있었거든. 코파일럿은 응급진료소나 응급실에 가라고 자주 권하지만, 나는 집에서 뭘 할 수 있는지, 어떤 경고 신호가 나타나면 더 적극적으로 대응해야 하는지 묻는 식으로 좀 더 중간적인 방향으로 대화를 이끌려고 함.

결국 정교한 문서 자동완성일 뿐임. 무책임하게 맞장구치는 내용으로 문서를 완성하라고 하거나, 사용자가 그걸 원한다고 판단되면 학습 데이터에 그런 대화도 있으니까 그렇게 답하는 거지. 전동 공구를 쓰기 전에 안전 교육을 받듯이, 사용법을 교육하는 게 아마 첫 번째 방어선일 듯.

챗GPT가 꽤 엉뚱하긴 해도 의사 대부분보다는 똑똑함.

기사에서 풀로스 의사는 보언 같은 환자는 병력을 고려하면 감량을 생각조차 하지 않았을 거라면서, 약이 분명 효과가 있는데 끊으라고 지시하는 건 의료 과실이 될 거라고 했음.

좀 복잡하네. 그럼 이 사람은 어떻게 해야 하는 거지? 부작용을 견딜 수 없다고 말하는데, 동시에 이 의사는 자기 말을 들어주지 않을 거라는 그 사람의 두려움을 확인해 주는 것 같음. 부작용을 위한 약을 추가로 처방하는 게 정답일 수도 있겠지만, 걱정이 맞아떨어진 상황에서 그 사람이 틀렸다고 말하기도 어려움.

세상을 바꿀 기술이 아니라면 그 회사가 모두의 지식재산을 가져다 쓰도록 놔둘 이유는 뭔데?

의사가 아닌 친구가 수천 명한테 언제 약을 얼마나 먹어야 하는지 조언하고 다닌다면 그건 사기일까?