AI 없었으면 더 나았을지도 모른다는 제프리 힌턴

그렇다면 힌턴은 왜 1970년대에 AI 개발을 시작한 걸까?

환경에 따라 다르다고 생각함. 예전에는 좋은 대학에 가지 않으면 지식에 접근하기 어려웠는데 지금은 그 면에서 확실히 나아졌음.

예전에 내가 아는 게 맞는지 확인하려고 여러 사람에게 물으면 답 대신 귀찮게 하지 말라는 소리를 듣기도 했음. 그런 점에서 AI는 내가 생각할 수 있는 최고의 선생님임. 물론 기술을 다루는 사람들에게 권력이 집중되는 문제는 있지만, 예전의 지식 접근성을 생각하면 AI가 있는 편이 더 낫다고 봄.

핵무기가 없었다면 더 나았을 수도 있지만, 지금까지 전통적인 의미의 또 다른 세계대전이 없었다는 점은 다행이라고 생각함. 상호확증파괴는 깨지기 전까지는 작동하는 셈이지.

AI도 지금까지는 없는 것보다 나았지만 앞으로 달라질 수 있음. 화석연료를 봐도 유용해서 계속 쓰지만 심각한 피해를 초래할 수 있잖음. 너무 유용해서 이용을 멈추기 어렵고 최악의 경우 사회 붕괴까지 이어질 수 있는데 결과를 미리 확신하기 어려운 기술을 부르는 말이 있을까?

동아시아의 자격시험 제도는 실제 현장과 차이가 커서 효과에 의문이 있음. 시험 문제가 오래된 방식에 머무르고 패턴이나 용어 암기에 치우치기 쉬움. 그렇다고 항상 최신 내용으로 바꾸면 합격하기도 어려워질 거고. 이런 제도를 보고 있으면 자격증이 실력을 제대로 보여 주는지 모르겠음.

AI 모델의 의무 시험과 독립 평가를 FDA의 의약품 승인에 비유하는 건 구조적으로 맞지 않음. 의약품은 특정 성분과 적응증을 대상으로 시험하지만, AI 모델은 출시 후에도 미세조정하거나 압축하고 다른 프롬프트와 도구를 붙일 수 있음.

출시 전 시험만으로 이후의 모든 변형과 사용 방식을 예상하기는 어려움. 따라서 배포 이후의 사용까지 관리하지 않고서는 사전 승인 제도를 운영하기 어렵다는 게 핵심 문제라고 봄.

50년 뒤에야 좋지 않은 방향으로 갈지도 모른다고 생각하게 된 연구를 왜 처음 시작했냐는 질문은 좀 이상하지 않음?

미국 기업이 아니었어도 다른 기업이 했을 거라는 말과 별개로, 미국의 사고방식 자체가 문제라고 생각함. 화석연료 문제에서도 서구는 오랫동안 앞서 산업화했고, 다른 나라들은 우리가 소비하는 물건을 생산하고 있다는 점을 잊지 말아야 함.

기업 소유주가 자기가 판매하는 제품에 책임을 지게 했으면 좋겠음. 심각하게 문제가 있는 제품에는 강한 제재를 해야 함.

AI는 대부분의 결과물이 별로라는 이른바 스터전의 법칙을 드러내고 훨씬 증폭시켜서 좋은 결과물이 묻히게 만듦. 사람이 만든 대중음악이나 코드에도 품질이 낮은 게 많고, 소셜미디어와 유튜브도 원래 자극적인 제목과 평범한 콘텐츠가 넘쳤음.

조금 다른 이야기지만 정치인들이 어떤 근거로 정책을 결정하는지 궁금함. 영국의 넷제로 정책을 보면 기후 재앙을 막겠다며 강하게 지지하다가 이후에는 유전 개발과 재생에너지 지원 축소 쪽으로 움직이는 것처럼 보였음. 기후변화가 재앙이 될 거라고 생각한다면 정책도 일관돼야 하는 것 아닌가 싶음.

대형 AI 기업 밖에서 AI를 연구하는 사람이 아주 많다고 했는데, 대략 얼마나 됨?

내가 가장 걱정하는 건 모든 시스템의 신뢰성이 무너졌는데도 사람들이 멀쩡한 척하는 상황임.

내 예상은 이럼. AI 해킹으로 누군가 은행 계좌에 사실상 무한한 돈을 만들고 자산을 사들이면 가격이 폭등할 수 있음. 그러다 해킹하기 어려운 블록체인 기반 AI 기업 주식 같은 자산 하나로 돈이 몰리고 다른 자산은 폭락할 수도 있음. 결국 기존 화폐 대신 그 회사의 주식이나 토큰이 돈처럼 쓰이고, 새 화폐 기준으로 가격이 안정된 뒤에야 AI 혁신을 제대로 시작하게 될지도 모름.

기술이 계속 발전할 가능성과 경쟁을 너무 무시하는 것 같음. 선도 기업들이 자동완성이나 문장 교정 도구만 만들고 멈췄다고 해서 전 세계 연구자와 창업가가 다 거기서 만족했을까? 누군가는 한계를 더 밀어붙이고 다른 회사나 연구기관이 이어 갔을 거임.

AI 경영자들이 돈만 벌고 빠지려 한다는 묘사에도 동의하지 않음. 그런 사람들 중 상당수는 회사를 만들고 운영하는 일 자체를 좋아함. 지금 자리에서 물러나더라도 다시 회사를 세울 사람들이라는 뜻이지, 그들을 무조건 감싸려는 건 아님.

지금은 정보가 넘치는 시대고 이게 새로운 일상이 될 수도 있음. 과거처럼 한 분야를 깊이 아는 것과 여러 분야를 넓게 알고 조합하는 것의 가치가 달라졌을 수 있다는 뜻임.

나는 아시아에 살아서 미국의 최신 프로그래밍 기술을 따라잡기가 어려웠음. 우리 지역에서 흔히 쓰는 프레임워크는 한참 뒤처져 있었거든. 배우는 것 자체를 목적으로 삼는 태도는 좋다고 생각하지만 모두에게 필수라고 보진 않음. 중산층 이상은 배움을 즐길 여유가 있지만 가난한 가정에서는 당장 실용적인 기술을 익혀야 한다는 압박이 크니까. 배움에서 얻는 명예를 좋아하는 것도 개인의 가치관이라고 생각함.

일부 사람들은 AI 성능을 1년 이상 지난 수준에 고정해서 생각하는 것 같음. 무료 챗GPT나 검색 요약만 써 보고 최첨단 기술도 그 정도라고 판단하기도 하고.

AI 업계 사람들을 싫어하고 불신하는 나머지 기술 자체도 형편없고 전부 돈 벌려고 거짓말하는 거라고 여기는 경우도 있는 듯함. 초기에는 이해할 수 있었지만 이제 AI를 단순히 조금 나은 자동완성이나 문장 교정기로만 보는 건 이해하기 어려움.

나도 그렇게 생각함. 지금 암호화폐의 약점은 코드가 복잡하고 규모가 크다는 점임. 다만 노드들이 서로 조금 다른 코드나 버전을 쓰므로 과반수에 영향을 주는 취약점을 찾기 어려울 수 있음.

기존 금융은 악성 거래를 되돌리기 쉽다는 장점이 있지만 해킹이 너무 잦아지면 따라잡기 어려울 거임. 장기적으로는 AI가 붙은 토큰화 주식이 유리할 수도 있다고 봄. 공격에 강한 AI와 방어에 강한 블록체인이 결합된 자산 말임.

AI가 자동완성 이상의 기술이라는 데는 동의함. 하지만 그렇다고 시장에 아무 제약 없이 맡겨도 되느냐는 별개 문제임. 단기적인 자본의 이익이 공공의 이익과 일치하는 건 아니니까.

AI가 능력을 크게 증폭시키는데 이를 제어할 장치가 없다면 공익과 맞지 않는 이해관계가 사회의 방어력을 압도할 수 있음. 부유한 사람들이 모두의 이익을 위해 자기 행동의 결과를 알아서 관리해 줄 거라는 기대도 믿기 어려움.

문제는 규모보다 중요한 시스템을 무책임하게 다루는 방식이라고 봄. 전력 시스템을 인터넷에 연결하면 편리하고 유연해질 수 있지만 악의적인 공격이 들어오면 피해가 엄청날 수 있음. 보안이 완벽하다는 약속은 믿기 어렵고, 앞으로의 LLM은 지금 안전하다고 여기는 시스템의 취약점도 드러낼 거임.

해킹당했을 때 최악의 피해가 작은 것만 인터넷에 연결해야 함. 커피 메이커가 망가지는 정도라면 몰라도 전력이나 수도 같은 핵심 인프라는 안 된다고 생각함. 오늘 문제가 발견되지 않았다고 내일도 안전한 건 아님.

연구가 한계를 넓힌다는 이유만으로 무조건 좋다고 보는 식의 주장은 위험함. 학계 연구에도 감옥 실험이나 나치 과학자들처럼 문제가 심각했던 사례가 있음.

모두가 피해를 보고 AI를 싫어하게 된다고 해도 연구가 사라지는 게 아니라 기밀 연구나 정부 데이터센터로 들어갈 수 있음. 정보기관이나 군수업체가 개발을 이어 갈 수도 있고. 공개 서비스가 사라져도 막대한 공적 자금이 투입되는 곳에서는 발전이 계속될 수 있다는 뜻임.

내 말은 AI가 단순한 자동완성에 불과하다는 게 아님. 기존 제품의 기능으로 천천히 도입했다면 냉소적인 반응이 훨씬 적었을 거라는 뜻임.

지금은 부정적인 면을 제대로 살피지 않은 채 급격하게 도입하고 있음. 자동차를 본 적도 없는 도로에 사회적 영향을 이해하지 못한 상태로 수많은 차를 한꺼번에 들여놓는 것과 비슷함. 소셜미디어도 더 천천히 퍼졌지만 부작용을 대부분 미리 파악하지 못했음. 그 회사들이 사람들의 정신 건강에 무관심했다면 AI 기업들은 다를 거라고 왜 믿어야 할까?

내가 보기엔 LLM 활용이 크게 세 가지임. 코드 자동완성, 작업 관련 질문을 하는 채팅, 그리고 도구를 직접 써서 작업하는 에이전트 방식.

나는 개발할 때 앞의 두 가지는 유용하게 쓰지만 에이전트는 조심스러움. 기밀 사용자 정보나 코드, 비밀키가 모델에 전달될 수 있고, 임의의 명령으로 파일이나 시스템을 수정할 수도 있음. 설계 과정과 파일 형식을 내가 원하는 대로 통제하기 어렵다는 점도 걸림.

안이 보이지 않는 주머니에서 구슬을 꺼낸다고 생각해 보자. 흰 구슬은 와이파이나 기차처럼 세상을 개선하는 기술, 회색 구슬은 유용하지만 위험한 기술, 검은 구슬은 인류에게 치명적인 기술임.

인류는 지금까지 최대한 빨리 구슬을 꺼내 왔고 대부분 흰색이라 잘 풀렸음. 하지만 핵전쟁을 피한 건 운도 컸음. 1983년 소련 조기경보 시스템이 미국 미사일 다섯 발을 감지했을 때 당직 장교가 오경보라고 판단한 사례가 있음. 다른 사람이 근무했다면 센서 오류로 핵전쟁이 났을 가능성도 있었음.

AI에도 놀라운 용도가 있지만 분명 위험도 있는 회색 구슬에 가까워 보임. 그런데 왜 이렇게 서두르는 걸까? 현명해 보이지 않음.

정말 그랬을까? 지난 세기에 핵무기 때문에 인류가 거의 멸망할 뻔한 일이 여러 번 있었음. 지금까지 운이 좋았다는 이유만으로 좋은 선택이었다고 생각하진 않음.

AI 연구개발에는 큰 자본이 필요했고 투자를 받으려면 세상을 바꿀 기술이라는 약속이 필요했음. 기업들은 유료 사용자에게 모델을 제공해 개발비를 회수하려 했고.

그런데 중국 쪽에서 기존 모델 가중치를 활용한 공개 모델을 내놓으며 가격 경쟁이 생겼음. 그 뒤 일부 기업 경영자들이 AI 위험과 규제를 강조하는 게 경쟁 모델을 막고 자기들만의 시장을 지키려는 시도처럼 보임. 자금을 모을 때도, 규제를 유리하게 만들 때도 AI의 파괴적 영향을 과장할 유인이 있다는 거임.

구슬 비유는 오히려 핵심을 흐리는 것 같음. 사람들은 호기심이 있고 새로운 걸 발견하고 한계를 넓히고 싶어 하니까 기술이 발전함.

인류를 하나의 조직처럼 말하면 수십억 명 중 누군가는 새로운 걸 발견한다는 점을 놓치게 됨. 인류 전체가 모여 무엇을 연구할지 정하는 회의도, 모두가 함께 하나씩 구슬을 꺼내는 주머니도 없음.

예전이 그리워서 그런 건지, 정말 뭔가 찾기가 더 쉬웠던 건지는 모르겠음. 분야와 나라마다 달랐을 거임. 내가 있던 곳에서는 오히려 정보 접근을 막는 분위기가 컸음. 특정 기술을 배우려면 터무니없이 많은 돈이 드는 경우도 많았고, 유데미가 인기였던 건 비싼 강의를 저렴하게 제공하거나 정보를 모아 줬기 때문이라고 생각함.

포럼도 장점은 있지만 항상 즐거운 곳이었는지는 의문임. 틀린 정보도 많고 마음에 안 든다는 이유로 시비 거는 사람도 많았음. 반면 AI는 지식을 쉽게 알려 줌. 포럼에서는 검색어조차 몰랐던 지식을 우연히 접할 수 있었지만, 그런 활동이 모두에게 열려 있었는지도 의문임.

지식 기반이 줄어드는 문제가 있다는 점에는 어느 정도 동의하지만 해결 불가능한지는 모르겠음. 나이가 들면 과거의 불편함까지 추억으로 미화하기도 함. 지금의 저품질 AI 콘텐츠 시대가 지나면 오히려 지식 있는 사람들이 귀해져서 대우받을 수도 있음. 미래는 모르는 거고 결국 가치관의 문제라고 생각함.

핵 비확산에는 기존 핵보유국 밖의 핵 과학자들을 암살하는 일도 있었음. 이 비유를 끝까지 밀고 가면 AI에 쓰일 컴퓨터 시스템을 만들거나 컴퓨터 과학을 연구한다는 이유로 사람을 해치는 것까지 받아들여야 한다는 문제가 생김.

원댓글의 요지는 일시적인 정전이 곧 종말은 아니라는 거임. 고통스러워도 행동을 촉구할 수 있을 만큼의 충격이 될 수 있다는 뜻이지. 첫 번째 대형 AI 사고가 곧바로 인류가 합의할 기회조차 없는 종말이 되는 것보다는 낫다는 주장임.

AI가 없는 편이 나았을 수도 있고 있는 편이 나을 수도 있음. 양쪽 다 그럴듯한 주장이 있어서 결국 낙관과 비관의 차이처럼 느껴짐.

나는 이런 경우 낙관을 택하기로 했음. 낙관은 위험을 무시하는 게 아니라 문제를 인정하면서도 해결책을 만들 능력이 있다고 믿는 것임. 비관적인 전망은 맞을 수도 있지만 사람들이 문제를 해결하려는 의지를 잃게 만들어 스스로 현실이 되기도 함.

댓글을 보면 인류가 하나의 조직처럼 모여서 결정을 내릴 수 있다고 가정하는 사람이 많음. 세계 각국 정부가 기술 개발을 멈추는 데 쉽게 합의할 수 있다고 보는 의견도 있고.

현실에선 국가 간 경쟁과 갈등이 계속되고, 공개 가중치 모델은 어느 나라에서든 노트북으로 활용할 수 있음. 대형 연구소 수준의 컴퓨팅 자원이 없는 소규모 연구팀도 발전을 이뤄 내고 있고. 연구자들이 다른 나라로 옮겨 계속 개발할 가능성까지 생각하면 단순한 협약만으로 쉽게 해결된다는 자신감이 이해되지 않음.

미안하지만 그건 할 수 없어, 데이브.

중국 모델이 나오기 몇 년 전부터 업계 내부 사람들이 위험을 경고했음.

핵무기에서 중요한 장벽은 비밀 자체보다 우라늄을 정제할 능력이었음. 핵무기를 만드는 게 AI 모델을 실행하는 것만큼 쉬웠다면 훨씬 위험했을 거임.

핵무기든 AI든 반드시 개발될 수밖에 있는 건 아님. 기술에는 지식뿐 아니라 기반 시설도 필요함. 핵무기를 만들고 유지하려면 막대한 자원을 계속 투입하기로 결정해야 함.

AI도 하드웨어와 데이터센터에 엄청난 투자가 들어감. 경제적 기반이 없다면 더 강력한 AI도 나오기 어려울 거임. 지금 있는 모델, 특히 집에서 돌릴 수 있는 작은 모델은 남겠지만 데이터센터 투자로 대형 기술 기업들이 파산한다면 한동안 그 이상 발전하지 못할 수도 있음.

핵무기와의 유사점이 왜 안 보이는지 모르겠음. 핵 위험에 대한 공통된 인식은 비확산 협약으로 이어졌고 강대국들은 다른 나라로 기술이 퍼지는 걸 막으려 노력했음. AI도 위험이 충분히 크다고 판단되면 일부 국가가 비확산 협약을 맺거나 그 문제로 전쟁까지 할 가능성이 있음.

차이는 핵무기의 위험은 훨씬 명확하게 이해하는 반면 현재와 미래의 AI가 무엇을 초래할지는 아직 불확실하다는 점임. 그래도 인류가 실존적 위험을 이유로 탐구를 제한한 선례는 있음. AI가 그 수준에 도달할지는 아직 지켜봐야 함.

독일의 핵 개발 계획을 보면, 나치 독일은 2차 대전 전과 전쟁 중에 핵무기와 원자로를 포함한 여러 핵 기술 연구를 진행했음. 첫 연구는 1939년 4월 시작됐지만 폴란드 침공 직전에 물리학자들이 징집되면서 끝났고, 침공 당일 군 주도로 두 번째 연구가 시작됐음. 원자로 개발, 우라늄과 중수 생산, 우라늄 동위원소 분리가 주요 과제였음. 이후 독일군은 핵분열이 전쟁에 크게 기여하지 못할 거라고 판단해 1942년 연구를 이관했지만 자금 지원은 계속했음. 연구는 9개 주요 기관으로 나뉘었고 과학자들은 더 시급한 전시 과제로 옮겨 갔음. 하이젠베르크는 당시 원자폭탄이 원리상 가능하지만 적어도 5년 이상 걸린다는 결론을 냈고, 지도부가 즉각 대규모 개발을 지시하는 걸 원치 않아 2주 뒤에야 가볍게 보고했다고 말했음.

AI 개발에 막대한 자원이 반드시 필요한 걸까, 아니면 투자자들이 큰 수익을 기대해서 지금 그렇게 많은 돈을 쏟아붓는 걸까?

내 생각에는 자금이 줄면 속도는 느려져도 점진적인 발전은 계속될 거임. 작은 모델의 성능과 활용법이 개선되고, AI를 무작정 모든 곳에 쓰기보다 정말 적합한 곳에 쓰게 될 수도 있음. 투자금 지원이 없어도 이미 사람보다 훨씬 저렴하게 처리할 수 있는 작업들이 있다면 그 수요가 혁신을 계속 이끌 거라고 봄.

AI 금지는 기존 기술을 금지하는 것과 많이 다름. 컴퓨터 과학과 알고리즘, 특정 게임을 실행할 수 있는 기기, 정부 승인 없는 컴퓨팅까지 제한해야 할 수 있음.

중국이 미국 모델을 활용하는 건 기술적으로 독자 개발을 못 해서라기보다 비용 선택일 수도 있음. 남이 수십억을 쓴 결과를 훨씬 적은 돈으로 활용할 수 있는데 굳이 처음부터 만들 이유가 없다는 거임.

국가 간 경쟁이라면 자기 나라가 전 세계를 상대로 공격에 나서는 걸 국민이 받아들여야 하지 않을까? 그런 장치가 나중에 자국민에게도 향할 수 있다는 점도 생각해야 하고.

정치 권력은 사람들이 지도 방식에 동의하고 함께 행동하는 데서 나오기도 함. 로봇이 일을 해 주는 상황에서 굳이 사람들을 물리적으로 지배하려는 목적이 뭔지도 의문임. 극단적으로는 소수만 로봇의 서비스를 받는 미래가 될까 걱정됨. 그 경우 국가 간 경쟁이라는 말은 명분일 뿐일 수도 있음.

핵무기에도 비밀은 있었을 수 있음. 다만 맨해튼 프로젝트의 자료가 정보원들을 통해 소련에 비교적 빨리 유출됐음.

LLM을 단지 더 좋은 자동완성으로만 내놓는 게 가능했을 거라고 보기 어려움. 한 회사가 보수적으로 접근해도 다른 누군가가 이 기술로 챗GPT 같은 걸 만들었을 거임.

또 기업들이 가장 수익성 높은 선택을 추구하는 건 특정 경영자만의 문제가 아니라 자본주의의 구조적인 동기이기도 함. 투자자들이 수익을 요구하니까 지금의 억만장자들이 사라져도 비슷하게 행동할 사람들이 대체할 가능성이 큼. 물론 그렇다고 당사자들의 윤리적 책임이 사라지는 건 아님.

더 빨리 교훈을 얻는다는 목적 때문에 장기간 정전의 피해를 정당화해서는 안 됨. 원댓글이 일부러 사고를 일으키자고 한 건 아니라는 점은 알아둠.

하지만 정전으로 사람이 죽고 나서 교훈을 얻어 방향을 바꾼다고 해도 그 사고 자체가 좋은 일이 되는 건 아님. 우리가 상상하는 결과만 보고 최선이라고 단정할 수는 없으니까.

생성형 AI 이전에도 우리는 기후변화와 끝없이 쏟아지는 저품질 대중매체 콘텐츠를 겪고 있었음. 사람들이 그런 콘텐츠에 빠지는 문제도 오래됐고 제대로 통제되지 않았음.

챗GPT 이전 사회가 훨씬 건전했다고 생각한다면 최근의 문제만 크게 보는 편향일 수도 있음. AI가 저품질 콘텐츠의 생산을 가속한다는 점은 인정하지만, 소비를 스스로 조절하기 어려워하는 인간의 문제 자체가 새로 생긴 건 아님.

국가의 힘은 공격적인 목적으로만 생기는 게 아님. AI가 소프트웨어뿐 아니라 소비재와 산업 제품을 설계하고 공장 공정을 쉬지 않고 최적화한다면 경제적 우위를 줄 수 있음.

공격도 대규모 전쟁일 필요는 없음. 출처를 추적하기 어려운 산업 사고나 정보 유출이 끊임없이 발생할 수도 있음. 법률 업무에 능숙한 AI가 이의 제기와 항소를 대량으로 만들어 정부나 기업의 업무를 마비시키는 식으로 정치적 영향력을 행사할 가능성도 있고. 지능을 이용해 힘을 얻는 방법은 아주 다양함.

어차피 피할 수 없다면 그 안에서 최선의 방법을 찾아야 함. 모든 선택지가 나쁘다고 해도 가라앉는 배 위에서 다음 행동을 정해야 하는 것과 같음.

다른 사람들이 나를 필요로 하느냐는 내게 중요하지 않음. AI 음성 인식 덕분에 예전보다 할 수 있는 일이 훨씬 많아졌거든. 글도 쓰고 코딩도 하고 사람이나 기관, 기업, 챗봇과 소통할 수 있음. 알아보기 어려운 손글씨 대신 온라인 양식도 작성하고, OpenSCAD를 써서 3D 프린팅도 할 수 있음.

나는 원래 뭔가 만들고 설계하고 탐구하지 않고는 못 사는 사람 같음. AI가 대부분의 일을 하고 모두가 기본소득을 받는 미래가 와도 궁금한 걸 파고들 거임. 남이 만든 것의 변형일 뿐이어도 내 호기심과 무언가를 만들어 내는 만족감이 있으니까. 정원 가꾸기나 새 관찰을 하고, 배우자와 반려동물과도 더 가까워질 거고. 할 일이 없어서 걱정할 일은 없음.

뭔가가 쓸모 있으려면 작동 원리를 완전히 이해해야 하는 것도 아님. 의사들이 치료가 듣거나 안 듣는 이유를 다 이해할 때까지 기다렸다면 나는 아마 죽었을 거임. 지금은 머리에 의료용 션트를 넣고 삶이 크게 나아졌음. 어린아이도 부모가 행동의 이유를 다 이해하진 못하지만 계속 키우잖음. 아이든 동물이든 AI 에이전트든 예상 밖의 행동을 할 수 있고, 우리는 어른답게 그 상황에 대처해야 한다고 봄.

승인되지 않은 장치를 막는다고 해도 스턱스넷 사례처럼 승인된 장치에도 악성코드가 들어갈 수 있음. 전력 분야 직원들이 쓰는 수많은 노트북을 높은 보안 수준으로 관리하려면 교육도 많이 필요하고, 현장 차량에 있는 장치 하나가 감염돼도 문제가 퍼질 수 있음. 해결하기가 매우 어려운 문제임.

이런 걸 보면 화상회의에서 줌이 성장한 과정이 생각남. 기능도 좋았고 코로나로 시장 자체가 커지기도 했지만, 내 기억에는 사용 편의성을 높이는 과정에서 개인정보와 데이터 수집 문제를 일으킨 점도 있었음.

그 뒤로 나는 줌을 피해서 지금은 얼마나 개선됐는지 모름. 다만 경쟁이 치열할 때 가장 공격적인 방식이 성공에 도움이 되고, 정상에 오른 뒤에는 문제 되는 관행을 고칠 여유가 생기는 것처럼 보였음. 지금 선도 AI 기업들에도 비슷한 동기가 작용하는 것 같음.