삼성 TV가 강아지랑 아기 소리까지 듣는다는 해커 주장 ㄷㄷ

TV에도 로컬 모델이 있을 텐데, 웃기네.

정부는 이렇게 노골적인 사생활 침해도 규제하지 않을 거다. 미국은 개인정보 보호법 하나 제대로 마련하지 못했으니 책임을 묻길 기대하지도 않는다.

이건 정말 심각하네. 알아낸 사람에게 고맙다. 삼성 TV는 안 살 거다.

역공학만 했다는 이유로 정지됐다는 주장은 좀 회의적이다. AI를 써서 삼성 TV를 분석한 사례도 있고 OpenAI와 함께한 연구도 있었다. 계정 제한 자체가 없었다는 말은 아니지만, TV를 역공학하던 중 정지된 것과 역공학을 해서 정지된 건 다르다. 구체적으로 어떤 행위가 제한을 불렀는지 알아야 한다.

내가 미친 건지 모르겠지만, 온라인에서 찾아본 적도 없는 물건을 소리 내어 얘기하고 나중에 그 물건 광고를 본 적이 여러 번 있다.

완전히 무력한 건 아니다. Jellyfin 같은 걸 직접 운영하고 방화벽으로 TV의 인터넷을 막은 뒤 Jellyfin 서버에만 접속하도록 하면 된다. AI나 마이크가 몇 개 있든 외부로 보낼 수 없으니까. 나는 그렇게 쓰고 있다.

나도 변호사는 아니지만, 대형 집단소송으로 이어질 수도 있겠다. AI 거품이 꺼지기 전에 서둘러야겠네.

일방 동의 주라고 해도 본인 모르게 방에 마이크를 몰래 두는 게 허용되는 건 아닐 것 같다. 보통 일방 동의는 녹음하는 사람이 대화에 직접 참여하거나, 다른 사람들이 그 사람이 있다는 걸 알아야 녹음할 수 있다는 뜻이다. 솔직히 이게 합법인 곳이 있긴 한지 모르겠다.

미국 경제 전체가 시민과 단체의 개인정보를 가져다 쓰는 데 기대고 있는데, 어느 정부가 기업의 수익을 키워 주는 남용을 규제하겠나.

약관 어딘가에 분명 이런 내용이 묻혀 있겠지. 첫 세 세대의 장남들에 대한 권리까지 넘긴다고 말이야.

알려진 취약점을 이용해 접근한 걸로 이해했다.

정당한 일을 했다는 이유로 OpenAI가 왜 사람을 정지시키는 거지? 그래서 중국 모델이 중요한 거다. 물론 그쪽에도 이런 이상한 제한이 있는지는 모르겠다.

TV는 아니지만 집 에어컨이 고장 났을 때 가족과 자주 이야기했고, 고치는 법을 검색하지도 않았는데 휴대폰을 주머니에 넣고 있던 뒤로 유튜브에서 에어컨 수리 광고를 계속 봤다. 대화 직후였던 적도 있어서, 엿듣는 것 말고는 설명이 안 된다고 생각했다.

다른 사람이 그 약관에 동의한 게 왜 나한테도 효력이 있다는 거지? 그런 TV가 있는 친구 집에 놀러 가는 사람도 영향을 받는데.

정말 그게 정지 사유였다면 OpenAI가 크게 잘못한 거다.

서비스 약관이 다른 모든 법을 마법처럼 무효로 만들지는 않는다. 약관에 “내 심장을 도려내도 된다”고 적어 놔도 실제로 사람을 죽여도 되는 건 아니다.

“그냥”이라는 말에 너무 많은 게 생략돼 있네.

TV가 감시한 음성의 실제 내용, 즉 음성이나 녹취록을 전송했다는 걸 입증해야 할 거다. 보통은 TV가 음성을 기기 안에서 문자로 바꾸고, 샤잠처럼 음향 지문을 만든 뒤 취향 정보로 변환해 보내는 식일 가능성이 크다. 실제 음성이나 녹취록을 보내지 않는다면 엄밀히는 개인정보 보호법 위반이 아닐 수 있지만, 어떤 콘텐츠를 보고 무엇을 하는지 파악할 수는 있다.

방화벽으로 TV의 인터넷 접속을 막고, TV가 접속할 수 있는 열린 와이파이도 없는지 확인하면 된다. 필요 이상으로 번거롭지만 세상이 끝날 일은 아니다. 익숙하지 않아도 저녁 한 번이면 되고, 익숙하면 몇 분이면 된다.

사람이 몰래 엿듣고 같은 결과를 만들었다면 엄청나게 불법일 텐데, 그 점이 참 이상하다.

EU 규제가 갑자기 그렇게 나빠 보이지는 않지?

이 해커가 바로 그걸 보여 주고 있는 거다. 이런 얘기가 나올 때마다 기술 업계 사람들이 몰려와 모두를 현실을 모르는 사람처럼 몰아가는 게 정말 어이없다.

아들과 휴대폰이 대화를 듣고 광고를 보낸다는 얘길 하다가 실험해 봤다. 밖에 나가 고양이를 키워 본 적도 없고 온라인에서 검색한 적도 없는 고양이 모래 얘기를 하고, 몇 시간 뒤 고양이 모래와 화장실 광고를 받았다. 세탁기가 고장 날 것 같아 로스에서 새것을 보자고 얘기했을 때도 몇 시간 뒤 그곳 세탁기 광고가 떴다.

정부가 이런 걸 규제하지 않는 건 이런 기기를 어디에나 두고 싶어 하기 때문이라는 말도 있다. 예전에 CIA 국장이 남부 어딘가의 행사에서 스마트홈 기기 보급을 반겼던 걸로 기억한다. 왜 그런지는 짐작할 수 있겠지.

문서상으로는 그렇다 해도, 현실에서는 기업들이 변호사를 충분히 고용해 하고 싶은 일을 계속한다. 최악의 경우 벌금인데 삼성, 구글, 애플 같은 회사에 10억 달러가 뭐 대수겠나. 그 정도로도 이득이면 계속할 거다.

차 타이어가 펑크 나서 한 번 말했을 뿐이고 새 잭도 검색하지 않았는데, 다음 날 월마트 앱 첫 화면에 잭 사진이 떴다. 친구와 영화나 드라마 얘기를 하면 며칠 안에 넷플릭스와 파이어 스틱 추천에 나오기도 했다.

원글에서 본인이 인정했듯 안전장치를 우회해서 익스플로잇을 실행한 거다.

정부가 통신사나 카드사 같은 제3자에게서 개인정보를 사면 수정헌법 4조도 사실상 의미가 없어진다. 기업에 동의하는 순간 데이터가 판매 대상이 된다. 연방 개인정보 보호법은 수십 년 전 의회 의원들의 VHS 대여 기록을 기자가 찾아본 일을 계기로 생겼고, 지금은 시대에 뒤처졌다. 대형 데이터 중개업체는 구글, 메타, 포드, 비자 같은 곳이라 규제하려면 큰 싸움이 필요하다.

TV가 아이 소리를 듣는 순간 법을 어기는 거다. 아이는 약관에 동의할 수 없다. 집에 초대받은 손님도, TV를 사지 않은 다른 성인도 약관에 동의한 적 없다. 삼성 TV를 산 사람들이 집단소송을 해서 25달러 수표를 받는 날이 기다려진다.

이 글은 좀 황당하다. 상시 마이크 권한만으로 증거가 된다는 건가? “헤이 구글” 같은 호출어를 기다리는 마이크는 늘 켜져 있어야 한다. 그렇다고 늘 녹음하거나 전송한다는 뜻은 아니다. 호출어를 감지하면 그때 녹음이나 처리를 시작하는 거다.

미국과 달리 캐나다의 개인정보 보호법은 더 강하고, 상시 청취 TV는 PIPEDA를 위반한다고 한다. 법원이 느리다는 걸 알고 기업들은 그동안 돈을 번다. 덧붙여 LG TV는 개발자 모드로 탈옥 없이도 홈브루를 설치할 수 있다더라. 나도 그제야 알았고, 광고 차단 유튜브 앱을 만들어 보고 있다.

보통 약관에는 TV 주변에 있는 사람들을 대신해 동의하는 조항이 있다. 형편없고 합법인지도 의문이지만, 기업들은 그런 식으로 빠져나가려 한다.

그런 조치도 결국 믿고 맡기는 것에 불과하다. 제조사가 집의 네트워크와 무관하게 정보를 보내는 폐쇄된 생태계를 만들 수도 있다. 인기 기기라면 주변에 기기가 많은 지역에서 특히 그렇다. 애플의 나의 찾기도 비슷하다. 설정을 끄는 항목이 있어도 실제로 꺼졌는지는 알 수 없다. 전자기기를 부품까지 분해하거나 패러데이 상자에 넣지 않는 한 정보를 보내지 않는다고 완전히 확신하기는 어렵다.

아니, 약관에 숨겨져 있는 게 아니다. 삼성 웹페이지에 명시돼 있다. 다만 그 내용이 약관 4,827페이지의 13번째 줄, 각종 부록과 개정 조항 사이에 있을 뿐이다.

누군가 네 살배기 딸 방에 몰래 녹음 장치를 설치해 생활 패턴을 추적하고 좋아하는 것과 싫어하는 것을 기록해 프로필을 만든다고 해 보자. 이웃이 그러면 경찰이 출동하고 체포돼 성범죄자 명단에 오른다. 기업이 하면 괜찮은 일이 되고, 녹음 장치를 끄고 딸에 관한 기록에 접근하려고 하면 오히려 문제가 된다.

요즘 TV는 사서 꽂고 켜자마자 기본 기능을 쓰려면 약관에 동의하라는 건너뛸 수 없는 안내가 뜬다.

사람들이 휴대폰이 대화를 듣는다고 몇 년째 주장해도 지금까지 입증된 사례는 없고, 늘 듣고 있다면 데이터와 배터리가 금방 소모될 테니 가능성이 낮다는 의견도 있다. TV는 데이터 사용량을 확인하는 사람이 거의 없어 이런 일을 숨기기 더 쉽다. 휴대폰에만 집중하느라 엉뚱한 곳을 보고 있었을 수도 있다.

이제 기업과 개인, 개인정보 보호 단체가 최대한 큰 오픈소스 모델을 돌려 기기들을 역공학해야 한다. 공개된 취약점을 사람들이 살피지 않으면 누군가 악용할 수 있고, 이런 기기는 어디에나 있다.

대기업 CEO들이 컴퓨터공학을 공부할 필요가 없다고 말하는 걸 들으면 싫은 이유가 이거다. 대체 누가 이들을 책임지게 하겠나.

광고에 합법적인 기능이 있다고 해서 다른 용도로 쓰지 않는다는 뜻은 아니다. 합법적인 기능을 앞세워 사람들이 약관을 자세히 안 읽는 사이 다른 내용은 깊숙이 숨기는 거다. 모든 TV 회사가 그러고 있다. 약관에 근거가 있는 경우도 있지만 다른 문서나 법률을 계속 연결해 복잡하게 만든다. 음성 자체를 보내지는 않고 콘텐츠나 맥락을 해시로 인식해 광고를 노리는 거다.

“역공학 때문에 OpenAI가 정지시켰다”라니. 그래서 해킹 장면은 사회적 관심을 끄는 것보다 지하에서 활동하는 쪽이어야 한다. 예전처럼 말이다.

LG 약관에는 그 약관에 동의한 사람이 집안의 모든 사람에게 내용을 알릴 책임이 있다는 조항이 있더라. 웃기지만 사실이다.

OpenAI 정지는 TV 코드 때문이 아니라, TV를 역공학하는 데 ChatGPT를 사용한 데서 비롯됐을 가능성이 있다. 그런 활동은 OpenAI에서 위험 신호로 잡혀 계정 경고나 정지로 이어질 수 있다. TV에서 발견한 내용은 여전히 우려스럽지만, 그런 문제를 알아내는 데 유용한 AI 도구를 약관상 쓰지 못하게 하는 것도 문제다.

TV에 마이크가 있거나 인터넷에 연결된다면 염탐하고 있다고 생각해야 한다.

삼성 TV가 있는 사람 집에 놀러 간 적 있는데, 나도 보상받을 수 있나?