123명 민간인 사살해놓고 'AI 과의존 탓'이라는 펜타곤 발표에 역겨움 느끼는 테크계 유저들
미국 국방부가 이란의 한 학교를 폭격해 수많은 민간인 사상자가 발생한 사태와 관련해, 그 원인이 AI 기술에 대한 과도한 의존 때문이었다고 공식 입장을 냈음. 백악관과 군부가 무리하게 단기간 내에 수천 개의 목표물을 타격하라는 지시를 내리면서 충분한 검증 단계를 생략했고, 그 결과 발생한 참사를 시스템 탓으로 돌리고 있다는 것임.
이 소식이 전해지자 해외 테크 커뮤니티에서는 AI가 면죄부나 방패막이로 쓰이고 있다며 강한 분노가 터져 나오고 있음. 실제로 현장을 조금만 들여다보거나 기본 데이터만 확인해도 학교라는 걸 쉽게 알 수 있었는데, 검증을 거치지 않은 채 타격 명령을 내린 것은 명백한 인재이자 전쟁 범죄라는 지적임.
특히 군사 작전에 소프트웨어와 AI를 공급하는 팔란티어 같은 테크 기업들의 윤리적 책임에 대해서도 격렬한 토론이 이어지는 중임. 무기를 직접 쏘지 않았더라도 살인에 쓰이는 알고리즘을 만드는 것이 과연 정당한가에 대한 회의감과 함께, 결국 책임을 져야 할 곳은 기술을 오남용한 정부와 고위 군 수뇌부라는 목소리가 커지고 있음.[1]
le****ter
내용을 보면 AI가 범인이라기보다는 완벽한 희생양이자 핑계에 가깝다. 백악관이 검증 팀을 해체하고 무리하게 목표물 숫자를 채우라고 압박해서 벌어진 순수한 인간의 악의와 무능의 결과다.
**
군과 고위층 탓을 하기 쉽지만, 테크 업계 종사자로서 팔란티어 같은 곳에서 일하며 사람이 죽는 소프트웨어를 만드는 이들도 책임을 피할 수 없다. 어떤 연봉이 그런 일에 합당한가?
G***42
팔란티어 같은 타깃 식별 기업을 비난하는 것은 마치 교통사고가 났다고 안전벨트 제조사를 욕하는 것과 비슷하다. 진짜 문제는 무분별하게 폭격을 지시하는 군부의 무능과 책임 회피에 있다.