/그래픽=양인성 지난 2월 캐나다 총기 난사 사건을 계기로 불붙은 인공지능(AI)의 ‘범죄 감시’ 논란이 또다시 불거지고 있다. 미국 오픈AI의 AI 챗봇 서비스 ‘챗GPT’에 전 여자 친구 살해 계획을 털어놓은 대런 저우(25)가 지난 5월 피해자가 아닌 오픈AI의 신고로 체포돼 처벌까지 받았다는 사실이 16일 뒤늦게 알려지면서다. AI 기업이 이용자의 사적 대화를 어디까지 들여다보고 수사기관에 알려야 할지, 또 챗봇에 범행 계획을 말한 것만으로 범죄가 되는가에 대한 논쟁이 다시 불거지고 있다. AI 업계에는 그동안 ‘챗봇이 자살을 부추기거나 방조했다’는 유족들의 소송이 잇따랐다. 특히 지난 2월엔 캐나다 총기 난사범이 범행 전 챗GPT와 관련 대화를 나눴으나, 오픈AI가 경찰에 알리지 않아 사고를 막지 못했다는 ‘책임론’이 불거졌다. 내부에서도 비판이 나왔고, 오픈AI는 이후 안전장치와 법 집행기관 통보 절차를 손질했다. 이렇게 강화된 안전 절차에 이번에는 저우의 사례가 포착된 것이다. “영화 ‘마이너리티 리포트’의 현실판”이라는 말이 나온다. ◇챗GPT에 “거절하면 살해” 저우는 골드만삭스 웨스트팜비치 지.의 금융 애널리스트였다. 6개월간 교제한 여자 친구와 헤어진 이후, 챗GPT에 지난 3월부터 범행 계획을 입력했다. 그는 챗GPT에 “전 여자 친구가 다니는 헬스장 주차장에서 꽃을 들고 기다리겠다”며 “(재결합을 거절하면) 총으로 살해한 뒤 자살하겠다”고 했다. “이달 말까지 죽이겠다”거나 “총과 케이블 타이, 라텍스 장갑을 준비했다”는 말도 남겼다 온라인신천지 . 오픈AI는 이를 ‘위험 대화’로 감지하고, 지난 5월 미 연방수사국(FBI)에 두 달 치 채팅 기록과 함께 신고했다. FBI는 이를 근거로 바로 저우의 전 여자 친구를 찾아갔다. 이어서 저우가 보낸 각종 괴롭힘과 협박 메시지 등을 확보해 그를 체포했다. 저우는 체포 직후 보증금 10만달러(약 1억4200만원)를 내고 풀려났으나, 골드만삭스에서는 바로 해고됐다. 변호인은 법정에서 “저우가 심각한 정신 건강 문제를 겪었다”고 했다. “챗GPT에 한 말과 달리 총기를 갖고 있지 않았다”고도 주장했다. 검찰은 그러나 저우에게 스토킹과 살해 협박 혐의를 적용했다. 스토킹은 피해자가 낸 증거로 인정됐다. 챗GPT 대화가 살해 협박에 해당하는지를 두고는 다툼의 여지가 있었지만, 저우가 혐의를 인정하면서 법리 논쟁으로 이어지지는 않았다. 법원은 이에 선고 유예 처분을 내리고, 보호관찰 8년과 위치추적 전자장치 부착 2년을 명령했다. ◇누가 ‘위험한 대화’를 판단하나 AI 업계에서는 “이번 사건으로 해묵은 논쟁 두 가지가 다시 불붙게 됐다”는 말이 나온다. 첫째는 AI 업체의 감시·신고 범위다. 일각에선 AI 사용이 보편화되면서 AI 채팅 기록은 매우 유용한 범죄 수사 단서가 됐다는 평가를 내놓는다. 범죄 수사에서 인터넷 검색 기록이 기초 자료가 된 것처럼 AI 채팅 기록도 수사에 활용되는 사례가 늘고 있다. 모바일 바다이야기게임예시 실제로 오픈AI의 투명성 보고서에 따르면 수사기관의 채팅 내용 요청은 지난해 상반기 26건에서 하반기 75건으로 188% 늘었다. 하지만 이는 “AI 기반 감시 사회의 시작 아니냐”는 비판에 부딪히고 있다. 범죄 혐의를 명분으로 AI 채팅 내용이 얼마든지 노출될 수 있고, 결국 개인 정보 침해로 이어질 수 있다는 것이다. 이 때문에 AI 업체들도 자발 신고에는 신중한 입장이다. 오픈AI가 위험 대화를 먼저 포착해 신고한 건수는 정확하게 공개된 적이 없다. 신고 기준도 불투명하다. 오픈AI는 캐나다 사건 이후 정신건강·행동·법 집행 전문가들과 기준을 재정비해 “더 유연하게 바꿨다”고 밝혔다. 앤스로픽이 공개한 원칙도 “선의의 판단으로 사람에 대한 심각한 위해를 방지하기 위해”라는 수준이다. 테크 업계 관계자는 “누가 어떤 기준으로 위험한 대화를 가려낼 것인지는 결국 가치 판단의 영역”이라고 했다. 두 번째는 범행 계획만으로 범죄가 성립되느냐는 것이다. 플로리다주법은 다른 사람이 볼 수 있는 방식으로 살해 협박을 게시하거나 전송하면 처벌하도록 한다. 그러나 피해자가 아닌 AI에 남긴 글까지 ‘협박의 전달’로 볼 수 있는지는 법리적 논란이 크다. 한국에서도 협박이 성립하려면 해악을 가하겠다는 의사가 상대방에게 전달돼야 해 AI와 나눈 대화만으로 죄가 되기는 어렵다는 해석이 나온다. 한국인공지능법학회장인 최경진 가천대 교수는 “플랫폼의 불법 정보와 개인 정보를 어디까지 들여다봐야 하는지를 둘러싼 20년간의 공방이 AI 영역으로 확전된 것”이라고 했다. 그러면서 “AI와 나눈 대화를 누가 불법으로 판단하고, 어디까지를 불법으로 볼 것인지 논의를 시작해야 한다”고 말했다. 않았다”고도 주장했