이번에 진짜 안타깝고 심각한 뉴스가 있어서 전해주려고 해. 지난 2월에 캐나다 텀블러 리지에서 6명의 아이를 포함해 무려 8명이나 목숨을 잃은 참혹한 총격 사건이 있었잖아. 근데 이 사건의 범인인 제시 반 루트셀라가 범행 전에 챗GPT(대화형 인공지능)를 사용했다는 사실이 밝혀졌어.
오픈AI(챗GPT 제작사)는 작년 6월에 폭력적인 내용을 규정 위반으로 삼아서 범인의 첫 번째 계정을 정지시켰다고 해. 그런데 범인이 감시망을 피해 두 번째 부계정을 만들었는데, 회사 측 시스템이 이걸 전혀 걸러내지 못했다는 거야. 심지어 범인의 활동이 위험하다고 자동 시스템에 경고가 떠서 직원들이 그 내용을 확인했는데도 경찰에 신고가 안 들어갔대.
결국 사건이 터진 후에야 캐나다 정부의 압박을 받게 된 오픈AI 측은 뒤늦게 시스템을 고치겠다고 발표했어. 앞으로는 내부 직원들만 의존하지 않고 정신건강이나 행동 전문가들과 협력하고, 경찰에 신고하는 기준도 훨씬 유연하게 바꾸겠다고 약속했지. 캐나다 당국이랑 바로 연락할 수 있는 핫라인도 만들 예정이래.
BC주(브리티시컬럼비아주) 총리인 데이비드 이비는 오픈AI 관계자들을 만나서 강하게 실망감을 표출했어. 소 잃고 외양간 고치는 격인 이런 변화들이 피해자 가족들에겐 아무런 위로가 되지 않는다는 거지. 총리는 기업들이 알아서 신고 기준을 정하게 놔두면 안 되고, 국가적인 차원에서 강력한 기준을 마련해야 한다고 강조하고 있어.
현재 오픈AI는 이번 사건 말고도 인공지능이 자살을 방조하거나 코치 역할을 했다는 이유로 여러 건의 소송까지 당하고 있는 상황이야. 기술이 발전하는 것도 좋지만, 사람의 생명과 직결된 안전장치가 얼마나 중요한지 다시 한번 생각하게 만드는 씁쓸한 소식이네.
챗GPT 일처리 실화임 처참하게 뚫린 총격범 부계정 논란
142
25
댓글 25
전조증상은 어디에나 있었어요. 도대체 우리 세금으로 월급 받는 수많은 사회복지사들은 어디서 무얼 하고 있었던 걸까요?
TE •
그래 진보주의자(libs)들아, 이제 챗GPT가 니들 자식들의 새로운 부모 노릇을 해야겠다
RA •
혹시 그 두 개의 계정이 서로 다른 대명사로 가입되어서 챗GPT가 헷갈렸던 건 아닐까요?
SH •
제시 스트랭(반 루트셀라)은 남자였어. 여자가 아니라고. 이건 애초에 여자들이 저지르는 종류의 범죄가 아냐
LA •
챗GPT에 대해 더 잘 알았다고 해서 그 불쌍하고 죄 없는 아이들을 살릴 수는 없었을 겁니다.
판사가 그 정신 나간 사이코에게 총기를 다시 돌려줬잖아요. 게다가 연방경찰(RCMP)이 무기를 돌려준 후에도, 그런 사이코가 총기를 소지하고 있다는 사실을 대중에게 전혀 경고하지 않았습니다. 이건 그냥 총체적인 난국이자 실패입니다
판사가 그 정신 나간 사이코에게 총기를 다시 돌려줬잖아요. 게다가 연방경찰(RCMP)이 무기를 돌려준 후에도, 그런 사이코가 총기를 소지하고 있다는 사실을 대중에게 전혀 경고하지 않았습니다. 이건 그냥 총체적인 난국이자 실패입니다
SE •
이 끔찍하고 또 끔찍한 범죄는 사이코패스 같은 악마 자식이 저지른 짓이야. 우린 이 사실을 절대 잊어선 안 돼
DO •
신민당 대표가 분홍색 셔츠 입고 무대에 올라왔을 때, 제가 제대로 들은 건지 모르겠는데 텀블러 리지 총격범이 괴롭힘을 당했다고 하던가요? 그 연설 내용이 대체 무슨 뜻인지 누가 설명 좀 해주실 수 있나요
GR •
자유당(LPC)이랑 BC주 신민당(NDP)이 연막 치는 거네
BR •
신민당(NDP) 사람들은 자기네 당원들만 챙기네요. 딱 보면 서로 알아보는가 봅니다
MR •
북부 BC주 총기 담당 책임자는 아직 안 잘렸냐
DA •
코파일럿이나 그록, 제미나이 같은 다른 흔한 AI 플랫폼 대표들은 증언하러 불려가지 않았다는 게 참 흥미롭네요. 분명히 총격범은 계정을 하나만 가지고 있진 않았을 텐데요
MI •
관리자든 외계인이든 누구든 간에 대체 “승인 대기 중”이라는 게 무슨 뜻이야 매번 댓글 남길 때마다 이러네.
내 댓글이 문제인 거야 아니면 나라는 사람 자체가 문제인 거야. 내가 니들 맘에 안 드는 소리 좀 했다고 블랙리스트에 올린 거냐고.
왜 내 댓글을 다른 독자들이 못 보게 숨기는 건데 대답 좀 해봐라 진짜 고맙다
내 댓글이 문제인 거야 아니면 나라는 사람 자체가 문제인 거야. 내가 니들 맘에 안 드는 소리 좀 했다고 블랙리스트에 올린 거냐고.
왜 내 댓글을 다른 독자들이 못 보게 숨기는 건데 대답 좀 해봐라 진짜 고맙다
DU •
연방경찰(RCMP)만 탓해야 합니다
JA •
8명이나 목숨을 잃었는데도 이 기사는 진실을 말하기보다 정치적 올바름(PC, 사회적 약자에 대한 차별을 배제하려는 태도)을 지키느라 그를 남자라고 부르지도 못하는군요
JI •
총기 난사 사건을 연구해서 사회를 보호할 정책을 만드는 경찰이나 학자들이 있을 텐데요. 캐나다 언론이 범인을 계속 여성(she)이라고 부르는 건 그런 연구 결과를 왜곡하는 행위입니다.
직장 동료나 이웃 같은 사회적 관계에서 상대방이 원하는 성별로 불러주는 것과, 신체적 특징이나 힘의 차이가 핵심 정보가 되는 범죄 데이터에서 성별을 따지는 건 전혀 다른 문제입니다. 예를 들어 신분 확인용 여권이나 운전면허증에서 개인이 느끼는 성별은 중요하지 않습니다. 그런 서류들은 그 사람의 겉모습을 정확히 묘사해서 타인에게 어떻게 보이는지, 그리고 신체적으로 어떤 위해를 가할 수 있는지를 판단하는 근거가 되어야 하기 때문입니다
직장 동료나 이웃 같은 사회적 관계에서 상대방이 원하는 성별로 불러주는 것과, 신체적 특징이나 힘의 차이가 핵심 정보가 되는 범죄 데이터에서 성별을 따지는 건 전혀 다른 문제입니다. 예를 들어 신분 확인용 여권이나 운전면허증에서 개인이 느끼는 성별은 중요하지 않습니다. 그런 서류들은 그 사람의 겉모습을 정확히 묘사해서 타인에게 어떻게 보이는지, 그리고 신체적으로 어떤 위해를 가할 수 있는지를 판단하는 근거가 되어야 하기 때문입니다
BU •
부모나 보호자가 아이들의 인터넷 사용을 감시하지 않는다면 그 어떤 법규도 소용없어. 아이들의 영리함을 과소평가하다가는 큰 코 다칠 거다
PA •
오픈에이아이가 이 정신적으로 아픈 사람 손에 총을 쥐여준 건 아니잖아요. 정부가 기술을 희생양 삼아서 책임을 떠넘기려 하지 않았으면 좋겠습니다
DA •
트랜스젠더 총격범이 늘어나고 있다는 사실은 변하지 않아. 진보 정치가 가져온 결과지. 이래도 정신이 안 들어? 지난 10년 동안 이런 걸 억지로 주입한 이후로 사회가 더 건강해졌다고 생각하나?
JO •
경찰이 엄마한테 총을 돌려줬고, 제시가 총을 쐈고, 사람들이 죽었어. 이게 팩트야. 오픈에이아이는 이 일에서 좀 빼자고
FR •
얼마나 더 많은 경고 신호가 필요한 거야? 우리 경찰은 챗GPT가 대신 일해줄 수 있었는지만 조사하는 걸 보니 자기 일을 할 능력이 없어 보여. 왜 정부는 이전의 수많은 징후 대신 마지막 단계에만 집착하는 거지?
CH •
캐나다 사상 경찰(Thought police, 사상의 자유를 억압하는 권력)한테 벌금 낼 게 걱정된다면 그냥 대명사 빼고 기사를 써. 제발 제시 밴 루트셀라가 아닌 존재로 미화하거나 거짓말 좀 하지 마라
MA •
챗GPT 논란은 이 비극을 초래한 실제 시스템의 결함을 가리기 위한 거대한 연막작전일 뿐입니다
BI •
수사 참 잘했네. 근데 데이비드 이비랑 기자는 범인한테 총을 돌려준 경찰(RCMP)이나 살인범을 감시해야 했던 보건 당국한테는 왜 한마디도 안 해? 그 사람들은 대체 어디서 뭘 하고 있었던 거야?
JO •
이 사건에 트랜스젠더 이슈가 엮여 있다는 걸 잊지 말자고. 아마 경찰이 미리 알았더라도 건드리기 엄청 깔끄러웠을걸? 만약 경찰이 진작에 총기를 압수했어봐, 언론에서 어떤 헤드라인을 뽑았을지 눈에 선하네
IV •
총기를 엄마한테 다시 돌려주라고 누가 명령했는지에 대해서는 아직도 말이 없네
RA •