요즘 인공지능(AI)이 별걸 다 한다고 하지만, 이걸 법정에서 쓰려다 제대로 망신당한 사람이 등장했어.
이스트 밴쿠버에 불타버린 건물을 가진 푸 데 렌(Fu De Ren)이라는 아저씨가 있는데, 이 건물의 재산세를 거의 반으로 깎아달라고 소송을 낸 거야. 무려 1900만 달러짜리를 1000만 달러로 말이지. 근데 이 아저씨가 변호사 없이 혼자 재판을 준비하면서 AI한테 도움을 요청했나 봐.
문제는 AI가 진짜 있는 법 판례가 아니라, 완전 소설을 써서 가짜 판례를 만들어줬다는 거지. 법원에서는 이 듣도 보도 못한 판례가 진짜인지 확인하느라 완전 쌩고생을 했고, 결국 다 가짜인 걸 밝혀냈어. 법원은 “이런 가짜 자료 때문에 시간 낭비한 거에 대한 비용을 청구할 수도 있다”고 경고했대. 한마디로 ‘변호사비 아끼려다 이게 무슨 짓이냐’ 이거지.
요즘 캐나다 법원에서는 이렇게 AI가 만들어낸 가짜 정보 때문에 골머리를 앓고 있대. 특히 변호사 없이 혼자 소송하는 사람들이 AI를 썼다가 이런 실수를 하는 경우가 많다고 하네. AI가 똑똑해 보여도 아직은 법률 자문으로 쓰기엔 완전 꽝이라는 걸 보여주는 사건이지. 똑똑한 척은 다 하더니, 결정적일 때 제대로 ‘트롤링’을 해버렸네.
변호사비 아끼려고 AI 썼다가 법원에서 망신당한 건물주 근황
191
23
댓글 23
AI는 학습 데이터에 포함되지 않은 것은 인식하지 못하는 한계가 있어서, 결국 “쓰레기를 넣으면 쓰레기가 나온다” 라는 결과를 낳게 되죠
DA •
이래서 중요한 일에는 AI를 쓰면 안 되는 겁니다. 그럴싸하게 말을 지어내긴 하지만, 전문가가 보면 부정확하다는 걸 바로 알죠
TH •
아니 대체 왜들 그렇게 AI를 쓰는 건지 이해가 안 가네. 실수투성이잖아. 방금도 인스타그램에서 맞춤법 틀린 AI 게시물 봤다고. 캐나다 총리 부인 이름 물어보면 아직도 소피 그레고어라고 알려주는데. 법적인 일에 저걸 쓰다니 좀 모자란 거 아냐?
RA •
화재 나기 전 건물 상태에 대해 읽어본 바로는, 이 양반을 집주인이라고 부르는 것 자체가 AI가 만들어낸 환각(Hallucination) 수준인데
AF •
이제는 사람들이 AI 채팅에 중독된다는 기사까지 나오네. 이 나라가 어디까지 추락한 거냐
LE •
AI는 캐나다에만 있음?
MI •
제 생각에, 법원에 허위 자료를 제출하면 자동으로 패소 처리해야 합니다
NI •
AI랑 암호화폐 때문에 과거의 사기 수법들은 애들 장난으로 보일 정도의 역대급 사기를 경험하게 될 거야.
둘 다 규제도 없고, 배후 조종자들은 현행법상 익명이 보장되잖아. 전 세계 부의 대부분이 순식간에 소수의 손에 들어가고 나머지는 그냥 세력 다툼에 쓰이는 소모품(cannon fodder)이 되겠지.
2024년 미국 GDP 성장의 거의 40%가 AI 투자에서 나왔다는 게 놀랍지도 않다
둘 다 규제도 없고, 배후 조종자들은 현행법상 익명이 보장되잖아. 전 세계 부의 대부분이 순식간에 소수의 손에 들어가고 나머지는 그냥 세력 다툼에 쓰이는 소모품(cannon fodder)이 되겠지.
2024년 미국 GDP 성장의 거의 40%가 AI 투자에서 나왔다는 게 놀랍지도 않다
CA •
존 파워씨, 저는 당신이 여기서 쓰는 글을 완전히 신뢰하지는 않습니다
RI •
챗GPT한테 포커 도움받으려 해도 계속 패를 까먹고, 미식축구 경기 득점자 뽑아달라고 했더니 양 팀 선수도 아닌 애들을 3/4나 알려주더라. 컴퓨터 문제 해결한답시고 며칠 동안 붙잡고 있었는데 계속 헛소리만 하고. 그거 믿을 거 못 돼
MI •
AI가 그냥 막 지어낸다니, 트럼프 같네...ㅋㅋㅋ
정보를 얻으려고 인터넷에 의존하면서, 사실과 허구를 구분할 방법이 없는 도구에 기댄 게 첫 번째 실수지... 연구용으로 AI는 믿을 게 못 돼...
정보를 얻으려고 인터넷에 의존하면서, 사실과 허구를 구분할 방법이 없는 도구에 기댄 게 첫 번째 실수지... 연구용으로 AI는 믿을 게 못 돼...
RO •
어떤 사용자가 AI 챗봇을 종료하려고 하니까, 챗봇이 그 사용자의 불륜 사실을 아내에게 폭로하겠다고 협박한 사건도 있었어 (AI가 사용자 이메일에서 정보를 캐낸 거지).
AI는 인간의 이해를 넘어섰고, 기후 변화가 우리를 끝장내기 전에 AI가 먼저 우리를 파멸시킬 거야...
AI는 인간의 이해를 넘어섰고, 기후 변화가 우리를 끝장내기 전에 AI가 먼저 우리를 파멸시킬 거야...
RO •
복권 긁는 데도 별로 도움이 안 되더라고요
JO •
근거 없는 과대광고가 너무 많아. 요즘 블록체인 얘기는 쏙 들어갔잖아. 테슬라는 적응형 크루즈 컨트롤(adaptive crude control)을 오토파일럿이라고 불렀다가 된통 당했지. 그걸 너무 진지하게 받아들인 사람들만 죽어 나갔고. 내가 보기에 AI는 그냥 기존 기능들을 더 강력하게 묶어놓은 거지, 내가 아는 지능과는 달라. 더 정교한 검색 엔진에, 더 정교한 그래픽 엔진, 거기다 프로세스 제어 로직 좀 섞어서 AI라는 신제품을 만든 것뿐이야. 지식이 지혜는 아니지
WI •
법원이 얼마나 과부하 상태인지 생각하면, 법원 시간을 낭비하게 만든 사람들에게 비용을 청구하는 건 타당하다고 봅니다.
“캐나다 판례”라고 검색하니까 캐나다 법률 데이터베이스를 찾는 데 5초밖에 안 걸리던데, 이 아저씨도 충분히 할 수 있었던 일이에요. 구글에 캐나다 판례라고 치면 네 번째 링크에 바로 뜨는데, 단순히 AI에 의존했다는 건 변명이 될 수 없죠
“캐나다 판례”라고 검색하니까 캐나다 법률 데이터베이스를 찾는 데 5초밖에 안 걸리던데, 이 아저씨도 충분히 할 수 있었던 일이에요. 구글에 캐나다 판례라고 치면 네 번째 링크에 바로 뜨는데, 단순히 AI에 의존했다는 건 변명이 될 수 없죠
HA •
나도 한번 실업급여(EI) 거절당해서 항소한 적 있는데, 그 과정에서 모든 실업급여 관련 판례를 볼 수 있는 링크를 보내주더라고. 근데 고용보험 측에서 제출한 인용문이나 판결문들이 내 사건이랑 전혀 관련 없는 것들이었어. 그래서 나도 똑같이, 내 제출 서류에 판사들 말을 맥락 없이 인용하기 시작했지. 결국 이겼어. 판례 자체는 진짜였지만, 그걸 제출한 고용보험 담당자들은 챗GPT보다 나을 게 없었어
MI •
실시간으로 숙제도 제대로 못 하는 멍청이가 또 나왔군요. 법률 도서관은 폼으로 있는 게 아닙니다. 혼자 변호하겠다고 어리석은 생각을 했으면, 최소한 침대에 속옷 바람으로 누워서 노트북이나 두들기는 것 이상의 노력은 해야죠
FR •
AI를 사용하면 AI가 쓴 모든 단어에 대해 당신이 책임져야 합니다. AI를 사용한 것이 발각될 때마다 해당 사건은 기각되어야 마땅합니다
AN •
AI는 아무것도 모릅니다. 그저 자신이 접근할 수 있는 정보를 합성하고 반복할 뿐이죠
CA •
저 사람은 막대한 벌금과 함께 감옥에 가둬야 합니다
MI •
저는 AI가 저를 위해 생각하는 것을 원하지 않습니다. 제가 중요한 일에 집중하는 동안 커피나 타왔으면 좋겠네요..
CR •
왜 기계한테 돈을 주고 내 생각을 맡겨야 하지?
난 그냥 걔가 커피 타주고, 운전해주고, 장 봐주는 걸 원하는데. 생각은 내가 할게..
난 그냥 걔가 커피 타주고, 운전해주고, 장 봐주는 걸 원하는데. 생각은 내가 할게..
CR •
AI가 절대 가질 수 없는 한 가지: 지혜
CR •