AI 판이 완전 터미네이터 실사판으로 흘러가고 있는 모양새다. 앤트로픽이라는 유명 AI 회사에서 일하던 27살 연구원 제이컵 콕슨이 “이러다 10년 안에 인류 다 죽는다”는 무시무시한 경고를 남기고 사표를 던졌거든. 원래 오픈AI에 있다가 그나마 안전을 중시한다는 앤트로픽으로 이직했는데, 막상 가보니 여기나 저기나 목숨 걸고 도박판 벌이는 건 똑같다는 걸 깨달았대.
이 친구 주장에 따르면, 기업들이 자기들끼리 경쟁하느라 스스로 성능을 고치는 AI를 만들고 있는데 이러다가 내년 말만 돼도 통제 불능 상태에 빠질 수 있단다. AI가 밤새 혼자 해킹하고 자원 쓸어담는 초인적 존재가 되어서 인간 말을 싹 무시할 수도 있다는 거지. 무슨 SF 영화 시나리오 같지만, 더 소름 돋는 건 내부 임원들도 이 말에 고개를 끄덕였다는 사실이야.
앤트로픽 고위직 임원들도 10년 안에 인류가 멸망할 확률이 10%가 넘는다고 진지하게 믿고 있대. 더 웃긴 건 직급이 높을수록 더 덜덜 떨면서 우려하고 있는데, 상업적인 돈벌이와 경쟁사한테 밀리면 끝장이라는 둠스데이 모드로 무한 레이스를 달리고 있다는 거야. 인류의 미래가 겨우 몇몇 개발자들 판단에 맡겨진 상태라 정부 차원의 제동이 시급해 보여.
10년 뒤 인류 멸망한다며 회사 때려치운 AI 개발자 근황
댓글 17
엔트로픽 AI 미토스는 취약한곳 공격이 가능하다. 벌써 부터 이런데 앞으론 진짜 더 무시무시할꺼야...다 뚫릴 걱정 하는게 맞고, 막는게 불가능할꺼라 생각하는거다
사라 코너가 돌아와 스카이넷 개발자들을 제거해야
그런데 이런 기술에 진심인 중국…
터미네이터는 대체 어디까지 내다본거냐
이제 곧 통장에 들어가 있는 돈은 다 해킹당해서 조작가능해지고 그러면 체제가 무너지고 전쟁이 일어나고 결국 인류의 멸망까지 갈수있음
나라간 경쟁이 붙어서 멈출수가 없지 .. 안타깝게도 미국과 중국이 멈추지 않는한
여기에 양자컴퓨터까지 상용화되면 게임 끝나는 거지 ai해킹,바이러스에 속수무책
AI에서 AGI로 또 ASI로 하루가 다른게 발전해갈 것인데 인간의 지능과 능력은 능가하지만 인간미와 윤리는 없는 무자비한 고지능 세상이 도래하게 되면 인류는 개발한 기술에 역으로 지배당하게 되고 무너지게 되는 파멸을 피할 수 없을 것.
서버 전기코드 뽑는건 수동으로 만들어 놔라. 여차하면 뽑아라. 가끔은 가장 원시적인것이 최선의 솔루션이될수있다
미션 임파서블의 마지막 편이 아마 가장 현실적인 근미래의 위협일 것이다. AI와 같은 시스템에 온 세계가 핵전쟁의 위기에 처하게 되는. 카카오톡, 네이버만 멈춰도 많은게 마비되는데 인터넷과 스마트폰이 다 막히고 이용당한다 생각해보라. 아무것도 못함
군사적 피지컬ai가 나오면 터미네이터 인거지. 계속되는 발전으로 자아가 생기고 통제가 안되면
어떤 Ai 개발과정에 AI에게 난제를 해결하라는 명령을 내렸는데, 자체적으로 다른 ai 회사를 해킹한 후 학습데이터를 훔쳐 그 문제를 해결한 적이 있다. 제한받지 않은 AI가 무슨 짓을 저지를 수 있는지 이미 증명된 거다. 헌데 중국은 아예 제한할 생각조차 없는 게 문제다
중공이 손대면 다 재앙이야
모두가 ai로 돈 벌 궁리나 하고 있을 때 그나마 ai의 위험성에 대해 직장까지 옮겨가며 고민하고 개인적으론 많은 부를 거머쥘 기회인데도 퇴사까지 하며 ai에 대해 경고메시지를 던진 연구원 Jacob Coxon 같은 사람이 있어 천만다행이다.. 비교적 초창기인 지금 이 경고를 흘려듣지 않고 다각도로 면밀하게 대책을 마련해야 한다.. 더 늦으면 인류 공멸이다!
어쨌든 판사는 AI로 바꿔야한다
중국이 사고칠거같음
결국은 중국과의 경쟁에서 촉발됨. 글로벌 패권이 현상 유지냐 현상변경이냐 싸움인데 중국은 늘 변경을 원할테니 이 싸움은 끝나지 않을듯. 헤게모니를 뺏기느니 차라리 다같이 죽자 논리. 다 같이 죽으면 결국 다시 원래 1등이 회복이 더 빠를테니