현재 LLM기반 AI는 실시간 학습이 안됨. 새로운 알고리즘이 나와서 사람처럼 실시간 학습이 되면 특이점 온 것 임. 연구자들이 머리터지게 만들고 있는 것이 그것임
ㅇㅇ •
이건 아직 로컬ai 인프라가 안갖춰져 있어서 대형기업들도 일반소비자들처럼 클라우드ai를 빌려서 써야하는 거라 그럼. 한 2년만 지나면 다들 로컬ai로 전환하고 기술 발전에 따라 토큰가격도 점점 내려갈거임.단순히 성능이나 토큰 가격 때문만이 아니라 보안 문제 때문이라도 로컬 ai를 훨씬 선호함. 현재도 큰 회사는 독자적인 엔진이나 프로그램을 쓰는 것처럼 ai도 그렇게 될거임. 과도기일 뿐이다
ㅇㅇ •
기업들도 애초애 기업형 구독형 쓰는게 아니였어??프로그램 만들었음 디버깅도 쌍으로 해줘야지 디버깅도 따로 돈 받는거야??????ㅋㅋㅋㅋㅋㅋ봉이 김선달도 아니고 닝기리
ㅇㅇ •
한번에 탁치니 억하고 제대로 된 코드 뱉으면 개좋음 근데 현실은 인간이 할때처럼 v20~v30가는 경우가 흔함 그러다가 고장나서 새 세션 열어야하면.
ㅇㅇ •
솔직히 요즘 던파같은 온라인게임들 직원들이 ai코딩으로 많이들 작업하는것 같던데 여러가지 찐빠들 폭발하는거 보면 ai코딩 자체가 아직 좀 불안정하긴 한것같음 솔직히 월급주는 입장에서는 통제하고싶어하는게 이해가긴 함 ㅇㅇ; 딸깍으로 꿀빨고 찐빠투성이인 작업물 낼꺼면 누가 월급주고싶겠어? 근데 gpt 주인인 ai 간판기업급 마소가 저러는건 좀 가오빠지긴하네
ㅇㅇ •
다른데야 그렇다 쳐도 마소는 자회사격으로 챗GPT있는데도 클로드 쓰는건 뭔ㅋㅋ마소가 미국에서 돈 막쓰는걸로 유명하다던데 그말이 맞긴 한듯ㅋㅋ다른회사 ,AI쓸거면 챗GPT는 뭐하러 인수함?ㅋㅋ
ㅁㄴ •
얘네 개발자 연봉이 못해도 2-3억인데 월 천달러가 지금당장 감당 안 될 수준인가? 이거 그냥 가격 협상용 아니면 on prem으로 가려는거 같은데
개발 •
AI가 버블이 아니길 원한다면 절대적으로 가격이 내려가야함.현재 상황->AI비용이 내려가긴커녕 점점 더 올라가는중가장 큰 문제는 하드웨어, 인프라쪽. 여기는 단기간에 해결하는것조차 불가능.지금 거대 테크기업들이 수십 수백조 때려박으면서 치킨게임 벌이고 있는데 AI 비용 개선마저 늦춰진다?
ㅇㅇ •
윈도우 11이 개판인 이유가 AI로 코드짜서 ㅋㅋㅋ 실제로 유명 개발자 유튜버들이 패치 분석한거 보면 문제를 수정했다가 다시 똑같은 코드를 넣어서 또 같은 문제가 발생하는 등 AI 특유의 특징들이 ㅈㄴ 많은거 찾아냄
ㅇㅇ •
미국과 중국이 데이터센터투자발표한 굵직한 프로젝트에서 소요되는 전령량을 추산하면 일본이라는 국가가 사용하는 전체 사용 전력량에 버금간다
ㅇㅇ •
cnn에서 믿거. 검색해보니 팩트는 토큰이 비싸서 라이센스 취소한게 아니라 자사제품인 깃헙코파일럿보다 클로드를 더 많이 사용하게 되니 취소한거임
ㅇㅇ •
물론 정량적 분석이 필요없는 화가 디자인 같은 예술따리들은 개같이 따이고 개박살. 물론 지잡변 막변 들은 간단한 법무 상담도 따잇 당해서 실직자 망한 인생 확정. ㅅㄱ
ㅇㅇ •
하네스 엔지니어링이네 이런 개지랄도 저 삽질을 어떻게든 최소화해보려는 똥꼬쇼에 불과함. 정말로 인공지능이 스스로 환각에서 벗어나 오류를 교정할 정도의 인공적인 능지가 있다면 이런 오류 자체가 일어날수가 없음
ㅇㅇ •
예를 들어 1페이지에서 10페이지까지 문서를 분석한다고 할 때, 한 세션에서 7페이지까지는 제대로 분석하다가 11페이지 15페이지 이딴식으로 환각을 텨뱉는데 만약에 이 오류를 교정하는 수정 프롬프트를 넣잖아 ? 그때는 또 다른 오류가 벌어짐. 저어어어얼대로 인간의 손이 안탈수가 없는 구조임 이 상태에서 원가가 저감될수가 없지. 인공지능 기업은 장기적으로 존속 불가다. 거품 3년 안에 꺼짐
ㅇㅇ •
LLM의 설계 사상과 다르게 다른 인공지능을 디자인해야하는데 그게 바로 특이점이다. LLM 에다가 거대 업데이트를 하거나 패치를 해서 특이점이 되는게 아니고
ㅇㅇ •
LLM의 강세: 미세오차를 감내할 정도로 대규모 반복되는 표준적 품질의 정보 분석에만 좋음. 미세오차가 용납되지 않는 거대소송리스크 혹은 의료현장에 적용 불가
ㅇㅇ •
또 하나 반례를 들어주지. 예를 들어 환각 교정 프롬프트를 상단에 올리고 분석 강화 프롬프트를 하단에 올리면 환각이교정되지만 분석력은 저하되고 그 순서를 반대로 하면 분석력은 올라가는데 환각은 올라간다. 진짜 인공지능이라면 왜 프롬프트 순서에 따라 분석된 결과물 품질이 달라지냐? 이게 바로 빡대가리라는 증거야