LLM 뉴스
키워드 LLM 결과입니다.
-
새 소식
가중치 약 7GB LLM, "26학년도 수능 표점 400점 초과 달성
약 7GB 용량의 소형 LLM 모델들이 2026학년도 수능에서 메디컬 합격선에 해당하는 표준점수를 기록했습니다. 특히 Gemma 4 12B Q4와 Ternary Bonsai 2-27B 모델이 높은 성적을 거두며 Edge AI에 대한 보안 대책 마련의 필요성이 제기되었습니다.
LLM수능Edge AI -
지난 소식
내가 코딩에 LLM을 사용하지 않으려는 이유
실무 머신러닝 개발자 Kristian Polso는 인지적 부채, 코드 품질 저하, 환경 파괴 및 데이터 주권 문제를 이유로 업무에서 LLM과 AI 에이전트 사용을 거부하기로 했습니다. 그는 AI가 제공하는 복잡한 코드보다 직접 코딩을 통한 문제 해결 과정을 중시하며, 기술의 존재와 사용의 필요성은 별개라고 강조했습니다.
LLMAI 코딩인지적 부채환경 비용 -
지난 소식
소스는 공개하되, 외부 기여는 받지 않는다
LLM으로 인한 코드 생성 비용의 급감은 소프트웨어 재구현 비용의 장벽을 허물어, 조직들이 필요한 기능을 내부에서 직접 개발하는 '소프트웨어 내부화'를 가속화하고 있습니다. 이에 따라 공유 소프트웨어는 호환성이 중요한 핵심 라이브러리와 프로토콜 중심으로 축소될 것이며, 코드 자체보다 검증 가능한 명세의 가치가 더욱 중요해질 전망입니다.
LLM재구현 비용소프트웨어 내부화검증 비용명세 -
지난 소식
LLM 시대의 확장 가능한 소프트웨어
LLM의 코드 생성 능력과 샌드박스 기술을 결합하여 사용자의 개별 요구에 맞춘 'Software for One'을 구현하는 소프트웨어 모델이 주목받고 있습니다. 이 방식은 제품의 코어를 비대하게 만들지 않으면서도 롱테일 수요를 수용할 수 있으며, 보안과 규정 준수를 유지하며 개인화된 도구를 공유하는 생태계를 제공합니다.
LLM샌드박스소프트웨어 확장Software for One -
지난 소식
Show GN: 라플라스의 가위 - LLM을 재학습하지 않고, 출력 가중치만 안전하게 수정.
LLM을 재학습하지 않고 출력 가중치만 안전하게 수정하는 '라플라스의 가위' 기술이 소개되었습니다.
LLM라플라스의 가위 -
지난 소식
Memorilla: LLM을 위한 잠재 의미 메모리
Memorilla는 문서 임베딩에서 질의 관련 정보를 추출해 고정된 LLM에 16개의 메모리 토큰으로 전달하는 시스템입니다. 이 방식은 긴 문맥을 효율적으로 압축하여 응답 속도를 대폭 단축시키며, 개인화 및 지식 집약적 질의응답에서 기존 방식보다 우수한 성능을 보여줍니다.
MemorillaLLM메모리 토큰 -
지난 소식
DoorDash가 정확도를 유지하면서 LLM 검색 비용을 98% 줄인 방법
도어대시(DoorDash)는 LLM의 내장 웹 검색을 별도의 검색 게이트웨이(DSG)로 분리해 검색 정확도를 유지하면서도 검색 비용을 98% 이상 절감했다. 여러 AI 에이전트가 하나의 게이트웨이를 공유하며, 검색 결과 재사용, 캐시 정책 적용, 독립적인 검색 공급자 관리 등을 통해 비용과 지연 시간을 크게 줄였다.
DoorDashLLM검색 게이트웨이 -
새 소식
1.58비트 터너리 양자화로 30B LLM을 맥북에서 돌리기: 0점에서 89.4%까지 복원한 기록
Nvidia Nemotron 30B LLM을 1.58비트 터너리 양자화로 압축하여 24GB 맥북에서 구동할 수 있도록 만든 기록이다. 사전학습을 다시 하지 않는 PTQ 방식과 증류 및 경계 마스킹 기법을 적용해 원본 성능의 89.4%까지 복원하는 데 성공했다.
1.58비트 터너리 양자화LLM맥북 -
ITLLM 추천 AI, 과거 오류까지 학습…특정 상품 쏠림 심해진다
UNIST 연구팀은 LLM 기반 추천 시스템의 편향과 오류 누적 과정을 추적하는 진단 도구 '에코트레이스'를 개발했다. 연구 결과, AI의 추천 결과가 다시 학습에 반영되는 '피드백 루프'로 인해 초기 오류와 편향이 반복적으로 지속되거나 심화되는 현상이 확인되었다.
LLM추천 AI에코트레이스편향 -
지난 소식
마틴 파울러: LLM 문체가 만드는 글의 불쾌한 골짜기
마틴 파울러는 LLM 특유의 문체가 독자에게 거부감을 주는 '불쾌한 골짜기'를 형성한다고 지적하며, 글쓰기를 사고의 도구로 활용하는 인간의 직접적인 글쓰기 가치를 강조합니다. 그는 장애나 번역 등 특수한 경우를 제외하고는 사람과 소통하는 글에서 인간적인 목소리가 드러나야 한다고 주장합니다.
LLM불쾌한 골짜기글쓰기사고의 도구 -
아직 공개된 뉴스가 없습니다.
새 기사가 준비되는 대로 이곳에 표시됩니다.