RAG

DeepSeek Search·Fetch API: 성공 요청 1,000건당 $0.75

DeepSeek가 성공 요청 1,000건당 $0.75인 웹 검색·페이지 가져오기 API를 냈다

트랜스포머는 '기억 저장소'에서 처음부터 만들어 낼 수 있었다

선형층→MLP→self-attention을 기억 저장소로 보면 용량이 64→약 2,700→100만 이상

Plan or Retrieve First? 대규모 도구 탐색 아키텍처 비교 연구

도구 1개짜리 질문은 바로 검색, 여러 개 필요한 질문은 계획 먼저가 유리했다

400년치 고문서에 AI를 돌렸더니 잊힌 운석·코뿔소·화산 폭발이 나왔다

임베딩 검색과 싼 필터 모델로 400년 고문서를 뒤져 미기록 사건 발굴

딥리서치 에이전트의 Reflective Prompt Optimization: 토픽 분리·멀티 시드로 본 진짜 성능 향상과 프롬프트 과적합

GEPA로 프롬프트를 최적화했더니 held-out 인용 보상 0.702→0.781

Docker Agent: YAML로 정의하는 AI 에이전트 빌더·런타임

YAML 설정만으로 멀티 에이전트를 만들고 docker agent로 실행한다

EmbeddingGemma 2: 텍스트·이미지·오디오·비디오를 한 벡터 공간에 넣는 오픈 경량 임베딩 모델

740M 오픈 모델 하나로 텍스트·이미지·오디오·비디오를 같은 벡터 공간에서 검색

에이전트에게 필요한 건 메모리가 아니라 문서다

RAG 메모리 플러그인 대신 Markdown 문서 '두뇌'를 읽고 고치게 하자는 주장

Aleph Alpha Kolibri: 독일어·영어용 주권(sovereign) 오픈 웨이트 LLM의 작동 방식

78B MoE인데 토큰당 3.5B만 써서 독일어 RAG와 자체 호스팅에 맞춘 모델

텍스트 분류의 역사: Bag-of-Words에서 Jev까지

Bag-of-words부터 Transformer까지 훑어 Jev가 왜 '그냥 분류기'가 아닌지 짚었다

Stripe의 사내 Knowledge AI 플랫폼 Kai

Stripe가 비개발자용 에이전트 플랫폼 Kai를 만들어 직원 83%가 주간 사용

RAG-NAROK: 출처를 직접 반박하는 문서로 RAG 지식베이스를 오염시키는 공격

검색된 출처를 겨냥해 반박문을 심었더니 1위 검색과 탐지 회피가 높아졌다

Transformer Explainer: 브라우저에서 GPT-2를 돌리며 배우는 Transformer 구조

GPT-2를 브라우저에서 직접 돌리며 Transformer 내부와 temperature를 눈으로 본다

텍스트냐 이미지냐 둘 다냐: 멀티모달 문서 QA 입력 방식 비교

문서 QA에서 페이지 이미지가 정확도는 높지만 느려서, 질문별 라우터로 지연 30% 줄였다

MS 임원이 AI 스크래핑을 '인류 역사상 최대의 노동 도둑질'이라 불렀다는 NYT 소송 공개 문서

NYT 소송 공개 문서에서 MS·OpenAI 내부의 스크래핑 인식이 드러났다

Engrim: AI 코딩 CLI 여러 개가 공유하는 로컬 SQLite 메모리 엔진

세션 기록 대신 4,000자 메모리 팩을 넣었더니 /clear 후에도 결정이 이어졌다

임베딩의 보편적 기하 구조 활용: 짝 데이터 없이 임베딩 공간 간 변환

짝 데이터 없이 임베딩을 다른 모델 공간으로 옮겼고, 벡터 DB 보안 위험이 드러났다

Better Together: 강한 RAG 베이스라인 위에서 쿼리 리라이팅 조합하기

쿼리 리라이팅을 합치고 점수 낮을 때만 돌렸더니 비용 40%로 효과 절반

AI 추천의 근거 출처: 사이트 3곳이 만든 21만 개 'best software' 페이지를 Perplexity가 인용한다

380개 카테고리를 Perplexity에 물었더니 인용의 59.8%가 상위 10만 밖 사이트였다

Perplexity 인용의 3분의 1은 인용한 숫자가 페이지에 없다

Perplexity 인용 1,826건 검증 결과 34.7%는 열리지 않거나 해당 숫자가 없었다

에이전트 메모리를 파이프라인 대신 파일 포맷으로: memoryfield

메모리를 Markdown+SQLite 벡터 인덱스로 두니 검색 2번이면 끝났다

AI Engineer Notebooks: 프레임워크 없이 RAG·에이전트·evals를 Colab에서 익히기

프레임워크 없이 무료 Groq API로 RAG·에이전트·evals를 직접 짜 보는 Colab 노트북 모음

OpenExecutive: 전문 에이전트 여러 개를 CEO 한 명처럼 묶은 오픈소스

전문 에이전트들을 하나의 임원 목소리로 묶어 CEO 역할을 하는 오픈소스

RAG는 왜 환각을 일으키나: 감점 기반 평가와 Knowledge-Gap Canary

틀리면 -4점으로 채점하고 KB에 없는 질문을 던졌더니, RAG 제품 간 답변 억제 정책 차이가 드러났다

AI 에이전트에게 Accept 헤더로 Markdown 서빙하기

같은 URL에서 Accept: text/markdown 요청에 Markdown을 돌려주자는 제안

RAG는 생각보다 단순하다: 6가지 검색 구조와 과설계 피하기

임베딩 전에 BM25와 쿼리 재작성부터 쓰면 대부분 해결된다

읽었다고 쓴 건 아니다: 긴 문서에서 LLM이 찾은 정보를 판단에 반영하지 않는 문제

긴 문서에서 사실은 정확히 찾아도 판단엔 반영 안 됨. 질문 먼저 답하게 하면 개선

Skyrim을 같이 플레이하는 저지연 AI 동료 Varkos 만들기

LLM 대신 소형 분류기로 행동을 고르자 음성 입력 후 500ms 안에 개가 답한다

이스라엘, AI 챗봇을 노린 가짜 싱크탱크 'Hanover Institute' 운영 의혹

챗봇이 신뢰할 형식으로 쓴 글 100여 편이 일주일 만에 올라왔다

Mistral OCR 4.1: 문단 단위 bbox와 블록 신뢰도를 주는 문서 OCR API

Mistral OCR 4.1은 문단 bbox·블록 라벨·신뢰도를 내주는 OCR API

AI가 웹을 먹으면서 인터넷의 집단 기억이 사라지고 있다

AI 요약이 원문 자리를 차지하자 검색과 웹 아카이브가 함께 무너진다

100배 저렴한 오픈 모델로 retrieval에서 GPT-5.6 Sol 겨냥하기 (Neon + Castform)

Postgres 데이터로 4B 오픈 모델을 RL 후학습해 검색 에이전트 비용을 낮춘다

Zero-Mem: LLM 호출 없이 돌리는 에이전트 메모리

메모리 처리에서 LLM 호출을 빼고도 경쟁력 있는 성능, 시간은 57.6% 절감

MAFIA: 감사(audit)를 통과하는 쿼리만으로 LLM 에이전트 메모리를 오염시키는 공격

괄호 속 사실 문구로 메모리를 오염시켜 감사 탐지를 7.4% 이하로 낮췄다

Cloudflare가 AI로 엔지니어링 표준을 강제하는 방법

표준을 RFC+JSON으로 정리해 AI 리뷰어에 물렸더니 4개월간 머지 1.6만 건 차단

Search, Inspect, Fetch: 구조 인식 Boolean 검색으로 Deep-Search 에이전트 개선하기 (Sieve)

웹페이지 구조로 Boolean 필터·섹션 fetch를 했더니 토큰 20.7–50.6% 절감, 정확도↑

임베딩 줄이기: Matryoshka(MRL) 자르기 vs PCA

임베딩 차원을 줄였더니 PCA가 MRL 자르기와 같거나 더 잘 버텼다

TokenTown: LLM 동작을 도시로 보여주는 시각화

트랜스포머를 도시로 그려, 토큰 하나가 도는 과정을 브라우저에서 본다

LLM에게 신뢰도 점수를 달라고 하지 마라

JSON에 confidence 필드를 넣어도 근거가 없어 안심용 장치일 뿐이라는 주장

$8짜리 마이크로컨트롤러에서 28.9M 파라미터 LLM 돌리기

파라미터 대부분을 flash에 두자 ESP32-S3에서 9.88 tok/s로 텍스트 생성

Claude Cookbook: Anthropic이 공개한 Claude 활용 레시피 모음

Anthropic이 에이전트·툴 호출·RAG·캐싱 예제를 한곳에 모은 레시피 목록을 공개했다

프레젠테이션이지 메커니즘이 아니다: 폐기 인식 메모리 평가의 렌더 교란

레저 메모리의 +0.182 이득은 대부분 프롬프트 포맷 덕이었다

Think Big, Search Small: 계층형 검색 에이전트에서 모델 용량은 어디에 써야 하나

큰 모델은 질문 분해에, 작은 모델은 검색 실행에 쓰니 정확도 유지·토큰 37%↓

Ternlight – 브라우저에서 도는 7MB 임베딩 모델 (WASM)

MiniLM을 3진 양자화로 증류해 7MB로 줄였고, 브라우저에서 ~5ms에 임베딩한다

RAG 컨텍스트의 68%를 버리게 가르친 작은 LLM: 리랭커와 생성기 사이의 pruning

작은 LLM이 청크를 등급 매겨 68% 버렸더니 recall 96% 유지, 쿼리 비용 34% 절감

Manticore ONNX 임베딩 경로 재작성으로 14배 빨라진 CPU 임베딩

Candle을 ONNX Runtime으로 바꾸고 spinning을 껐더니 임베딩이 평균 14배 빨라졌다

ReContext: 모델이 고른 근거 문장을 되풀이해 긴 문맥 추론 개선하기

attention으로 고른 근거 문장을 질문 앞에 재삽입했더니 128K 평균 정확도가 0.24→0.30

Show HN: ctx – 내 컴퓨터에 쌓인 코딩 에이전트 세션 기록을 검색하는 CLI

로컬 에이전트 세션 로그를 검색·blame하게 했더니 이전 작업 맥락을 재활용

Slopo: 임베딩으로 의미가 비슷한 중복 코드를 찾는 CLI

임베딩으로 코드베이스 전체의 비슷한 로직을 묶어 에이전트 리뷰에 넘긴다

Asymmetric Quantization: 문서는 1비트, 쿼리는 int8로 저장공간 97% 줄이기

문서 벡터만 1비트로 저장했더니 용량 32배↓, 품질은 0.61점만 하락

Show HN: 성경을 RAG 데이터베이스로 만든 Cross Canon

성경 전체를 임베딩해 의미 기반으로 구절을 찾는 RAG 검색 사이트

Haystack: 프로덕션용 에이전트·RAG를 위한 오픈소스 AI 프레임워크

deepset의 Haystack은 에이전트·RAG를 파이프라인으로 조립하는 오픈소스 프레임워크다

Elasticsearch로 만든 에이전트 장기 메모리 레이어: R@10 0.89

메모리를 3개 인덱스로 나누고 하이브리드 검색을 붙였더니 R@10 0.89

AI가 쓰고 AI가 관리한 391개 세션: 의미 공간 제어와 Index Sickness 제거

기준선과 로그를 파일로 분리하자 Instructions 75% 감소, 색인병 9건이 0건

TAHOE: 실패 경험에서 힌트를 자동으로 학습하는 Text-to-SQL

에러에서 뽑은 힌트 은행을 붙였더니 GPT-5.5 정답률이 61.95%→79.42%

€0.01 송금 한 번으로 은행 AI 어시스턴트를 뚫을 수 있다

송금 메모에 심은 지시문이 은행 AI를 피싱 도구로 바꿨다

DuMate-DeepResearch: 재귀 검색과 Rubric 기반 추론을 쓰는 감사 가능한 멀티 에이전트 시스템

DAG 계획·2단 검색 에이전트·Rubric 가이드로 DeepResearch Bench 58.03% 달성

FAISS 내부 들여다보기: 10억 개 벡터 유사도 검색의 원리

IVF로 건너뛰고 PQ로 압축하면 10억 벡터도 RAM에 올라간다

Show HN: ktx – 데이터 에이전트용 오픈소스 실행형 컨텍스트 레이어

ktx로 에이전트가 승인된 지표 정의로 웨어하우스를 질의하게 만든다

CORE: 성공과 실패를 대조해 뽑은 인사이트로 추론 성능을 빠르게 올리기

실패·성공 풀이를 비교해 인사이트를 쌓았더니 적은 롤아웃으로 정확도 상승