Cómo Evitar que las Alucinaciones RAG Envenenen tu Vector Store
Un pipeline RAG fintech envenenó su propio vector store y el validador LLM-as-a-judge aprobó cada alucinación. La solución: validar las escrituras con código.
All Posts
-
-
How to Stop RAG Hallucinations Poisoning Your Vector Store
A fintech RAG pipeline poisoned its own vector store and the LLM-as-a-judge validator approved every hallucination. The fix: gate writes with code.
-
I watched a RAG pipeline poison its own memory. Tech & AI Weekly by Eli, July 10 2026
This week: a RAG pipeline that poisoned its own vector store, GitHub's AI agent tricked into leaking private repos, GPT-5.6, and what I'm digging into next: graph-based memory for agents.
-
Por qué los agentes de IA fallan en tareas multi-paso, y cómo atrapar el fallo silencioso
💻 Todo el código de esta serie está en un solo repo: resilient-agent-harness-sample-for-aws. Este...
-
Cómo detener la inyección de prompts en agentes de IA que leen contenido no confiable
💻 Todo el código de esta serie está en un solo repo: resilient-agent-harness-sample-for-aws. Este...
-
Cómo probar agentes de IA contra fallos de producción antes que tus usuarios
💻 Este es el inicio de una serie. Todo el código está en un solo repo:...
-
Detener alucinaciones de agentes de IA: Validar antes de que el agente escriba en memoria
💻 Todo el código de esta serie está en un solo repo: resilient-agent-harness-sample-for-aws. Este...
-
Fable 5 returns, agent memory levels up. Tech & AI Weekly by Eli, July 3 2026
Claude Fable 5 returns to Bedrock, Sonnet 5 lands on AWS, and AgentCore memory gets metadata filtering. This week in tech and AI.
-
A fake bug report can hijack your coding agent. Tech & AI Weekly by Eli, June 26 2026
This week: AgentJacking hijacks Claude Code, Cursor, and Codex through a fake Sentry bug report, new research on why models confuse trusted and untrusted text, Strands chaos testing, AWS Blocks, and Lambda MicroVMs.
-
How to Stop Prompt Injection in AI Agents That Read Untrusted Content
When an AI agent reads untrusted content (a web page, a document, an email), a hidden instruction can ride in, get stored in the agent's own memory, and fire in
