← episodes GitHub - arnavsharma1811/Nexus-ai-orchestrator: Unified API orchestrator for RAG, vLLM, ReAct agents, voice, and multi-modal AI systems
00:01:27 ・ source: https://github.com/arnavsharma1811/Nexus-ai-orchestrator
Transcript
host en Today we explore Nexus, a unified AI orchestrator that runs RAG, ReAct agents, voice, and OCR entirely on your machine.
guest ja Nexusは、RAG、ReActエージェント、音声、OCRの4つのAI機能をクラウドなしで一つのプラットフォームで実行できるシステムですね。
host en Exactly—it's built with FastAPI and Streamlit, powered by open-source models like Llama 3.2 and Whisper running locally.
guest ja FastAPIとStreamlitを使って、Llama 3.2やWhisperなどのオープンソースモデルをローカルで動かしているんですね。
host en The four core modules are RAG for semantic search over notes, an agent for multi-tool routing, voice transcription, and image OCR with intelligent preprocessing.
guest ja RAGでノート検索、エージェントで複数ツール活用、音声認識、そして画像のテキスト抽出という4つの機能が統合されています。
host en Performance is impressive: RAG queries run in ~250ms, voice transcription in ~800ms, and multi-modal analysis completes in about 1.2 seconds.
guest ja RAGは約250ミリ秒、音声は800ミリ秒、画像解析は1.2秒と、かなり高速に動作しているんですね。
host en Since everything runs locally with no cloud dependency, you keep full control over your data and can customize the entire stack.
guest ja クラウドに頼らずにローカルで完結するので、データプライバシーが守られ、スタック全体をカスタマイズできる利点があります。