ID:85297さん

【概要】 株式会社WEEL ITs部門で、顧客向けにLLMを活用したWebアプリの開発と、Qdrantを用いたRAGシステムの設計・構築を担当。フロントエンド（React/Next.js）とバックエンド（FastAPI/Python）の両方を実装し、顧客との要件定義、改善提案、運用サポートまで一貫して担当しました。このほか、OllamaによるローカルLLM環境の構築や、Dify・n8nを用いた業務自動化の実装にも取り組みました。 技術：Python／FastAPI／React／Next.js／Qdrant／Ollama／Dify／n8n／OpenAI API／PostgreSQL／Docker 【課題】 RAGは「検索で意図した文書が引けないと回答も崩れる」構造で、LLM側だけ調整しても検索が外れると意味がありません。顧客の社内文書に対して期待する回答が安定して返る状態を作る必要がありました。あわせて、顧客の機密文書を扱うため「データをどこに置くか」が要件の論点になりました。 【工夫】 - ベクトルDB選定：顧客の社内文書を外部SaaSに預けない構成が要件だったため、Apache 2.0でセルフホスト可能なQdrantを選定。マネージド専用のPineconeは顧客環境内へのデプロイができず要件を満たさないと判断しました。OllamaによるローカルLLM運用と組み合わせ、ベクトルストアと推論の双方が顧客環境内で完結する構成としています - あわせて、DifyでのPoC検証とFastAPIで作り込む本番アプリで同一のベクトルストアを共有する方針を取り、Difyが公式サポートする選択肢の中からQdrantを採用することで、PoCから本番まで構成を作り替えずに進められるようにしました。単一コンテナで起動し管理UIを同梱するため、専任の運用要員を置けない受託でも運用負荷が軽い点も評価しました - 精度確認：受注前の段階で、評価用の想定質問を100件以上用意できるかを顧客側に確認する運用を始め、合意した想定質問セットを評価に使い、「期待する根拠文書を検索できたか」と「回答が妥当か」を分けて目視で記録。あわせてRagasでfaithfulness（回答が検索文脈に忠実か）やanswer relevancyなどの指標を算出し、チャンクの切り方や検索条件を変えた際の前後比較に使いました - プロンプト設計や外部APIとの連携もあわせて担当。顧客の要望をそのまま実装せず、「何を解決したいか」を確認してから実現方法を提案する進め方を徹底しました 【成果】 - 顧客環境内で完結するRAG構成を設計・構築し、要件定義から運用サポートまで一貫して担当しました - 社内AI勉強会と外部LTで得た知見をチームに還元しました