챗GPT와 딥시크(DeepSeek) 등 초거대 언어모델의 등장으로 생성형 AI는 단순한 문장 생성 단계를 넘어 추론을 중심으로 진화되고 있다. 이에 대응해 국내 기업들은 AI가 직접 필요한 정보를 외부에서 실시간으로 찾아내 활용하는 '추론 모델' 개발에 주목하고 있다.

대표적으로 국내 국내 스타트업 디노티시아는 AI 연산 전용 칩과 의미 기반 데이터 검색 기술을 결합한 실무형 AI 시스템을 개발하고 있다. RAG(Retrieval-Augmented Generation) 기술을 기반으로 생성형 AI를 실제 업무에 적용할 수 있는 인프라를 구축하는 것이 핵심이다. 

'RAG'는 AI가 외부 데이터베이스에서 필요한 정보를 실시간으로 검색하고, 이를 바탕으로 답변을 생성하는 방식이다. 대규모 언어모델(LLM)의 한계를 보완해 최신 정보나 내부 비공개 문서 등 폐쇄적 데이터에도 유연하게 대응할 수 있다는 점이 강점이다.

이 과정에서 '벡터 데이터베이스'(벡터 DB)도 중요한 역할을 담당한다. 벡터 DB는 문서나 이미지 등 비정형 데이터를 의미 기반의 벡터로 변환해 저장하고, 질문과 유사한 데이터를 빠르게 찾아주는 기술이다. 즉, 벡터 DB는 RAG 구조의 실효성을 결정짓는 핵심 인프라로, RAG가 정확하고 신뢰도 높은 응답을 생성할 수 있도록 지원한다. 

특히 디노티시아는 AI가 정보를 더 빠르고 정확하게 찾을 수 있도록 벡터 DB 소프트웨어와 자체 제작한 하드웨어 가속기 'VDPU'(Vector Data Processing Unit)를 처음부터 통합 설계했다. 스토리지부터 검색, 추론까지 전 과정을 수직 통합한 시스템을 구축한 셈이다. 해당 솔루션은 금융, 의료, 전자상거래, 연구기관 등 대용량·고빈도 의미 검색이 필수적인 산업군을 중심으로 AI 챗봇·검색·추천 시스템 도입을 추진하는 기업과 공공기관을 주요 수요처다.

2023년 설립된 디노티시아는 국내 인공지능(AI) 및 반도체 통합 솔루션 스타트업으로, 의미 기반 검색과 온디바이스 AI 실행 환경을 제공하는 기술 기업이다. 

주요 제품인 '씨홀스'(Seahorse)는 청킹(문서 분할)부터 임베딩(의미 정보 변환), 검색, 응답 생성까지 RAG 처리 과정을 하나의 시스템 안에 통합해 제공한다. 이를 통해 기업 고객은 별도의 개발이나 통합 작업 없이 바로 활용할 수 있으며, 여기에 디노티시아의 자체 프로토콜인 MCP(Model Context Protocol)를 적용해 씨홀스 벡터 DB와 시맨틱 검색 기능을 연동한 AI 에이전트 서비스 구현도 가능하다.

또한 디노티시아는 개인용 AI 디바이스 '니모스'(Mnemos)도 개발 중이다. 이 기기는 인터넷에 연결되지 않아도 문서를 요약하거나 웹 정보를 정리하는 등의 기능을 수행할 수 있도록 설계됐다. 사용자는 클라우드에 접속하지 않아도 기본적인 AI 서비스를 활용할 수 있게 된다. 이 외에도 한국어와 영어를 동시에 이해할 수 있는 고성능 LLM 파운데이션 모델 'DNA: Dnotitia AI' 오픈소스를 선보였으며, 한국어에 최적화된 특화 모델 'DNA-R1'을 개발했다. 

이러한 기술력을 인정받아 회사는 글로벌 시장조사업체 CB 인사이트가 선정한 '2025 글로벌 AI 100대 기업'에 이름을 올렸다. 설립 2년이 채 되지 않은 신생 기업임에도 불구하고 기술 구조와 현장 적용 가능성에서 높은 평가를 받았다. 

노홍찬 최고데이터책임자(CDO)는 "AI를 실제 환경에서 활용하려면, 단순히 모델을 잘 만드는 것 이상으로 인프라의 안정성과 유연성이 중요하다"며 "디노티시아는 다양한 산업 현장에 맞는 솔루션을 제공하기 위해 기술과 운영 체계를 함께 설계하고 있다"고 밝혔다.

※ 본 기사는 취재를 통해 사실관계 확인 후 작성됐음을 명시합니다.