RAG 구축 생산성·응답 품질 향상

[그림 출처 : 클립아트 코리아 / 기사내용과 상관없음](사진=프로텐)

​

인공지능(AI) 기반 검색 솔루션 구축 전문 기업 프로텐(대표 박재완)은 LLM 운영·관리 솔루션 ‘ProLLMOps’의 핵심 기능인 노코드 워크플로우에 ‘에이전틱 AI(Agentic AI)’를 적용하고, 업무에 특화된 ‘AI 에이전트(AI Agent)’를 추가하는 등 기능을 대거 업그레이드했다고 밝혔다.

​

이번 업그레이드의 핵심은 기업이 ProLLMOps를 활용해 조직 내부 데이터를 기반으로 생성형 AI 구축시 복잡한 규정·매뉴얼·업무 시스템 등 방대한 데이터 속에서 사용자가 원하는 고품질의 답변을 제공하고 구축 편의성을 높이기 위해 워크플로우를 자동화한 에이전틱 AI를 적용한 점이다. 이를 통해 생산성과 사용자 응답 품질이 함께 향상되며, 전반적인 업무 효율성 개선 효과를 제공한다.

​

이는 실제 프로젝트 사례를 제품에 반영한 검증된 기능이라는 점에서 의미가 크다. 또한 회의록 자동 작성과 Text-to-SQL 등 업무에 특화된 AI 에이전트 기능도 함께 업그레이드됐다.

 

​

 

▎에이전틱 AI 적용으로 RAG 구축 생산성과 응답 품질 향상

​

ProLLMOps에 적용된 에이전틱 AI는 복잡한 사용자 질문에 대해서도 먼저 의도를 파악한 뒤, 필요한 작업을 분석·분류하고 상황에 따라 검색·분석 도구를 활용해 정보를 보강하며 단계적으로 결과를 생성한다. 이는 계획·실행·검증 전 과정을 자동화한 구조다. 이 과정에서 AI 에이전트가 워크플로우에 유기적으로 결합되어, 워크플로우를 복잡하게 구성하지 않더라도 간결한 설계만으로 고품질 응답을 구현할 수 있으며, 구축 생산성과 운영 효율성을 동시에 확보할 수 있다.

​

상세 기능으로는 ▲ 사용자 질문의 목적을 판별하는 의도 분류(Intent Classification) ▲ 이전 대화 맥락을 이어가며 연속 질의·응답을 지원하는 멀티턴(Multi-turn) ▲ 워크플로우 내 조건판단을 통해 실행경로를 선택하는 분기노드 (Decision node) ▲ 분기된 여러 실행 경로를 단일 흐름으로 통합하는 병합노드(Merge Node) 등을 제공해 보다 정확하고 완성도 높은 응답을 제공한다.

 

 

 

▎실무에 바로 쓰는 업무 ‘AI 에이전트’

​

이번 업그레이드에서는 AI 에이전트 기능으로 ‘회의록 자동작성’ 기능이 새롭게 추가됐다. 회의록 자동작성 기능은 ▲음성 파일 업로드 ▲실시간 녹음을 통한 회의 내용 인식 ▲자동 요약 및 편집 ▲DOCX·PDF 형태로 저장 및 공유 ▲LLMOps 기반 모델 관리를 지원한다. 잦은 회의나 주간보고 등 반복적인 업무 상황에서 활용도가 높을 것으로 예상되며, 이를 통해 회의 후 정리 작업에 소요되던 시간을 크게 줄이고, 기록 누락이나 왜곡을 최소화할 수 있다. 또한 회의 결과를 조직 내에서 쉽게 검색·공유·재활용할 수 있어, 회의 내용 관리의 효율성도 함께 높아진다.

​

또 다른 AI 에이전트 기능인 ‘Text to SQL’은 사용자가 자연어로 질문하면, LLMOps와 연계해 필요한 SQL을 자동으로 생성하고 데이터베이스를 조회해 결과를 제공하는 기능이다. 주요 기능으로는 ▲대상 DB 구조를 반영한 쿼리 생성 ▲자연어 기반 복잡한 SQL 자동 생성 ▲실시간 데이터 조회 ▲LLMOps 기반 모델 관리 기능을 함께 지원한다. 개발자가 아닌 일반 직원도 복잡한 SQL이나 데이터베이스 구조를 몰라도, “이번 달 매출 현황 보여줘”와 같이 질문만 하면 AI가 한 번에 답변을 제공한다. 이를 통해 데이터 담당자에게 따로 요청하지 않고도 필요한 정보를 바로 확인할 수 있어 IT 부서의 반복적인 데이터 대응 업무 부담도 줄어든다.

​

프로텐 박재완 대표는 “이번 ProLLMOps 업그레이드는 에이전틱 AI 적용을 통해 RAG 구축 과정의 복잡도를 낮추고, 실제 업무 환경에 적합한 응답 품질을 구현한 것이 핵심”이라며, “아울러 기업 업무에 특화된 단일·멀티 AI 에이전트 기능을 지속적으로 강화할 예정이며, 특히 회의록 자동 작성 기능은 생성된 회의록을 기반으로 업무 Task 및 To-Do를 생성하고 기존 업무 시스템과 연계해 기업 업무 환경에서의 활용성을 더욱 확대해 나갈 계획”이라고 말했다.

​

한편, 프로텐은 기업 및 공공기관을 대상으로 생성형 AI 검색 사업 프로젝트를 지속적으로 수행하며, 다양한 업무 환경과 복잡한 시스템 연계에 대한 풍부한 현장 경험을 축적해왔다. 이러한 경험을 바탕으로 다양한 기능과 활용 사례(Use Case)를 제품에 적용하며 경쟁력을 강화하고 있다. 특히 2026년에도 다수의 생성형 AI 관련 사업을 확보해 안정적인 성장세를 이어갈 기업으로 시장의 주목을 받고 있다.

​

 

​

http://www.itdaily.kr/news/articleView.html?idxno=237566
기사 전문은 위 링크를 통해 확인 할 수 있습니다.
출처 : 아이티데일리

​