Red Hat Summit요약
인공지능(AI)은 일반적으로 인식, 학습, 문제 해결과 같은 인지 기능을 모방하는 등 인간의 지능을 시뮬레이션할 수 있는 프로세스와 알고리즘을 의미합니다. 머신 러닝(ML)과 딥러닝(DL)은 알고리즘을 사용하여 데이터세트 내에서 패턴을 식별하고 예측하는 인공지능(AI)의 하위 집합입니다. 이상적인 경우, 머신 러닝을 활용하면 직접 데이터를 해석할 때보다 더 빠르고 정확하게 데이터를 해석할 수 있습니다.
AI/ML은 산업 전반과 조직 내에서 광범위하게 적용되며 기업 운영 방식을 빠르게 혁신하고 있습니다. 비즈니스 프로세스와 워크로드에 특화된 AI/ML의 장점을 파악하는 동시에 문제점에 대비하는 것이 중요합니다.
비즈니스 이점과 과제
AI/ML은 다음과 같은 다양한 비즈니스 기능을 간소화, 개선, 확장하는 데 점점 더 많이 사용되고 있습니다.
- 데이터 및 분석. AI/ML은 데이터 입력, 스토리지 및 보안을 자동화하는 동시에 예측적 비즈니스 분석을 수집할 수 있습니다.
- 고객 지원. 챗봇과 통화 분류 시스템은 자연어 처리(NLP)를 사용하여 고객을 빠르게 응대하고 복잡한 요청을 올바른 채널로 엘리베이션합니다.
- 운영. 로봇 프로세스 자동화(RPA)는 이전에는 사람이 하던 반복적인 태스크를 소프트웨어 로봇을 사용하여 수행하는 것입니다. 인공지능과 함께 사용하면 수동 프로세스와는 비교도 안되는 불가능한 속도와 정확성으로 비정형 데이터세트를 구문 분석할 수 있습니다.
- 마케팅 및 영업. 딥러닝 알고리즘은 마케터가 소비자에 대한 분석을 수집하여 전략에 영향을 미치고 마케팅 캠페인을 맞춤화하는 데 도움이 될 수 있습니다. 영업 직원들은 인공지능으로 정보를 처리하여 신속히 리드를 개발할 수 있습니다.
- 인사(HR). 기본 인공지능 모델을 기반으로 학습한 봇은 채용 과정에서 지원자 프로필을 검토하는 데 유용할 수 있습니다. 또한 인공 신경망을 사용해 직원 만족도 설문조사를 수집하고 분석하면 긍정적인 변화를 빠르게 실행할 수 있습니다.
이러한 솔루션을 비롯한 AI/ML 솔루션을 구현할 때는 편향과 '블랙박스' AI 등 AI/ML의 일반적인 문제점을 완화하는 것이 중요합니다. 이러한 결점은 의료, 사법 제도, 금융과 같이 규제가 많은 산업에서 특히 문제가 될 수 있습니다. 조직이 생산성과 성과 향상을 위해 AI/ML을 배포하는 만큼, 편향을 최소화하고 투명성을 높이기 위한 전략 마련이 중요해졌습니다. 이를 위해서는 우선 재교육과 유지관리를 자주 실시하는 것은 물론, 포용성 있는 설계 프로세스를 갖추고 수집한 데이터 내에서 다양성이 반영될 수 있도록 신중하게 고려해야 합니다.
Red Hat 리소스
보건 의료 부문의 AI/ML
인공지능의 새로운 발전으로 의사를 비롯한 의료 종사자가 더 정확한 진단과 치료 계획을 제공할 수 있게 되면 환자의 치료 결과를 향상할 수 있습니다. 보건 의료 분야에서 AI가 환자, 의료 기관, 관리자에게 도움이 되는 몇 가지 방법은 다음과 같습니다.
- 빠른 진단. AI 알고리즘과 실시간 예측 분석을 통해 처리되는 데이터 인사이트로 더 신속히 진단할 수 있으므로 환자가 더 빨리 치료를 받을 수 있습니다.
- 보건 의료 서비스 이용 확대.인공지능 지원 진단을 사용하면 서비스를 받는 환자 그룹을 확대할 수 있습니다. 예를 들어, AI 지원 방사선 및 의료 영상을 통해 더 많은 전문가가 초음파를 판독할 수 있게 되어 소수의 전문가에게 몰리는 병목 현상이 감소하고 기술을 이용할 수 있는 환자가 늘어날 수 있습니다.
- 신약 개발 및 임상 연구. 컴퓨팅을 활용한 AI 툴은 임상 연구와 신약 개발에 대한 기존의 시행착오 방식을 개선하고 더 빠르고 효율적인 모델로 전체 프로세스를 모니터링할 수 있습니다.
통신 부문의 AI/ML
갈수록 AI/ML은 5G 네트워크 성능을 최적화하고 통신 제품 및 서비스 품질을 강화하는 등 통신 산업의 다양한 부분을 간소화하는 데 사용되고 있습니다. 적용 분야는 다음과 같습니다.
- 서비스 품질. AI는 트래픽 볼륨, 속도 저하, 운영 중단에 대비해 통신사가 수집한 데이터를 분석하는 등 네트워크 성능 최적화에 사용됩니다. 그런 다음 AI는 이 데이터를 사용해 필요한 작업을 권장합니다.
- 오디오/비디오 품질 개선. 자연어 처리와 컴퓨터 비전으로 영상과 음성의 명료도를 개선하여 통화 품질을 향상할 수 있습니다.
- 고객 이탈 방지. 음성 인식 기술은 기존 고객 및 잠재 고객과의 통화를 듣고 정서 분석을 수행하여 종료 또는 갱신으로 이어지는 행동을 파악할 수 있습니다. 이러한 기술은 다른 산업에도 적용될 수 있습니다.
제조 부문의 AI/ML
지능형 자동화는 작업 현장에서 저장 시설 및 배송 경로에 이르는 기업의 제품 제조 방식을 혁신하고 있습니다.
- 로봇. 포장 분류나 중장비 취급 등 반복적이고 위험한 태스크의 부담을 줄이기 위해 산업용 로봇이 공장과 제조 센터 전반에 설치되고 있습니다. 그 결과 인적 오류로 인한 리스크가 완화됩니다.
- 공급망 관리. 머신 러닝은 공급망 물류를 검토하고 재고 관리를 수행하여 최적의 출하 및 입고 시간을 예측할 수 있습니다.
- 산업 분석. 산업 분석은 장애물을 파악하고 더 효과적인 워크플로우를 구현하기 위해 AI/ML 알고리즘을 사용하여 제조 성과를 처음부터 끝까지 조사할 수 있습니다.
정부 부문의 AI/ML
전 세계 정부 기관들이 중요한 문제 해결과 공익을 위해 인공지능과 머신 러닝을 사용하고 있습니다.
- 공공 서비스 개선. AI/ML 툴로 교통, 위생, 사회 복지 서비스와 같은 공공 서비스의 이용 및 효과에 대한 데이터를 수집하고 해당 데이터를 사용해 새로운 서비스를 알리고 기존 서비스를 개선할 수 있습니다.
- 데이터 관리. 자연어 처리는 공공 기록을 분류하고 관리하는 유용한 툴로, 정성적 데이터를 이해하는 데 필요한 시간과 노력을 줄여줍니다. 또한 AI 기반 사이버 보안 솔루션으로 위협 노출을 완화하고 더 빠르게 인시던트에 대응하여 공공 데이터 보호를 강화할 수 있습니다.
- 데이터 기반 정책 입안. 인공지능과 머신 러닝의 예측 기능을 사용하면 데이터에 입각한 예측과 증거 기반 솔루션을 통해 공공 정책에 정보를 제공할 수 있습니다.
유통 및 전자상거래 부문의 AI/ML
사람들은 매일 유통 및 전자상거래 웹사이트에서 AI/ML과 상호작용합니다. 쇼핑하는 동안 사용되는 AI/ML에는 다음과 같은 것이 있습니다.
- 맞춤형 추천. AI/ML은 고객의 온라인 행동을 추적하고 해당 정보를 사용하여 디지털 광고나 온사이트 상호작용을 통해 맞춤형 추천을 제공합니다.
- 챗봇. 챗봇은 유용한 고객 경험 툴일 뿐만 아니라 자동화된 영업 사원의 역할도 합니다. 챗봇은 자연어 처리를 사용하여 사용자의 요구 사항을 파악하고 사용자가 원하는 제품을 찾도록 해줍니다.
- 자동 결제. 일부 기업은 AI 기술을 사용해 제품을 시각적으로 스캔하고 고객 계정에 정확한 금액을 청구하여 셀프 결제를 더욱 간소화합니다.
자율주행 차량 부문 AI/ML
전기차와 자율주행 차량의 인기가 높아지면서 승객도 어딜 가든 안전하고 혁신적인 프로그래밍을 이용할 필요가 생겼습니다.
- 차량 인식 및 주행 보조 시스템. 사각지대 감지 시스템이나 지능형 브레이크 시스템 같은 컴퓨터 비전 툴을 통해 운전자는 다른 차량, 보행자, 장애물과 같은 주변 물체를 감지하고 대응할 수 있습니다.
- 자율주행 차량. 적응형 크루즈 제어와 내비게이션, 차선 이탈 방지 시스템, 자동 브레이크에 이르기까지 AI/ML 기술은 운전자와 주변 사람들을 위한 안전한 자율주행 차량을 만드는 데 있어 반드시 필요합니다.
- 예측적 유지 보수. 머신 러닝 알고리즘은 차량으로부터 데이터를 수집해 고장 가능성이 가장 큰 부품을 예측하고 적절한 유지 보수를 미리 권장합니다.
교육 부문 AI/ML
ChatGPT와 같은 NLP 기술은 학문적 목적의 글쓰기와 연구에 널리 사용되지만, AI/ML에는 학습을 지원하는 애플리케이션이 훨씬 더 다양합니다.
- 지능형 교육 과정 설계. 생성형 AI는 교육자가 교육 과정의 필요한 요소들을 연구하고 체계화하도록 지원할 수 있습니다. 또한 교육 과정 콘텐츠와 과제를 생성하기도 합니다.
- 연구 조교. 연구 진행 시 AI 툴은 가상 조교 역할을 하며 인터넷과 데이터베이스에서 관련 학습 자료를 찾고 특정 관심 분야를 검색하는 데 도움이 될 수 있습니다.
- 튜토링. AI/ML은 학습 자료와 맞춤형 학습 내용 점검 단계를 만들어 지원이 필요한 학생이 튜토링을 이용하도록 액세스를 확대할 수 있습니다.
금융 부문 AI/ML
오늘날 금융 서비스 조직은 AI/ML을 사용하여 고객 만족도 향상, 다각화된 서비스 제공, 비즈니스 자동화 확대와 같이 측정 가능한 결과를 제공하는 애플리케이션을 개발합니다.
- 사기 감지. 은행은 머신 러닝을 활용하여 안전하지 않은 부정 거래를 감지하고 고객에게 실시간으로 알립니다. 음성 인증은 사용자 고유의 음성 패턴을 학습하여 계정을 보호하고 적합한 사용자에게만 액세스 권한을 부여합니다.
- 청구서 작성. AI는 반복적 청구서 작성과 관리 태스크를 자동화하여 비용과 오류를 줄입니다.
- 투자. 투자 회사의 경우 딥러닝을 사용하여 투자 기회를 조사하고 알고리즘을 강화해 예측 정확성을 높입니다.
Red Hat과 AI/ML
Red Hat의 AI 포트폴리오는 조직이 어느 단계에서든 AI와 머신 러닝을 활용할 수 있도록 기반을 제공합니다.
Red Hat® AI는 고객이 이미 신뢰하는 솔루션을 토대로 구축된 Red Hat의 AI 제품 포트폴리오입니다.
Red Hat AI가 조직에게 제공하는 이점은 다음과 같습니다.
- AI를 신속하게 도입하고 활용하여 빠르게 혁신
- AI 솔루션 제공의 복잡성 해소
- 어디서나 배포
Red Hat AI 파트너
아울러 Red Hat의 AI 파트너 에코시스템이 확장되고 있습니다. 다양한 기술 파트너들이 Red Hat과 협력하여 Red Hat AI와의 상호 운용성을 인증하고 있습니다. 따라서 오픈소스 솔루션 활용이 가능합니다.
솔루션 패턴: Red Hat과 NVIDIA AI Enterprise를 활용한 AI 애플리케이션
RAG 애플리케이션 생성
Red Hat OpenShift AI는 데이터 사이언스 프로젝트를 빌드하고 AI 기능을 탑재한 애플리케이션을 제공하기 위한 플랫폼입니다. 자체 참조 문서에서 AI 답변을 얻는 방법인 검색 증강 생성(Retrieval-Augmented Generation, RAG)을 지원하는 데 필요한 모든 도구를 통합할 수 있습니다. OpenShift AI를 NVIDIA AI Enterprise와 연결하면 대규모 언어 모델(Large Language Model, LLM)을 실험하여 애플리케이션에 대한 최적의 모델을 찾을 수 있습니다.
문서 파이프라인 구축
RAG를 활용하려면 먼저 문서를 벡터 데이터베이스에 수집해야 합니다. 예시 애플리케이션에서는 제품 문서 세트를 Redis 데이터베이스에 임베드합니다. 이러한 문서는 자주 변경되기 때문에, 이 프로세스에 대한 파이프라인을 구축하여 주기적으로 실행하면 항상 최신 버전의 문서를 확보할 수 있습니다.
LLM 카탈로그 살펴보기
NVIDIA AI Enterprise에서 다양한 LLM 카탈로그에 액세스하여 여러 가지 옵션을 사용해 보고 그중에서 최상의 결과를 제공하는 모델을 선택할 수 있습니다. 모델은 NVIDIA API 카탈로그에 호스팅됩니다. API 토큰을 설정한 후에는 OpenShift AI에서 바로 NVIDIA NIM 모델 서빙 플랫폼을 사용하여 모델을 배포할 수 있습니다.
적합한 모델 선택
다양한 LLM을 테스트하면서 사용자는 생성된 각 응답을 평가할 수 있습니다. Grafana 모니터링 대시보드를 설정하면 각 모델의 평점, 대기 시간, 응답 시간을 비교할 수 있습니다. 그런 다음 해당 데이터를 기반으로 프로덕션에서 사용하기에 가장 적합한 LLM을 선택할 수 있습니다.
레드햇 공식 블로그
레드햇 공식 블로그에서 고객, 파트너, 커뮤니티 에코시스템 등 현재 화제가 되는 최신 정보를 살펴 보세요.
