클라우드 제공 서비스 활용
클라우드를 통한 비용절감 및 유연성,
확장성을 통해 AI 비즈니스 모델 구현
Microsoft Azure 클라우드 컴퓨팅, 데이터 분석, AI 등 다양한 솔루션을 제공하는 마이크로소프트의 클라우드 플랫폼
Azure DevOps
팀에서 서비스를 통해 코드 공유,
작업 추적 및 소프트웨어
릴리즈 가능
API Management
개발자, 파트너 및 직원에게 안전하게
대규모로 API를 게시
Azure SQL Database
클라우드의 자능적인
관리형 SQL
Container Registry
모든 유형의 Azure 배포에서 컨테이너
이미지 저장 및 관리
Azure Machine Learning
실험 및 모델 관리를 갖춘 포괄적이고
확장 가능하며
신뢰성 있는 플랫폼으로
모든 사용자에게 AI제공
Blob Storage
구조화되지 않은 데이터용RESR 기반
개체 스토리지
Azure Machines
Ubuntu, Red Hat, Windows
등을 위한 가상 머신 프로비전
서비스 활용(사례)
삼성물산 ERP 내역관리 시스템 AI 적용
내역관리 AI 모델 개발 : Azure Machine Learning 플랫폼을
활용하여, ERP 시스템내 등록된 내역을 기반으로 가장 적합한
표준코드를 자동으로 추천하는 판별형 AI 모델 개발
AI 모델 Upgrade 프로세스 개발 : Azure Machine Learning 플랫폼
내 파이프라인을 이용해 AI 모델의 업데이트 및 배포 프로세스를
자동화 MLOps를 활용한 AI 운영 관리시스템 개발 : Azure DevOps
와 MLOps 를 활용하여 AI 모델의 개발, 배포, 모니터링, 관리까지
일원화된 운영체계 구축
요약
- 1. API Gateway를 통해 데이터를 안전하게 전송
- 2. Azure Machine Learning에서 데이터를 처리 및 분석한 후 실시간으로 결과를 API로 반환
- 3. Azure Key Vault와 Azure Active Directory를 통해 보안과 인증을 강화
- 4. Virtual Network와 Load Balancer를 통해 네트워크 성능과 확장성을 보장
- 5. 이를 통해 기업은 안전하고 확장 가능한 AI 기반 서비스를 효율적으로 제공하고, 운영 비용을 절감할 수 있음
1. API 관리 및 데이터 전달 (Azure API Gateway)
- API Gateway를 통해 데이터를 안전하게 전송할 수 있고, 인증, 로깅, 트래픽 관리 등 API의 모든 흐름을 효율적으로 관리 가능.
- 머신러닝 모델을 API 형태로 제공하여, 실시간으로 모델의 예측 결과를 다양한 클라이언트 애플리케이션(웹, 모바일 등)에 전달 가능.
- API 게이트웨이를 통해 다양한 애플리케이션과 시스템 간의 통합을 중앙에서 관리하고 보안을 강화하여 확장 가능한 애플리케이션 아키텍처 구현 가능.
2. 보안 및 인증 (Azure Key Vault, Azure Active Directory)
- 민감한 데이터(비밀번호, 인증서 등)를 중앙에서 안전하게 관리하여 보안 사고를 줄일 수 있음.
- 인증 및 권한 관리를 중앙에서 통제하여 사용자가 많을 때도 효율적으로 보안을 유지.
3. Azure Container Registry (ACR)
- 도커 컨테이너 이미지를 저장하고 관리하는 완전 관리형 레지스트리 서비스
- 컨테이너 이미지를 Azure Kubernetes Service(AKS) 등과 통합하여 배포 및 운영 가능
- 이미지에 대한 보안 스캔, 역할 기반 접근 제어, 네트워크 격리를 통해 보안을 강화
4. 데이터 분석 및 저장 (Raw File, Azure Synapse Analytics)
- 대용량 데이터를 실시간으로 처리하여 데이터 기반 의사결정을 빠르게 할 수 있음.
- 빅데이터 분석을 통해 다양한 인사이트를 도출하고, 비즈니스 전략을 더욱 정교하게 수립 가능.
5. 머신러닝 및 AI (Azure Machine Learning)
- 데이터 기반의 고도화된 AI 모델을 쉽게 배포하고 관리할 수 있어 비즈니스 인사이트 및 자동화된 의사결정을 지원.
- Pipeline으로 모델 학습과 배포를 자동화하여 AI 프로젝트의 생산성을 극대화.
- AI 솔루션을 빠르게 개발하고 배포함으로써 비즈니스 프로세스를 자동화하고 비용 절감 가능.
6. 네트워크 및 인프라 관리 (Azure Virtual Network, Azure Load Balancer, Azure Kubernetes Service)
- 네트워크를 분리하고 트래픽을 효율적으로 관리하여 성능과 보안성을 높일 수 있음.
- 컨테이너화된 애플리케이션의 자동 확장 및 업데이트를 지원해 애플리케이션의 가용성과 확장성을 극대화할 수 있음.
7. 모니터링 및 운영 관리 (Azure Monitor)
- 실시간 모니터링을 통해 시스템의 문제를 신속하게 발견하고 대응하여 다운타임을 줄일 수 있음.
- 모니터링 데이터를 기반으로 성능을 지속적으로 최적화하고, 비용 절감 및 운영 효율성 향상.
아마존 웹 서비스(AWS) 다양한 클라우드 인프라, 플랫폼 및 애플리케이션 서비스를 제공하는 글로벌 클라우드 컴퓨팅 플랫폼
S3 (Simple Storage Service)
대규모 데이터를 안정적이고 확장성
있게 저장 가능
CloudFront
글로벌 사용자에게 빠르고 안전하게
데이터를 전송
CloudFormation
SON 또는 YAML 템플릿을 사용하여
AWS 리소스를
자동으로
배포 및 관리
RDS (Relational Database Service)
MySQL, PostgreSQL,
MariaDB, Oracle, SQL Server 등의
데이터베이스
엔진을 지원
SageMaker
데이터 준비, 모델 학습,
하이퍼파라미터 튜닝, 모델 배포
등
머신러닝 워크플로우
ECR (Elastic Container Registry)
컨테이너 이미지를 안전하게
저장하고 관리하며, ECS,
EKS와
통합하여 사용
ECS (Elastic Container Service)
EC2 또는 Fargate와 함께
작동하여 애플리케이션의 확장성
및
관리 용이성 제공
Lambda
서버를 직접 관리하지 않고 코드만
실행할 수 있는
서버리스 컴퓨팅 서비스
서비스 활용(사례)
CoinMarketScore 서비스 개발
- 1. 암호화폐 가치평가 및 가격예측모델 개발 : AWS Lambda, Sagemaker를 통해 암호화폐 데이터를 실시간으로 수집하고 분석하여 효율적으로 처리
- 2. 자동 데이터 수집 및 처리 시스템 구축 : AWS S3, RDS 를 활용하여 암호화폐 관련 방대한 데이터를 수집하고 저장하는 자동화된 데이터 수집 시스템 구축
- 3. MLOps 및 CI/CD 파이프라인 구축을 모델 배포 및 관리 자동화 : AWS Sagemaker 및 DevOps 도구를 활용하여 모델 개발, 배포, 학습 관리의 전 과정을 자동화.
요약
- 1. AWS Secrets Manager와 IAM으로 민감한 데이터와 권한을 안전하게 관리하여 AI 리소스의 보안과 인증을 강화.
- 2. SageMaker를 활용하여 AI 모델의 학습, 배포, 관리를 자동화하고 Lambda와 ECS로 AI 애플리케이션의 실시간 추론과 확장을 지원.
- 3. S3와 ECR로 데이터를 효율적으로 관리하고, 컨테이너화된 AI 서비스의 배포와 운영을 일관되게 유지.
- 4. CloudWatch로 AI 인프라 성능을 모니터링하며, CloudFormation으로 AI 프로젝트의 인프라를 자동화하여 비즈니스 민첩성을 향상.
- 5. 이를 통해 기업은 안전하고 확장 가능한 AI 기반 서비스를 효율적으로 제공하고, 운영 비용을 절감할 수 있음.
1. 보안 및 인증 (AWS Secrets Manager, AWS KMS, AWS IAM)
- AWS Secrets Manager와 KMS를 통해 민감한 데이터(비밀번호, API 키, 인증서 등)와 암호화 키를 중앙에서 안전하게 저장하고 관리.
- IAM (Identity and Access Management)을 사용하여 사용자, 그룹, 역할의 접근 권한을 세밀하게 제어하고, SSO 및 MFA를 통한 보안을 강화하여 AI 리소스에 대한 안전한 접근을 보장.
2. 데이터 및 컨테이너 관리 (S3, ECR)
- S3를 통해 AI 모델 학습에 필요한 대규모 데이터를 안전하고 효율적으로 저장.
- ECR로 도커 컨테이너 이미지를 관리하여 AI 모델 배포 환경을 일관성 있게 유지하고, 모델의 빠른 배포와 확장을 지원.
3. AI 애플리케이션 배포 및 확장 (ECS, Lambda, SageMaker Endpoint)
- ECS를 통해 AI 애플리케이션을 컨테이너화하여 확장성과 신뢰성을 보장.
- Lambda로 서버리스 기반의 AI 애플리케이션을 구축하여 실시간 처리가 필요할 때 이벤트 기반으로 모델을 실행.
- SageMaker Endpoint를 통해 실시간 AI 모델 추론 서비스 제공, 자동 확장을 지원하여 다양한 클라이언트 요청을 처리.
4. AI 모델 학습 및 자동화 (SageMaker, SageMaker Pipeline, SageMaker Model Registry)
- SageMaker를 통해 데이터 준비부터 모델 학습, 하이퍼파라미터 튜닝, 배포까지 AI 모델 개발 전 과정을 통합적으로 관리.
- SageMaker Pipeline으로 모델 학습과 배포를 자동화하여 AI 프로젝트의 생산성을 극대화.
- SageMaker Model Registry를 통해 학습된 모델의 버전 관리, 상태 추적, 재학습 및 배포 과정을 쉽게 관리 가능.
5. 실시간 모니터링 및 운영 최적화 (CloudWatch Metrics, CloudFormation)
- CloudWatch Metrics로 AI 모델과 인프라 성능을 실시간으로 모니터링하고, 예기치 않은 문제 발생 시 알림을 통해 빠르게 대응.
- CloudFormation을 통해 AI 인프라를 코드로 관리하고, 모델과 서비스의 자동 배포 및 업데이트를 지원하여 운영 효율성을 극대화.