본문 바로가기

분류 전체보기109

api-gateway-lambda-dynamodb 테라폼 스크립트 초기 코드 vi main.tf provider "aws" { profile = "default" region = "ap-northeast-2" } resource "aws_dynamodb_table" "product_table" { name = "PRODUCT" billing_mode = "PAY_PER_REQUEST" hash_key = "product_id" attribute { name = "product_id" type = "S" } attribute { name = "category" type = "S" } attribute { name = "product_rating" type = "N" } global_secondary_index { name = "ProductCategoryRatingInd.. 2023. 6. 30.
쿠버네티스(1.22.1) 세팅 정리 + 헬름 환경 세팅 가상머신 만들기 2core 4GiB 서버 네트워크 설정 - 어댑터1: NAT Network, 어댑터2: 호스트 전용 어댑터 # yum update -y # yum install -y bash-completion # cd /etc/sysconfig/network-scripts/ # vi ifcfg-enp0s8 ONBOOT=yes # systemctl restart network 가상머신 내보내기 MobaXterm 접속 호스트 이름 설정 # hostnamectl set-hostname master1 # hostnamectl set-hostname worker1 # hostnamectl set-hostname worker2 --- All Node --- 모든 노드에 적용 # cat /etc/host.. 2023. 6. 29.
[Airflow] - 3. More 오퍼레이터, Connection & Hook 지원되는 오퍼레이터 보기 baseoperator를 상속해서 오버라이딩해서 커스텀하게 사용할 수 있다 LatestOnlyOperator는 수작업으로 DAG를 실행시키거나 과거 날짜(bagfill)로 DAG를 실행시키면 후행task들이 돌지않는다 SubDagOperator : 1번 DAG 안에서 2번 DAG를 관리할 수 있다. 다른 DAG를 관리하는 오퍼레이터 TriggerDagRunOperator : 한 DAG의 task가 실행되면 다른 DAG를 실행하는 오퍼레이터 ShortCircuitOperator : 후행 task를 실행시키지 않고 DAG를 종료시키는 오퍼레이터 PythonVirtualenvOperator : 파이썬 가상환경을 만든 후 Job을 수행하고 마무리되면 가상환경을 삭제하는 오퍼레이터 Ext.. 2023. 6. 26.
Amazon Redshift 신규 기능 – Kinesis Data Streams 및 Kafka용 관리형 스트리밍 수집 정식 출시 1. Kinesis Data Streams 생성 1. Kinesis 콘솔의 탐색창에서 데이터 스트림, 데이터 스트림 생성을 차례로 선택합니다. 데이터 스트림 이름의 경우 'click-stream' 을 사용하고 다른 모든 옵션은 기본값으로 설정된 상태로 둡니다 2. IAM 생성 IAM 역할을 생성하여 Amazon Redshift가 click-stream Kinesis Data Streams에 대한 접근 권한를 부여 { "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "kinesis:DescribeStreamSummary", "kinesis:GetShardIterator", "kinesis:GetRecords", "kinesi.. 2023. 6. 24.