Amazon Managed Service for Apache Flink

Introdução

Transforme e analise dados de streaming em tempo real usando o Apache Flink

Com o Amazon Managed Service for Apache Flink, você pode transformar e analisar dados de streaming em tempo real usando o Apache Flink, uma estrutura e um mecanismo de código aberto para processamento de fluxos de dados. O Amazon Managed Service for Apache Flink simplifica a criação e o gerenciamento de workloads do Apache Flink e ajuda você a integrar aplicações a serviços da AWS com mais facilidade.

Com o Amazon Managed Service for Apache Flink, você é cobrado pela duração e pelo número de KPUs, cobrados em incrementos de um segundo. Uma única KPU compreende computação de 1 vCPU e 4 GB de memória.

Preço de aplicações de streaming do Amazon Managed Service for Apache Flink

Para aplicações do Apache Flink, é cobrada uma única KPU adicional por aplicação, usada para orquestração. As aplicações também são cobradas pelo armazenamento em execução e pelos backups duráveis. O armazenamento de aplicações em execução é usado pelos recursos de processamento com estado no Amazon Managed Service for Apache Flink e é cobrado por GB/mês. Os backups duráveis são opcionais, fornecem recuperação em um ponto no tempo para aplicações e são cobrados por GB/mês.

No modo de transmissão, o Amazon Managed Service for Apache Flink escala automaticamente o número de KPUs necessárias para sua aplicação de processamento de fluxos de dados, já que as demandas de memória e de computação variam. Você pode optar por fornecer à sua aplicação o número de KPUs necessárias.

Preço do Amazon Managed Service for Apache Flink Studio

São cobradas duas KPUs adicionais por aplicação do Studio no modo interativo. Um KPU é usado para orquestração de aplicações do Apache Flink e o outro para o ambiente de desenvolvimento interativo sem servidor. Também haverá cobrança pelo armazenamento de aplicações em execução usado para recursos de processamento com estado. A cobrança pelo armazenamento de aplicações em execução é feita por gigabyte por mês.

Ao desenvolver em cadernos do Studio, você não terá a opção de criar backups de aplicações duráveis. No entanto, ao implantar sua aplicação em cadernos do Studio do modo interativo para o modo de streaming, você poderá criar backups duráveis de aplicações.

Orientação geral de uso da KPU

Recomendamos que você teste sua aplicação com cargas de produção para obter uma estimativa precisa do número de KPUs necessário para a aplicação. O uso de KPUs pode variar muito com base no volume e na velocidade dos dados, na complexidade do código, nas integrações e muito mais. Isso ocorre principalmente ao usar o runtime do Apache Flink no Amazon Managed Service for Apache Flink. Por exemplo, realizando testes internos, observamos um throughput de centenas de MB por segundo por KPU em aplicações simples sem estado e um throughput inferior a 1 MB por segundo por KPU em aplicações complexas que fazem uso intensivo de algoritmos de machine learning (ML). Com essas ressalvas em mente, a recomendação geral que damos antes de testar sua aplicação é de 1 MB por segundo por KPU.

Preços por região da AWS

Exemplos de preço

Abrir tudo

Use o Amazon Managed Service for Apache Flink Studio para filtrar continuamente os dados de streaming capturados pelo Amazon Kinesis Data Streams e reter apenas os registros de interesse. Você quer poder visualizar registros em tempo real e gravar facilmente consultas e programas em SQL e Python. Você não deseja fazer backups de estado duráveis. Você provisiona 4 KPUs para seu caderno do Studio com base no throughput do fluxo de entrada. Suas cobranças mensais do Amazon Managed Service for Apache Flink serão calculadas da seguinte forma:

Cobranças mensais

O preço na região Leste dos EUA (Norte da Virgínia) é de USD 0,11 por KPU/hora usado para sua aplicação de processamento de fluxo de dados. Essa aplicação simples usa 4 KPUs para processar o fluxo de dados de entrada. Cada aplicação de caderno do Studio (exemplo: modo interativo) é cobrada 2 KPUs adicionais.

Cobranças de KPU mensais = 30 dias * 24 horas * ([4 KPUs + 2 KPUs adicionais para caderno do Studio] * USD 0,11/hora) = USD 475,20

As aplicações do Apache Flink usam 50 GB de armazenamento de aplicações em execução por KPU com mais 50 GB de armazenamento em execução para aplicações do notebook Studio, e são cobrados USD 0,10 por GB/mês no US-East-1.

Cobranças mensais de armazenamento de aplicações em execução = 30 dias * 24 horas * (4 KPUs + 1 KPU adicional para caderno do Studio) * (50 GB * USD 0,10/GB/mês) = USD 25,00

Cobrança total = USD 475,20 + USD 25,00 = USD 500,20

Use o Amazon Managed Service for Apache Flink Studio para criar uma janela deslizante em dados de streaming capturados por um tópico em seu cluster do Amazon Managed Streaming for Apache Kafka (Amazon MSK). Você usa um notebook Studio com 4 KPUs que começa às 10:30 do primeiro dia de um mês para desenvolver e testar suas consultas. Após o desenvolvimento, implante a aplicação no modo de streaming com 2 KPUs às 17:00. Depois que a aplicação de streaming é implantada, interrompa o caderno do Studio uma hora depois, às 18:00. A aplicação de transmissão pode usar o estado de aplicação durável, e você cria backups de estado duráveis todos os dias.

O preço na região Leste dos EUA (Norte da Virgínia) é de USD 0,11 por KPU/hora usado para sua aplicação de processamento de fluxo de dados.

Cobranças mensais

Desenvolver e testar a consulta usando o Amazon Managed Service for Apache Flink Studio:
Sua aplicação do Studio é executada por 450 minutos no mês (10:30 às 18:00 no primeiro dia)

Cobranças de KPU = 450 minutos * (4 KPUs + 2 KPUs adicionais para caderno do Studio) * USD 0,11/hora) = USD 4,95

As aplicações do Apache Flink usam 50 GB de armazenamento de aplicações em execução por KPU com mais 50 GB de armazenamento em execução para aplicações do notebook Studio, e são cobrados USD 0,10 por GB/mês no US-East-1.

Taxas de armazenamento de aplicações em execução = 450 minutos * (4 KPUs + 1 KPU adicional para caderno do Studio) * (50 GB * USD 0,10/GB/mês) = USD 0,26

Implantação como aplicação de transmissão para executar continuamente e fazer backups da aplicação:
A aplicação de streaming funciona por 703 horas no mês (a partir das 17:00 do primeiro dia)

Cobranças de KPU = 703 horas * (2 KPUs + 1 KPU adicional para aplicação de streaming) * USD 0,11/hora = USD 231,99

As aplicações do Apache Flink usam 50 GB de armazenamento de aplicações em execução por KPU e implicam uma cobrança de USD 0,121 por gigabyte/mês na região US-East-1.

Cobranças de armazenamento de aplicações em execução = 703 horas * 2 KPUs * (50 GB * USD 0,10/GB/mês) = USD 9,76

Cobranças de armazenamento de aplicações duráveis = 703 horas * (1 MB/backup * 1 GB/1.000 MB) * USD 0,023/GB/mês = USD 0,01 (arredondado para o centavo mais próximo)

Cobranças totais = USD 4,95 + USD 0,26 + USD 231,99 + USD 9,76 + USD 0,01 = USD 246,97