Amazon Kinesis Firehose logo

Amazon Kinesis Firehose

Amazon Kinesis Firehose

正常开源cloudAmazon Web Services62· JavaScript· MIT

Amazon Kinesis Data Firehose API 把流式数据自动 buffer 并 deliver 到 S3/Redshift/OpenSearch/Splunk,无需写代码。

访问站点 ↗源码 ↗健康巡检 9 小时前
适合什么时候用

真正零运维(不像 Kinesis Data Streams 要管 shard)

先注意什么

有最小 buffer 时间(60 秒),不真正实时

第一步先查

CreateDeliveryStream 创建 stream,指定目标(S3/Redshift/OpenSearch/Splunk)。PutRecord / PutRecordBatch 写入数据。

认证
CORS
不支持
HTTPS
注册
?
延迟
12 ms
协议
REST
计费
Stars
62

可用率 · 30 天窗口

巡检: 1可用率: 100%平均延迟: 12ms

GitHub 活跃度

62JavaScriptMIT17 未关闭 issue上次提交 110 天前
01

关于这个 API

Firehose 是 AWS 流式数据管线的「即取即用」选项。和 Kinesis Data Streams 的区别很关键:Data Streams 是底层流式平台(要管 shard、消费者、checkpoint),适合自定义流处理;Firehose 是托管 delivery 服务,只能把数据按 buffer 规则推到固定下游(S3、Redshift、OpenSearch、Splunk、自定义 HTTP endpoint)。最常见用法是「日志/事件 → Firehose → S3 数据湖」——应用程序往 Firehose 写 JSON 事件,Firehose 自动 buffer 5 分钟或 5MB(取先到的)然后写一个文件到 S3,按时间 partition。配合 Lambda 转换还能在 deliver 前做 ETL(过滤、enrich、change format)。完全零运维,对「我有大量小事件,想集中存到 S3 但不想自己写消费者」场景是最佳选择。

02

你可以做什么

  • 1日志流式写入 S3 数据湖
  • 2实时事件落地到 Redshift 做分析
  • 3应用 metrics 写入 OpenSearch 做可视化
  • 4CloudTrail/VPC Flow Logs 集中归档
03

优劣对比

优点

  • 真正零运维(不像 Kinesis Data Streams 要管 shard)
  • 自动 buffer + 批量写入下游
  • 内置 Lambda 转换支持
  • 按数据量计费

注意事项

  • 有最小 buffer 时间(60 秒),不真正实时
  • 不支持消费者重读(数据 deliver 后就走了)
04

示例请求

通用模板 — 实际 endpoint 请查阅文档替换 <endpoint>。
curl https://github.com/mermade/aws2openapi/<endpoint>
05

快速开始

CreateDeliveryStream 创建 stream,指定目标(S3/Redshift/OpenSearch/Splunk)。PutRecord / PutRecordBatch 写入数据。

06

常见问题

Firehose vs Kinesis Data Streams 怎么选?+

只要把数据存到 S3/Redshift/OpenSearch:Firehose。需要自定义实时处理:Data Streams。

真正实时(<1s)能做吗?+

不能。Firehose 最小 buffer 是 60s。要 sub-second,用 Kinesis Data Streams + Lambda。

07

技术细节

CORS: NoHTTPS: Yes注册: ?开源: Yes
认证方式
unknown
计费
unknown
协议
REST
SDK
python, javascript, go, java, csharp
响应时间
12 ms
上次巡检
2026/5/12 07:36:33
08

标签

09

更多来自 Amazon Web Services 的 API