AWS 数据湖采集
原名:ingesting-into-data-lake
把批量或流式数据安全导入 S3 数据湖并做好分区与目录登记。
中文 Skills 技能说明
适合数据库、文件或消息数据入湖;先定义来源、增量、水位、幂等、脱敏和失败重放,再启动任务。AWS 开源技能文本可在中国境内本地使用;实际调用云服务须使用用户自己的合法 AWS 账户和权限,并确认目标服务在 AWS 中国区域或所选区域的可用性、运营主体、网络、备案、费用、数据位置和跨境要求。CEOFans 不提供第三方账号、密钥或网络绕过。执行前读取真实账户、区域、项目和官方资料,输出目标、依据、影响、费用、验证结果与回退方式;没有证据时明确说明未知,不编造配置、数据或成功状态。 创建、修改、部署、发送、迁移、删除或产生费用的操作,必须先展示目标和差异并获得有权限人员确认。 代码、数据库、日志、凭据、客户和企业资料按敏感内容处理,只读取任务所需范围,上传或外发前完成授权、脱敏和最小化。
上游能力依据
上游原始适用说明:Import data into the AWS data lake from S3 files, local uploads, JDBC databases (Oracle, SQL Server, PostgreSQL, MySQL, RDS, Aurora), Amazon Redshift, Snowflake, BigQuery, DynamoDB, or existing Glue catalog tables (migration). Default target is S3 Tables; standard Iceberg on a general purpose bucket is supported where S3 Tables is not adopted. Handles one-time loads, recurring pipelines, migrations. Triggers on: import data, load data, ingest, sync database, migrate table, move data to AWS, set up pipeline, ETL, pull from Snowflake, query BigQuery into S3, export DynamoDB, CTAS, convert to Iceberg. Do NOT use for setting up or troubleshooting Glue connections (use connecting-to-data-source), creating empty tables (use creating-data-lake-table), running queries (use querying-data-lake), finding tables by fuzzy name (use finding-data-lake-assets), catalog audit (use exploring-data-catalog), or SaaS platforms like Salesforce, ServiceNow, SAP, MongoDB, Kafka.
上游 SKILL.md 主要章节(保留原文标题):
- Philosophy
- Common Tasks
- Workflow
- 1. Verify Dependencies and Context
- 2. Classify the Source
- 3. Confirm Connection Exists (if applicable)
- 4. Clarify the Target
- 5. Execute Source Workflow
- 6. Validate
- 7. Schedule (if recurring)
使用边界
先确认数据口径、只读或写入权限以及备份方案。查询结果需要说明范围,任何结构或数据变更都应先预览并人工确认。
作者、翻译与许可证
- 原作者
- Amazon Web Services 与 agent-toolkit-for-aws contributors
- 中文翻译
- CEOFans翻译
- 许可证
- Apache-2.0
- 上游来源
- https://github.com/aws/agent-toolkit-for-aws/tree/8ea26bdf9c8b3719e6b5488709f4efecde5a0d93/skills/specialized-skills/analytics-skills/ingesting-into-data-lake
适用范围
平台:linux、macos、windows;标签:数据与数据库、AWS 数据湖采集、AWS
安全提示
基础静态扫描不等于绝对安全。技能可能调用命令、浏览器、云服务或本地文件,请在最小权限环境中使用,高风险操作必须人工确认。
如发现侵权、许可证或安全问题,可在本页前台提交投诉,管理员复核后可立即下架。