AwsGlueCrawlerforMysql源不得到正确的类型
创始人
2024-09-25 15:02:26
0

如果您发现使用AWS Glue爬虫提取MySQL数据库源时得到的列类型不正确,则可能需要进行数据类型映射。要更好地控制AWS Glue的列类型,您可以使用“数据映射”选项来定义一个由类型分组组成的映射。具体实现方法如下:

  1. 登录AWS控制台,导航到AWS Glue服务页面,并单击“分类器”选项。
  2. 选择“添加分类器”,为它指定一个名称并选择来源(即“JDBC”)。
  3. 在传递给AWS Glue爬虫的连接参数中,输入自己的JDBC连接字符串、用户名和密码。
  4. 在数据目标设置中,选择一个S3桶,这个桶用于存储您提取到的数据,要选择一个与您的源表相似的导航器,以便执行更好的前置检查。在“选择数据存储格式”选项中,选择“Parquet”格式。
  5. 选择“映射”选项卡,编辑映射关系以定义您的数据类型映射。例如,在MySQL中具有适当Decimal类型的列,在AWS Glue中可能会导致AWS Glue只是将其视为““double”类型。这时,您可以编辑类别映射以在AWS Glue中正确定义“Decimal”类型。

以下是一些示例代码,说明如何在AWS Glue中定义数据类型映射:

Map types for specific columns

custom_mapping = {"source_column": "target_type"}

Use mapping for all columns

all_mapping = {"$all": {"source_type": "target_type"}}

glue_context = GlueContext(SparkContext.getOrCreate()) dynamic_frame = glue_context.create_dynamic_frame.from_catalog(database="my-database", table_name="my-table",
transformation_ctx="datasource") mapping = MapTransformation(custom_mapping, all_mapping)

mapped_dynamic_frame = mapping

相关内容

热门资讯

iwatch怎么连接安卓系统,... 你有没有想过,那款时尚又实用的iWatch,竟然只能和iPhone好上好?别急,今天就来给你揭秘,怎...
安卓系统怎么连不上carlif... 安卓系统无法连接CarLife的原因及解决方法随着智能手机的普及,CarLife这一车载互联功能为驾...
iphone系统与安卓系统更新... 最近是不是你也遇到了这样的烦恼?手机更新系统总是失败,急得你团团转。别急,今天就来给你揭秘为什么iP...
oppo手机安卓系统换成苹果系... OPPO手机安卓系统换成苹果系统:现实吗?如何操作?随着智能手机市场的不断发展,用户对于手机系统的需...
安卓平板改windows 系统... 你有没有想过,你的安卓平板电脑是不是也能变身成Windows系统的超级英雄呢?想象在同一个设备上,你...
安卓系统上滑按键,便捷生活与高... 你有没有发现,现在手机屏幕越来越大,操作起来却越来越方便了呢?这都得归功于安卓系统上的那些神奇的上滑...
安卓系统连接耳机模式,蓝牙、有... 亲爱的手机控们,你们有没有遇到过这种情况:手机突然变成了“耳机模式”,明明耳机没插,声音却只从耳机孔...
安卓换鸿蒙系统会卡吗,体验流畅... 最近手机圈可是热闹非凡呢!不少安卓用户都在议论纷纷,说鸿蒙系统要来啦!那么,安卓手机换上鸿蒙系统后,...
希沃系统怎么装安卓系统,解锁更... 亲爱的读者们,你是否也像我一样,对希沃一体机上的安卓系统充满了好奇呢?想象在教室里,你的希沃一体机不...
安装了Anaconda之后找不... 在安装Anaconda后,如果找不到Jupyter Notebook,可以尝试以下解决方法:检查环境...