您可以尝试在EMR容器中设置以下YARN配置参数来充分利用所有可用核心:
yarn.nodemanager.resource.memory-mb: 设置每个NM可以使用的内存量 yarn.nodemanager.resource.cpu-vcores: 设置每个NM可以使用的cpu核心数
例如,您可以创建一个名为emr-container.json的JSON文件,并将以下内容添加到文件中:
{ "Application": "hadoop", "ServiceName": "emr", "Component": "YARN", "Configuration": { "yarn.nodemanager.resource.memory-mb": "4096", "yarn.nodemanager.resource.cpu-vcores": "2" } }
然后,在启动EMR容器时,指定以下参数来应用已定义的YARN配置:
--conf-file emr-container.json
这将允许每个NM使用2个核心和4096 MB的内存,确保EMR容器充分利用所有可用核心。