当前位置: 首页 > 知识库问答 >
问题:

Hadoop hdfs:系统分区上的DateNode目录?

欧阳衡
2023-03-14

我们的Hadoop集群上的空间用完,该集群是以以下方式设置的:

    null

将系统分区作为HDFS数据目录添加到DataNode配置是否安全?

恐怕Hadoop会填满分区,使系统无法使用。

最好的方法可能是设置、分离lvm卷或重新分区磁盘。但我会避免走这条路。

共有1个答案

顾兴昌
2023-03-14

是的,Hadoop使用通用的文件写入API来写入块数据,并且尊重UNIX级别的配额。此外,还有配置属性dfs.datanode.du.reserved允许您为每个卷设置DataNodes不考虑写入的保留空间(应用于所有卷)。

但是,允许写入OS挂载通常是不好的做法。如果您想要寻找更多的存储空间(考虑到您已经达到了极限),那么购买更多的磁盘并将它们安装在数据阳极上可能会更好。

 类似资料:
  • 7.4.3.系统分区 系统分区用于存放整个Android操作系统。预装的应用程序、系统库、Android框架、Linux命令行工具等等,都存放在这里。 系统分区是以只读模式挂载的,应用开发者针对它的发挥空间不大,在此我们不多做关注。 在仿真器中,系统分区对应的映像文件是system.img,它与平台相关,位于android-sdk/platforms/android-8/images目录。

  • 7.4.2.文件系统的分区 Android设备主要有三个分区,参见图7.5. "通过Eclipse的File Explorer查看文件系统",即: 系统分区:/system/ SDCard分区:/sdcard/ 用户数据分区:/data/ 图7.5. 通过Eclipse的File Explorer查看文件系统

  • 空白分区建立之后,现在可以在上面创建文件系统了。在 Linux 世界使用最广泛的是 ext2 文件系统,但是随着新的大容量硬盘的出现,日志文件系统开始逐渐流行。ext3 是一种被广泛使用的基于 ext2 的日志文件系统,并且与 E2fsprogs 工具兼容。我们将创建一个 ext3 文件系统。您还可以在 http://www.linuxfromscratch.org/blfs/view/svn/p

  • 1. Flash分区及文件系统管理 Kamino18在Linux内核中,引入MTD(Memory Technology Device)层为NOR FLASH和NAND FLASH设备提供统一接口。MTD将文件系统与底层FLASH存储器进行了隔离。

  • 本文向大家介绍网络操作系统和分布式操作系统之间的区别,包括了网络操作系统和分布式操作系统之间的区别的使用技巧和注意事项,需要的朋友参考一下 网络操作系统,操作系统和分布式操作系统都可以在多个系统/节点上运行。两种操作系统之间的主要区别在于,在网络操作系统的情况下,每个系统都可以有自己的操作系统,而在分布式操作系统的情况下,每台计算机都可以使用一个操作系统作为公用操作系统。 以下是网络操作系统和分布

  • 本文向大家介绍一分钟掌握linux系统目录结构,包括了一分钟掌握linux系统目录结构的使用技巧和注意事项,需要的朋友参考一下 linux系统目录结构你清楚吗? 1、树状目录结构图 2、目录介绍  3、/etc/目录 4、/usr/目录 5、/proc/目录 6、/dev/目录 7、/var/目录 以上就是本文的全部内容,希望对大家的学习有所帮助。