当前位置: 首页 > 知识库问答 >
问题:

如何从spark作业中对ADL进行身份验证

蒲昊
2023-03-14

我正在构建一个spark库,开发人员将在编写他们的spark作业时使用该库来访问Azure data Lake上的数据。但是身份验证将取决于他们要求的数据集。我需要从spark job中调用rest API,以获取凭据并进行身份验证,以便从ADL中读取数据。这可能吗?我是新来的火花。

共有1个答案

曹奇文
2023-03-14

你实际上打算做什么并不是百分之百清楚的。所以这里有一个通用的答案。

如果您的代码只是通过Spark调用,并且能够访问文件系统,那么您的工作就非常容易了。在HDInsight集群中,您可以通过在不同位置提供adl://URL直接访问数据。对于您自己的Spark集群,您可以通过以下说明将其连接到ADLS:https://medium.com/azure-data-lake/connect-your-own-hadoop-or-spark-to-azure-data-lake-store-93D426D6A5F4

现在,如果您正在开发其他东西,您需要评估您正在html" target="_blank">执行的环境是否可以访问Spark类路径中的JAR。然后,您可以使用安装在那里的ADLS Java SDK,并访问ADLS。

 类似资料:
  • 我正在尝试用.NET中的LDAP制作一个简单的身份验证系统。我检查了.NET中的一些名称空间,并简单地制作了标准代码片段,如下所示。 我有一个管理员用户名和密码和,用于对客户端应用程序进行身份验证。我有第二个用户名和密码和,需要在LDAP中检查才能登录。 是管理帐户,只是LDAP中的用户。那么如何检查的密码呢?

  • 直到昨天,我还没有遇到任何关于gsutil工具的问题,我有读写的权限,但昨天每当我尝试运行gsutil命令时,它突然开始说: 我试图与之进行身份验证的用户是项目的所有者。 我希望你能帮助我。

  • 我是Spring安全的新手,我想用数据库验证用户。我已经用jdbc创建了一个登录页面和一个身份验证提供程序,它检查用户是否存在于数据库中。但是我的代码没有这样做的问题是,它允许所有用户登录!我的代码怎么了?谢谢你的帮助。 这是我的安全会议。xml:

  • 在我配置了下面的配置之后,它不会连接到Active Directory。我无法使用Active Directory的帐户登录。会有什么问题? 我有一个Ubuntu服务器18.04,带有ApacheGuacamoleV1。0.0. 安装。我想使用LDAP身份验证来验证用户。我已经下载了鳄梨酱-auth-ldap-1.0.0。jar和jldap-4.3。jar扩展。 10.10.10.21,10.10

  • 假设我们有以下部分的web安全配置: