从网页中刮取数据。Java，HTMLUnit
<section id="player-controller">
</section>
已解决
通过使用HTMLUnit并在打印页面前停止一段时间，我让它打印缺少的内容
WebClient webclient = new WebClient();
HtmlPage currentPage = webclient.getPage("https://www.dubtrack.fm/join/chilloutroom");
Thread.sleep(2000);
System.out.println(currentPage.asXml());
共有1个答案
如果在首次加载时检查页面的文本，则还不会加载动态内容。HTML中的javascript将调用另一个页面，然后等待两秒钟，然后读取HTML元素的内容。这里的时机可能很棘手。我希望下面的代码会有所帮助。
callScraper.html
<!DOCTYPE html>
<head>
<title>Call test for scraping</title
<meta charset="UTF-8" />
<script>
var newWindow;
var contents;
function timed() {
contents.value = contents.value + "\r\n" +"function timed started" + "\r\n";
contents.value = contents.value + "\r\n" + newWindow.document.getElementById("player-controller").innerHTML;
}
function starter() {
// alert("Running starter");
contents = document.getElementById("contents");
newWindow = window.open("scraper.html");
contents.value = contents.value + "\r\nTimer started\r\n";
setTimeout(timed, 2000);
}
window.onload=starter;
</script>
</head>
<body>
<p>This will open another page and then diplay an element from that page.</p>
<form name="reveal">
<textarea id="contents" cols="50" rows="50"></textarea>
</form>
</body>
</html>
scraper.html
<!DOCTYPE html>
<head>
<title>Test for scraping</title>
<meta charset="UTF-8" />
<script>
var section;
function starter() {
section = document.getElementById("player-controller");
// alert(":"+section.innerHTML+";");
section.innerHTML = "<p>inner text</p>";
// alert(":" +section.innerHTML + ":");
}
window.onload = starter;
</script>
</head>
<body>
<p>See http://stackoverflow.com/questions/37513393/scrapping-data-from-webpage-java-htmlunit</p>
<section id="player-controller">
</section>
</body>
</html>
-
我需要一些关于使用python来删除站点中的一些数据属性的帮助。我尝试过使用和但没有成功，我在网上找到了一些关于使用beautiful Soup的文章。唯一的问题是我不知道怎么做。 这是我要刮的。 我正在尝试获得值，但我不知道如何获得。希望有人能帮忙。 问候, 哈扎
-
我需要从下面的链接刮表。 我使用selenium编写了一个脚本，可以单击下一个页面，但每个页面中的表似乎没有标记。相反，它似乎只包含标记。我发现很难在这个网站上找到桌子。任何帮助都是非常贴切的。 编辑%1 提前道谢。
-
问题内容： 我的问题是：如何从网站抓取数据，但是直到单击例如“Danhsáchchậm”，该数据才显示。我已经非常认真地尝试，当您单击“Danhsáchchậm”时，这是onclick事件，该事件触发了一些javascript函数js函数之一是从服务器获取数据并将其插入标签/占位符，然后在此时，您可以使用firefox之类的方法检查数据，是的，数据将显示给网页上的用户/查看者。因此，我们又该如何以
-
最近我一直在用Python和靓汤学习网页刮刮乐。然而，当我试图刮下下面的页面时，我遇到了一点麻烦： http://www.librarything.com/work/3203347 我想从页面上得到的数据是这本书的标签，但我找不到任何方法来获取数据，尽管我花了很多时间在网上拖网。 我试着在网上看了几本指南，但似乎没有一本奏效。我尝试将页面转换为XML和JSON，但仍然找不到数据。 我现在有点手足无
-
我用selenium用python编写了一个脚本，用于解析填充输入框并访问按钮时填充的一些结果。现在我的脚本很好地完成了这一部分。但是，我的主要目标是解析容器的标题，也可以作为来显示。 这是我到目前为止的尝试():
-
我正在从一个站点上刮取数据，每个项目都有一个相关的文档URL。我想从那个文件中刮数据，这是可用的HTML格式后点击链接。现在，我一直在使用Google Sheets导入feed来填充基本列。 有没有下一步，我可以做的，进入每个相应的URL并从文档中抓取元素，并用它们填充Google表单？我之所以使用RSS提要（而不是python和BS）是因为它们实际上提供了一个RSS提要。 我找过了，没有找到一个