无法获取Tweet的国家/地区- Twython API

Question

我正在使用以下代码来收集与某个主题相关的推文，但在我提取的所有推文中，“places”属性为“无”。我做错了什么吗？此外，该代码旨在提取现有的推文，我不需要流式处理API解决方案，也不寻找流式处理API的这种解决方案：https://www.quora.com/How-can-I-get-a-stream-of-tweets-from-a-particular-country-using-Twitter-API

api =   Twython(consumer_key, consumer_secret, access_key, access_secret)

tweets                          =   []
MAX_ATTEMPTS                    =   200
COUNT_OF_TWEETS_TO_BE_FETCHED   =   10000
in_max_id = sys.argv[1]
next_max_id = ''
for i in range(0,MAX_ATTEMPTS):

    if(COUNT_OF_TWEETS_TO_BE_FETCHED < len(tweets)):
        break # we got 500 tweets... !!

    #----------------------------------------------------------------#
    # STEP 1: Query Twitter
    # STEP 2: Save the returned tweets
    # STEP 3: Get the next max_id
    #----------------------------------------------------------------#

    # STEP 1: Query Twitter
    if(0 == i):
        # Query twitter for data. 
        results    = api.search(q="#something",count='100',lang='en',max_id=in_max_id,include_entities='true',geo= True)
    else:
        # After the first call we should have max_id from result of previous call. Pass it in query.
        results    = api.search(q="#something",include_entities='true',max_id=next_max_id,lang='en',geo= True)

    # STEP 2: Save the returned tweets
    for result in results['statuses']:

        temp = ""
        tweet_text = result['text']
        temp += tweet_text.encode('utf-8') + " "
        hashtags = result['entities']['hashtags']
        for i in hashtags:
            temp += i['text'].encode('utf-8') + " " 
        print result
        #temp += i["place"]["country"] + "\n"
        #output_file.write(temp)




    # STEP 3: Get the next max_id
    try:
        # Parse the data returned to get max_id to be passed in consequent call.
        next_results_url_params    = results['search_metadata']['next_results']
        next_max_id        = next_results_url_params.split('max_id=')[1].split('&')[0]
    except:
        # No more next pages
        break

Answer 1

不是所有的tweet都有tweet_text、place、country、language等字段。,

因此，要避免KeyError，请使用以下方法。修改您的代码，以便在找不到您要查找的键时，返回默认值。

result.get('place', {}).get('country', {}) if result.get('place') != None else None

在这里，上面的行意味着“在获取关键位置后搜索关键国家/地区（如果存在），否则返回 None”

Answer 2

如果place字段是您应用程序将处理的所有推文的必须项，那么您可以将搜索限制在一个地方，以确保所有结果肯定会包含它。

您可以通过设置Geocode（纬度、经度、半径[km/mi]）参数来执行此操作，以将您的搜索限制在一个区域内。

通过Twython的此类请求的示例是：

geocode = '25.032341,55.385557,100mi'
api.search(q="#something",count='100',lang='en',include_entities='true',geocode=geocode)

Answer 3

简短的回答是，不，你没做错什么。所有place标签都为空的原因是因为从统计上讲，它们不太可能包含数据。只有大约1%的推文在其place标签中包含数据。这是因为用户很少在推特上发布他们的位置。默认情况下位置是关闭的。

下载100条或更多推文，您可能会发现放置标签数据。