前言:
现时我们对“html小说怎么看”可能比较看重,兄弟们都想要分析一些“html小说怎么看”的相关内容。那么小编也在网上汇集了一些有关“html小说怎么看””的相关内容,希望朋友们能喜欢,看官们快快来了解一下吧!每天的学习过程都是自我更新和自我提高的过程,将这个过程分享出来是一种乐趣,让更多的人见证我的学习成果,并可能从我的学习成果中获得收益。这样一个人的乐趣就变成了很多人的乐趣。
今天使用requests 和BeautifulSoup在Pycharm环境中爬取网络小说,参考书中案例,爬取金镛先生的小说。步骤如下:
1、打开网页,F12打开开发者模式,在源代码中找到对应爬取的文本内容,看是否具有唯一性。如果具有唯一性,就可以直接爬取,没有唯一性,呃……后面学习中看看能否找到爬取方案。
2、在Pycharm环境中调用requests 和BeautifulSoup,编写对应爬取代码(书中196页代码return的缩进有误,调整之后可以运行)
3、点击运行,自动完成爬取,金镛先生的简介就出现在了结果显示框中。
4、继续修改代码,找到列表名称的上级代码,按图索骥,开始爬取小说列表的内容
5、爬取之后的效果,只是显示了一个小说名称和链接,这又是为什么呢?
6、完整的代码如下:
'''eg-1 通过requests 和BeautifulSoup 爬取金镛小说'''import requestsfrom bs4 import BeautifulSoupdef getHTML(url): try: r=requests.get(url) html=r.text return html except: print("error")def getJinYong(html): soup=BeautifulSoup(html,"html.parser") target = soup.p.string return target#书中196页,return代码的缩进有误,正常应该缩进到target一样的程度def getBookURL(html): book_url={} soup=BeautifulSoup(html,"html.parser") target = soup.select(".co3 a") book = [item.string for item in target] url=[item.attrs["href"] for item in target] for item,url in zip(book,url): book_url[item]=";+url return book_urlif __name__=="__main__": url = "; html=getHTML(url) print("爬取金镛先生简介文本为:", getJinYong(html)) print("爬取金镛小说及链接地址为:",getBookURL(html))
#加油!
#一点一滴的努力,未来都会有回报。
#岁月静好,不去羡慕旁人,只做好自己,花朵总会绽放。
#以上学习感悟来自于《网络爬虫进化论:从Excel爬虫到Python爬虫》(中国水利水电出版社2021年出版)
标签: #html小说怎么看