1. \'\'\'
  2. 什么是phantomJs:无界面的浏览器
  3. \'\'\'
  4. from selenium import webdriver
  5. from time import sleep
  6. bro = webdriver.PhantomJS(executable_path=\'./phantomjs-2.1.1-windows/bin/phantomjs.exe\')
  7. sleep(2)
  8. bro.get(url=\'https://www.baidu.com/\')
  9. sleep(3)
  10. text_input = bro.find_element_by_id(\'kw\')
  11. text_input.send_keys(\'周杰伦\')
  12. sleep(2)
  13. btn = bro.find_element_by_id(\'su\')
  14. btn.click()
  15. sleep(3)
  16. #浏览器执行js代码
  17. js = \'window.scrollTo(0,document.body.scrollHeight)\'
  18. bro.execute_script(js)
  19. sleep(3)
  20. #截屏
  21. bro.save_screenshot(\'./ppppppp.png\')
  22. #获取当前浏览器显示的页面数据
  23. page_text = bro.page_source #页面数据也包含动态加载出来的数据
  24. print(page_text)
  25. bro.quit()
  1. from selenium import webdriver
  2. from selenium.webdriver.chrome.options import Options
  3. import time
  4. #指定url
  5. url=\'https://movie.douban.com/typerank?type_name=%E6%83%8A%E6%82%9A&type=19&interval_id=100:90&action=\'
  6. #创建一个参数对象,用来控制chrome以无界面打开
  7. chrome_options=Options()
  8. chrome_options.add_argument(\'--headless\')
  9. chrome_options.add_argument(\'--disable-gpu\')
  10. #驱动路径
  11. path=\'./chromedriver.exe\'
  12. #创建浏览器对象
  13. bro=webdriver.Chrome(executable_path=path,chrome_options=chrome_options)
  14. #获取数据
  15. bro.get(\'http://www.baidu.com/\')
  16. time.sleep(2)
  17. bro.save_screenshot(\'./baidu.png\')
  18. bro.quit()

  selenium+phantomjs 就是爬虫终极解决方案:有些网站上的内容信息是通过动态加载js形成的,所以使用普通爬虫程序无法回去动态加载的js内容。

例如豆瓣电影中的电影信息是通过下拉操作动态加载更多的电影信息。
综合操作:需求是尽可能多的爬取豆瓣网中的电影信息

  1. from selenium import webdriver
  2. from time import sleep
  3. import time
  4. if __name__ == \'__main__\':
  5. url = \'https://movie.douban.com/typerank?type_name=%E6%81%90%E6%80%96&type=20&interval_id=100:90&action=\'
  6. # 发起请求前,可以让url表示的页面动态加载出更多的数据
  7. path = r\'C:\Users\Administrator\Desktop\爬虫授课\day05\ziliao\phantomjs-2.1.1-windows\bin\phantomjs.exe\'
  8. # 创建无界面的浏览器对象
  9. bro = webdriver.PhantomJS(path)
  10. # 发起url请求
  11. bro.get(url)
  12. time.sleep(3)
  13. # 截图
  14. bro.save_screenshot(\'1.png\')
  15. # 执行js代码(让滚动条向下偏移n个像素(作用:动态加载了更多的电影信息))
  16. js = \'window.scrollTo(0,document.body.scrollHeight)\'
  17. bro.execute_script(js) # 该函数可以执行一组字符串形式的js代码
  18. time.sleep(2)
  19. bro.execute_script(js) # 该函数可以执行一组字符串形式的js代码
  20. time.sleep(2)
  21. bro.save_screenshot(\'2.png\')
  22. time.sleep(2)
  23. # 使用爬虫程序爬去当前url中的内容
  24. html_source = bro.page_source # 该属性可以获取当前浏览器的当前页的源码(html)
  25. with open(\'./source.html\', \'w\', encoding=\'utf-8\') as fp:
  26. fp.write(html_source)
  27. bro.quit()

 

版权声明:本文为tjp40922原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://www.cnblogs.com/tjp40922/p/10446765.html